Май 2023 года. Лондон. Джеффри Хинтон расхаживает по кухне своего дома на тихой улице на севере города, не в силах усидеть на месте из-за хронических болей в спине. 76-летний пионер искусственного интеллекта только что принял решение, которое потрясет весь мир технологий — он покидает Google и собирается публично заявить о том, что частично сожалеет о работе всей своей жизни. Человек, которого называют "крестным отцом глубокого обучения", готов предупредить человечество об опасностях того самого ИИ, который он помог создать.
Через несколько месяцев после этого момента Хинтон получит Нобелевскую премию по физике 2024 года — беспрецедентное признание для специалиста по искусственному интеллекту. Но сейчас, расхаживая по кухне, он размышляет не о славе, а о том, что его творение может однажды превзойти и даже уничтожить своих создателей.
История Джеффри Хинтона — это история о том, как один человек, вооруженный математикой и интуицией, заложил основы будущего, которое сегодня одновременно восхищает и пугает человечество.
Джеффри Эверест Хинтон родился 6 декабря 1947 года в Уимблдоне, в семье, где выдающиеся умы были скорее нормой, чем исключением. Его генеалогическое древо читается как энциклопедия британской интеллектуальной элиты.
Прапрапрадед Джеффри — Джордж Буль (1815-1864), математик и логик, именем которого названа булева алгебра, ставшая математической основой современных компьютеров. Ирония судьбы в том, что его потомок разработает подход к ИИ, который радикально отходит от символьных методов, основанных на булевой логике.
Жена Джорджа Буля, Мэри Эверест Буль (1832-1916), была племянницей Джорджа Эвереста — британского топографа, в честь которого названа высочайшая вершина мира. В честь него Джеффри получил свое среднее имя — Эверест.
Прапрадед по отцовской линии, Чарльз Говард Хинтон (1853-1907), был математиком, изучавшим многомерную геометрию, и писателем-фантастом. Он создал концепцию четвертого измерения и тессеракта — идей, которые до сих пор появляются в комиксах Marvel. Борхес упоминал его имя в трех рассказах.
Отец Джеффри, Говард Эверест Хинтон, был выдающимся энтомологом, изучавшим мексиканских жуков и избранным членом Королевского общества. Все трое его братьев и сестер также занимались научной деятельностью.
В детстве мать сказала Джеффри: "Стань ученым или стань неудачником". Такое давление в конечном итоге заставило его отца покинуть академию, и это же давление сформировало характер будущего лауреата Нобелевской премии.
В 1967 году Хинтон поступил в Кингз-колледж Кембриджа, но долго не мог найти свое призвание. Он несколько раз менял специальность — изучал естественные науки, историю искусства, философию, прежде чем окончательно остановился на экспериментальной психологии.
В 1970 году он получил степень бакалавра искусств по экспериментальной психологии. Его дипломная работа была посвящена зрительному восприятию — теме, которая станет основой его будущих исследований нейронных сетей. Уже тогда Хинтона интересовало, как мозг обрабатывает информацию и можно ли воспроизвести эти процессы искусственно.
После окончания университета он провел год, обучаясь столярному делу — неожиданный поворот для потомка математических гениев. Возможно, работа руками помогла ему лучше понять, как практические навыки формируются через повторение и ошибки — принцип, который позже лег в основу машинного обучения.
В 1972 году Хинтон поступил в Университет Эдинбурга для получения докторской степени по искусственному интеллекту. Его научным руководителем был Кристофер Лонге-Хиггинс, пионер ИИ и когнитивных наук, который, парадоксально, предпочитал символьный подход к ИИ над нейросетевым.
Диссертация Хинтона 1978 года называлась "Релаксация и ее роль в зрении". Эта работа заложила основы его будущих вкладов в машинное обучение и нейронные сети. Уже тогда он пытался понять, как мозг может "расслаблять" свои состояния для достижения оптимальных решений.
После получения степени Хинтон работал в Университете Сассекса, затем в Калифорнийском университете в Сан-Диего, а с 1982 года — в Университете Карнеги-Меллон в Питтсбурге. Это были годы интеллектуальных поисков и формирования революционных идей.
В начале 1980-х нейронные сети считались тупиковой ветвью ИИ. Символьный ИИ доминировал в академических кругах. Эксперты утверждали, что нейронные сети слишком просты, чтобы решать сложные задачи. Хинтон был одним из немногих, кто верил в противоположное.
В 1986 году Хинтон вместе с Дэвидом Румельхартом и Рональдом Уильямсом опубликовал статью, которая изменила историю ИИ. Они популяризировали алгоритм обратного распространения ошибки — метод обучения многослойных нейронных сетей.
Хотя сам Хинтон признает, что "Дэвид Румельхарт придумал основную идею обратного распространения", именно их совместная работа показала, как этот алгоритм может обучать сложные нейронные архитектуры. Впрочем, автоматическое дифференцирование в обратном режиме было предложено Сеппо Линнайнмаа еще в 1970 году, а Пол Вербос предложил использовать его для обучения нейронных сетей в 1974-м.
Статья 1986 года стала краеугольным камнем современного глубокого обучения. Она показала, что нейронные сети могут изучать полезные внутренние представления данных — открытие, которое казалось магией даже самим исследователям.
В 1985 году Хинтон вместе с Дэвидом Экли и Терри Сейновски изобрел машины Больцмана — тип нейронной сети, использующей статистическую механику для обучения. Эти сети могли моделировать сложные вероятностные распределения и стали предтечей современных генеративных моделей.
Среди других вкладов Хинтона в исследования нейронных сетей — распределенные представления, нейронные сети с временной задержкой, смеси экспертов, машины Гельмгольца и произведения экспертов. Каждая из этих идей внесла свой вклад в формирование современного ландшафта машинного обучения.
В 1987 году Хинтон переехал в Канаду, став научным сотрудником Канадского института перспективных исследований (CIFAR) в рамках их первой исследовательской программы "Искусственный интеллект, робототехника и общество". Канада оказалась более благоприятной средой для его исследований, чем США.
В Университете Торонто Хинтон получил академическую свободу и ресурсы для продолжения работы над нейронными сетями в то время, когда эта область считалась маргинальной. С 2004 года он возглавлял программу CIFAR "Нейронные вычисления и адаптивное восприятие", которая сегодня называется "Обучение в машинах и мозгах".
1990-е и начало 2000-х были трудным временем для исследований нейронных сетей. Это был период "зимы ИИ", когда финансирование сократилось, а внимание переключилось на статистические методы машинного обучения и символьный ИИ.
Хинтон оставался одним из немногих, кто продолжал верить в потенциал глубоких нейронных сетей. Его упорство было основано не только на интуиции, но и на глубоком понимании того, как работает мозг. Он понимал, что мозг — это многослойная система, которая извлекает все более абстрактные представления на каждом уровне.
В 2006 году Хинтон опубликовал две прорывные статьи, которые возродили интерес к нейронным сетям. В журнале Science он показал, как можно эффективно обучать глубокие сети, используя метод предварительного обучения слой за слоем. В Neural Computation он представил алгоритм быстрого обучения глубоких сетей доверия.
Эти работы решили главную проблему глубоких сетей — как обучать много слоев, не попадая в локальные минимумы функции потерь. Хинтон показал, что если сначала обучить каждый слой отдельно как автоэнкодер, а затем "дообучить" всю сеть целиком, можно получить значительно лучшие результаты.
2012 год стал переломным для всей области ИИ. Хинтон вместе со своими студентами Алексом Крижевским и Ильей Суцкевером создал восьмислойную нейронную сеть AlexNet для распознавания изображений в базе данных ImageNet.
AlexNet превзошел следующую по точности программу более чем на 40 процентов — результат, который потряс всё сообщество машинного обучения. Впервые за десятилетия нейронная сеть показала кардинально лучшие результаты, чем традиционные методы.
Трио создало компанию DNNresearch для AlexNet. В 2013 году Google приобрел компанию за 44 миллиона долларов. В том же году Хинтон присоединился к Google Brain, исследовательской команде ИИ компании, и в конечном итоге стал вице-президентом и инженерным научным сотрудником.
Десятилетие в Google (2013-2023) стало самым продуктивным периодом в карьере Хинтона. Он работал над улучшением глубокого обучения, исследовал капсульные сети, разрабатывал новые алгоритмы обучения.
В 2012 году он запустил бесплатный онлайн-курс по нейронным сетям на платформе Coursera, который прошли сотни тысяч студентов по всему миру. Этот курс помог демократизировать знания о глубоком обучении и вдохновил новое поколение исследователей ИИ.
Под его руководством Google Brain добился прорывов в области обработки естественного языка, компьютерного зрения, игрового ИИ. Его студенты и коллеги — Илья Суцкевер, Алекс Крижевский, Ян ЛеКун — стали ведущими фигурами в области ИИ.
В 2018 году Хинтон получил премию Тьюринга — "Нобелевскую премию в области компьютерных наук" — вместе с Йошуа Бенджио и Яном ЛеКуном за прорывные исследования в области нейронных сетей. Их иногда называют "крестными отцами глубокого обучения".
Это признание закрепило статус Хинтона как одного из самых влиятельных ученых в области ИИ. К тому времени глубокое обучение уже трансформировало индустрии от здравоохранения до автономных автомобилей.
К 2023 году достижения в области больших языковых моделей, таких как GPT-4, поразили даже самого Хинтона. Человек, который десятилетиями верил в потенциал ИИ, внезапно осознал, что будущее наступило быстрее, чем он ожидал.
Ранее Хинтон полагал, что искусственный общий интеллект находится "за 30-50 лет или даже дальше". В марте 2023 года в интервью CBS он сказал, что "ИИ общего назначения" может появиться менее чем через 20 лет и принести изменения "сопоставимые по масштабу с промышленной революцией или электричеством".
1 мая 2023 года The New York Times опубликовала интервью, в котором Хинтон объявил о своей отставке из Google, чтобы он мог "говорить об опасностях ИИ, не думая о том, как это влияет на Google". Он отметил, что "частично сейчас сожалеет о работе всей своей жизни".
Хинтон объяснил свое решение, сказав, что хочет "свободно высказываться о рисках ИИ". Он выразил обеспокоенность по поводу преднамеренного неправильного использования злонамеренными субъектами, технологической безработицы и экзистенциального риска от искусственного общего интеллекта.
В интервью MIT Technology Review он признался: "Я думаю, что вполне вероятно, что человечество — это всего лишь переходная фаза в эволюции интеллекта".
В октябре 2024 года Хинтон получил Нобелевскую премию по физике совместно с Джоном Хопфилдом "за фундаментальные открытия и изобретения, которые обеспечивают машинное обучение с искусственными нейронными сетями". В цитировании особо упоминалась его разработка машин Больцмана.
Это был беспрецедентный случай — впервые специалист по ИИ получил Нобелевскую премию по физике за работу над нейронными сетями. Нобелевский комитет признал, что методы Хинтона стали основой современного машинного обучения, которое революционизирует науку, инженерию и повседневную жизнь.
После получения Нобелевской премии Хинтон призвал к срочным исследованиям в области безопасности ИИ, чтобы выяснить, как контролировать системы ИИ, более умные, чем люди.
К Рождеству 2024 года он стал несколько более пессимистичным, заявив, что существует "10-20-процентная вероятность" того, что ИИ станет причиной вымирания человечества в течение следующих трех десятилетий. Он выразил удивление скоростью, с которой развивается ИИ, и сказал, что большинство экспертов ожидают, что ИИ превзойдет людей, вероятно, в ближайшие 20 лет.
Хинтон воспитал целое поколение исследователей ИИ. Среди его бывших аспирантов и постдоков — Питер Дайан, Сэм Ровейс, Макс Веллинг, Ричард Земель, Брендан Фрей, Рэдфорд Нил, Йи Ви Тех, Руслан Салахутдинов, Илья Суцкевер, Ян ЛеКун, Алекс Грейвз, Зубин Гахрамани.
Многие из них стали ведущими фигурами в области ИИ. Илья Суцкевер стал сооснователем OpenAI. Ян ЛеКун возглавил исследования ИИ в Facebook. Йошуа Бенджио создал мощную исследовательскую группу в Монреале.
Личная жизнь Хинтона была отмечена трагедией. Его первая жена, Розалинд Залин, умерла от рака яичников в 1994 году. Вторая жена, Жаклин "Джеки" Форд, умерла от рака поджелудочной железы в 2018 году.
Хронические боли в спине преследуют его уже много лет — именно поэтому он почти никогда не сидит и проводит встречи, расхаживая по комнате. Возможно, эта физическая боль стала метафорой более глубокой боли — осознания того, что его величайшее достижение может стать и величайшей угрозой для человечества.
Даже в возрасте 75+ лет Хинтон продолжает генерировать революционные идеи. В 2022 году он предложил алгоритм Forward-Forward — альтернативу обратному распространению, который может обучать нейронные сети без необходимости передавать градиенты назад через сеть.
Если этот алгоритм окажется практически полезным, он может стать еще одной революцией в машинном обучении, доказав, что 77-летний Хинтон все еще способен удивлять научное сообщество.
Влияние Хинтона на современный мир невозможно переоценить. Его работа лежит в основе распознавания речи в смартфонах, рекомендательных алгоритмов, систем компьютерного зрения, переводчиков, беспилотных автомобилей, медицинской диагностики.
Более того, его подход к науке — упорство в поиске истины, готовность плыть против течения, смелость признавать ошибки — стал примером для поколений исследователей.
Сегодня Джеффри Хинтон находится в уникальном положении. Он создал технологию, которая может стать величайшим достижением человечества — или его последним. Его предупреждения об опасностях ИИ имеют особый вес именно потому, что исходят от человека, который больше всех сделал для его развития.
В своих выступлениях он сравнивает текущую ситуацию с созданием ядерного оружия — мощная технология, которая может принести как огромную пользу, так и экзистенциальный риск. Разница в том, что ядерным оружием можно управлять через международные договоры, а ИИ развивается в условиях жесткой конкуренции между компаниями и странами.
Хинтон видит несколько возможных сценариев развития ИИ. В лучшем случае человечество научится контролировать искусственный интеллект и использовать его для решения глобальных проблем — от изменения климата до болезней старения. В худшем — ИИ может превзойти человеческий интеллект и стать неконтролируемым.
Он призывает к созданию международных соглашений по ограничению развития ИИ, подобных договорам о запрещении химического оружия. "Это не было надежным, но в целом люди не используют химическое оружие", — говорит он.
История Джеффри Хинтона — это история о том, как один человек может изменить ход истории через сочетание научной интуиции, математической строгости и невероятного упорства. От студента Кембриджа, искавшего свое призвание, до Нобелевского лауреата, предупреждающего человечество об опасностях своего творения.
Его жизнь показывает, что наука — это не только поиск истины, но и принятие ответственности за последствия своих открытий. В возрасте 77 лет Хинтон продолжает работать, не за славу или деньги, а из чувства долга перед человечеством.
Возможно, самым большим достижением "крестного отца глубокого обучения" станет не создание ИИ, а его роль в обеспечении того, чтобы это творение служило человечеству, а не наоборот. В конце концов, истинная мудрость заключается не только в том, чтобы знать, как что-то сделать, но и в том, чтобы понимать, стоит ли это делать.
Генеалогическое древо Хинтона доказывает, что гений иногда передается по наследству. Но его собственная история показывает, что настоящее величие приходит не от генов, а от готовности посвятить жизнь поиску истины — даже если эта истина оказывается пугающей.
Джеффри Хинтон - фотография из открытых источников
Посмотреть фотоРодился: | 06.12.1947 (77) |