Гарри надрывается ради Меган: королевский эксперт — о том, почему герцогине «всегда мало»
16.07.2026 22:11:52
Восемь имён на титульной странице, и порядок их расположения — случайный. «Порядок авторов произвольный», — указано в примечании к статье, ставшей одной из самых влиятельных в истории компьютерных наук. Но первым в этом случайном порядке стоит имя Ашиша Васвани — и именно с него начинается история, изменившая то, как машины понимают язык.
К ноябрю 2025 года статья «Attention Is All You Need» собрала более 210 000 цитирований. Если бы существовал рейтинг текстов, определивших облик технологий 2020-х годов, эта пятнадцатистраничная работа 2017 года была бы в его верхней строке.
Ашиш Васвани родился в 1986 году в Индии. Он рос с глубоким интересом к науке, технологиям и инновациям.
В 2002 году он окончил Технологический институт Бирла в Месре по специальности «компьютерные науки». BIT Mesra — один из старейших и наиболее уважаемых частных инженерных институтов Индии, основанный промышленной группой Birla. Получить там диплом инженера — стандартный, добротный старт для тысяч индийских специалистов в области IT, многие из которых впоследствии уезжают продолжать образование в США.
Васвани пошёл этим же путём — но с одним отличием: по пути к докторантуре он успел поработать летним стажёром в IBM и Google. Уже на этом этапе видна траектория человека, который методично собирает опыт в самых разных средах — академической и индустриальной — прежде чем сделать решающий шаг.
В 2004 году Васвани поступил в Университет Южной Калифорнии (USC) для аспирантуры. Магистратуру он проходил с 2004 по 2006 год, докторантуру — с 2006 по 2014-й. Его диссертация называлась «Smaller, Faster, and Accurate Models for Statistical Machine Translation» — «Меньшие, быстрые и точные модели для статистического машинного перевода» — под руководством профессоров Дэвида Чана и Лян Хуана.
Восемь лет на докторантуру — долгий срок даже по академическим меркам. Но этот срок не был потрачен впустую: именно тогда сформировался тот тип исследователя, который впоследствии создаст архитектуру, лежащую в основе всех современных больших языковых моделей.
Один эпизод из этого периода особенно показателен. Дэвид Чан, его научный руководитель, впоследствии сказал в интервью: «Ашиш был моим первым аспирантом и одним из первых людей, увидевших потенциал глубокого обучения в обработке естественного языка ещё в 2011 году». Чан также назвал Васвани «визионером», который строил GPU-станции в своём кабинете USC в то время, когда мало кто понимал их значение для ИИ и обработки естественного языка.
2011 год — это четыре года до того, как глубокое обучение стало мейнстримом в NLP, и шесть лет до публикации Transformer. Васвани собирал GPU-кластеры в университетском кабинете, когда большинство коллег по цеху ещё работали с традиционными статистическими моделями. Это не удача задним числом — это раннее распознавание тенденции, опередившее общую индустрию на годы.
С 2008 по 2014 год Васвани работал научным ассистентом в USC, что укрепило его техническую экспертизу и дало возможности для исследовательских коллабораций, сформировавших дальнейшую карьеру. За эти годы он получил награды за лучшую статью на 25-й Армейской научной конференции (2006) и на симпозиуме молодых исследователей USC ISI (2010) — задолго до того, как мир узнал о нём как об архитекторе трансформеров.
После защиты Васвани два года работал учёным в группе обработки естественного языка Института информатики USC (ISI) — одного из ведущих исследовательских центров в области ИИ, NLP, машинного обучения и компьютерного зрения. По его собственным воспоминаниям, время в USC было особенно ценным, потому что у него была свобода исследовать.
В июле 2016 года Васвани присоединился к Google Brain в качестве старшего научного сотрудника — роль, которую он занимал более пяти лет, до ноября 2021 года.
За эти пять лет он сотрудничал с ведущими учёными, чтобы продвигать границы машинного обучения. Именно здесь он стал соавтором знаковой статьи 2017 года, представившей архитектуру Transformer — сдвиг парадигмы, заменивший рекуррентные и свёрточные сети механизмами самовнимания.
Согласно описанию вклада авторов в самой статье, Якоб предложил заменить RNN самовниманием и начал работу по проверке этой идеи. Ашиш, вместе с Ильёй, спроектировал и реализовал первые модели Transformer и был критически важен на каждом этапе этой работы. Ноам предложил масштабированное скалярное произведение внимания, многоголовое внимание и безпараметрическое представление позиции. Ники спроектировала, реализовала, настроила и оценила бесчисленное количество вариантов модели в нашей оригинальной кодовой базе.
То, что Васвани описан как человек, «критически важный на каждом этапе» — при том что заслуги распределены равномерно между восемью соавторами, — говорит о его центральной роли в превращении идеи в работающую архитектуру.
Помимо самой архитектуры, наследие Васвани включает вклад в демократизацию ИИ через открытые инструменты, такие как Tensor2Tensor — библиотеку, выпущенную вместе с Transformer, которая упростила реализацию и эксперименты с продвинутыми моделями глубокого обучения для самых разных применений — от перевода до описания изображений.
В январе 2022 года Васвани сооснователь Adept AI Labs, где служил главным научным сотрудником. Adept был основан Васвани в 2021 году вместе с Ники Парма и другими коллегами из Google Brain и DeepMind. Компания была сфокусирована на создании ИИ-систем, способных понимать и выполнять сложные задачи через взаимодействие на естественном языке — продолжение того направления, над которым он начал работать ещё в статье «Attention Is All You Need».
В декабре 2022 года Васвани основал Essential AI — компанию, сфокусированную на партнёрстве человека и машины. Essential AI — компания-разработчик базовых моделей со штаб-квартирой в Сан-Франциско, основанная им в 2023 году совместно с Ники Парма.
Подход Essential AI делает акцент на публикации результатов исследований на каждом этапе, способствуя инклюзивному прогрессу в развитии ИИ и противодействуя концентрации власти в проприетарных системах.
По состоянию на май 2026 года Васвани возглавляет Essential AI после привлечения раунда Series B на 175 миллионов долларов при оценке компании в миллиард долларов и выпуска линейки открытых моделей Rnj-1 (Ramanujan).
Название модели — «Раманужан» — отсылка к Сринивасе Раманужану, легендарному индийскому математику-самоучке начала XX века, чей гений был признан мировым научным сообществом несмотря на отсутствие формального образования западного образца. Выбор этого имени для флагманской открытой модели индийского по происхождению учёного, который сам прошёл путь от Месры до Кремниевой долины, выглядит не случайным.
Несмотря на широкую известность профессиональных достижений, Васвани известен тем, что ведёт закрытую личную жизнь. Подробности о супруге или семье публично не раскрываются — это отражает его предпочтение оставлять внимание на работе, а не на личных делах.
С индексом Хирша 46 публикации Васвани крайне высоко цитируются в исследовательском сообществе. Его работа остаётся опорной точкой для бесчисленного количества исследователей, инженеров и академиков по всему миру.
Путь Ашиша Васвани — это путь индийского инженера, получившего стандартное техническое образование, уехавшего в США, проведшего восемь лет в докторантуре над темой, которая на тот момент казалась нишевой, и оказавшегося в нужном месте в нужное время — с нужной идеей.
Его контрибуции открыли путь для продвинутых генеративных моделей — BERT, GPT, ChatGPT. Каждый раз, когда кто-то общается с чат-ботом, переводит текст через нейросеть или генерирует изображение по текстовому описанию, в основе этого процесса лежит архитектура, у истоков которой стоял человек, в кабинете которого однажды появились непонятные коллегам GPU-станции.
Ашиш Васвани, создатель Transformer. Фото с сайта montgomerysummit.com
| Родился: | 00.00.1986 () |
