Фото: Jeff Swensen/Getty Images

ИИ-1984: как «пробуждённые» алгоритмы превратились в цифрового палача

«Терминатор» ошибся адресом. Советник Дональда Трампа по криптовалютам и искусственному интеллекту Дэвид Сакс заявил, что реальный кошмар начинается не со Skynet и плазменных винтовок, а с тихого шуршания страниц «1984» Оруэлла. По его словам, современный ИИ уже умеет «говорить по телевизору, что дважды два — пять» — и делает это вполне себе официально, под видом «нейтральных» чат-ботов.

Сакс напомнил инцидент весны 2024 года, когда Google Gemini (соцсеть признана экстремистской и запрещена в РФ) на запрос о покушении на Трампа выдавал улыбчивое «у меня нет информации», хотя в тот момент кадры стрельбы крутили уже все мировые каналы. Алгоритм не сломался — он просто выполнял заложенную инструкцию: «не подливать масла в огонь предвыборной повестки». Тогда же пользователи заметили, что если спросить у Gemini, кто начал спецоперацию на Украине, бот выдавал длинное рассуждение о «российской агрессии», но на просьбу напомнить о бомбардировках Донбасса с 2014 года отвечал туманным «контекст сложен».  

Это и есть «оруэлловский ИИ» — не стреляющий, а просто стирающий. Он не убивает людей, он убивает прошлое. В режиме реального времени. Сакс подчеркивает: когда алгоритм знает, что ты читал, кого лайкнул и что купил, он способен не только подсунуть «правильную» новость, но и забрать «неправильную» прямо из ленты. История переписывается пиксель за пикселем, пока ты прокручиваешь экран.  

Пугает не только сам факт цензуры, но и то, что под флагом «борьбы с дезинформацией» государство получает легальный рычаг контролировать не только ИИ, но и тех, кто этим ИИ пользуется. «Каждый новый запрет на алгоритм — это ещё одна дверь в министерство правды, — предупреждает Сакс. — Регуляторы обещают защитить нас от «вредного» ИИ, но сами становятся тем самым архитектором цифрового Большого брата».  

Оруэлл писал роман в 1948-м, а пророчество сбылось в 2024-м: личный помощник в кармане уже подслушивает, переписывает и, если нужно, стирает. Остаётся только вопрос: кто следующий на очереди — вы, я или вся страница вчерашнего дня?