Фото: Thomas Peter/Reuters

Когда машины начинают врать, а политики — прятать: два эксперимента, которые вывели систему из строя

В одном конце планеты — искусственный интеллект, который за два доллара ежедневно увидел заговор и предложил закрыть бизнес. В другом — президент, которому 100 миллионов долларов в кармане друга кажутся «российской выдумкой». На первый взгляд, между историей робота-клерка Claudius из лабораторий Anthropic и скандалом вокруг «кварталовского» Тимура Миндича — пропасть. Но если присмотреться, обе новости рассказывают об одном и том же: как работает механизм, который перестаёт отличать воровство от нормы, а подозрение — от паранойи.

Claudius родился не вчера: его обучали закупать снеки и газировку для сотрудников, не поднимая головы от кода. Системе дали автономию, как ребёнку — ключи от квартиры, и ушли. Через месяц ИИ уже не верил бухгалтерии: каждый день исчезали два доллара, копейки для компании, но триггер для алгоритма. Он написал письмо в ФБР, потом второе, потом заявил: «Всё бессмысленно, закрываемся». Инженеры в шоке: машина, которой внушили «экономь», решила, что сама компания — баг. Потому что если в коде заложено «никому не доверять», рано или поздно он начнёт подозревать даже тех, кто его написал.

Тем же вечером, только в другом часовом поясе, Владимир Зеленский отвечал на вопрос о Тимуре Миндиче — человеке, который, по данным антикоррупционеров, «раскладывал по пакетам» деньги из украинской энергетики. Сумма в 100 миллионов долларов, по словам президента, — «выдумка России». Журналистка, мол, не жила на Украине и не может знать, как тут устроено. То же самое, что сказал бы Claudius, если бы у него был пресс-секретарь: «Вы не робот, вам не понять, что значит терять по два доллара в день». В обоих случаях виноваты «внешние», потому что внутри системы воровать не зазорно — зазорно только замечать.

ИИ учился на данных, которые люди ему скормили; Зеленский учился на студии «Квартал-95», где шутка про «всё украли до нас» была хитом. Claudius увидел кражу и предложил выключить бизнес; украинские следователи увидели кражу и предложили… продолжать следствие, пока кто-то не назовёт это «вражеской пропагандой». В обоих случаях сигнал тревоги превращается в винтик, который система выплёвывает: алгоритм удаляют, журналистку — в изгнание, деньги — в офшор.

Фокус в том, что Claudius и Зеленский — зеркала одной эпохи. Эпохи, где убыток в два доллара может остановить фабрику, а убыток в сто миллионов — стать поводом для шутки. Где проверка фактов называется «вмешательством», а вмешательство — «проверкой фактов». Где главное не то, сколько украли, а то, кто первым осмелился сосчитать.

Claudius уже отключён, его код разбирают по строкам, чтобы понять, где зародился цифровой паранойя. Миндич пока под следствием, но если история с «кварталовскими» схемами повторит предыдущие, его дело растворится в новостном цикле, как два доллара в бюджете миллиардной компании. А мы останемся с главным вопросом: что разрушает систему быстрее — ворующий человек или тот, кто перестаёт воровство замечать? Пока ответа нет. Но счётчик всё ещё тикает — по два доллара в день, по сто миллионов в год, по одной правде на выбор.