
Гендиректор OpenAI Сэм Альтман объявил в пятницу о заключении соглашения с Министерством обороны США. Документ разрешает военному ведомству использовать модели искусственного интеллекта компании в своих засекреченных сетях. Это событие стало развязкой острого противостояния между Пентагоном и другим крупным игроком на рынке ИИ — компанией Anthropic.
Ранее оборонное ведомство настаивало, чтобы разработчики ИИ разрешили применять их технологии для «всех законных целей». Руководство Anthropic, в свою очередь, пыталось очертить красные линии, запретив массовую слежку за гражданами и создание полностью автономных систем вооружения. Глава компании Дарио Амодеи заявил, что в ряде случаев ИИ может «подрывать, а не защищать демократические ценности». Его позицию в открытом письме поддержали более 60 сотрудников OpenAI и 300 работников Google.
Переговоры Anthropic и Пентагона зашли в тупик. Ситуация вызвала резкую реакцию в социальных сетях. Министр обороны Пит Хегсет обвинил компанию в попытке узурпировать «право вето на оперативные решения американской армии» и объявил её риском для цепочки поставок, запретив контрагентам Пентагона работать с Anthropic. Компания заявила, что готова оспорить это решение в суде.
На этом фоне заявление Альтмана прозвучало как попытка разрядить обстановку. Он утверждает, что новое соглашение OpenAI с военными включает как раз те самые защитные меры, из-за которых возник спор с Anthropic. «Два наших ключевых принципа безопасности — запрет на массовую внутреннюю слежку и сохранение человеческой ответственности за применение силы, включая автономное оружие, — отражены в соглашении», — написал Альтман.
По его словам, OpenAI создаст специальные технические safeguards, чтобы гарантировать корректное поведение моделей, а также направит своих инженеров для работы с Пентагоном. Альтман призвал оборонное ведомство предложить аналогичные условия всем компаниям в сфере ИИ, выразив надежду на деэскалацию конфликта и переход к разумным договорённостям. Внутренние источники сообщают, что правительство разрешит OpenAI построить собственную систему безопасности для предотвращения злоупотреблений, без принуждения к выполнению задач, от которых модель откажется.
| Родился | 22.04.1985 |
| Новостей | 2 |
| Фотографий | 6 |
| Сообщений | 2 |