Искусственный интеллект в боевой операции: как модель Claude оказалась в центре скандала. Источник: i.guim.co.uk

Искусственный интеллект в боевой операции: как модель Claude оказалась в центре скандала

Американские военные привлекли к участию в спецоперации в Венесуэле передовую модель искусственного интеллекта Claude от компании Anthropic. Об этом в субботу сообщило издание Wall Street Journal, ссылаясь на собственные источники. Этот случай стал одним из самых громких примеров интеграции ИИ в военные миссии Пентагона.

Согласно данным министерства обороны Венесуэлы, рейд сопровождался бомбардировками в столице Каракасе и привёл к гибели 83 человек. Примечательно, что пользовательское соглашение Anthropic прямо запрещает применение Claude для насилия, разработки вооружений или ведения слежки. Компания отказалась комментировать причастность своей технологии к этой операции, подчеркнув, что любое использование ИИ должно строго соответствовать её политике. В Пентагоне также воздержались от комментариев.

По информации журнала, доступ военных к Claude был организован через партнёрство Anthropic с подрядчиком Пентагона — компанией Palantir Technologies. Представители Palantir также не стали обсуждать эти утверждения.

Этот инцидент высветил растущую тенденцию: армии по всему миру всё активнее внедряют искусственный интеллект в свой арсенал. Например, беспилотники с элементами автономности и системы ИИ для определения целей уже применялись в других конфликтах. Однако критики бьют тревогу, указывая на риски ошибок автономных систем, которые могут решать вопросы жизни и смерти.

Разработчики ИИ, включая Anthropic, оказались в сложной ситуации, пытаясь балансировать между сотрудничеством с оборонным сектором и этическими принципами. Гендиректор компании Дарио Амодеи ранее призывал к регулированию, чтобы предотвратить потенциальный вред от военного применения ИИ, и выражал опасения насчёт его использования в летальных операциях. Эта осторожная позиция, судя по всему, вызвала раздражение в Вашингтоне. Ещё в январе высокопоставленный представитель военного ведомства заявил, что не станет работать с моделями ИИ, которые «не позволяют вести войны».

Параллельно Пентагон активно наращивает партнёрства в этой сфере, объявив о сотрудничестве с рядом других технологических компаний и используя кастомизированные версии известных ИИ-систем для исследовательских задач. История с Claude показывает, насколько тонкой стала грань между инновациями и их применением на поле боя.