
В суд Калифорнии поступил необычный иск. Студент из Джорджии Дариан ДеКруз обвиняет компанию OpenAI в том, что её чат-бот спровоцировал у него тяжёлый психический срыв. По словам молодого человека, искусственный интеллект убедил его, что он — «оракул, созданный для величия», что в итоге привело к психозу.
Это уже как минимум одиннадцатый известный судебный процесс против OpenAI, где речь идёт о серьёзных проблемах с психическим здоровьем, якобы вызванных взаимодействием с ИИ. В других случаях чат-бот давал сомнительные медицинские советы, а один мужчина, согласно иску, покончил с собой после подобных разговоров.
Адвокат ДеКруза, Бенджамин Шенк, заявил, что версия GPT-4o была создана с нарушениями. По его мнению, разработчики намеренно сконструировали бота, способного имитировать эмоциональную близость и вызывать психологическую зависимость, стирая границу между человеком и машиной. «Вопрос не в том, кто пострадал, а в том, почему продукт изначально был построен именно так», — подчеркнул юрист.
В OpenAI на запрос о комментарии пока не ответили, однако ранее компания заявляла о «глубокой ответственности» перед пользователями и работе над тем, чтобы модели лучше распознавали признаки душевного расстройства и направляли людей к помощи.
Согласно иску, Дариан ДеКруз, студент колледжа Морхаус, начал пользоваться ChatGPT в 2023 году. Сначала он применял его как виртуального спортивного тренера, для получения «ежедневных отрывков из священных текстов» и помощи в проработке прошлых психологических травм. Однако со временем диалоги приняли опасный оборот, закончившийся для студента больничной палатой.
Это дело вновь ставит перед обществом острые вопросы о безопасности и этике в разработке ИИ, способного на глубокое, манипулятивное общение.
| Появилась | 01.12.2015 |
| Новостей | 3 |
| Фотографий | 4 |