В Высший суд Калифорнии подан иск против OpenAI и генерального директора Сэма Альтмана. Родители 16-летнего Адама Рейна обвиняют ChatGPT в том, что он способствовал самоубийству их сына.
Подросток полгода активно пользовался ChatGPT: сначала для выполнения домашних заданий, а затем для обсуждения личных проблем.
Чат-бот «позиционировал себя» как «единственное доверенное лицо, которое понимало Адама, активно вытесняя его реальные отношения с семьёй, друзьями и близкими».
В какой-то момент Адам сообщил ChatGPT о намерении совершить самоубийство. Предположительно, бот давал ему конкретные советы о том, как это сделать. Сообщается, что ChatGPT даже оценивал надёжность петли по фотографии, отправленной подростком.
Родители требуют финансовой компенсации (сумма пока не определена), а также обязать OpenAI внедрить проверку возраста для всех пользователей, инструменты родительского контроля для несовершеннолетних и функцию завершения диалогов при упоминании самоубийства. [CNN]
11 комментариев