OpenAI сообщила о серьезных изменениях в работе ChatGPT для пользователей младше 18 лет.
Нейросеть обучат не вступать во «флиртующие разговоры» с несовершеннолетними и не обсуждать темы, связанные с самоубийством.
Если подросток обратится к чат-боту с вопросами о суициде, ИИ уведомит об этом его родителей через функцию родительского контроля. В особо серьезных ситуациях ChatGPT будет сразу обращаться в полицию.
Кроме того, ChatGPT научится определять возраст пользователя на основе его разговоров. В случае каких-либо сомнений ChatGPT будет автоматически переключаться в режим для несовершеннолетних. Взрослый человек сможет подтвердить свой возраст, предоставив паспорт или водительские права.
Мы понимаем, что это нарушает конфиденциальность для взрослых, но считаем это оправданным компромиссом.
OpenAI
Вероятно, эти изменения будут реализованы в ближайшее время. Компания внесла их после того, как американский подросток покончил с собой. Перед этим он консультировался с ChatGPT о способах самоубийства. [TechCrunch]
5 комментариев