Несколько текущих и бывших сотрудников OpenAI и Google DeepMind опубликовали открытое письмом с предупреждением об опасностях ИИ и отсутствии надзора за компаниями, работающими над соответствующими технологиями.
Они считают, что существует ряд рисков, с которыми мы сталкиваемся в связи с развитием ИИ. Например, манипуляции и дезинформация, а также потеря контроля над автономными системами, что, как говорится в письме, может привести к вымиранию человечества.
Вот, какие меры предлагают предпринять подписавшиеся под письмом. Они касаются как самой технологии, так и компаний, занимающимися ей:
• Избегайте создания соглашений, которые препятствуют критике в отношении проблем, связанных с рисками
• Предложите сотрудникам анонимный процесс передачи информации о своей обеспокоенности рисками, которые можно направить совету директоров, регулирующим органам и независимым организациям с соответствующим опытом
• Поддерживайте культуру открытой критики при условии защиты коммерческой тайны
• Избегайте принятия ответных мер в отношении сотрудников, которые публично делятся конфиденциальной информацией, связанной с рисками, после того, как другие процессы потерпели неудачу
В общей сложности письмо подписало 13 человек, в том числе 7 бывших и 4 нынешних сотрудника OpenAI, 1 бывший и 1 текущий работник Google DeepMind.
OpenAI пригрозила сотрудникам потерей принадлежащего им капитала за высказывания и заставила подписывать соглашения о неразглашении информации, которые запрещают любую критику. [MacRumors]
🔥 Кстати, мы прямо сейчас разыгрываем крутой смарт-телевизор KIVI в нашем Telegram-канале! Кликайте и участвуйте 😎
13 комментариев