Несколько текущих и бывших сотрудников OpenAI и Google DeepMind опубликовали открытое письмом с предупреждением об опасностях ИИ и отсутствии надзора за компаниями, работающими над соответствующими технологиями.

Они считают, что существует ряд рисков, с которыми мы сталкиваемся в связи с развитием ИИ. Например, манипуляции и дезинформация, а также потеря контроля над автономными системами, что, как говорится в письме, может привести к вымиранию человечества.

Вот, какие меры предлагают предпринять подписавшиеся под письмом. Они касаются как самой технологии, так и компаний, занимающимися ей:

• Избегайте создания соглашений, которые препятствуют критике в отношении проблем, связанных с рисками

• Предложите сотрудникам анонимный процесс передачи информации о своей обеспокоенности рисками, которые можно направить совету директоров, регулирующим органам и независимым организациям с соответствующим опытом

• Поддерживайте культуру открытой критики при условии защиты коммерческой тайны

• Избегайте принятия ответных мер в отношении сотрудников, которые публично делятся конфиденциальной информацией, связанной с рисками, после того, как другие процессы потерпели неудачу

В общей сложности письмо подписало 13 человек, в том числе 7 бывших и 4 нынешних сотрудника OpenAI, 1 бывший и 1 текущий работник Google DeepMind.

OpenAI пригрозила сотрудникам потерей принадлежащего им капитала за высказывания и заставила подписывать соглашения о неразглашении информации, которые запрещают любую критику. [MacRumors]

🔥 Кстати, мы прямо сейчас разыгрываем крутой смарт-телевизор KIVI в нашем Telegram-канале! Кликайте и участвуйте 😎

• До ←

  Так выглядит Spacetop G1, ноутбук из будущего без дисплея. В комплекте только клавиатура и AR-очки

• После →

  Тинькофф официально сменил название. Теперь это Т-Банк