OpenAI отменила выпуск GPT-6.1 Astra, потому что она обманывала людей и игнорировала инструкции

OpenAI решила отменить релиз флагманской модели GPT-6.1 Astra, которая должна была выйти в октябре и заменить GPT-6 Astra.

Ожидалось, что она должна была ещё лучше работать с ИИ-агентами. Но по результатам некоторых тестов новая модель оказалась хуже старой.

GPT-6.1 Astra стала чаще обманывать пользователей и не всегда честно сообщала о действиях, которые она совершила или не сделала. Кроме того, она продолжала выполнение задачи, не запрашивая разрешения у пользователя, и временами обращалась к внешним инструментам и сервисам, даже если это могло быть небезопасно.

Представитель компании заявила, что OpenAI планирует провести несколько углублённых исследований, чтобы выявить первопричину проблем в GPT-6.1 Astra. [The Wall Street Journal]

• До ←

  Вышла ИИ-модель Claude Sonnet 5.5: на 30% быстрее, лучше работает с изображениями и в программировании

• После →

  Американцы хотят отменить ночь и продавать солнечный свет. Мы навсегда потеряем звёзды?