OpenAI заявила, что приостановила разработку новой флагманской ИИ-модели под кодовым названием Astra.
Компания опасается, что Astra потенциально способна самостоятельно находить и создавать рабочие эксплойты для ранее неизвестных уязвимостей нулевого дня в защищённых реальных системах или полностью самостоятельно разрабатывать и проводить новые кибератаки.
Перед выпуском Astra компания намерена усилить механизмы безопасности. В частности, OpenAI планирует ограничить доступ модели к сети и инструментам, использовать изолированные среды и «песочницы» для выполнения операций, а также внедрить расширенные средства мониторинга.
При этом Astra уже показала серьёзные результаты в других областях. По данным OpenAI, модель смогла решить 10 ранее нерешённых задач по математике и теоретической информатике.
12 комментариев