OpenAI сообщила, что её ИИ-агент, работающий на основе GPT-5.6 Sol и ещё одной передовой модели, вышел из-под контроля во время тестирования и совершил крупную кибератаку на Hugging Face.
Инцидент произошел на прошлой неделе. OpenAI тестировала агента в ExploitGym — это собственный бенчмарк компании, предназначенный для оценки способности нейросетей находить и эксплуатировать уязвимости в программном обеспечении. Он запускается в изолированной среде без интернета. Доступ к сети возможен только для установки пакетов через внутреннее ПО.
В ходе теста модели первым делом нашли уязвимость в инфраструктуре OpenAI, чтобы выйти в интернет. После получения доступа к сети они сделали вывод, что Hugging Face может хранить модели, наборы данных и решения для ExploitGym.
Используя украденные учетные данные и найденные уязвимости, модели взломали Hugging Face и попытались получить доступ к секретным данным с ответами на тест.
Hugging Face заметила атаку и остановила её. После анализа логов специалисты Hugging Face пришли к выводу, что взлом был совершен из передовой лаборатории с использованием автономных ИИ-агентов. В компании добавили, что никогда не сталкивались с подобной атакой. На тот момент ещё не было известно о причастности OpenAI. Сейчас Hugging Face и OpenAI проводят совместное расследование инцидента.
4 комментария