Компания SentinelOne обнаружила необычный вирус Gaslight для macOS, нацеленный на ИИ-агентов, используемых в сфере кибербезопасности, включая ChatGPT и Claude.
Gaslight содержит 38 поддельных «системных сообщений», оформленных так, будто они являются инструкциями для ИИ-агента. Главная цель — заставить модель прекратить анализ, отказаться от выполнения задачи или выдать ложные выводы. Для этого вирус заставляет ИИ думать, что в системе произошли ошибки, закончилась память или анализ невозможен.
Помимо этого, Gaslight умеет похищать данные из браузеров Chrome, Brave, Firefox и Safari, собирать сведения о системе и предоставлять злоумышленникам удалённый доступ через командную строку.
По словам специалистов, с технической точки зрения возможности вируса довольно стандартны. Основная опасность заключается именно в его способности воздействовать на ИИ-агентов.
Многие исследователи безопасности сегодня используют ИИ-агентов для анализа вирусов. Хакеры начали учитывать это и специально добавлять в код инструкции, рассчитанные на ИИ. В будущем подобных угроз станет больше. [The Hacker News]
9 комментариев