Российские IT-компании смогут передавать свои ИИ-модели в независимую лабораторию для проверки на соответствие российским законам и традиционным духовно-нравственным ценностям.
Такой механизм обсуждают Минцифры и представители отрасли. Проверка потребуется большим фундаментальным моделям, которые претендуют на статус национальных или суверенных. Эти статусы предусмотрены принятым законом об ИИ и позволят разработчикам получать:
- Господдержку
- Доступ к данным государственных информационных систем
- Преимущества при использовании ИИ в отдельных сферах
Для проверки планируют разработать специальные бенчмарки. Отдельный перечень духовно-нравственных ценностей создавать не будут: он уже закреплен в указе президента № 809.
► Разработчик должен будет подать в лабораторию заявку и предоставить информацию об архитектуре модели, механизмах фильтрации и других особенностях ее работы.
► После этого эксперты проверят ответы нейросети и попробуют обойти встроенные ограничения с помощью промпт-инъекций.
► По итогам испытаний лаборатория подготовит заключение о соответствии или несоответствии модели установленным требованиям. Положительный результат станет одним из этапов получения статуса национальной или суверенной модели.
Проверять все работающие в России нейросети не планируют. Процедура будет добровольной и понадобится только разработчикам, которые хотят получить специальный статус и связанные с ним государственные преференции. [Ведомости]
1 комментарий