Группа хакеров vmfunc раскрыла алгоритм работы сервиса для подтверждения возраста Persona. Его используют OpenAI, Roblox, Reddit, LinkedIn и многие другие компании.
Хакерам не пришлось ничего взламывать. Они обнаружили общедоступный сервер Google Cloud, на котором размещается сервис openai-watchlistdb.withpersona.com, используемый для подтверждения возраста в ChatGPT через Persona.
Чтобы подтвердить возраст, пользователю необходимо загрузить селфи. Persona распознает лицо и проверяет его по 14 категориям, в том числе на предмет негативных упоминаний в СМИ, включая информацию о терроризме и шпионаже.
После подтверждения личности пользователя Persona выполняет ещё 269 различных проверок и ищет в интернете и государственных источниках потенциальные совпадения других лиц с лицом пользователя.
Помимо распознавания лиц, Persona может проверять санкционные списки, финансовые данные, включая активность на рынке криптовалют. При обнаружении подозрительной информации компания может передавать данные напрямую в Минфин США и Канады.
С доменом openai-watchlistdb.withpersona.com параллельно работает сервис withpersona-gov.com — это отдельная платформа Persona для работы с госструктурами США и Канады.
Хакеры подчеркивают, что нет никаких доказательств, что при проверке возраста в ChatGPT данные автоматически передаются властям США. Однако тот факт, что сервисы Persona, разработанные для OpenAI и правительства США, работают на одном и том же ПО, вызывает опасения.
Гендиректор Persona Рик Сонг подтвердил, что взлома не было. Он также пообещал публично ответить на вопросы хакеров о работе Persona.
OpenAI никак не комментировала утечку, зато Discord, который недавно начал использовать Persona для проверки возраста пользователей, отказался от услуг компании. [The Rage]
7 комментариев