Пользователь Twitter Джозеф Кокс опубликовал ролик, в котором продемонстрировал работоспособность нейросети ElevenLabs.
С ее помощью он общался с автоматическими системами банка. Для идентификации клиента робот попросил произнести фразу «Мой голос — это мой пароль».
В итоге нейросеть сымитировала голос владельца счета, а системы впустили ее и дали доступ. Надежность подобного метода идентификации теперь вызывает вопросы.

🙈 Комментарии 6