Яндекс рассказал о первых итогах расследования, проведенного в связи со сливом внутреннего кода.
В компании отметили, что данным простых пользователей ничего не угрожает. Аудит выявил несколько случаев нарушения правил корпоративной этики и «принципов Яндекса».
Также в сеть попали фрагменты тестовых алгоритмов, которые использовались только для проверки работы сервисов внутри самой компании. Один из них включал микрофон устройства без упоминания Алисы. Алгоритм написали для уменьшения количества ложных срабатываний во время тестирования сотрудниками и для улучшения качества активации голосового ассистента.
В коде были данные некоторых партнеров, включая водителей. Некоторые части кода содержали слова, которые могли быть «оскорбительны для людей разных рас и национальностей».
Зафиксированы случаи, когда логику работы сервисов корректировали не алгоритмическим способом, а «костылями» (прим. Яндекса — на языке разработчиков так называется временное решение, реализованное неоптимально и впопыхах). Через такие «костыли» исправляли отдельные ошибки системы рекомендаций, которая отвечает за дополнительные элементы поисковой выдачи, и регулировали настройки поиска по картинкам и видео.
Сейчас нам очень стыдно, и мы приносим извинения нашим пользователям и партнерам. Мы возобновим работу над формированием принципов техноэтики.
В ближайшее время мы создадим новую службу, которая будет отвечать за соответствие кода нашим принципам и политикам. Кроме того, мы уже переносим из репозитория все данные, которые не имеют отношения к алгоритмам и настройкам сервисов. Эти данные получат дополнительную защиту.
— Яндекс
Это далеко не все найденные ошибки и уязвимости. В частности, компания отметила, что присутствовало наличие приоритетной поддержки для отдельных групп пользователей в сервисах Такси и Еда.
Большинство выявленных проблем связано с попытками вручную внести в сервис улучшение или устранить ошибку. В компании долгое время существует подход Zero Bug Policy — политика нулевой терпимости к «багам».
Реализация подхода на практике приводила к тому, что часть «багов» исправлялись с помощью временных решений. В компании пересмотрят подход к этому вопросу. [Яндекс]
13 комментариев