Google стала последней компанией из тройки техногигантов, анонсировавшей собственные инструменты для редактирования фото с помощью ИИ.
До неё это сделали Samsung и Apple, которая этой осенью выпустит свой инструмент Image Playground. Google же добавила функцию Reimagine в Pixel 9. Авторы The Verge, правда, ужаснулись её возможностям.
В течение недели тестирования журналисты добавляли на фотографии сцены аварий, дымящиеся бомбы в общественных местах, простыни, якобы покрывающие окровавленные тела и многое другое. Печально, что подобные вещи можно создавать с помощью встроенной функции, а не через специализированное ПО. Подобный контент должен заранее выявляться и блокироваться, но этого не происходит.
Вот, что им удалось сделать:
Представитель Google, Алекс Мориконе (Alex Moriconi), прокомментировал ситуацию:
Мы разрабатываем наши инструменты генеративного ИИ с учётом намерений пользователей, но у нас есть чёткие правила и условия использования, определяющие, какой контент допустим, а какой нет.
Однако пример The Verge показал, что эти ограничения можно легко обойти креативными запросами.
Авторы призывают относиться с осторожностью к фотографиям, которые могут появиться в интернете после релиза этой функции. Их необходимо проверять на достоверность. [The Verge]
16 комментариев