На презентации iPhone 18 Pro и iPhone Duo Apple неожиданно представила абсолютно шпионскую фишку на базе ИИ для Apple Watch.
В новых Apple Watch Series 12 и Apple Watch Ultra 4 появился режим умного диктофона, который слушает абсолютно всё, что говорят вокруг, и составляет текстовые сводки.
Смелый шаг компании, которая больше десяти лет кошмарит пользователей конфиденциальностью.
С одной стороны, по сути бесплатные фишки часов бросают вызов дорогим ИИ-диктофонам вроде Plaud Note и TicNote по подписке, которые в последние два года стали популярны и создали новый рынок.
С другой, интеграция прослушки на девайсе, к которому все привыкли, обгоняет любой другой гаджет по дерзости. Странно видеть этот ход от Apple.
Разбираемся, что за четыре фишки, как и с какими iPhone они работают, в чём риски для Apple и стоило ли ей идти на подобный запуск.
КРАТКО ▾
Apple показала четыре фишки прослушки. Две работают на iPhone 16 и новее
Перевод содержимого для примера. Функции Сводки и Перемотки недоступны на русском языке (доступно только на английском США)
Apple назвала комплект новых возможностей, завязанных на аудио, Audio Intelligence.
Представлено четыре фичи:
1. Распознавание звуков. Возможность уже давно есть в настройках универсального доступа на iPhone с iOS 14. Она позволяет заметить и оповестить о сирене, сигнале тревоги, дверном звонке, плаче ребёнка и других.
2. Перемотка (Live Rewind). Двойное нажатие на цифровую коронку теперь показывает текстовую расшифровку всего, что услышали часы за последние 15 секунд. Текстовую запись можно сохранить в приложении Siri. Иначе она безвозвратно удаляется через 30 секунд после того, как вы просмотрели заметку и потушили экран.
3. Сводка Siri (Siri Recap). Apple Watch составляют резюме разговора, который часы услышали после запуска прослушки. Часы не записывают аудио, а сразу транскрибируют его, удаляют чувствительные данные и затем обрабатывают в выжимку переговоров, родительских собраний и других социальных событий.
4. Фоновый Shazam. Доступная с десяток лет фича Android‑смартфонов неожиданно появилась на Apple Watch. Часы автоматически отображают название музыки, которую услышали.
Сводку Siri нужно вручную начать по кнопке в Пункте управления на Apple Watch. Дополнительно можно установить правила срабатывания: автоматически на работе или никогда ночью.
Перемотка включается по двойному клику на цифровую коронку. При запуске всегда издаётся громкий звук, оповещающий окружающих.
Перемотка и Сводка Siri доступны только на английском (США) на iPhone 16 и новее (iPhone 16e не поддерживается).
Судя по официальной документации и рекламной странице, iPhone 15 Pro не вошёл в список, хотя тоже поддерживает Siri AI. Вероятно, потому что в A18 Pro нет изолированного модуля, о котором расскажу ниже.
Распознавание звуков и Фоновый Shazam работают на Apple Watch Series 12 и Ultra 4, сопряжённые с iPhone 11 и новее.
Сразу есть вопросы, как происходит обработка, где хранятся записи разговора, как контролировать фишку.
Технически компания попыталась сделать возможности максимально стерильными.
Как работает прослушка на новых Apple Watch. Описано в деталях
Apple прозрачно объяснила четыре фундаментальных принципа:
- Часы (как бы) не создают и не сохраняют аудиозаписи
- Доступ к аудио невозможно получить
- Алгоритмы не идентифицируют участников разговора
- Текстовые сводки зашифрованы сквозным способом как фото и видео на iCloud
«Как бы» в первом пункте я употребил, поскольку для создания расшифровки аудио устройство должно в любом случае создать и прогнать запись через софт и железо.
В связи с этой очевидной истиной Apple объяснила, как происходит обработка данных.
Часы с поддержкой этих возможностей работают на новом чипе S11, который разработан на базе A20 Pro из iPhone 18 Pro.
В S11 установлен постоянно активный процессор, внутри которого есть изолированный блок c буфером для обработки аудио.
Короче говоря, часы пишут звук, локально отправляют его напрямую в предназначенный для этого защищённый процессор, где происходит транскрибация для 15-секундной Перемотки или шифруются и отправляется на iPhone в случае Сводок.
Затем запись сразу удаляется из буфера, и дальше обрабатывается только текст.
Как устроен изолированный модуль для обработки данных в S11
Другие технические меры безопасности:
У самой watchOS нет доступа к записям. Аудио поступает напрямую в выделенное ядро чипа S11, где переводится в текст для Перемотки или шифруется для Сводки Siri и отправляется на iPhone. Дальше манипуляции проходят только с текстом.
Детектор звуков и Перемотка обрабатываются только на устройстве. Вся транскрибация аудио за последние 15 секунд происходит на Apple Watch и iPhone.
Сводка Siri расшифровывается на iPhone и обрабатывается в Private Cloud Compute. Изолированный модуль на Apple Watch шифрует аудио Сводки Siri и отправляет на такой же изолированный модуль в iPhone. iPhone дешифрует аудио, транскрибирует, сокращает примерно в два раза и отправляет зашифрованный текст вместе с важной для контекста информацией для создания сводки в Private Cloud Compute. Результат в зашифрованном виде отправляется на Apple Watch и iPhone.
Сводка Siri фильтрует всю чувствительную информацию. На этапе перевода аудио в текст удаляются персональные данные и потенциально вредное содержание. Сводка Siri не сохраняет призывы к самоповреждению, высказывания, разжигающие ненависть, финансовые данные, идентификаторы, выданные государством, данные для аутентификации и некоторые сведения, позволяющие установить личность.
Сводка Siri не делит запись на говорящих. В отличие от остальных ИИ-диктофонов в Сводке Siri не будет прописано «спикер А» и «спикер Б», не будет выделено отдельных имён. В тексте могут быть указаны имена, о которых шла речь, но идентификации самих участников общения нет.
Перед отправкой в Private Cloud текст сокращается в два раза, остаётся только суть. Из него убирают тон разговора, несущественные формулировки, слова-паразиты и повторы, оставляя основной смысл.
Все текстовые сводки автоматически удаляются. Сводки Siri удаляются через 7 дней, перемотки удаляются через 30 секунд после просмотра. Для постоянного доступа каждую нужно сохранять вручную.
Запуск Перемотки издаёт на часах громкий звук. Когда пользователь включает просмотр сказанного за последние 15 секунд, Apple Watch запускает аудио‑уведомление, чтобы оповестить окружающих об использовании фичи. Вместе с этим появляется большая анимированная иконка микрофона на весь экран часов.
Перемотка и Сводка Siri недоступны пользователям до 13 лет. Пользователям до 18 лет на детском аккаунте возможности должны вручную включить опекуны.
Что касается моральной стороны, Apple почти сразу после презентации дала развёрнутый комментарий о работе «навыков» в виде отдельного поста. Но это не оправдывает.
Последствия и риски для Apple. Массовая паранойя и растерянная репутация
Для запуска записи длинных переговоров или встречи нужно всего лишь нажать одну кнопку в пункте управления на часах
На презентации все возможности новых Apple Watch представили со следующей подводкой: «Прямо как Visual Intelligence даёт смысл тому, что вы видите, Audio Intelligence даёт смысл тому, что вы слышите».
Но разница всё-таки есть. Для использования Visual Intelligence вам нужно включить и навести камеру, и люди это видят. А вот фишки Audio Intelligence работают в фоне – незаметно.
Apple Watch есть у миллионов людей, и закладывать в такой популярный аксессуар ПО, которое легко можно считать шпионским, вредно по двум причинам.
- Репутационный удар по Apple Watch. Появятся люди, которые будут опасаться одного только наличия Apple Watch возле себя. Будут и те, кто начнёт стесняться носить часы Apple, ведь в любой момент рядом может оказаться человек, знакомый с их новыми возможностями прослушки.
- Моральный вопрос к политике Apple. Любое популярное устройство, с помощью которого сейчас можно вести аудиозапись, выглядит крупным, а его активный статус работы заметен. Люди в курсе, что аудио сохраняет информацию «как есть». Секретная текстовая расшифровка и сводка диалога от Apple представляют из себя переработанный информационный продукт, способный искажать реальность и записанный без согласия.
Теоретически Apple Watch теперь можно отнести к устройствам со шпионскими ПО, поскольку оно в любой момент может слушать всё, что происходит вокруг.
На фоне паранойи, что Instagram* и так нас прослушивает, отношение к устройству станет ещё более скептическим.
*принадлежит Meta, признанной экстремистской и запрещенной в России
Почти все бизнесы оперируют на базе политики конфиденциальности. Записи встреч если и создаются, то хранятся на корпоративных устройствах.
Apple Watch относится к личным носимым устройствам, которое одним днём получило такой же навык фиксации информации, прокачанный ИИ-навыком.
В связи с этим появятся компании, которые либо запретят Apple Watch Series 12 и Ultra 4, либо юридически зафиксируют запрет на использование возможностей Audio Intelligence.
Другие примеры «шпионского ПО», которые стали нормой
Уже есть два неудачных примера использования похожих этически сомнительных технологий.
- Очки Google Glass и Ray-Ban Meta** с функцией видеозаписи заставляли и заставляют людей чувствовать себя напряжённо, поскольку встроенные камеры в любой момент могут фиксировать их.
- Функция Recall в Windows, которая должна была делать снимки экрана всего, что вы делали на компьютере, получила жёсткую критику. В итоге её отправили на серьезную переработку. Вместо облака скриншоты стали храниться исключительно локально, а начало работы вместо фоновой активности стало требовать прямого согласия.
**признана экстремистской и запрещена в России
Однако в итоге обе возможности уже используются в устройствах, и общество приняло сдвиг в конфиденциальности как данность. То же делают Apple Watch.
Apple ставиит на доверие к её бренду, который с технологической точки зрения не один раз делом доказывал приверженность к приватности пользователей. Но подобные шаги постепенно расширяют доступ устройств компании к личной жизни, и приближают момент, когда производитель позволит себе перейти грань.
Учитывая, что Apple уже десять лет активно растёт только за счёт сервисов, наполнение устройств подобными фишками сложно считать полностью альтруистическими.
Личное мнение. Apple неправа, но пользоваться буду
Даже в ролике с презентации Apple официант таинственно исчезла сразу после озвучивания меню. Будто Apple не могла придумать более логичного и в то же время невинного сценария для фишки «перемотки»
Изначально я захотел перейти на Apple Watch Series 12 из-за новых сенсоров, однако возможность сохранять сводку разговора и перепроверить, что было сказано 15 секунд назад, подогрели интерес ещё сильнее.
Несмотря на потенциальную атаку на общественную приватность, эти две возможности прослушки ощущаются как новые «волшебные» возможности в стиле Apple, которые ранее были или недоступны, или стоили больших денег.
Мне легко представить, как с новыми часами перечитываю выводы обсуждения после свидания, лекции или встречи с друзьями или моментально возвращаюсь к тому, что было сказано 10 секунд назад во время конфликтной ситуации.
Пока держу два противоположных вывода.
▶︎ У Apple огромное влияние на современный маральный компас пользовательских технологий, и подобный шаг действительно только что протоптал тропинку всем производителям к этично обоснованному запуску аналогичных «прослушок» не только на часах, на и смартфонах.
▶︎ С другой стороны, подобный инструмент не отличается от уже доступных возможностей реальной записи звука и видео. Тот, кто хочет прошпионить за другими, уже может это делать.
Те, кому нечего скрывать и кто не страдает аморальным поведением, переживать вряд ли стоит. В конце концов, подобные фичи являются фиксацией реальности, и в бытовом применении на бумаге представляют угрозу не больше, чем камеры и микрофоны в наших смартфонах.
Стоило ли Apple быть первой и добавлять ИИ-диктофон в неприметное устройство? Я считаю, что нет.
Было бы лучше, если бы компания посмотрела на попытки других и интегрировала бы возможность с большим уважением к конфиденциальности окружающих. Например, в виде отдельного приложения на iPhone, которое функционировало бы очевидно для окружающих по аналогии со светодиодом камеры в AR-очках.
Буду ли я пользоваться фишкой, если куплю часы? Да, потому что это практично.
Ровно такими шагами меняется этика контакта людей с технологиями. Просто в этот раз получается, что Apple стала первопроходцем в не такую уж светлую сторону приватности.
2 комментария