Что знает голосовой помощник и как это проверить

Откройте историю запросов своего помощника за год и просто пролистайте её. Во сколько в доме встают. Когда уезжают за город. Что готовят по выходным. Когда кто-то болел — по запросам про лекарства. Когда были гости — по характеру и количеству просьб.

Никто это специально не собирал. Оно собралось само, потому что каждая просьба — это запись с временем.

Слои, из которых складывается портрет

История запросов. Текст того, что было сказано после слова активации.

Голосовой профиль. Помощник учится отличать вас от других членов семьи — значит, где-то хранится образец вашего голоса.

География. Дом и работа вычисляются без всякой слежки: достаточно посмотреть, откуда идут утренние обращения и откуда дневные.

Расписание — если выдан доступ к календарю. Выдают почти все, иначе напоминания о встречах не работают.

Портрет получается не из содержания просьб, а из их распределения во времени. Это тот же принцип, что в разборе про метаданные: конверт часто говорит больше письма.

«Постоянно ли оно слушает» — вопрос задан не туда

Технически устройство действительно слушает всё время, иначе оно не поймает слово активации. Но этот поток обрабатывается локально, малым распознавателем на устройстве, и наружу не уходит. Отправка начинается после срабатывания.

Настоящая проблема в том, что срабатывание бывает ложным, и это измерено.

Шёнхерр, Голла, Айзенхофер, Виле, Колосса и Хольц (Рурский университет в Бохуме и Институт Макса Планка по безопасности и приватности) в работе 2020 года автоматизировали поиск случайных срабатываний и проверили 11 умных колонок 8 производителей на обычном материале — телепередачах, новостных выпусках, наборах аудиоданных. Найдены сотни случайных срабатываний; в опубликованный исследовательский набор вошло более тысячи проверенных триггеров.

Что происходит с такой записью дальше, известно из отчётов 2019 года. Bloomberg (10 апреля 2019), бельгийская VRT NWS (10 июля 2019) и The Guardian (26 июля 2019) описали одну и ту же практику у Amazon, Google и Apple: подрядчики выборочно прослушивают записи, оценивая качество работы помощника. Одна из задач оценки — определить, было ли срабатывание случайным. То есть случайные записи не побочный шум процесса, а его предмет. Долю прослушиваемого тогда назвала Google: изданию Wired компания сказала про около 0,2% всех записей.

Никакого заговора здесь нет. Есть техническая ошибка, повторённая большое число раз.

Что действительно стоит проверить в настройках

Здесь важна поправка: распространённое «всё, что вы говорите, сохраняется навсегда» по документации производителей неверно, и знать это полезнее, чем пугаться.

У Google настройка голосовой и аудиоактивности по умолчанию выключена: голосовые обращения не сохраняются в аккаунт, пока вы её не включите. Есть автоудаление на 3, 18 или 36 месяцев. Оговорка из той же справки: если выключить настройку после того, как она работала, ранее сохранённые записи не удаляются сами — это отдельное действие.

У Apple «Улучшение Siri и Диктовки» — тоже необязательная настройка, которую включают сознательно; включая её, вы соглашаетесь на хранение и проверку выборки ваших аудиозаписей и расшифровок, срок хранения — до двух лет.

Отсюда порядок проверки, от полезного к косметическому:

1. Хранение аудиозаписей — включено или нет, и настроено ли автоудаление. Это главная настройка, и она живёт в аккаунте, а не в приложении помощника.
2. Ранее сохранённое — удалить отдельно, выключение настройки его не трогает.
3. Активация на заблокированном экране — выключить. Пока телефон заблокирован, он не должен реагировать на голос; заодно закрывается ситуация, когда посторонний обращается к вашему телефону, лежащему на столе.
4. Персонализация рекламы — обычно спрятана глубже всех, в настройках аккаунта на сайте.

Дети и пожилые родители

Два случая, где настройки по умолчанию работают хуже всего, потому что сами пользователи их не тронут.

Дети разговаривают с колонкой свободнее взрослых: не фильтруют, рассказывают про школу и про то, что происходит дома. Всё это попадает в историю запросов на общих основаниях.

Пожилым родителям голосовой помощник объективно удобнее любого другого интерфейса — не нужно печатать и искать очки. Но им обычно никто не объясняет, что помощник запоминает, и они спокойно спрашивают его про лекарства, симптомы и куда обращаться. Это ровно та категория данных, из которой собирается самый чувствительный портрет.

Практическое действие занимает десять минут в следующий визит: зайти в настройки аккаунта, выключить хранение записей и персонализацию рекламы, выставить автоудаление. Функциональность при этом не меняется — погоду и музыку помощник включает так же. Сами они об этом не попросят, потому что не знают, что такая настройка есть.

Что через помощника имеет смысл пропускать

Отказываться от помощника из принципа смысла нет: удобство реальное. Меняется не устройство, а то, что через него проходит.

Погода, музыка, таймер, бытовые вопросы — без последствий: из них портрет не собирается, а если и собирается, то бесполезный.

Дела, планы, суммы, здоровье, чужие имена — мимо помощника. Не потому что это тайна, а потому что именно из этого слоя и складывается то, что вы потом читаете двадцать минут подряд в истории запросов.

Начать стоит не с настроек, а с чтения. Откройте историю за год и пролистайте. Выводы после этого делаются сами.

Источники

• Schönherr L., Golla M., Eisenhofer T., Wiele J., Kolossa D., Holz T., «Unacceptable, where is my privacy? Exploring Accidental Triggers of Smart Speakers», 2020 — 11 колонок, 8 производителей, более 1 000 проверенных триггеров: https://arxiv.org/abs/2008.00508
• Отчёты 2019 года о выборочном прослушивании записей подрядчиками: Bloomberg 10.04.2019 (Amazon), VRT NWS 10.07.2019 (Google), The Guardian 26.07.2019 (Apple); доля, названная Google изданию Wired, — около 0,2% записей. Сводный обзор: https://voicebot.ai/2019/07/29/report-apple-contractors-listen-to-siri-recordings/
• Google, управление аудиозаписями в истории приложений и веб-поиска — настройка выключена по умолчанию, автоудаление 3/18/36 месяцев, ранее сохранённое удаляется отдельно: https://support.google.com/accounts/answer/6030020
• Google, как Ассистент работает с вашими данными: https://support.google.com/assistant/answer/11091015
• Apple, включение и выключение «Улучшения Siri и Диктовки»: https://support.apple.com/en-us/127070
• Apple, «Siri, Диктовка и конфиденциальность» — срок хранения до двух лет: https://support.apple.com/en-us/HT210657

Частые вопросы

Слушает ли колонка постоянно?

Технически да, иначе она не поймает слово активации, но этот поток обрабатывается локально и наружу не уходит. Проблема в ложных срабатываниях: в работе Шёнхерра и коллег 2020 года на 11 колонках 8 производителей найдены сотни случайных срабатываний, в опубликованный набор вошло более тысячи проверенных триггеров.

Всё ли, что я говорю, сохраняется навсегда?

Нет, и это стоит знать точнее, чем пугаться. У Google настройка голосовой и аудиоактивности по умолчанию выключена, есть автоудаление на 3, 18 или 36 месяцев. У Apple «Улучшение Siri и Диктовки» включается сознательно, срок хранения при этом — до двух лет. Важная оговорка: выключение настройки не удаляет ранее сохранённое, это отдельное действие.

Что настроить родителям?

Десять минут в настройках аккаунта: выключить хранение записей, выключить персонализацию рекламы, выставить автоудаление, отключить активацию на заблокированном экране. Функциональность не меняется — погоду и музыку помощник включает так же.