Google начала проверять ваши фото в галерее — что известно

Когда Google добавила на Android фреймворк SafetyCore, компанию обвинили в "тайной" установке технологии для мониторинга без согласия пользователей. Тогда поисковый гигант уверял, что платформа лишь создает защищенную среду для локальной классификации контента, а сами фото не анализируются, пока приложение не запросит эту функцию.

Об этом пишет Forbes.

Google сделала первый шаг к сканированию контента пользователей

Теперь этот момент настал. В Google Messages появляется предупреждение Sensitive Content Warning: программа автоматически размывает обнаженные изображения, считая их потенциально вредными, и предлагает просмотреть фото или заблокировать номер. Алгоритмы работают без необходимости отправлять их — сканирование происходит прямо на устройстве, а данные, по словам Google, не передаются на серверы.

Независимый проект GrapheneOS подтвердил, что SafetyCore не отправляет клиентские сканы ни Google, ни третьим сторонам. С помощью локальных моделей машинного обучения приложения могут определять спам, мошенничество или вредоносное ПО и обозначать контент для пользователя, не делясь данными с сетью. В то же время в GrapheneOS сожалеют, что модули SafetyCore, как и сами модели, остаются закрытыми.

"Мы не против локальных нейросетей, но они должны быть open-source", — говорится в их сообщении.

Новый инструмент пока отключен по умолчанию для взрослых пользователей и активен для детских аккаунтов. В Google Messages его можно включить вручную: "Настройки" — "Защита и безопасность" — "Управление предупреждениями о чувствительном контенте". Для детей изменения возможны только через их учетные записи или Family Link.

Очевидно, что это только начало. Функция выводится на рынок в то самое время, когда правительства и спецслужбы давят на компании, требуя доступа к зашифрованным данным. Каждый шаг в сторону автоматического сканирования вызывает сопротивление со стороны защитников приватности, которые отмечают, что даже локальные инструменты могут постепенно расширить границы слежки.

Пока алгоритмы действуют формально только на устройствах, но другие обновления Google могут не иметь такой гарантии. А значит, трем миллиардам пользователей Android, Gmail и других сервисов придется самостоятельно определить, где проходит граница между безопасностью и приватностью.

Напомним, Google Фото получил функцию, которая превращает обычные снимки в новый формат UltraHDR. Владельцы смартфонов могут "оживить" старые кадры без сложного редактирования или специального оборудования.

Также мы писали, что в Google Gmail распространяется новая мошенническая кампания. Злоумышленники присылают письма, имеющие вид легитимных, с адреса no-reply@accounts.google.com, в которых ссылки ведут на страницы для похищения данных.