Google почала перевіряти ваші фото в галереї — що відомо

Коли Google додала на Android фреймворк SafetyCore, компанію звинуватили у "таємному" встановленні технології для моніторингу без згоди користувачів. Тоді пошуковий гігант запевняв, що платформа лише створює захищене середовище для локальної класифікації контенту, а самі фото не аналізуються, поки застосунок не запросить цю функцію.

Про це пише Forbes.

Google зробила перший крок до сканування контенту користувачів

Тепер цей момент настав. У Google Messages з'являється попередження Sensitive Content Warning: програма автоматично розмиває оголені зображення, вважаючи їх потенційно шкідливими, і пропонує переглянути фото чи заблокувати номер. Алгоритми працюють без потреби відправляти їх — сканування відбувається прямо на пристрої, а дані, за словами Google, не передаються на сервери.

Незалежний проєкт GrapheneOS підтвердив, що SafetyCore не надсилає клієнтські скани ні Google, ні третім сторонам. За допомогою локальних моделей машинного навчання застосунки можуть визначати спам, шахрайство чи шкідливе ПЗ та позначати контент для користувача, не ділячись даними з мережею. Водночас у GrapheneOS шкодують, що модулі SafetyCore, як і самі моделі, залишаються закритими.

"Ми не проти локальних нейромереж, та вони мають бути open-source", — йдеться в їхньому повідомленні.

Новий інструмент поки вимкнено за замовчуванням для дорослих користувачів і активний для дитячих акаунтів. У Google Messages його можна увімкнути вручну: "Налаштування" — "Захист і безпека" — "Керування попередженнями про чутливий контент". Для дітей зміни можливі лише через їхні облікові записи або Family Link.

Очевидно, що це лише початок. Функція виводиться на ринок у той самий час, коли уряди й спецслужби тиснуть на компанії, вимагаючи доступу до зашифрованих даних. Кожен крок у бік автоматичного сканування спричиняє опір з боку захисників приватності, які наголошують, що навіть локальні інструменти можуть поступово розширити межі стеження.

Поки що алгоритми діють формально лише на пристроях, але інші оновлення Google можуть не мати такої гарантії. А отже, трьом мільярдам користувачів Android, Gmail та інших сервісів доведеться самостійно визначити, де проходить межа між безпекою та приватністю.

Нагадаємо, Google Фото отримав функцію, яка перетворює звичайні знімки на новий формат UltraHDR. Власники смартфонів можуть "оживити" старі кадри без складного редагування чи спеціального обладнання.

Також ми писали, що в Google Gmail поширюється нова шахрайська кампанія. Зловмисники надсилають листи, які мають вигляд легітимних, з адреси no-reply@accounts.google.com, в яких посилання ведуть на сторінки для викрадення даних.