Угроза изнутри — как ИИ разрушает безопасность Gmail

Сервисы электронной почты, в частности Gmail, Outlook и Apple Mail, сталкиваются с угрозами, усиливающимися благодаря искусственному интеллекту. Как предупреждают Symantec, Cofense и Hoxhunt, неотвратимые атаки на базе больших языковых моделей (LLM) уже на горизонте, и Gmail сегодня оказывается в центре внимания из-за своих недавних обновлений.

Об этом пишет Forbes.

Какова потенциальная опасность от атак ИИ

По данным Hoxhunt, ИИ-агенты теперь могут превосходить даже самые опытные команды по тестированию безопасности и делать это масштабно, то есть количество персонализированных фишинговых атак будет только расти. Хотя Google, Microsoft и другие заявляют, что блокируют более 99% нежелательной почты и вредоносных сообщений, миллионы вредоносных писем все равно просачиваются в папку "Входящие".

Поэтому эксперты настаивают: электронную почту стоит не просто "улучшать", а в корне менять, чтобы она соответствовала безопасности и удобству современных мессенджеров. Google продолжает внедрять инновации, однако их последний подход в Gmail продемонстрировал сложности эволюционного пути.

Google недавно анонсировал, что теперь "полностью сквозное шифрование" станет проще для организаций в Gmail, но не все обозреватели с этим согласны.

"Это не настоящее сквозное шифрование, потому что ключи хранятся на инфраструктуре клиента, а не непосредственно на устройстве пользователя", — предостерегает Ars Technica.

На самом деле Google Workspace CSE (Client Side Encryption) обеспечивает высокую безопасность данных для бизнеса или учреждений, но не предлагает сценарий, когда сообщения полностью вне доступа самой Google.

Чтобы письма были зашифрованы "по-настоящему" от одного устройства к другому, нужны решения вроде Proton: они либо работают исключительно в собственной закрытой экосистеме, либо требуют дополнительного пароля для сторонних адресов.

Другое недавнее обновление Gmail — улучшенный "умный" поиск, опирающийся на искусственный интеллект. По словам Google, алгоритм отныне учитывает частоту обращений, недавние письма и чаще всего открываемые контакты, чтобы быстрее находить нужные сообщения. Однако, как объясняет компания, для зашифрованных писем это не работает.

"Мы не владеем ключами, поэтому не можем расшифровать и проанализировать эти сообщения для поиска", — заявили в Google.

Таким образом, два новых важных нововведения — сквозное шифрование и интеллектуальный поиск — фактически существуют параллельно и не сочетаются. Для пользователей это означает дилемму: или преимущества ИИ-поиска с анализом всей почты, или усиленная защита, когда содержание писем даже Google не видит.

Напомним, Google планирует значительно облегчить отправку сквозно зашифрованных писем (E2EE) для компаний, работающих в региональных отраслях. Целью является дать возможность пользователям отправлять такие письма любому адресату, даже если он не пользуется Gmail.

Также мы писали, что в Gmail появился интеллектуальный поиск. Искусственный интеллект будет показывать самые релевантные результаты быстрее.