Компания Google подробно объяснила, как интеграция искусственного интеллекта Gemini в браузер Chrome обеспечит безопасность пользователей. Нововведения связаны с предстоящей реализацией агентных возможностей, направленных на предотвращение потенциальных угроз. Информация предоставлена ресурсом 9to5Google по итогам анализа нововведений и механизмов защиты, внедряемых компанией.
Основные угрозы и механизмы защиты в Chrome с Gemini
Google выделяет новую угрозу для агентных браузеров — непрямое внедрение команд (indirect prompt injection). Цель таких атак — заставить агента выполнить нежелательные действия, например, осуществить финансовую операцию или похитить конфиденциальные данные. Такие угрозы могут возникать на вредоносных сайтах, в стороннем контенте внутри iframe или через пользовательский контент, например, отзывы.
Для борьбы с подобными атаками Google использует многоуровневую защиту. В нее входят детерминированные и вероятностные механизмы, усложняющие злоумышленникам осуществление успешных нападений и повышающие их стоимость.
Как работает система защиты на базе Gemini
Первым уровнем защиты служит модель «User Alignment Critic», созданная с помощью Gemini. Она запускается после этапа планирования и проверяет каждое предлагаемое действие, одобряет или отклоняет его. В случае отказа модель формирует новый план, а при повторных ошибках управление возвращается пользователю.
Основная задача «Alignment Critic» — проверка соответствия действия заявленной цели пользователя. Модель видит только метаданные запрашиваемых действий и не получает доступ к вредоносному веб-контенту, что предотвращает возможность «отравления» модели через интернет.
Обеспечение безопасности и ограничения взаимодействия
Google расширяет возможности Chrome по изоляции источников данных, ограничивая доступ агента только релевантной информацией. Внедряются наборы источников, позволяющие агенту работать исключительно с данными, связанными с текущим заданием или одобренной пользователем информацией.
Такая мера минимизирует риск того, что злоумышленник сможет заставить агента действовать вне рамок допустимых сценариев на сторонних сайтах.
Кроме того, Gemini ведет «журнал действий», в котором фиксируются все шаги агента. Пользователь имеет возможность приостановить работу агента или взять управление на себя в любой момент. Каждое важное действие сопровождается подтверждениями, что обеспечивает защиту от ошибок модели и вредоносных вмешательств.
Перед доступом к чувствительным ресурсам, например, банковским порталам или медицинским сайтам, агент запрашивает подтверждение у пользователя. Также модель не имеет доступа к сохраненным паролям через Google Password Manager, что повышает уровень конфиденциальности.
Контекст и возможные последствия внедрения Gemini
Данные меры защиты свидетельствуют о серьезных усилиях Google по обеспечению безопасности пользователей Chrome при использовании искусственного интеллекта Gemini. Внедрение таких механизмов поможет снизить риски связанных с агентными атаками и повысит доверие к новым функциям браузера.
Ожидается, что подобные системы станут стандартом для агентных браузеров, что значительно усложнит злоумышленникам проведение атак и повысит уровень защиты персональных данных.
Софи Танно
Лондонская журналистка, освещающая новости из Европы, Ближнего Востока, Африки и Украины. Специализируется на геополитике и аналитических репортажах, ранее работала в ведущих британских и австралийских СМИ.