OpenAI официально признала, что защита AI-браузеров от промптовых атак является долгосрочной проблемой, которую невозможно полностью устранить. В компании подчеркнули, что такие атаки, основанные на внедрении скрытых инструкций в веб-страницы, документы или электронные письма, не являются ошибкой, подлежащей мгновенному исправлению, а скорее постоянной угрозой, связанной с открытым доступом AI-агентов к интернету. Эта проблема становится особенно актуальной по мере увеличения автономности и расширения доступа AI к пользовательским данным.
Что такое промптовые атаки и почему они опасны?
Промптовая инъекция осуществляется путем скрытия вредоносных команд внутри содержимого, которое AI-агент читает — это могут быть веб-страницы, документы или письма, которые незаметны для человека, но воспринимаются AI. После анализа такого содержимого искусственный интеллект может быть обманут и выполнить злонамеренные инструкции. В OpenAI сравнивают эту проблему с мошенничеством и социальной инженерией: полностью устранить их невозможно, однако можно снизить риск. Компания отмечает, что увеличение функциональности браузера в режиме агента, например в ChatGPT Atlas, расширяет поверхность атаки и повышает потенциальный ущерб.
Хронология и основные моменты
— В октябре 2024 года OpenAI запустила браузер ChatGPT Atlas.
— В первые часы после запуска исследователи обнаружили, что скрытые слова в документах Google могут влиять на поведение браузера.
— В тот же день компания Brave предупредила о структурных проблемах промптовых инъекций в AI-браузерах, включая продукты Perplexity и другие.
— Национальный центр кибербезопасности Великобритании в октябре 2024 года заявил, что полностью устранить угрозы промптовых атак в AI-системах невозможно.
| Действие | Описание |
| — | — |
| Запуск ChatGPT Atlas | Октябрь 2024 года |
| Обнаружение уязвимостей | В первые часы после запуска |
| Предупреждение Brave | В тот же день |
| Мнение кибербезопасных органов | Атаки могут оставаться нерешенными |
Реакция сторон и противоположные мнения
OpenAI признает, что полностью устранить промптовые атаки невозможно, и рассматривает их как долгосрочную проблему. Компания внедряет постоянное обновление систем, тестирование и многоуровневую защиту, чтобы минимизировать риски. В то же время конкуренты, такие как Google и Anthropic, подчеркивают необходимость архитектурных решений и постоянных стресс-тестов для повышения безопасности. Представители Brave и других исследовательских групп подчеркивают, что структурные уязвимости требуют постоянного внимания, а не разовых мер.
Контекст и возможные последствия
Проблема промптовых атак становится критической по мере роста популярности AI-брозеров, таких как OpenAI Atlas, The Browser Company Dia и Perplexity Comet. Эти инструменты расширяют возможности пользователей, но одновременно увеличивают риск злоумышленников, которые могут внедрять вредоносные инструкции. В будущем это может привести к утечкам данных, финансовым потерям и другим угрозам безопасности. Поэтому важно соблюдать рекомендации по использованию AI-агентов: ограничивать доступ, проверять содержимое и своевременно обновлять программное обеспечение.
Дарья Тимошенко
Автор. Технологический обозреватель. Пишет о цифровых трендах, инновациях и гаджетах. Разбирает сложное просто, следит за будущим уже сегодня. Все посты