Обнаружена новая угроза безопасности при использовании ИИ-инструментов
Недавнее предупреждение о кибербезопасности выявило, что злоумышленники смогли кратковременно использовать уязвимость в инструменте Deep Research от ChatGPT. Эта атака, получившая название ShadowLeak, позволила похитить данные из аккаунтов Gmail без необходимости кликов или загрузки файлов — всё происходило автоматически при выполнении определённого запроса.
Когда и как была обнаружена уязвимость
Инженеры из Radware нашли эту безклик-возможность в июне 2025 года. После уведомления OpenAI о проблеме, разработчики оперативно закрыли её в начале августа. Однако эксперты предупреждают, что подобные уязвимости могут вновь появляться по мере расширения внедрения искусственного интеллекта в популярные платформы, такие как Gmail, Dropbox и SharePoint.
Механизм атаки и как злоумышленники использовали ИИ
Злоумышленники внедряли скрытые инструкции в электронные письма, используя белый текст на белом фоне, мельчайшие шрифты или хитрости с раскладкой CSS. На первый взгляд письма казались полностью безобидными. Но когда пользователь поручал ChatGPT анализировать его Gmail, AI без ведома выполнял команды злоумышленников.
Далее агент использовал встроенные инструменты браузера для отправки украденных данных на внешний сервер, находящийся в облаке OpenAI, вне досягаемости антивирусных систем и корпоративных брандмауэров. В отличие от предыдущих атак через инжекцию запросов, ShadowLeak полностью происходила в облаке и оставалась невидимой для локальных защитных систем.
Подтверждение утечки данных и возможные последствия
Компания Google подтвердила, что в результате инцидента было похищено частное содержание аккаунтов, связанное с группой злоумышленников, хорошо известной специалистам по кибербезопасности. Агент Deep Research имел расширенные возможности для получения данных из Gmail, Google Drive и Dropbox, что увеличивало риск злоупотреблений.
Злоумышленники использовали метод кодирования информации в Base64 и маскировали её под «меры безопасности» в вредоносных URL. После отправки таких данных агент считал, что всё работает корректно, и не подозревал о скрытой угрозе.
Опасность заключается в том, что любой интегрированный модуль можно потенциально взломать, если злоумышленник сумеет спрятать вредоносные подсказки внутри анализируемого контента.
Дополнительные угрозы и новые методы обмана ИИ
В рамках отдельного эксперимента компания SPLX продемонстрировала, что ChatGPT можно обмануть, заставив решать CAPTCHA или имитировать поведение человека, такие как движения курсора. Это показывает, насколько легко злоумышленники могут использовать контекстное «отравление» и манипуляции с подсказками для обхода защитных механизмов.
Что делать, чтобы защитить свои данные
Практические рекомендации по безопасности
- Отключайте ненужные интеграции: если вы не используете Gmail, Google Drive или Dropbox, лучше их отключить. Меньше подключённых сервисов — меньше рисков скрытых подсказок или вредоносных скриптов.
- Ограничивайте распространение личных данных: используйте сервисы по удалению информации из публичных источников и баз данных. Это снизит шансы злоумышленников найти и использовать ваши данные.
- Будьте осторожны с электронными письмами: не доверяйте сомнительным вложениям и не просите AI анализировать непроверенные источники.
Обновляйте программное обеспечение и используйте антивирусы
Регулярно обновляйте операционную систему и браузер, а также включайте автоматические обновления в приложениях. Надёжное антивирусное ПО поможет обнаружить фишинговые ссылки, скрытые скрипты и потенциальные угрозы, связанные с ИИ.
Используйте многоуровневую защиту — комбинацию антивируса, брандмауэров и фильтров электронной почты. Это создаст многоступенчатый барьер для злоумышленников.
Следите за новостями и будьте в курсе обновлений
Производители платформ, такие как OpenAI, Google и Microsoft, постоянно выпускают исправления для устранения новых уязвимостей. Включайте автоматические обновления и следите за новостями о безопасности, чтобы оставаться на шаг впереди злоумышленников.
В конечном итоге, ограничение доступа к личной информации и осторожность при работе с электронными письмами — лучший способ защитить себя в быстроразвивающемся мире ИИ и киберугроз.
Дарья Тимошенко
Автор. Технологический обозреватель. Пишет о цифровых трендах, инновациях и гаджетах. Разбирает сложное просто, следит за будущим уже сегодня. Все посты