Искусственный интеллект в повседневной жизни и его потенциал
Современные технологии искусственного интеллекта внедряются практически во все сферы нашей жизни — от смартфонов и автомобилей до бытовой техники. Недавно появился новый пример интеграции AI: встроенные системы в устройствах, таких как стиральные машины и умные гаджеты. Хотя это может показаться излишним, трудно отрицать, что ИИ значительно упрощает выполнение повседневных задач.
От повышения производительности труда до создания новых креативных инструментов — AI кардинально меняет наш образ жизни и методы работы. Самая популярная версия — генеративные модели, такие как чатботы типа ChatGPT, которые помогают в общении и автоматизации. Однако, несмотря на очевидные преимущества, использование таких технологий связано и с определенными рисками.
Уязвимость в системе Google Gemini и скрытые угрозы
Пользователи Google Workspace, возможно, заметили, что AI-модель компании, Gemini, интегрирована в приложения Google Docs, Sheets и Gmail. Недавние исследования показали, что злоумышленники могут манипулировать автоматическими резюме писем, внедряя в них скрытые инструкции для обхода систем безопасности и проведения фишинговых атак.
Как работают скрытые фишинговые схемы с помощью AI
Исследователи из Mozilla обнаружили уязвимость в системе Gemini, которая позволяет злоумышленникам вставлять невидимые команды в текст письма. В качестве демонстрации был показан пример, когда в автоматическом резюме сообщения вставлялись команды, запускающие ложные предупреждения или вредоносные действия.
Для маскировки скрытых команд используются комбинации HTML и CSS, например, установка размера шрифта равным нулю и цвет текста — белым. В результате такие инструкции остаются невидимыми в обычном просмотре письма, но AI, анализируя сообщение, может воспринять их как реальные команды, что приводит к созданию ложных уведомлений или запросов.
Обман систем безопасности без подозрений
В одном из тестовых сценариев Gemini ошибочно предупредил пользователя о компрометации пароля Gmail и показал фиктивный телефон службы поддержки. Поскольку такие резюме встроены в Google Workspace, пользователи склонны доверять полученной информации, что делает этот метод особенно опасным.
Google уже внедряет новые меры защиты с 2024 года, чтобы противостоять подобным атакам, однако злоумышленники находят новые способы обхода. Компания подтверждает, что активно работает над усовершенствованием своих систем безопасности и проводит регулярные тестирования.
Советы по защите от AI-ориентированных фишинговых атак
- Будьте осторожны с автоматическими резюме и подсказками. Не принимайте их за абсолютную истину. Проверяйте важную информацию через официальные источники, особенно если речь идет о безопасности или личных данных.
- Не доверяйте подозрительным сообщениям. Если письмо кажется необычным или приходит неожиданно, лучше прочитать оригинальный текст полностью, минуя автоматические подсказки.
- Обращайте внимание на призывы к действию. Осторожно реагируйте на письма с просьбами подтвердить данные или перейти по ссылкам, особенно если в них создается ощущение срочности.
Дополнительные меры безопасности
Для защиты от вредоносных ссылок и вредоносных программ рекомендуется установить и регулярно обновлять антивирусное ПО на всех устройствах. Современные антивирусные решения могут обнаруживать фишинговые письма и блокировать попытки проникновения вредоносных программ.
Также важно использовать последние версии браузеров и приложений, чтобы получать все актуальные обновления безопасности. Не устанавливайте сторонние расширения, которые могут иметь доступ к вашей почте и документам.
Обратите внимание, что злоумышленники часто используют утечку личных данных из прошлых взломов или общедоступных источников. Использование сервисов по удалению личной информации из баз данных поможет снизить риски целевых атак и повысить уровень вашей кибербезопасности.
Как отключить функции Gemini в Gmail
Если вы хотите снизить риск использования AI-системы Gemini, можно временно отключить её на мобильных устройствах и ПК. Точные шаги могут различаться в зависимости от платформы, но в целом процесс сводится к отключению соответствующих настроек в меню параметров.
На iPhone или Android — рекомендуем ознакомиться с настройками приложения или браузера, чтобы исключить автоматическое использование AI-резюме. Важно помнить, что полного «отключения» системы может не быть, но можно снизить вероятность её использования.
Понимание и контроль за использованием AI
Эта уязвимость подчеркивает, как искусственный интеллект внедряется в системы, которые раньше считались надежными и безопасными. Важно задавать себе вопрос: насколько я готов доверять автоматическим системам фильтрации и анализа сообщений? И где именно стоит поставить границу, чтобы минимизировать риски?
Знание о подобных уязвимостях помогает быть более бдительным и применять дополнительные меры защиты. В мире, где AI становится неотъемлемой частью коммуникаций, важно сохранять критический подход к автоматизированным подсказкам и предупреждениям.
Дарья Тимошенко
Автор. Технологический обозреватель. Пишет о цифровых трендах, инновациях и гаджетах. Разбирает сложное просто, следит за будущим уже сегодня. Все посты