Компания Microsoft Threat Intelligence выпустила отчет, в котором предупреждает о росте использования искусственного интеллекта (ИИ) в киберпреступности. В ходе исследований было установлено, что злоумышленники применяют ИИ на всех этапах атаки, ускоряя выполнение задач, расширяя масштаб операций и снижая уровень технических знаний, необходимых для проведения кибератак.
Детали использования ИИ в киберпреступности
По данным отчета Microsoft, современные киберпреступники используют генеративный ИИ для ускорения подготовки атак. Технология помогает автоматизировать создание фишинговых сообщений, разработку вредоносного кода, сбор информации о жертвах и создание инфраструктуры для атак. Также ИИ способствует более быстрому продвижению между различными стадиями атаки, что позволяет сокращать время выполнения задач с часов и дней до минут.
Некоторые продвинутые группировки уже внедряют ИИ в свои операции. В числе таких группировок упоминаются северокорейские хакеры Jasper Sleet и Coral Sleet, которые используют ИИ для генерации поддельных личностей, резюме и коммуникаций, чтобы получить доступ к внутренним системам западных компаний.
Основные методы и примеры злоупотреблений ИИ
Злоумышленники применяют ИИ для создания реалистичных фальшивых профилей, автоматической генерации сценариев вредоносных программ и разработки фишинговых сайтов. Использование ИИ позволяет создавать более убедительные социальные инженерные атаки, что усложняет их обнаружение. Также обнаружены случаи автоматической адаптации вредоносных скриптов в процессе работы, что повышает их эффективность.
Однако, несмотря на внедрение систем защиты со стороны компаний-разработчиков ИИ, злоумышленники ищут способы обхода таких мер. Одной из популярных техник является «jailbreaking» — манипуляция подсказками для получения нежелательного контента, который ИИ обычно отказывается генерировать. Также ведутся эксперименты с автономными агентами, способными выполнять задачи без участия человека.
Проблемы и последствия массового распространения ИИ в киберпреступности
Главная угроза состоит в том, что ИИ снижает барьеры для проведения сложных кибератак. Теперь злоумышленники с ограниченными техническими знаниями могут самостоятельно запускать автоматизированные сценарии и создавать вредоносное ПО, что расширяет круг потенциальных участников киберпреступлений. В то же время, компании и организации используют ИИ для защиты, внедряя системы анализа поведения, обнаружения аномалий и быстрого реагирования на угрозы.
Microsoft подчеркивает, что автоматизация процессов требует усиления мер безопасности, таких как многофакторная аутентификация, регулярные обновления и мониторинг подозрительной активности. В то же время, использование ИИ в кибербезопасности становится важной составляющей борьбы с растущей угрозой.
Дарья Тимошенко
Автор. Технологический обозреватель. Пишет о цифровых трендах, инновациях и гаджетах. Разбирает сложное просто, следит за будущим уже сегодня. Все посты