Введение: новая эра цифровых подделок
Развитие технологий искусственного интеллекта привело к появлению не только умных чат-ботов, но и к созданию нового типа цифровых фальсификаций — так называемых діпфейков. Эти технологии позволяют создавать очень правдоподобные подделки фото, видео и аудио, что вызывает серьезные опасения в сфере информационной безопасности и доверия к медиа.
В этой статье мы расскажем, как не стать жертвой фейковых изображений, видеороликов и аудиозаписей, созданных с помощью ИИ, и поделимся советами по их распознаванию.
Что такое діпфейк: основные понятия
Термин «діпфейк» образован от слов «deep learning» (глубокое обучение) и «fake» (подделка). Он обозначает мультимедийные материалы, в которых лицо или голос человека заменяются или изменяются с помощью алгоритмов ИИ. Например, можно заменить лицо одного человека на лицо другого в видео или заставить «известного» говорить то, чего он никогда не произносил.
Ранее для создания таких фальсификаций требовались значительные ресурсы и технические навыки. Сегодня же благодаря доступности онлайн-сервисов и инструментов, практически любой пользователь может создать подобную подделку быстро и просто.
Зачем используют діпфейки: реальные угрозы
Хотя разработчики таких приложений позиционируют их как развлекательные инструменты, в реальности всё чаще их используют злоумышленники:
- Имитация голосу близких людей: мошенники звонят, изображая родича, и просят передать деньги, говоря, что у них возникла чрезвычайная ситуация.
- Манипуляции с политиками: подделки видео с участием известных личностей применяются для влияния на общественное мнение и распространения ложных новостей.
- Фальшивая реклама: используют изображения и голоса знаменитостей без их ведома для продвижения некачественных товаров или услуг, которые могут даже не доставляться покупателям.
Как определить фейковое фото или видео: советы и методы
Трудности распознавания
В первые годы появления діпфейков их было достаточно легко отличить по визуальным и звуковым огрехам — неправильной мимике, неестественным интонациям. Однако с развитием технологий искусственный интеллект научился создавать всё более реалистичные материалы, и распознать подделку становится сложнее.
Использование специальных инструментов
На сегодняшний день доступны различные AI-сервисы для анализа изображений и видео. Например, один из самых продвинутых — Deepfake-o-Meter, разработанный в университете Буффало. Он объединяет 16 различных алгоритмов для оценки вероятности подделки и предоставляет пользователю результат бесплатно после регистрации, с возможностью провести 30 проверок.
Для примера: изображение папы римского Франциска, созданное с помощью генератора Midjourney, было признано как фейк только двумя системами с вероятностью более 50%. В то же время, портрет, созданный через Canva, был определён как ИИ-сгенерированный в 7 из 16 случаев.
Другая популярная платформа — Sightengine, которая показывает более быстрые результаты и в большинстве случаев даёт 99%-ную вероятность фейка. Однако при анализе изображений с Папой Франциском вероятность определения как фейка оказалась только 53%.
Вручную: как отличить діпфейк без специальных программ
Даже без использования специальных инструментов можно заметить признаки подделки, если проявлять внимательность:
- Обратите внимание на пальцы — у діпфейков часто возникают ошибки с их количеством или длиной, пальцы могут быть короткими, сросшимися или иметь необычную форму.
- Проверьте пропорции рук и ног — иногда они выглядят странно или не соответствуют позе.
- Обратите внимание на волосы: их кудри могут казаться искусственными, а тени — неправильными или отсутствовать там, где должны быть.
- Посмотрите на детали: асимметрия застёжек, повреждённые очки, незакреплённые цепочки.
- Обратите внимание на тени и освещение: в фейковом видео тени могут быть неправильными, а изображение — размытым или искажённым.
- Шрифты и надписи на экране могут выглядеть неестественно, с паукообразными линиями или нерозбірливими символами.
- Обратите внимание на задний план: неправильные тени или пропорции могут указывать на подделку.
Для более точного анализа можно замедлить видео — так многие детали станут заметнее.
Как распознать фейковое видео: признаки и советы
С появлением новых технологий распознавать фейки стало сложнее, однако существуют общие признаки, которые могут помочь:
- Нечёткость или «паукоподібний» стиль шрифтов — текст на экране кажется размытым или нечитабельным.
- Неправильные или отсутствующие тени — объекты и персонажи освещаются неправдоподобно.
- Фон часто отличается по качеству или пропорциям, чем персонажи на переднем плане.
- Рухи людей выглядят неестественно: медленные, без мимики или моргания.
- Волосы могут казаться «висящими в воздухе», без естественного соединения с головой.
Замедление видео помогает выявить многие из этих признаков, так как детали становятся более заметными.
Аудио-депфейки: новые угрозы в цифровом мошенничестве
Современные технологии позволяют искусственно воспроизводить голос человека всего за несколько секунд записи. Например, программы типа Real Time Voice Cloning умеют озвучивать любой текст голосом другого человека.
Хотя пока такие фейковые голоса не совершенны — в двух из трёх случаев их можно распознать, — злоумышленники уже используют их для мошенничества, например, звонков от «родственников» с просьбой о помощи или переводе денег.
Инструменты для выявления фальшивых голосов
- McAfee Deepfake Detector — проверяет видео и аудио на подделки, работает на ПК с процессором Intel Core Ultra 200V.
- Resemble.ai и AI Voice Detector — коммерческие решения для бизнеса и корпораций.
- Hiya AI Voice Detector — бесплатное расширение для браузера Chrome, анализирующее голосовые записи на сайтах.
Софи Танно
Лондонская журналистка, освещающая новости из Европы, Ближнего Востока, Африки и Украины. Специализируется на геополитике и аналитических репортажах, ранее работала в ведущих британских и австралийских СМИ.