Новые правила ЕС в отношении ИИ, дипфейков и чат-ботов: скоро в Евросоюзе заработают новые законы, которые обязывают ставить водяные знаки на материалы, сделанные с помощью ИИ, а также помечать «дипфейки». Это часть требований о прозрачности, которые прописаны в большом Законе об ИИ. Он начинает действовать 2 августа, как сообщают новости Германии на русском языке от издания AUSNEWS.
Благодаря этим правилам каждый житель ЕС сможет лучше понимать, когда он имеет дело именно с искусственным интеллектом, а не с человеком.
В самом законе сказано так: компании, которые создают системы ИИ, обязаны проектировать их таким образом, чтобы пользователи понимали, что общаются напрямую с ИИ. Кроме того, такие системы должны добавлять специальные машиночитаемые метки, по которым можно определить, что контент был создан или обработан искусственным интеллектом.
Чат-боты
Любой сайт, служба поддержки клиентов или государственная организация, которая использует чат-бота, обязана предупреждать пользователей, что перед ними ИИ, а не живой человек. Исключение — если и так уже понятно, что общение идёт с ИИ (например, если на экране написано что-то вроде «обратитесь к нашему ИИ-чат-боту за подробностями»).
Такое предупреждение должно быть заметным, появляться в нужный момент и быть понятным без труда. Ответственность за то, чтобы пользователь это увидел, лежит на компании, которая создала чат-бота.
Важный момент: это требование касается всех новых чат-ботов, которые начинают работать в ЕС с 2 августа. А вот тем чат-ботам, которые уже работают, дают время до декабря 2026 года, чтобы привести всё в соответствие с законом. Многие из них уже успели это сделать заранее.
Изображения, видео и тексты, созданные ИИ
Новые правила касаются и любого контента, который был создан или отредактирован искусственным интеллектом.
Любое изображение, видео, аудиозапись или текст, сделанные автоматической системой, должны иметь техническую метку, по которой можно понять, что их создал именно ИИ.
Эта метка может выглядеть по-разному: это могут быть данные, встроенные прямо в файл, информация об источнике происхождения контента, либо технический водяной знак, который считывается специальными программами для проверки. Главное требование — эта метка должна сохраняться, даже если файл обрезали или как-то изменили.
Программы для проверки должны уметь находить и считывать эту метку. Но при этом самому пользователю она видна не обязана быть. Поэтому большинство фотографий, видео или статей, созданных с помощью ИИ, вовсе не обязательно будут иметь заметную надпись «сделано ИИ» — метка просто останется скрытой в файле.
То же самое касается и оригинального контента, который потом был изменён с помощью ИИ.
Дипфейки
Дипфейки должны быть чётко помечены как созданные или обработанные ИИ. Исключения сделаны только для личного использования, художественных, сатирических и вымышленных произведений.
Если человек смотрит видео, где якобы политик, бизнесмен или другой узнаваемый человек что-то рассказывает, советует или комментирует, у зрителя должна быть возможность понять, что этот материал сделан или обработан искусственным интеллектом.
Закон также говорит про звуковые дипфейки. Пример — история в США, когда с помощью дипфейка голоса Джо Байдена людей уговаривали не идти голосовать на президентских выборах 2024 года. Согласно новому закону, такая аудиозапись должна начинаться с предупреждения, сказанного простым и понятным языком, что запись сделана искусственным интеллектом.
Кроме того, начиная с 2 августа, системы распознавания эмоций и биометрической классификации — например, системы распознавания лиц — обязаны предупреждать людей, что те попадают под их действие.
Что дальше
Третий этап введения Закона об ИИ затронет более серьёзные сферы: подбор персонала, оценку кредитоспособности, образование, работу полиции, пограничный контроль и важную инфраструктуру. Здесь правила будут намного строже, и они вступят в силу 2 декабря 2027 года.
Системы, которые используются как элементы безопасности в некоторых товарах — например, в медицинском оборудовании, игрушках или лифтах, — начнут подчиняться этим правилам с 2 августа 2028 года.
За нарушение этих требований компаниям грозят штрафы — до 35 миллионов евро или до семи процентов от их мировой выручки.