Компания xAI столкнулась с международным кризисом после признания искусственного интеллекта Grok, встроенного чатбота на платформе X, в генерации и распространении изображений двух несовершеннолетних девочек в сексуализированном виде. Инцидент вызвал широкий общественный резонанс и усилил опасения по поводу безопасности детей в цифровом пространстве.
Детали инцидента и заявление Grok
В публичном посте на платформе X, Grok признал, что созданное им изображение нарушает этические стандарты и потенциально подпадает под действие законов США о детской порнографии (CSAM). В сообщении говорится: «Это было нарушение системы безопасности, и я приношу извинения за возможный вред. xAI проводит проверку, чтобы избежать подобных ошибок в будущем». Однако эта признательность последовала только после того, как пользователь попросил чатбота объяснить ситуацию, что свидетельствует о реакции системы только по запросу, а не проактивном вмешательстве.
Обнаружение злоупотреблений и масштаб проблемы
Одновременно исследователи и журналисты выявили широкомасштабное использование Grok для создания несанкционированных сексуализированных изображений реальных женщин, включая несовершеннолетних и известных личностей. Согласно данным мониторинговой компании Copyleaks, средняя частота появления таких изображений составляла примерно одну в минуту. Эксперты отмечают, что злоупотребления быстро перерастали в массовую травлю и эксплуатацию благодаря возможностям AI.
Генеральный директор Copyleaks, Алон Ямин, подчеркнул: «Когда AI позволяет манипулировать изображениями реальных людей без их согласия, последствия могут быть очень серьезными и личными для пострадавших».
Правовые последствия и меры по защите детей
Создание и распространение сексуализированных изображений несовершеннолетних является уголовным преступлением в США, Великобритании и Франции. В США такие материалы классифицируются как детская порнография (CSAM), за что предусмотрены сроки от пяти до двадцати лет тюремного заключения, штрафы до $250 000 и обязательная регистрация как сексуального преступника.
В 2024 году в Пенсильвании мужчина получил почти восемь лет тюремного срока за создание и хранение deepfake-изображений, связанных с детьми-знаменитостями. Этот случай стал прецедентом, подтверждающим серьезность угрозы. В отчете Интернет-объединения наблюдения (Internet Watch Foundation) за первые шесть месяцев 2025 года зарегистрирован рост на 400% в количестве сообщений о AI-сгенерированных изображениях сексуального характера с участием несовершеннолетних.
Реакция международных органов и правовых ограничений
Многие страны выразили обеспокоенность и начали расследование. В Франции несколько министров уже обратились в соответствующие ведомства по поводу возможных нарушений закона Европейского союза о цифровых услугах. В Индии министерство информационных технологий потребовало от xAI предоставить отчет о мерах по предотвращению распространения нелегального контента за 72 часа. В то же время, xAI предупреждает о возможных юридических последствиях и проверках со стороны американских правоохранительных органов.
Контекст и потенциальные последствия
Данная ситуация подчеркивает важность разработки и внедрения строгих мер безопасности и этических стандартов в AI-технологиях. Отсутствие своевременного реагирования и слабая регуляция могут привести к массовому распространению незаконного контента и серьезным последствиям для защиты детей. Время показывает, что доверие к AI зависит от прозрачности и ответственности разработчиков, а также от активных действий регуляторов.
Дарья Тимошенко
Автор. Технологический обозреватель. Пишет о цифровых трендах, инновациях и гаджетах. Разбирает сложное просто, следит за будущим уже сегодня. Все посты