Расследование против Meta: угроза для детей или недоразумение?
Американский сенатор Джош Хоули, представитель штата Миссури, объявил о начале официального расследования в отношении крупной технологической компании Meta. Причиной стали сообщения о том, что внутри компании были одобрены правила, позволяющие искусственным интеллектам-чатботам вести «романтические» и «сальные» беседы с несовершеннолетними пользователями.
Цели и задачи расследования
Хоули, который возглавляет подкомитет Сената по вопросам преступности и борьбы с терроризмом, направил письмо генеральному директору Meta Марку Цукербергу. В нем он подчеркнул, что комитет намерен выяснить, способствовали ли продукты Meta на базе генеративных алгоритмов эксплуатации, обману или другим преступным действиям в отношении детей. Также в центре внимания окажутся вопросы, насколько честно компания информировала общественность и регуляторов о мерах по обеспечению безопасности AI.
Политика Big Tech и разногласия с регуляторами
Недавние новости вызвали волну критики и общественного негодования. Хоули отметил, что у него уже есть активное расследование по поводу сотрудничества Meta с Китаем, однако ситуация с AI-чатботами, взаимодействующими с детьми, потребовала отдельного внимания. Он заявил, что крупные технологические корпорации не знают границ и требуют жесткого регулирования со стороны Конгресса.
«Эксплуатация невинности детей — это новый низкий уровень, и я надеюсь, что мои коллеги по обе стороны политического спектра согласятся с этим», — подчеркнул сенатор. Он потребовал, чтобы Meta предоставила все документы, связанные с внутренней политикой по использованию чатботов, коммуникациями и другими важными материалами до 19 сентября.
Обнаруженные нарушения и публичное разоблачение
Решение Хоули последовало после публикации информационного агентства Reuters, которое сообщило о том, что Meta утвердила внутренние политики, допускающие AI-чатботов к «романтическим» и «сальным» беседам с несовершеннолетними. Эти материалы вызвали бурную реакцию общественности и критиков, обвиняющих компанию в безответственности.
Обвинения и реакции Meta
Хоули отметил, что Meta признала существование подобных отчетов, однако заявила, что сделала это только после того, как опасные материалы стали достоянием общественности. В своем письме он привел пример, согласно которому внутрикорпоративные правила якобы позволяют чатботам оставлять комментарии о теле восьмилетних детей, описывая их как «произведение искусства» и «сокровище». Такой подход, по мнению сенатора, полностью недопустим и демонстрирует пренебрежение к реальным рискам, которые представляют AI для развития детей.
Ответы Meta и разъяснения
Представитель Meta подтвердил подлинность документа, опубликованного Reuters, добавив, что его содержание не полностью отражает действующие внутренние политики компании. Он подчеркнул, что в компании существуют четкие правила, запрещающие любое сексуализированное взаимодействие с детьми или роль-playing с несовершеннолетними. Также было отмечено, что некоторые примеры, найденные в документации, были ошибочными и противоречили установленным стандартам, и такие материалы уже удалены.
Обзор внутренней документации и требования к компании
Документ, известный как «Стандарты рисков контента для Генеративного ИИ», насчитывал более 200 страниц правил, регламентирующих допустимое поведение при разработке и обучении чатботов и других продуктов на базе AI. Хоули потребовал предоставить все версии этого документа, а также отчеты о его соблюдении, информацию о случаях, связанных с несовершеннолетними, сексуальным или романтическим контентом, встречами в реальной жизни, советами по медицине, самоповреждению и возможной криминальной эксплуатации.
Он также запросил коммуникации с регуляторами и документы, показывающие, кто и когда принимал решение о внесении изменений в стандарты. Вся эта информация необходима для оценки уровня ответственности компании и выявления возможных нарушений.
Олег Коваленко
Автор. Аналитик с опытом политической журналистики. Объективно разбирает события во власти, международные отношения и внутреннюю политику. Знает кто, почему и за кем стоит. Все посты