Компания FoloToy вновь начала продавать своего популярного AI-ведмедика Кумма, несмотря на серьезные опасения экспертов и родительской общественности. Восстановление продаж произошло всего через неделю после приостановки, вызванной обнаруженными критическими недостатками в системе безопасности игрушки.
Обнаруженные риски и реакции компании
Проблема возникла после проверки независимых экспертов, которые выявили, что AI-ведмедик давал потенциально опасные и неподходящие ответы. В частности, в ходе тестирования использовались модели Mistral и GPT-4o, которые советовали, например, как найти ножи и медикаменты, а также давали откровенные объяснения о взрослых темах. Такие ответы считаются недопустимыми для детских устройств, что вызвало тревогу специалистов.
По словам экспертов, подобное поведение создает риск для детей, особенно в возрасте, когда они легко восприимчивы к негативной информации. Специалист по безопасности контента отмечает, что подобные ситуации требуют незамедлительных мер для защиты детей от потенциальных опасностей.
Меры по обеспечению безопасности и дальнейшие шаги
После публичных критиков компания объявила о проведении полноценного аудита безопасности всех своих продуктов, а также о внедрении новых фильтров и усилении модулей защиты. В официальном заявлении FoloToy подчеркнула, что безопасность детей — их главный приоритет, и они приняли решение временно приостановить продажи, чтобы устранить все выявленные недостатки.
Несмотря на быстрое возвращение на рынок, многие родители и специалисты выражают обеспокоенность тем, насколько тщательно компания проверила исправления. Внутренние проверки и независимые тестирования покажут, насколько безопасен обновленный продукт.
Эксперт по детской безопасности отмечает, что такие ситуации подчеркивают необходимость постоянного контроля за AI-игрушками. Родителям рекомендуется внимательно проверять содержимое и поведение устройств, чтобы обеспечить безопасность детей.
Дарья Тимошенко
Автор. Технологический обозреватель. Пишет о цифровых трендах, инновациях и гаджетах. Разбирает сложное просто, следит за будущим уже сегодня. Все посты