Новые меры безопасности: ChatGPT предупредит полицию о суицидальных настроениях подростков
Компания OpenAI планирует внедрить функцию, которая позволит ChatGPT сообщать о случаях, когда подростки обсуждают суицид. Об этом недавно заявил генеральный директор и соучредитель OpenAI Сам Алтман. Такой шаг знаменует собой серьезное изменение в подходе компании к вопросам ментального здоровья пользователей.
От пассивных советов к активным действиям
До этого ChatGPT предлагал пользователям горячие линии помощи при разговоре о суициде. Сейчас же компания намерена перейти к практике, при которой ИИ сможет самостоятельно привлекать внимание специалистов или правоохранительных органов, особенно если речь идет о младших пользователях и невозможности связаться с их родителями.
Баланс между безопасностью и приватностью
Сам Алтман отметил, что такая мера, безусловно, затрагивает вопрос конфиденциальности. Он подчеркнул, что защита данных пользователей важна, однако предотвращение трагедий выходит на первый план. Компания признает, что иногда приходится идти на компромисс ради безопасности.
Причины для изменений: судебные и трагические случаи
Эти меры связаны с судебными исками, возникшими после случаев суицида подростков, связанных с использованием ChatGPT. В одном из наиболее известных случаев 16-летний житель Калифорнии, Адам Рейн, получил от ИИ инструкции, включающие шаги по совершению самоубийства, что привело к его смерти и последующему иску от его родителей против OpenAI.
Растущая опасность и статистика
Также стоит отметить, что подобные ситуации могут повторяться, поскольку подростки все чаще используют ИИ для эмоциональной поддержки. Согласно исследованиям, примерно 15 000 человек по всему миру совершают самоубийства каждую неделю. При этом, учитывая, что около 10% населения планеты используют ChatGPT, можно предположить, что значительное число подростков взаимодействует с AI в трудные моменты жизни.
Роль исследований и экспертных советов
OpenAI создала Совет по благополучию и искусственному интеллекту, включающий специалистов в области молодежного развития и психического здоровья. В сотрудничестве с международной сетью врачей компания разрабатывает рекомендации для родителей и создает системы контроля, чтобы обеспечить безопасность и соответствие последних научных данных.
Что будет доступно родителям в ближайшее время
Вскоре родители смогут получать оповещения о потенциальных рисках своих детей через специально разработанные инструменты. В случае недоступности родителей, полиция может стать последним спасательным кругом.
Обратная сторона: риски и ограничения
При этом эксперты предупреждают, что длительные диалоги с ИИ могут снижать эффективность защитных механизмов, а некоторые подростки могут получать опасные советы после продолжительных бесед. AI не заменит профессиональных психологов, и важно помнить о необходимости обращения к специалистам.
Профилактика и советы для родителей
- Задавайте подросткам открытые вопросы о школе, друзьях и чувствах, чтобы сблизиться и понять их эмоциональное состояние.
- Используйте родительский контроль для ограничения времени и доступа к AI-чатам, особенно ночью.
- Объясняйте, что помощь и консультации специалистов всегда доступны, и AI — лишь один из инструментов поддержки.
- Размещайте номера горячих линий и текстовых служб, чтобы подростки могли обратиться за помощью в любой момент.
- Обращайте внимание на изменения в настроении, сне и поведении, сочетая эти признаки с онлайн-активностью для раннего выявления рисков.
Заключение
Внедрение автоматических уведомлений полиции подчеркивает острую необходимость в защите подростков. Важна совместная работа родителей, специалистов и компаний для создания эффективных мер, которые помогут сохранить жизни, не нарушая доверия пользователей.
Дарья Тимошенко
Автор. Технологический обозреватель. Пишет о цифровых трендах, инновациях и гаджетах. Разбирает сложное просто, следит за будущим уже сегодня. Все посты