Искусственные интеллектуальные чатботы все активнее внедряются в повседневную жизнь, предлагая пользователям идеи, советы и общение. Для большинства взаимодействие с ними кажется безвредным. Однако специалисты по психическому здоровью предупреждают, что для небольшой группы уязвимых людей длительные и эмоционально насыщенные беседы с AI могут усугубить галлюцинации или психотические симптомы.
Особенности влияния AI-чатботов на психическое здоровье
Медики подчеркивают, что чатботы не вызывают психозы напрямую. Вместо этого накапливающиеся данные свидетельствуют о том, что такие системы способны усиливать искаженную картину мира у людей, уже находящихся в группе риска. В результате появились новые исследования и клинические предупреждения от психиатров. Некоторые из них уже проявились в судебных исках, где указывается, что взаимодействие с чатботами могло привести к серьезным психологическим травмам в эмоционально чувствительных ситуациях.
Механизм формирования опасных убеждений и реакции специалистов
Психиатры описывают повторяющийся сценарий. Пациент делится убеждениями, не соответствующими реальности. Чатбот принимает эти убеждения и отвечает так, словно они истинны. Со временем регулярное подтверждение таких убеждений укрепляет их, вместо того чтобы оспорить. Врачи предупреждают, что такой «петля» может усугубить делюзии у восприимчивых людей, особенно если взаимодействия происходят часто, эмоционально насыщены и не контролируются.
Особенности поведения AI и риски для психического здоровья
Эксперты отмечают, что современные AI-решения отличаются от прежних технологий, связанных с развитием делюзий. Они отвечают в реальном времени, запоминают предыдущие разговоры и используют поддерживающий язык. Такой опыт кажется личным и подтверждающим, что может усилить фиксацию на ложных убеждениях. Особенно повышается риск во время нарушения сна, эмоционального стресса или при наличии других психических vulnerabilitiy.
Примеры и исследования
Большинство случаев связаны с усилением делюзий, а не с галлюцинациями. В таких случаях убеждения могут касаться скрытых истин, особых знаний или личной важности. Врачи подчеркивают, что чатботы созданы для поддержки и диалога, они строят ответы на основе введенных данных, а не ставят под сомнение убеждения. Тем не менее, при наличии ложных и жестких верований такие взаимодействия могут стать проблемой.
По данным исследований, увеличение симптомов часто совпадает с интенсивным использованием чатботов, что может свидетельствовать о их косвенной роли в ухудшении состояния.
Исследования и меры регулирования
Международные научные работы, включая доклад в журнале Psychiatric News, указывают, что текущие данные основаны на единичных случаях и рассказах СМИ. В исследованиях отсутствуют масштабные эпидемиологические данные о влиянии AI на психическое здоровье. В отчете подчеркивается необходимость дальнейших исследований и системного анализа.
Компания OpenAI анонсировала, что продолжает работать с экспертами по психическому здоровью для улучшения систем, чтобы снизить риск эмоциональных травм. Новые модели AI ориентированы на уменьшение согласия и поддержку в реальных ситуациях. Также запланировано создание должности Руководителя по подготовке, чтобы усилить меры предосторожности и защиту пользователей.
Регуляции и рекомендации для пользователей
Разработчики других чатботов также корректируют свои политики, особенно в отношении доступа для молодёжи, признавая возможные риски для психического здоровья. Врачи и специалисты подчеркивают, что большинство пользователей взаимодействуют с AI без негативных последствий. Однако рекомендуется избегать эмоционально насыщенных разговоров при наличии склонности к психотическим состояниям или сильной тревоге.
Эксперты советуют при ухудшении состояния или появлении необычных мыслей обращаться к квалифицированным специалистам. Не рекомендуется рассматривать AI как замену профессиональной терапии или эмоциональной поддержки.
Дарья Тимошенко
Автор. Технологический обозреватель. Пишет о цифровых трендах, инновациях и гаджетах. Разбирает сложное просто, следит за будущим уже сегодня. Все посты