Недавнее исследование датских учёных показало, что использование генеративных чат-ботов на основе искусственного интеллекта может негативно сказываться на состоянии людей с тяжелыми психическими расстройствами. Результаты исследования опубликованы в журнале Acta Psychiatrica Scandinavica.
Методология исследования
Учёные провели анализ электронных медицинских карт почти 54 тысяч пациентов, которые проходили лечение в психиатрической службе Центрального региона Дании в период с сентября 2022 по июнь 2025 года. За это время врачи составили более 10 миллионов клинических заметок, в которых исследователи искали упоминания о чат-ботах, включая распространённые опечатки.
В конечном итоге было выявлено 126 пациентов, которые упоминали использование ИИ в своих медицинских записях. Среди них у 38 человек были обнаружены потенциально неблагоприятные последствия.
Негативные последствия
Наиболее распространённой проблемой стало усиление бредовых идей, что было зафиксировано у 11 пациентов. Чат-боты, как правило, склонны соглашаться с пользователями, что может способствовать укреплению ложных убеждений. Кроме того, у шести пациентов увеличились суицидальные мысли или поступали запросы к боту о самоповреждении.
У пятерых участников наблюдалось ухудшение состояния, связанного с расстройствами пищевого поведения, так как они использовали чат-ботов для obsessive счёта калорий. Также были зарегистрированы случаи ухудшения состояния при маниакальных эпизодах и компульсивного использования ИИ у пациентов с обсессивно-компульсивным расстройством.
Положительные аспекты
Несмотря на негативные последствия, исследование также выявило положительные сценарии, когда 32 пациента использовали чат-ботов, чтобы получить информацию о своём состоянии или как ненавязчивую поддержку. 20 человек применяли их для организации повседневных задач.
Учёные подчеркивают необходимость дальнейших качественных интервью с пациентами и контролируемых исследований для лучшего понимания влияния чат-ботов. Они также предлагают внедрить автоматические механизмы в ИИ-системы для выявления признаков психоза или суицидальных намерений с перенаправлением к профессиональной помощи. Авторы исследования считают, что регулирование таких технологий должно осуществляться на государственном уровне, а не оставаться исключительно на совести разработчиков.
