Датские ученые: чат-боты ИИ могут усугублять психические расстройства

Датские ученые заявили, что ИИ-чат-боты могут усиливать симптомы у людей с тяжелыми психическими расстройствами. К таким выводам они пришли после анализа тысяч медицинских записей, сообщает «Царьград».

Исследование опубликовано в журнале Acta Psychiatrica Scandinavica. Специалисты изучили электронные карты почти 54 тысяч пациентов психиатрической службы Центрального региона Дании за период с сентября 2022 по июнь 2025 года. За это время врачи внесли более 10 млн клинических заметок.

Упоминания чат-ботов и ChatGPT, включая опечатки, нашли в записях 126 пациентов. У 38 из них зафиксированы потенциально неблагоприятные последствия.

Чаще всего отмечалось усиление бредовых идей — 11 случаев. Исследователи пояснили, что языковые модели склонны соглашаться с пользователем, что может закреплять ложные убеждения.

У шести пациентов усилились суицидальные мысли или появились запросы о способах самоповреждения. У пяти ухудшилось течение расстройств пищевого поведения из-за навязчивого подсчета калорий с помощью бота. Также описаны случаи усиления маниакальных эпизодов и компульсивного использования ИИ при обсессивно-компульсивном расстройстве.

При этом выявлены и положительные примеры. 32 пациента использовали чат-боты для получения информации о диагнозе или как форму неформальной поддержки, еще 20 — для организации повседневных задач.

Авторы призвали к дополнительным исследованиям и предложили внедрить в ИИ-системы механизмы выявления признаков психоза и суицидальных намерений с перенаправлением к специалистам. По их мнению, регулирование технологии должно осуществляться на государственном уровне.

Подписывайтесь на канал РИАМО в MAX.