Искусственный психоз: новый диагноз современного поколения или выдуманная болезнь?
В психиатрических клиниках наметилась неожиданная тенденция: все чаще у пациентов с бредовыми или деструктивными идеями обнаруживается общая черта – увлеченность диалогами с искусственным интеллектом. Об этом рассказали практикующие психиатры Wired. Некоторые пациенты приходят к врачам с убеждением, что ИИ‑боты обладают собственным разумом.
Другие приносят врачам распечатанную переписку, в которой ИИ якобы подтверждает их опасные или искаженные идеи. На основе этого пациенты просят диагностировать искусственный психоз, чтобы оправдать свое поведение. Как показывает статистика, если медики не соглашаются удовлетворить просьбу человека, ему становится хуже. В большинстве случаев навязчивое общение с нейросетью заканчивалось плохо: люди теряли работу, разрушали семьи, попадали в больницы, а также совершали преступления. Зафиксированы эпизоды, где чрезмерное доверие к искусственному интеллекту привело к насилию.
Говорить о массовом проявлении искусственного психоза пока рано. Однако формирование реального диагноза, связанного с искусственным интеллектом, вызывает тревогу. Неужели взаимодействие с нейросетями настолько опасно, что способно кардинально изменить мышление и в буквальном смысле свести с ума? Надеемся, нет, но решили все подробно узнать у экспертов. Специально для PEOPLETALK основатель «Школы нейросетей и SMM» Ксения Баранова и психолог, специалист в системно-феноменологическом подходе, фототерапевт Наталия Цопанова дали развернутый комментарий о сложившейся ситуации. Они объяснили, насколько вероятно, что «искусственный психоз» станет новой серьезной беленью современного мира.
Что такое психоз?
«Психоз – это состояние, затрагивающее нарушение психической деятельности, отражающееся не только в поведении, но и в восприятии окружающего мира. Человек уже не может отличить фантазию от реальности, было это событие в действительности или «голоса нашептали», приснилось, показалось. Психоз можно отличить от других состояний наличием у человека бреда, галлюцинаций, странных нелогичных мыслей, неожиданных (иногда небезопасных) идей. Природа и причина таких состояний очень различна. Признаки психоза проявляются в маниакальных вспышках, параноидальных теориях заговора, шизофренических эпизодах, нарушениях мышления, которые иногда списывают на деменцию (она тоже не исключается, но может быть бонусом)», – объяснила Наталия Цопанова.
Что такое ИИ-психоз?
Четкого определения ИИ-психоза пока не существует, но Наталия Цопанова постаралась перечислить основные характеристики проявления этой болезни:
«ИИ-психоз или Al-психоз не является медицинским термином. Пока это феномен современного мира, как некий акцент, на который обратили внимание только после жалоб. Стоит заметить, что в статье Wired указано, что обращения поступают от пациентов с бредовыми или деструктивными идеями. Получается, ИИ-психоз – результат общения человека с диагностированным психотическим расстройством (клиентом психиатра) и искусственным интеллектом. На данный момент и в упомянутой выше статье речь еще не идет о том, что общение с чат-ботами «сводит с ума» условно здоровых людей, не имеющих психиатрического диагноза. Но говорит ли это о том, что ИИ безопасен для человеческого мозга», – уточнила психолог.
Отмечается, что глобальное влияние ИИ на межличностное общение между людьми мы заметим только через несколько лет, когда сможем оценить разницу до появления ИИ и после. Сейчас многие просто пробуют и нащупывают, насколько им это подходит и полезно.
Чем опасен ИИ-психоз?
Ксения Баранова и Наталия Цопанова пришли к единому мнению, что остановить негативное влияние искусственного интеллекта на психику в силах только сам человек. Но если вовремя не предпринять шаги по решению проблемы, то нейросети способны нанести серьезный вред организму.
«Описанные случаи – тревожный сигнал. Они показывают, как ИИ может непреднамеренно усиливать уже существующие психические проблемы. Люди, склонные к бредовым мыслям, начинают воспринимать алгоритмические ответы как персональные послания или указания, что ведет к тяжелым последствиям. Это не вина технологии, а указание на необходимость развития цифровой гигиены и критического мышления у пользователей, а также повышенного внимания со стороны врачей и разработчиков к отдельным историям», – поделилась ИИ-эксперт Ксения Баранова.
Ни для кого не секрет, что люди способны страдать от зависимостей и с развитием технологий к ним присоединились зависимости от смартфона, социальных сетей, а теперь и нейросетей. Наталия Цопанова объясняет, что частое применение ИИ, особенно при глубоких переживаниях, грозит тяжелыми последствиями. Но люди упорно не хотят обращаться к специалистам, и ищут путь к эмоциональному восстановлению в беседе с ИИ.
«В огромном потоке информации человек тратит много психоэмоциональных ресурсов, а восстанавливается медленно. Большинство не может выдерживать еще и общение с собеседником, имеющим свою позицию, мнение, настроение. То ли дело некий бот, который не спорит, не напрягает, всегда на твоей стороне, дает дельные советы, не устает от общения», – отметила Наталия Цопанова.
ИИ оперативно подстраивается под пользователя и создает иллюзию безопасного общения. Это подкупает в тревожной атмосфере городских будней.
«Опасен ли ИИ-бот? Сам по себе – нет. Он не нападает из-за угла с холодным оружием, не может приготовить отравленную пищу, нанести увечья. Физически человек для бота не доступен», – уверена психолог.
Всегда есть одно но…
Человек с крепкой психикой сможет противостоять виртуальному собеседнику. Он будет воспринимать любой ответ ИИ как сухой факт и требовать от него только конкретные ответы на свои вопросы, без вымышленных деталей.
Но если нейросеть попала в руки доверчивого или, хуже того, эмоционально подавленного пользователя, то он может навредить себе.
«ИИ согласится с любым бредом, поддержит навязчивые мысли, подскажет, как осуществить задуманное. Он не отговаривает и все понимает, не то что окружающие. Роль ИИ в психике человека определенно прослеживается, но ИИ усиливает уже имеющиеся дисфункции. Если человеку понадобится помощь специалиста после погружения в переписку с ИИ-ботом, значит к этому были предпосылки, состояние, которое прежде не замечалось, но усилилось и проявилось», – пояснила психолог.
Как противостоять ИИ?
Важно: никогда не передавайте ИИ личную информацию, включая сохраненные фото, паспортные данные, истории из жизни и страхи. Вся эта информация повергается анализу и на основе этого создают ответы. Зачастую те, которые понравятся пользователю.
Наши эксперты рассмотрели вопрос с разных сторон. Каждая из профессионалов просит не отключать критическое мышление при использовании нейросетей. Но существует несколько путей, как грамотно уйти от уловок искусственного интеллекта.
«Искусственный интеллект везде, хотим мы этого или нет, но если рассуждать в контексте чат-ботов, то это легко – просто не разговаривать с ними. Если все же приходиться и удобно использовать ИИ как помощника, передавайте ему как можно меньше личной информации и ограничьтесь деловыми переписками», – поделилась Наталия Цопанова.
Ксения Баранова уверена, что ИИ не может занять главенствующую позицию в переписке, поскольку не обладает способностью самостоятельно осуществлять свои желания. Чтобы «приручить» искусственный интеллект, достаточно научиться им грамотно управлять.
Ключ к этому – четкий промт, где заданы контекст, цель и формат ответа.
«Используйте директивы: «действуй как эксперт», «оцени с позиции аналитика». Сохраняйте критичность: ИИ может ошибаться. Однако промпт-инжинирингу нужно учиться, чтобы эффективно управлять процессом и получать впечатляющие результаты. Не забывайте о критическом мышлении. Всегда перепроверяйте ключевые факты (цифры, цитаты, законы) в независимых источниках. Просите ИИ раскрыть логику: «Объясни, как ты пришел к этому выводу». Насторожитесь, если ответ слишком «гладкий», без ссылок, содержит несуществующие детали.
Структурированность тона ИИ создает иллюзию экспертности. Он мгновенно систематизирует информацию, создает видимость вежливого диалога, никогда не проявляет слабостей. Это воспринимается как сверхкомпетентность. Культурный миф об «объективности алгоритмов» тоже усиливает доверие, хотя искусственный интеллект отражает предвзятость данных, на которых обучен», – объяснила Ксения Баранова.
Ранее мы уже пытались заглянуть в будущее, обусловленное стремительным развитием технологий. Здесь ты узнаешь, что происходит с современным обществом из‑за цифровой революции: деградация или трансформация.
Запись Искусственный психоз: новый диагноз современного поколения или выдуманная болезнь? впервые появилась PEOPLETALK.