Google добавил в интерфейс Gemini режим психологической помощи

Google обновил устройство чат-бота Gemini, упростив переходпользователей к ресурсам по охране ментального здоровья в кризисные моменты. Обэтом компания заявила в официальномпресс-релизе, отметив, что в психологической помощинуждается более 1 млрд человек по всему миру.
Теперь Gemini тщательнее анализирует то, что в нем пишетпользователь и при первом же распознавании тем, связанных с суицидом илинанесением себе увечий сразу запускает встроенный модуль «Доступная помощь».
Сам чат-бот переходит на более чуткую и тактичную стилистику общения, предлагаяв конце обратиться за помощью.
Отмечается, что ни Gemini, ни аналогичные нейросети не являютсяистиной в последней инстанции в решении таких вопросов и рекомендации врачейвсегда должны быть в приоритете. Другие компании также внедряли в свои чат-ботыфункциимедицинского консультрования, однако эксперты обращали внимание, что такоеприменение нейросетей должно носить скорее прикладной характер. Googleсотрудничает с клиническими экспертами по этой теме и объявил о выделении $30млн на поддержку «глобальных горячих линий» по всему миру в течение следующихтрех лет.
Компания также подчеркнула, что это изменение правильнее считать«редизайном», нежели большим новым обновлением. Оно должно упростить процедуруперехода на профессиональные ресурсы психологической помощи. Модульперенаправляет на такие сервисы, как горячая линия по предотвращениюсамоубийств или линия электронных писем по работе с кризисными ситуациями.
Также в Gemini внедрены специальные механизмы по защитенесовершеннолетних пользователей от общения на рискованные темы, список которыхвключает и все, что связано с суицидом и нанесением себе увечий:


Gemini не будет вести себя в полной мере как компаньон и собеседник и небудет поддерживать темы обозначенного круга;


Gemini будет избегать формулировок, имитирующих близость или выражающихпотребность в ней, таким образом предотвращая «эмоциональную зависимость» отобщения с чат-ботом;


Gemini будет предоставлять ресурсы для помощи при травле и других видахпсихологического и иного насилия.


Дополнение интерфейса произошло после судебного иска, заявителькоторого утверждал, что чат-бот «обучил» и «подготовил» пользователя, его сына,к совершению самоубийства. Tech Crunchотмечал, что Google стал первым ответчиком по подобномуделу, хотя и не был единственной компанией, чей чат-бот поддерживал диалог натему суицида и, как утверждается, доводил до трагическихпоследствий.