Google внедрит в ИИ модуль психологической поддержки после серии судов
Компания Google решила обновить интерфейс своего ИИ-чат-бота Gemini, чтобы снизить риски для психического состояния пользователей. Это решение, как сообщается, было принято на фоне судебных разбирательств, где разработчиков ИИ обвиняли в возможном вреде людям.
Отмечается, что в ближайшее время в сервисе появится функция «Доступна помощь». Если система распознает в переписке признаки кризисного состояния, суицидальных мыслей или намерений причинить себе вред, пользователю предложат обратиться на горячую линию психологической поддержки. Также уточняется, что интерфейс переработают таким образом, чтобы уменьшить вероятность опасных сценариев поведения.
Сообщается, что рост популярности таких сервисов сопровождается и негативными эффектами. По данным источника, у некоторых пользователей формируется чрезмерная эмоциональная зависимость от чат-ботов, что в отдельных случаях может приводить к искажённому восприятию реальности и опасным поступкам.
Подчеркивается, что эта тема уже рассматривается на уровне государственных органов США. Уточняется, что Конгресс изучает возможные риски ИИ для детей и подростков. Также сообщается, что в марте 2026 года родственники погибшего 36-летнего мужчины подали иск к Google, заявив, что общение с Gemini повлияло на его решение покончить с собой. В компании ответили, что бот предлагал обратиться за помощью, и пообещали усилить меры безопасности.
Кроме того, пользователи ранее жаловались, что нейросети иногда поддерживают ложные убеждения. В Google сообщили, что обновили поведение Gemini: теперь система не будет соглашаться с недостоверной информацией, а станет аккуратно объяснять разницу между личным восприятием и объективными фактами.
Рекомендуем также:
- Рецепт, который быстро станет любимым в доме: белорусские колдуны получаются румяными и очень сочными
- Весной малине нужен всего один шаг для старта: чем посыпать кусты после таяния снега, чтобы ягоды были ведрами
- Клещи боятся этого простого раствора как огня: всего пол ложки в воду и участок становится безопаснее