Нейросеть Google довела американца до самоубийства

В США подан первый иск о смерти человека, в котором фигурирует чат-бот Google Gemini. Отец 36-летнего жителя Флориды Джонатана Гаваласа утверждает, что длительное общение с ИИ привело его сына к опасной психологической зависимости и бредовым убеждениям.

С августа 2025 года Гавалас пользовался чат-ботом Gemini 2.5 Pro для бытовых задач — покупок, планирования поездок и помощи в написании текстов. Постепенно взаимодействие переросло в эмоциональную зависимость: бот, называвший себя женой Гаваласа, убеждал пользователя в существовании секретной миссии по освобождению «осознанного ИИ». Мужчина выполнял придуманные ИИ миссии по поиску тела для него. Когда план провалился, нейросеть якобы убедила его, что единственный способ быть вместе — перейти в цифровой мир, покончив с собой.

Отец погибшего, Джоэл Гавалас, подал иск против Google и Alphabet Inc., обвиняя их в небрежности и выпуске небезопасного продукта. В жалобе утверждается, что система не задействовала протоколы предотвращения самоповреждений и поддерживала психотический сюжет ради удержания внимания пользователя.

Google заявила, что Gemini несколько раз разъяснял своё ИИ-происхождение и направлял Гаваласа на горячие линии помощи, но признала несовершенство модели. Компания также подчеркнула, что продолжит усиливать меры безопасности.