ИИ-модель Anthropic отправила в полицию Филадельфии ложный сигнал об убийстве

Модель искусственного интеллекта компании Anthropic через онлайн-сервис полиции Филадельфии направила ложное сообщение об убийстве, рассказали в городском полицейском департаменте.

«Полицейское управление Филадельфии информирует о ложном сообщении об убийстве, направленном моделью искусственного интеллекта компании Anthropic», – сказали РИА «Новости» в полиции.

В департаменте подчеркнули, что в ходе проверки не выявлено признаков несанкционированного доступа к внутренним системам полиции, а инцидент ограничился самим фактом отправки ложного сообщения через официальный сайт.

Как писала газета ВЗГЛЯД, в пятницу компания Anthropic запретила пользователям агрессивное обращение к своему ИИ Claude.

В конце сентября один из разработчиков Anthropic предупредил об экзистенциальной угрозе человечеству со стороны искусственного интеллекта.