Глава отдела безопасности ИИ в Anthropic уволился и сообщил миру об опасности

Руководитель отдела безопасности искусственного интеллекта (ИИ) в компании Anthropic Мринанк Шарма уволился, сообщив о грозящей миру опасности. Об этом сообщает Business Insider.

В прощальном письме сотрудникам он сообщил, что достиг своих целей, упомянув при этом такие проекты, как разработка средств защиты для снижения рисков биотерроризма с использованием ИИ, а также заключительный проект, посвященный изучению влияния ИИ на человечество.

"Похоже, мы приближаемся к порогу, когда наша мудрость должна расти в равной мере с нашей способностью влиять на мир, иначе нам придется столкнуться с последствиями", - заявил специалист по безопасности.

Отмечается, что Шарма возглавлял группу, занимавшуюся защитой данных. Теперь он намерен сосредоточиться на изучении поэзии. До Шармы из компании ушли сотрудник отдела исследований и разработок Херш Мехта и ведущий специалист в области ИИ Бехнам Нейшабур. Бывший исследователь безопасности ИИ Дилан Скандинаро также покинул компанию и перешел в OpenAI.

До этого россиянам объяснили, как распознать ИИ-видео. Среди признаков фек-контента были названы неестественная мимика, "плывущие" детали, странная работа света, несоответствие эмоций голосу, и слишком идеальная картинка.