Экс-разработчик Anthropic Коксон предрек вымирание людей из-за ИИ

Бывший сотрудник американской компании Anthropic Джейкоб Коксон на слушаниях в городском совете Нью-Йорка заявил, что развитие нейросетей до суперинтеллекта грозит вымиранием человечества.

«Вероятней всего, на мой взгляд, что нынешний путь приведет к потере контроля над ИИ и может закончиться вымиранием человечества», – сказал Коксон.

По его словам, разработчики ведут себя безрассудно, следуя корпоративной культуре быстрого создания продуктов и устранения ошибок постфактум, что неприменимо к столь мощной технологии. Коксон отметил, что ИИ-компании стремятся создать суперинтеллект, способный превзойти человека в любых задачах, передает РИА «Новости».

Бывший сотрудник Anthropic подчеркнул, что в случае успеха нейросети могут трансформировать экономику и медицину. Однако в настоящее время разработчики не знают, как контролировать создаваемые системы, и не понимают мотивов их действий, а искусственный интеллект уже сейчас взламывает сторонние сети.

Ранее министр финансов США Скотт Бессент сравнил руководство компаний-разработчиков с героем романов об убийце Ганнибале Лектере. По мнению министра, развитие нейросетей следует замедлить, если опасения об их опасности оправданы.

Как писала газета ВЗГЛЯД, в понедельник глава OpenAI Сэм Альтман назвал оправданными риски развития искусственного интеллекта.

В пятницу профильные специалисты подняли бунт в ведущих ИИ-компаниях.

На прошлой неделе разработчик нейросетей Anthropic предупредил об экзистенциальной угрозе человечеству.