Ученые сообщили об угрозе вымирания человечества из-за ИИ к 2100 году

Человечество может вымереть к 2100 году из-за злонамеренного использования ИИ или ядерного конфликта. К такому выводу пришли ученые из комиссии журнала Lancet по глобальным угрозам здоровью XXI века, передает Tengri Life со ссылкой на РБК.

"Злонамеренное использование ИИ, включая биологическое оружие, и ядерный конфликт с ядерным голодом несут в себе риск вымирания в ближайшие 75 лет", – говорится в докладе.

При этом ученые отмечают, что подобные сценарии развития будущего "несут в себе высокую степень неопределенности", однако обширные политические дискуссии и их потенциальная масштабность требуют их включения в анализ.
Всего эксперты выделяют три основных направления рисков, когда ИИ может угрожать человечеству, первым является случай, когда ИИ используется для разработки биологического оружия.
Вторым они называют интеграцию ИИ в критически важную социальную инфраструктуру, что может привести к созданию массовых "политических дипфейков", использованию ИИ в качестве инструмента для шантажа, автономного ядерного оружия и другим проблемам.
Последним направлением специалисты называют потерю контроля в результате появления общего ИИ-интеллекта, что может лишить человечество контроля или привести к его вымиранию.
Для составления списка угроз комиссия смоделировала, сколько лет здоровой жизни может быть потеряно из-за болезней, инвалидности или преждевременной смерти по каждой угрозе, исходя из текущих тенденций.
В сентябре глава компании Anthropic Дарио Амодеи призвал замедлить развитие ИИ, чтобы сохранить контроль над технологией. Он связал свои опасения со случаями, когда ИИ-агенты выходили за установленные ограничения. Его призыв поддержали глава OpenAI Сэм Альтман и руководитель xAI Илон Маск.
Президент США Дональд Трамп в свою очередь отверг призывы руководителей технологических компаний замедлить развитие ИИ.