Знаменитости и ученые высказались против разработки «сверхразума»

Открытое письмо с призывом не разрабатывать сверхразумный ИИ опубликоваланекоммерческая организация Future of Life Institute (FLI). Как пишетTime, его подписали более 700 зарубежныхзнаменитостей, политиков и ученых.

Инициаторы аргументируют запрет тем, что суперинтеллект нельзя создавать,пока не будет уверенности, что это можно сделать безопасно и под контролем, атакже не будет полной поддержки общества.

Против нового «сверхразума» выступили пять нобелевских лауреатов,соучредитель Apple Стив Возняк, советник Папы Римского Паоло Бенанти, актёрыДжозеф Гордон-Левитт и Стивен Фрай, рэпер will.i.am и писатель Юваль Ной Харарии даже сотрудник OpenAI Лео Гао.

В FLI ожидают, что по мере развития кампании к ней присоединятся и другиелюди.

«Будущее искусственного интеллекта должно служить человечеству, а незаменять его», — написал принц Гарри в сообщении, сопровождавшем егоподпись.

Авторы инициативы опасаются того, что ИИ, который может появиться уже черезпару лет, обгонит человека по всем показателям.

Единственное, что может остановить процесс — это «всеобщее осознание вобществе на всех уровнях того, что на самом деле мы этого не хотим». Такизданию сказал исполнительный директор FLI Энтони Агирре.

«Время на исходе», — считает глава компании.

Организаторы к публикации письма добавили результаты опроса. Оказалось, что64% американцев считают, что сверхразум развивать еще рано. С ними не согласнытолько 5% опрошенных.

Подобное письмо организация публиковала в 2023 г. Оно получило широкоеобсуждение в обществе, но результата не принесло.