[P=20%] "Крестный отец AI" увеличил вероятность уничтожения человечества от этой технологии в ближайшие 30 лет "от 10% до 20%"

Британско-канадский учёный в области компьютерных наук, часто называемый "крестным отцом" искусственного интеллекта, увеличил вероятность того, что AI уничтожит человечество в ближайшие три десятилетия, отметив, что развитие технологий идет "значительно быстрее", чем ожидалось".

Профессор Джеффри Хинтон, удостоенный в этом году Нобелевской премии по физике за достижения в области искусственного интеллекта, оценил вероятность того, что AI может привести к вымиранию человечества в течение следующего тридцатилетия, как "от 10% до 20%".

Ранее Хинтон предполагал 10-процентную вероятность катастрофических последствий от AI для человечества. На вопрос в программе "Today" на BBC Radio 4 о том, изменился ли его прогноз относительно апокалипсиса, вызванного AI, Хинтон ответил: "Не совсем, от 10% до 20%".

"Во всяком случае. Мы никогда раньше не сталкивались с чем-то более разумным, чем мы сами". Он добавил: "Сколько примеров вы знаете, когда более разумное существо управляет менее разумным? Таких примеров немного. Например, мать и ребёнок. Эволюция сделала так, чтобы ребёнок управлял матерью, но это, пожалуй, единственный известный мне пример".

Уроженец Лондона Хинтон, почётный профессор Университета Торонто, сравнил людей с малышами по сравнению с очень мощными системами AI.

"Мне нравится думать об этом так: представьте себя и трёхлетнего ребёнка. Мы будем трёхлетними детьми", - сказал он.

В прошлом году Хинтон уволился из Google, чтобы более открыто обсуждать риски, связанные с неограниченным развитием AI, опасаясь, что "злоумышленники" могут использовать эту технологию во вред. Основная проблема заключается в том, что создание AGI, которое может стать умнее людей, будет экзистенциальной угрозой, ускользнув из-под контроля.

Размышляя о развитии AI, когда он начинал свою работу, Хинтон отметил, что не ожидал столь быстрого прогресса. "Ситуация такова, что большинство экспертов считают, что в ближайшие 20 лет мы создадим AI, который будет умнее людей. И это очень пугающая мысль".

Хинтон подчеркнул, что развитие происходит "очень быстро" и призвал к государственному регулированию технологий.

"Меня беспокоит, что невидимая рука не обеспечит нашу безопасность. Стремление к прибыли крупных компаний недостаточно для безопасной разработки, - сказал он. - Государственное регулирование - единственный способ заставить компании исследовать безопасность".

Хинтон - один из трёх "крестных отцов AI", получивших премию ACM AM Turing, эквивалент Нобелевской премии в компьютерных науках. Однако его коллега Янн Лекун, главный специалист по AI в Meta, преуменьшает угрозу и считает, что AI может "спасти человечество от вымирания".