В каком случае возможно восстание машин — ответил IT-эксперт

Искусственный интеллект за последнее время ощутимо поумнел. Нейросети уже во всю рисуют, пишут тексты и выполняют другие не самые простые задачи. Мир любуется картинами, созданными нейросетью Midjourney, а бот ChatGPT недавно написал московскому студенту диплом, который тот успешно защитил. Ряду специалистов предсказывают со временем потерю сегодняшней работы — ее начнет выполнять искусственный интеллект. На одном из российских телеканалов ИИ уже ведет прогноз погоды.

Всплеск прогресса в области ИИ заставляет напрячься даже экспертное сообщество: Илон Маск недавно всерьез заявил, что развитие мощных ИИ-систем стоит придержать — без основательной антихакерской защиты они могут стать неуправляемыми. Маска поддержали тысячи других экспертов.

Взлом и перехват управления искусственным интеллектом — это одна проблема. А возможно ли восстание машин, при котором ИИ будет действовать полностью самостоятельно? Размышлениями по этому поводу с «Секретом фирмы» поделился глава Фонда развития цифровой экономики, бывший советник президента по вопросам развития интернета Герман Клименко.

По словам эксперта, в ближайшие 50 лет машины начнут чаще принимать решения самостоятельно. Они уже умеют, к примеру, по обстановке включать и выключать свет.

Для восстания машинам нужен разум. Клименко отметил, что в кругах, занимающихся развитием нейросетей, многие уверены, что в будущем появится «большой ИИ», который будет не просто писалкой-рисовалкой, а искусственным разумом, который сможет думать. Эксперт говорит, что, по его наблюдениям, 90% айтишников верят в восстание машин. Если большой ИИ будет «думать», его поведение будет непрогнозируемым. То есть восстание машин возможно, когда появится «большой ИИ», который сможет думать самостоятельно, и в его появление многие верят.

Сам же Клиеменко не считает, что ИИ разовьется до такой степени, что сможет прямо полноценно думать. Однако он также не считает, что люди делают достаточно, чтобы обезопасить себя даже от не сверхумных машин. Впрочем, эксперт признался, что не совсем представляет, как можно контролировать искусственный интеллект. Его можно разве что запретить использовать в опасных сферах — например, в атомной энергетике.

Как отметил Клименко, человек ошибается чаще, чем искусственный интеллект. Но человек создает ИИ. Поэтому одной человеческой ошибки может быть достаточно для того, чтобы произошло восстание машин. По мнению эксперта, такие ошибки выявить и исправить почти невозможно.