Нечеловеческий фактор
Бурной получилась общественная реакция на слова патриарха Кирилла об искусственном интеллекте, прозвучавшие на прошлой неделе. В ответ зазвучало, дескать, негоже клирикам совать свой нос в дела мирские (это я мягко перевожу на цензурную речь). Но мне кажется, что именно церковь занимается своим прямым делом, выполняет свою непосредственную обязанность: спасает человека.
Итак, что же сказали в РПЦ? Патриарх Московский и Всея Руси Кирилл 30 января выступал в Госдуме. В своей речи он сравнил искусственный интеллект с ядерной энергией, назвав его более опасным. Он призвал поставить подобные разработки под «жесткий контроль» государства и общества, чтобы ИИ служил во благо людей и под их присмотром.
«Искусственный интеллект опаснее, чем ядерная энергия, особенно если этот искусственный интеллект будет запрограммирован на нанесение сознательного вреда человеческой нравственности, человеческому общежитию и другим ценностям, - сказал предстоятель. - Это не значит, что мы должны отвергать достижения науки и возможность использовать искусственный интеллект... Мы не должны проморгать очередную возможную опасность, способную разрушить человеческую жизнь и человеческую цивилизацию».
Обратите внимание, никакого отрицания прогресса или призывов к запретам (чем часто грешат в тех же думских стенах). Патриарх призвал вдумчивее подходить к внедрению ИИ в повседневность, не забывать о завтрашних последствиях сегодняшних действий и зорко следить за тем, кто кого контролирует. Не он первый, не он последний. На мой взгляд, чрезмерно возбудилась публика. Определенная ее часть оказалась слишком восприимчива к прошедшей несколько лет назад медийной кампании по очернению образа Русской православной церкви. Правда, очернители давно уже в бегах, в большинстве случаев они оказались приверженцами иных религиозных течений с заграничными паспортами в кармане. А нам осталась вскормленная ими «паства», которая теперь, словно тренированные обезьянки, вскидывается на любое высказывание, звучащее из церковных кругов, непременно воспринимает его в штыки, не давая себе труда вникнуть в смысл произнесенного.
Между тем, голос церкви стал едва ли не единственном голосом разума, спокойно прозвучавшим в истеричной атмосфере, окружающей тему искусственного интеллекта.
Искусственный интеллект находится на переднем краю не только науки, но и экономики. Насколько большие деньги крутятся в этой сфере, весь мир увидел всего за несколько дней до выступления патриарха Кирилла. Китайцы в последние дни января взорвали новостную повестку своей нейросетью DeepSeek. Оказалось, она не отстает от американского флагмана отрасли, но на ее обучение ушло в разы меньше ресурсов. Процесс требует физических носителей — чипов. А их-то у китайцев в дефиците из-за действующих два года ограничений на экспорт полупроводников, монополистом в производстве которых является американская Nvidia. Зато OpenAI получает чипы для своего ChatGPT в любом количестве. Казалось, что их будет нужно все больше, поэтому капитализация производителя полупроводников росла на нейросетевых дрожжах. После обнародования китайцами информации о своей разработке акции Nvidia обрушились, много богатых людей потеряло много денег.
Это достаточно краткий и поверхностный пересказ происходящего. Но он показывает: абсолютное большинство людей, рисующее с помощью нейросети котика за столиком в ресторане, ни бельмеса не понимают в том, как устроен мир искусственного интеллекта. Там крутятся большие деньги и большая власть, связанная как с этими деньгами, так и с возможностями по управлению вообще всем вокруг, которую потенциально откроет искусственный интеллект. Или не откроет, мы в самом начале пути понимания пределов его использования. И хотелось бы сначала понять эти пределы, а потом к ним устремляться. Пока что происходит наоборот, несемся галопом, а потом будем разбираться, чего натворили и как человеку жить в мире под тотальным контролем через искусственный интеллект. Нет, в то, что контролировать всех будет сам ИИ, поверят разве что детсадовцы. Надо забыть сцены из «Терминатора». Контроль будет в руках человека — нескольких людей, которые смогут управлять миллионами и миллиардами. Ради этого все и затевается.
Вот эту простую мысль, как мне кажется, пытается донести до нас церковь. Пытается регулярно, тема искусственного интеллекта уже поднималась в высказываниях представителей РПЦ.
В 2023 году председатель Патриаршей комиссии по вопросам семьи, защиты материнства и детей иерей Федор Лукьянов призвал на законодательном уровне установить запрет на использование нейросетями человеческих лиц и голосов.
«Фактически нужен запрет на антропоморфизацию программ, технологий, роботов, то есть запрет на перенесение человеческого образа и его свойств на неодушевленные предметы», - пояснял клирик.
В прошлом году глава комиссии РПЦ по вопросам общественной жизни, культуры, науки и информации митрополит Калужский и Боровский Климент призывал «осмысленно вырабатывать разумный, осторожный и в то же время прагматичный взгляд на проблему».
«Воспеватели безграничного научно-технического роста уверены, - сказал митрополит, - что человеку есть чему поучиться у машины, что преимущества ИИ — залог выживания дряхлеющего человечества. В этих голосах слышится столько неверия в способности человеческой личности, обладающей богоподобием, столько спеси и близорукости, что невольно вспоминаются строители Вавилонской башни».
Наконец, уже в этом году председатель Синодального отдела по взаимоотношениям церкви с обществом и СМИ, профессор МГИМО Владимир Легойда говорил про уже наступивший кризис в образовании из-за распространения нейросетей.
«Нейросети, фактически, обессмысливают существование письменных работ как проверку знаний, потому что нейросеть качественно и очень быстро может написать учебную и научную работу любого формата», - констатировал Владимир Легойда.
Словом, развитие ИИ - фактор большого риска для будущего человечества. Можно соглашаться с церковью или нет, но нельзя не признавать ее последовательную позицию в отношении искусственного интеллекта
Мы на всех парах мчимся, подгоняя сами себя, в будущее, которого толком не осознаем.
Если кто принципиально не хочет прислушиваться к церкви, то вот мнение с другого полюса. И самой сердцевины мира, пропитанного деньгами и властью. Еще в 2023 году Илон Маск (Tesla, SpaceX и Twitter, а теперь и Белый дом), Стив Возняк (Apple) и Эван Шарп (Pinterest) опубликовали открытое письмо с призывом коллегам по бигтеху приостановить разработку нейросетей. Прежде, чем возобновить работу, они предложили дать ответы на несколько вопросов. Должны ли мы позволять машинам наводнять наши информационные каналы пропагандой? Должны ли мы автоматизировать все рабочие места? Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас численностью, перехитрить, сделать нас ненужными и заменить нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией? В конечном счете, насколько искусственный интеллект опасен для человечества?
Насколько я понимаю, призыв был проигнорирован. Как это - остановиться? Чтобы отстать? Чтобы потерять громадные деньги и гигантскую власть? Непонятно, правда, куда придут лидеры гонки, а вместе с ними и все человечество. К какому будущему?
Заданные вопросы повисли без ответа. Как и еще один: если отдать на аутсорс главное, что делает человека человеком - разум - чем мы тогда станем отличаться от своих предков, цеплявшихся хвостами за ветки деревьев?
Так и в чем же не права РПЦ? Не хочу пускаться в богословские диспуты, боюсь, окажусь несильна в теме. Скажу только, что согласно христианскому учению, человек создан по образу и подобию Божию, однажды Господь сам принял человеческое обличье, чтобы пострадать за все человечество, человеческая жизнь - величайшая ценность, дарованная Богом (потому убийство, в том числе само-, является тягчайшим грехом), а спасение человека - величайшая задача, которую церковь решает уже две тысячи лет. Вот сколько раз придется употребить слово «человек», затронув самые верхи христианского мировоззрения. Не «технологии» - «человек».
Так почему кто-то думает, что церковь обязана стоять на каких-то других позициях? Должна же существовать хоть одна институция, надежно стоящая за спиной человека и напоминающая ему, кто он такой.
Юлия Магера
Иллюстрации созданы с помощью нейросети Kandinsky - таким она увидела искусственный интеллект