О будущем искусственного интеллекта. По поводу выступления Митио Каку.
Митио Каку — американский физик и всемирно известный футуролог. Я всегда с воодушевлением и интеллектуальной радостью читал его книги: "Физика невозможного","Параллельные миры", "Будущее физики", "Будущее разума" и др.. Именно поэтому меня удивило его выступление на недавнем Петербургском международном экономическом форуме по теме: "Цифровое будущее: Стоит ли нам бояться роботов?" (Digital Future: Should We Fear Robots?"). В русскоязычной версии: "Об искусственном интеллекте, роботах и способах их применения".[1]
1. Робот с тараканьим разумом.
Через всё выступление М. Каку проходит лейтмотив: искусственный интеллект — это роботы. Такова презумпция всех его утверждений: искусственный разум заключен в отдельном техническом организме, как мозг — в голове отдельного индивида.
"У роботов и искусственного интеллекта есть три ограничения". Уже в этой фразе между роботами и ИИ поставлен знак равенства. И дальше, как о высшем достижении ИИ, Каку рассказывает об одном из умнейших роботов в мире, Asimo, созданном в Японии, — и с иронией отмечает, что пока что у него разум не более тараканьего.
По мнению Каку, лишь к концу века роботы могут достигнуть уровня интеллекта, сравнимого с обезьяньим. Но реально опасными они станут лишь в 22 в., когда смогут вынимать из своего мозга чипы, запрещающие им убийство людей.
Странные рассуждения! От такого представления о будущем веет наивным и унылым антропоморфизмом. Мы ведь знаем, что разум человечества не есть простое слагаемое индивидуальных разумов, — он социальный, сетевой. В этом нельзя не согласиться с К. Марксом: "...сущность человека не есть абстракт, присущий отдельному индивиду. В своей действительности она есть совокупность всех общественных отношений".[2]
Именно электронная сеть наглядно позволяет обнаружить новое качество разума как коммуникативно-информационной силы, которая обладает собственными формами воплощения и не заключена в голове отдельного человека. Тем более странно представлять искусственный разум в виде отдельной машины — шагающего, танцующего или играющего в футбол робота. Очевидно, что ИИ — это особая ментальная сверхструктура, которую мы не можем локализовать как отдельный механизм, как не можем локализовать виртуальное пространство. ИИ действует как совокупность программ и алгоритмов, способных к самообучению и саморепродукции на все более высоких уровнях производства и переработки информации. Поэтому рассуждать об уровне развития ИИ на примере отдельно взятого робота, даже самого продвинутого, сравнивая его с уровнем развития мозга у отдельного индивида или особи, будь то человек или насекомое, — это анахронизм, словно бы перенесенный из научной фантастики 1960-х-70-х гг.
Илон Маск уверен, что цифровая интеллектуальная революция произойдет в ближайшие годы. "Мы стремительно продвигаемся к созданию цифрового суперинтеллекта, который намного превосходит любого человека, я думаю, что это довольно очевидно, — сказал Маск. — У нас есть лет пять".[3] А у Каку речь шла всего лишь о разуме таракана!
Маск пошел еще дальше и назвал человечество "биологическим загрузчиком для цифрового разума. К сожалению, это все более и более вероятно".[4] Предзнаменования апокалиптических последствий техно-интеллектуального взрыва наиболее последовательно обобщены в известных книгах Джеймса Баррата "Последнее изобретение человечества. Искусственный интеллект и конец эры Homo sapiens" и Юваля Ноя Харари «Homo Deus: Краткая история завтрашнего дня». Торжество алгоритмов и "больших данных", т.е. самодовлеющего информационного процесса грозит вытеснить человека из будущей истории разума. Согласно Харари, внутреннее измерение человека, его воля, желание, страсть, вера, будут переданы в ведение суперпрограмм, управляющих всем развитием цивилизации, да и природы.
Ускоренное развитие самосозидающего системного ИИ может вызывать серьезнейшие опасения за судьбу человечества. Но неужели не остается никаких надежд на миролюбие этого восходящего универсального разума? Может быть, именно его развитие в виде всеобъемлющих программ и сетей приведет к отказу от эгоизма и агрессии, свойственных индивидуальному человеческому разуму, ведущему борьбу за выживание отдельного организма в природе?
От множества ученых, технологов, предпринимателей: Стивена Хокинга, Илона Маска, Билла Гейтса, Сергея Брина, Ника Бострома, Джеймса Баррата, Юваля Харари — мы уже знаем о том, чем нам угрожает ИИ.[5] Поговорим о надежде, хотя бы в рамках одной из гипотез.
2. Ноовитализм. Широкоумные дубравы.
Как признает современная биосемиотика, знаковые и рефлективные процессы свойственны всем формам живого, включая растения. Следовательно, коллективный искусственный разум, возникающий в нейро-электронных сетях, может быть в каком-то отношении близок растительному царству. Биосемиотика и биогерменевтика рассматривают жизнь и живые организмы как знаковые процессы и отношения, способные к самореференции и самоорганизации (аутопоэзис)[6]. В каждой клетке и в организме в целом постоянно происходят чтение, записывание, перезаписывание, создание новых текстов и бесконечный "разговор" на языке генетического кода макромолекул (нуклеиновых кислот и белков) и их взаимодействий.
Такой биосферно-семиосферный подход позволяет по-новому рассмотреть возможности искусственного интеллекта. Он может оказаться более родственным естественному интеллекту, чем казалось раньше, когда последний ограничивался человеческим разумом. Знаковые процессы в квантовых компьютерах и электронных сетях могут обнаружить сходство с вегетацией — на несравненно более высоком уровне скоростной обработки и передачи информации. Машинное мышление может быть ближе вегетативному мышлению, не-тоталитарному и не-инструментальному, поскольку оно не укоренено в эгоцентрическом субъекте [7].
Отсюда синтетическая концепция ноовитализма, или ноовегетации, сращивающая искусственный разум с деятельностью живых систем (noovitalism, noovegetation; noo, разум + vitа, жизнь).
Как полагает Ю. Лотман, "если человеку удастся создать полноценный искусственный разум, то мы менее всего заинтересованы, чтобы этот разум был точной копией человеческого. Определение Тьюринга, согласно которому разумным следует признать такое устройство, при сколь угодно длительном общении с которым мы не отличим его от человека, психологически понятно в своем антропоцентризме, но теоретически малоубедительно"[8].
Можно предположить, что техника будущего — это своего рода умная вегетация, пронизывающая всю вселенную и организующая в ней смысловые процессы совершенно иначе, чем в животно-человеческом мире, а именно — в коммуникативно-кооперативном модусе, без кровавых битв и деструктивного эгоизма (группового и индивидуального). Не исключено, что смысл эволюционного процесса, от животных к человеку, — возвращение, уже через технику как человеческое творение, к жизни как мирной вегетации смыслов.
Для их производства не нужны эксцессы индивидуалистического сознания, которое Достоевский в образе подпольного человека уподобил болезни. [9]
Отсюда все более популярная идея "органической компьютации" (organic computation), воссоздающей, в частности, сетевую структуру растительного царства.
"Каждая травинка берет свою энергию от солнца в процессе фотосинтеза и использует часть этой мощности для выполнения вычислительных задач, а остальное - нормальные процессы жизнеобеспечения растения, как это происходит сегодня. Затем лужайка передает результаты вычислений центральному мультиплексору-координатору..., подключенному к компьютерным системам дома, и результаты попадают в национальные и, наконец, глобальные вычислительные сети".[10]
"Приятно жить счастливому растенью —
Оно на воздухе играет, как дитя,
А мы ногой безумной оторвались,
Бежим туда — сюда,
А счастья нет как нет," —
так у Н. Заболоцкого говорит мыслящий волк, выражая зависть животных и людей к растительному миру (поэма "Безумный волк", 1931). Разумное существо будущего тоже можно представить как "счастливое растение", связанное корнями-сетями со вселенской жизнью разума. И тогда разум будущего — это не металлический робот, а скорее, широкоумная дубрава (слегка переиначивая "широшумные дубровы" в пушкинском "Поэте").
Следуя логике древних мифов, дерево познания добра и зла в Библии — это не просто растение, а растение-змей, в котором вегетативная символика сопряжена с бестиальной. А дерево жизни, посаженное в Эдеме, имеет чисто растительную природу, что может рассматриваться как символ грядущего развития человечества в направлении мирных форм разума. Биосемиотические процессы как раз и указывают на эту связь между жизнью и разумом в их ненасильственных, недеструктивных формах. Машинное мышление может оказаться гораздо ближе к "растительному", чем к человеческому, склонному к агрессивному заострению оппозиций. Возможно, призвание человека — именно в том, чтобы вернуться к Древу Жизни, т.е. стать частью мыслительных систем, близких органической основе жизни. Достигнув интеллектуальных высот в царстве животных, человек направляет силу своего ума на возвращение разума в русло живого смыслообмена, ноовегетации.
Примечания
[1] Michio Kaku on Digital Future: Should We Fear Robots?
http://news.ifmo.ru/en/news/7560/
https://hbr-russia.ru/innovatsii/tekhnologii/771054
[2] Маркс К.. Тезисы о Фейербахе (тезис 6).
[3] http://www.vestifinance.ru/articles/100217
[4] "Hope we're not just the biological boot loader for digital superintelligence. Unfortunately, that is increasingly probable" https://space-hippo.net/go-ahead-biological-boot-loaders-ai/
[5] https://www.theatlantic.com/technology/archive/2015/01/building-robots-with-better-morals-than-humans/385015/
https://ria.ru/technology/20180428/1519656953.html
[6] Основоположники биосемиотики— биолог Якоб фон Икскюлль (Jakob von Uexküll, 1864 — 1944) и лингвист, семиотик и этнограф Томас Сибеок (Thomas Sebeok, 1920—2001), автор самого термина «биосемиотика». Теория жизни как аутопоэзиса развита чилийскими учёными У. Матураной и Ф. Варелой в начале 1970-х гг.
[7] См. Michael Marder. Plant-Thinking: A Philosophy of Vegetal Life. New York: Columbia University Press, 2013.
[8] Ю. Лотман. Мозг — текст — культура — искусственный интеллект.//Избранные статьи в трех томах.Т. I. Статьи по семиотике и топологии культуры. Таллин: Александра,1992. С. 33.
[9] Сознание индивида, даже приобщенного к морали и эстетике, тянет его назад, в "тину" эгоизма, и даже усиливает сладострастие изысканной низменности. "...Я много раз хотел сделаться насекомым. Но даже и этого не удостоился. Клянусь вам, господа, что слишком сознавать - это болезнь, настоящая, полная болезнь. <...> ...В те же самые минуты, в которые я наиболее способен был сознавать все тонкости "всего прекрасного и высокого", как говорили у нас когда-то, мне случалось уже не сознавать, а делать такие неприглядные деянья, такие, которые... ну да, одним словом, которые хоть и все, пожалуй, делают, но которые, как нарочно, приходились у меня именно тогда, когда я наиболее сознавал, что их совсем бы не надо делать? Чем больше я сознавал о добре и о всем этом "прекрасном и высоком", тем глубже я и опускался в мою тину и тем способнее был совершенно завязнуть в ней" (Ф. Достоевский."Записки из подполья").