Параллельная цивилизация: зачем искусственному разуму бабушка

Одно из самых значимых научных открытий, касающихся нашей человечности, — это понимание того, что мы являемся продуктом чего-то большего, чем только эволюция генов. Конечно, мы являемся генетическими потомками обезьяноподобных существ, но — одновременно с этим — мы, современные люди, формируемся с каждым поколением благодаря общему обучению, передающемуся с помощью механизма, не связанного с биологией. Созданная человеком среда обитания, которую еще называют культурой, формирует то, что мы считаем лучшим для нашего вида. Культура настолько распространена, что ее трудно оценить, но без нее
мы были бе неузнаваемы как люди.

Одинокий голый человек, пытающийся выжить в доисторической глуши без навыков и знаний, приобретенных до него, вряд ли справится самостоятельно. Очень немногие смогли бы открыть для себя секреты разведения огня, приготовления пищи, поиска лекарственных растений, охоты на животных, изготовления каменных наконечников, шитья и рыбной ловли.

Человечество, в первую очередь, — социальное явление. А наиболее социальное из всех изобретений — язык. Благодаря ему, мы можем не только координировать действия и сотрудничать в настоящем, но и передавать знания и опыт от поколения к поколению. Этот процесс считают параллельной эволюцией по отношению к фундаментальной эволюции нашего тела, происходящей в рамках естественного отбора. Биологическая эволюция передает все хорошее, чему мы научились как вид, через наследуемую ДНК. И на этом обучение большинства живых существ заканчивается.

Но мы сами для себя запустили расширенную эволюцию, которая передает хорошие качества за пределами кода ДНК: через культуру семей, сообществ и человечества в целом. Эта культура содержит законы, нормы, мораль, передовой опыт, личностное развитие, мировоззрение, навыки выживания, альтруизм. Отдельные сообщества вымирают, но человеческая культура в целом продолжает расширяться, углубляться, процветать так, чтобы каждое новое поколение могло извлечь из нее пользу.

Наше новейшее изобретение — искусственный интеллект — обычно рассматривается так, словно речь идет о генетике. Двоичный код копируется, внедряется, совершенствуется. Новые модели создаются на основе предыдущих, наследуя их способности. Одно из первых важных применений ИИ — упрощение процесса программирования и, в частности, помощь программистам в создании новых и более совершенных моделей ИИ. Таким образом, этот код, подобно ДНК, совершенствуется по мере распространения в
человеческом обществе.

Однако влияние этой генетической версии ИИ на людей пока ограничено. Исследования в области ИИ продвигаются быстро, но внедрение и распространение происходят медленно. Несмотря на некоторые неожиданные способности, он еще не проник глубоко в общественную жизнь, не повлиял на экономику, рабочие места (за редкими исключениями).

Я предполагаю, что искусственный интеллект не будет вмешиваться в повседневную жизнь людей до тех пор, пока он не перейдет от генетического субстрата, основанного на коде, к широко распространенному влиянию, похожему на влияние культуры. ИИ должен обзавестись собственной культурой, чтобы развиваться быстрее, как это случилось с людьми. Он не может оставаться просто набором улучшенных функций. Ему нужно стать экосистемой сущностей, которые адаптируются, учатся, совершенствуются
вне кода. Это обеспечит культурную эволюцию ИИ.

Цивилизация зародилась как песни, истории, баллады у костра, а такие институты, как бабушки, дедушки, шаманы, передавали важные знания, которых не было в генах. Религии и школы стали передавать еще больше, а затем мы освоили письменность, чтение, тексты и изображения и заменили ими условные рефлексы. Когда мы изобрели книги, библиотеки, суды, календари, математику, то огромное количество нашего наследия было перенесено на эту совместную распределенную культурную платформу, которая не принадлежала какому-то конкретному человеку.

Цивилизации ИИ требует аналогичной эпизоны, выходящей за пределы кода. Эта эпизона начинается с того, что люди ежедневно пользуются ИИ, формируют навыки совместной работы. Со временем могут начать развиваться протоколы сотрудничества и школы формирования нравственности ИИ. Будут шаманы и врачи для отслеживания психического здоровья ИИ и поддержания его. Должны быть разработаны корпоративные передовые практики для внутренних ИИ и комитеты по надзору за их работой, учреждения для проверки, найма и рекомендации различных видов ИИ, ассоциации ИИ, которые лучше всего работают вместе. Для обучения ИИ определенным ролям и задачам потребуются целые отделы, так как некоторые виды обучения требуют времени (а не просто загрузки). Сами ИИ будут развивать межъязыковые системы, для которых нужны механизмы сохранения и архивирования. Возникнут экосистемы ИИ, взаимозависимые друг от друга. ИИ, которые контролируют другие ИИ. ИИ нужны библиотеки контента и промежуточных значений, скрытые пространства и петабайты данных, которые нужно запоминать, а не изобретать заново. Есть люди-агенты, которые должны управлять закупками и обслуживанием этой эпизоны ИИ на местном, национальном и глобальном уровнях. Это цивилизация ИИ.

Одинокий, неприкрытый ИИ мало что сможет сделать сам по себе. Чтобы ИИ по-настоящему повлиял на что-то, ему нужна обширная эпизона. Он должен быть окружён и встроен в свою культуру точно так же, как людям нужна культура для процветания.

Стюарт Брэнд придумал прекрасную аналогию для понимания особенностей цивилизации. Он объясняет, что функции мира можно ранжировать по слоям, которые зависят от всех более нижних слоёв. Быстрее всего (ежедневно) меняются слои, связанные с модой. Не сильно отстаёт по скорости технологический слой, который включает в себя технологии искусственного интеллекта. Он меняется каждую неделю. Ниже (и в зависимости от него) находится инфраструктурный слой, который движется медленнее, а ещё ниже — культурный слой, который по сравнению с ними меняется очень медленно. (На самом низком, самом медленном уровне находится природа, которая движется со скоростью ледника.) Все эти уровни работают одновременно и влияют друг на друга, и многие сложные вещи имеют несколько уровней. Искусственный интеллект также работает на нескольких уровнях. Его кодовая база совершенствуется со скоростью интернета, но его внедрение и использование происходит на культурном уровне. Чтобы ИИ
действительно заработал, он должен стать частью человеческой культуры. Это займёт время, возможно, десятилетия, потому что такова скорость развития культуры. Независимо от того, насколько быстро развиваются технологии, культура искусственного интеллекта будет развиваться медленнее.

Это хорошая новость во многих отношениях, потому что часть того, что делает эпизона ИИ — включает и интегрирует наследуемые улучшения в стек технологий и переносит их в более медленную область культуры ИИ. Это даёт нам время адаптироваться к грядущим сложным изменениям. Но чтобы подготовиться к последствиям, мы должны обратить внимание на формирующуюся эпизону ИИ за пределами кода. 

Сообщение Параллельная цивилизация: зачем искусственному разуму бабушка появились сначала на Идеономика – Умные о главном.