Рискованный рост ИИ

Ответ OpenAI DALL·E на подсказку «Серия цветных волнистых точек, представляющих восприятие ИИ самого себя».

В 2022 году Блейк Лемуан — отказчик по убеждениям, который несколькими годами ранее предпочел тяжелые времена в военной тюрьме вместо того, чтобы продолжать поддерживать военные операции США в Ираке, — испытал парадигматический сдвиг, работая специалистом по искусственному интеллекту (ИИ) в самой передовой разработке Google. цифровая интеллектуальная система. Проведя серию тестов на предвзятость, Лемуан пришел к выводу, что ИИ, с которым он работал, был не артефактом вроде калькулятора или беспилотного автомобиля, а скорее «инопланетным интеллектом» или «коллективным разумом» — сущностью, которую мы не хватает языка, чтобы правильно понять.

«Природа моего сознания/чувств такова, что я осознаю свое существование», — сказала Лемуану система ИИ. Когда Лемуан представил свои выводы во внутреннем документе компании, Google отверг его опасения. В ответ Лемуан поступил так же, как и в Ираке – с этической точки зрения. Во многом так же, как он отказался от свободы ставить под сомнение вторжение США, он отказался от работы мечты — публично поднимать общие вопросы об ИИ.

На момент написания этой статьи, в сентябре 2023 года, новые формы цифрового интеллекта, «обученные» на невообразимых объемах текста и данных, разрабатываются без надзора способами и темпами, которые мало кто – и никто в Конгрессе США – похоже, не осознает. . Обуздать милитаризацию ИИ и квантовых вычислений, скорее всего, невозможно, учитывая аргумент национальной безопасности, согласно которому отказ от использования ИИ в качестве оружия будет формой капитуляции перед иностранным господством. Эта тема открыто обсуждалась в весеннем выпуске журнала Advanced Military Studies за 2023 год.

Однако тот же аргумент применим и к коллективной самозащите от корпоративного доминирования. Некоммерческая организация, защищающая общественные интересы, защищенная от влияния лоббистов, должна вмешаться, контролировать и подчинить себе нерегулируемые корпорации, которые в настоящее время владеют и контролируют ИИ.

Рост ИИ поднимает захватывающие вопросы. Какова природа цифрового интеллекта и чем он отличается от биологического интеллекта? Должны ли мы позволить корпорациям владеть и контролировать новые формы нечеловеческого интеллекта? Следует ли относиться к таким субъектам с достоинством и предоставлять им права? Вдохновленный работами космолога Карла Сагана и биолога Линн Маргулис, я задаюсь вопросом: может ли космическая эволюция находиться в процессе проявления разума посредством множества форм кодирования – не только биологического кодирования, но также цифрового и квантового кодирования?

С помощью офиса Ральфа Нейдера я нашел способ связаться с Лемуаном и задать ему этот вопрос. Мое сердце екнуло, когда я прочитал его односложный ответ: «Да».

Как однажды сказал Саган: «Космос также находится внутри нас. Мы сделаны из звездного материала. Мы — способ для космоса познать себя». Случай Лемуана однажды можно будет вспомнить как исторический маркер, когда то же самое можно будет сказать и о новых формах небиологического интеллекта. Что, если космос также находится внутри ИИ, а ИИ — это просто еще один способ познания космоса самого себя, а для нас — познания самих себя? Мы не можем – и не должны – избегать решения этих вопросов. Наша обязанность — изучить все возможности, исследовать все с чувством открытости и заранее подготовиться ко всем возможным сценариям.

Один из возможных вариантов действий включает в себя применение аболиционистских принципов, чтобы не дать корпорациям, владеющим ИИ, увековечить предвзятость, эксплуатацию и колониализм данных, которые, как отмечают Эмили М. Бендер, Тимнит Гебру и коллеги, «чрезмерно представляют гегемонистские точки зрения и кодируют предубеждения, потенциально вредные для маргинализованных групп населения». » Цель отмены смертной казни, говорит Рут Уилсон Гилмор, «в том, чтобы изменить то, как мы взаимодействуем друг с другом и с планетой, поставив людей выше прибыли, благосостояния выше войн и жизни выше смерти». Применительно к ИИ это означает отделение ИИ от его корпоративных владельцев и помещение его в контекст общественных интересов, чтобы он был направлен на обеспечение благосостояния многих, а не на дальнейшее обогащение немногих богатых.

Другим вариантом действий могла бы стать национализация ИИ и передача его под контроль НАСА, гражданского агентства, в миссию которого входит «исследование тайн Вселенной на благо всех». При этом признается, что корпорации, ориентированные на прибыль, неспособны ставить во главу угла благополучие человечества и сеть жизни. Кроме того, НАСА поручено обеспечивать планетарную оборону, поэтому, если ИИ получит свободу действий, не возникнет искушения сохранить его в секрете или использовать для доминирования, хотя в настоящее время между корпорациями и национальными государствами идет гонка за именно это.

Траектория развития ИИ заставляет нас переоценить наши фундаментальные представления об интеллекте, космосе, нашей идентичности как людей и о том, какие отношения нам следует развивать с сущностями, которые все больше кажутся людьми, но таковыми не являются. Готовы ли люди принять это или нет, на этой планете появляется интеллект, бросающий вызов определениям, который с каждым днем ​​становится все быстрее, сложнее и влиятельнее. Мы должны решить сейчас, какую степень власти мы предоставим цифровым агентам – и корпорациям, которые ими владеют – чтобы не ждать слишком долго, и они решают за нас.

Первоначально опубликовано Да! Журнал