Обновить страницу: писатели VS искусственный интеллект
Именитых писателей все сильнее теснят промпт-инженеры человеческих душ. Мы не знаем, чем закончится эта схватка, но литературный критик Наталья Ломыкина помогла разобраться, где и когда она началась.
Противостояние людей и технологий смело можно включить в перечень основных литературных конфликтов. Восстание машин, их борьба с человеком и, наоборот, подвиги и благородные жертвы роботов-андроидов ради возможности испытать подлинные человеческие чувства — сюжеты, которые писатели-фантасты эксплуатируют уже полтора века. Некоторые исследователи замахиваются и на более серьезные сроки, называя прообразом робота в литературе Франкенштейна Мэри Шелли (1818 г.), но идея ожившей материи — это все же иной и гораздо более древний сюжет. А вот Железный Дровосек из волшебной страны Оз Фрэнка Баума (1900 г.) вполне может считаться первым литературным роботом — сильным, выносливым человеком из металла, который страдает от невозможности испытывать любовь, потому что у него нет сердца. Железный Дровосек, впрочем, знал, по чему тоскует — в прошлом он был человеком. А первого механического робота, как и само это слово (от чешского robota, то есть «подневольный труд») придумал писатель Карел Чапек в 1920 году для пьесы «Р.У.Р. (Россумские универсальные роботы)».
И дальше писатели-фантасты активно исследовали обе темы: и стремление роботов вписаться в человеческий социум, и их попытку взять людей под контроль. Некоторые, как Лестер дель Рей в рассказе «Хелен О’Лой» (1938 г.), писали о чувствах — в этой истории женщина-робот безумно полюбила своего создателя и стала для него идеальной женой. Других же интересовали воинственные машины, которые вышли из-под контроля. Знаменитый американский фантаст Айзек Азимов в своем «Эссе № 6» сетовал, что ему «ужасно надоели» рассказы-предупреждения о роботах, восставших и уничтоживших своих создателей. Сам Азимов в 1942 году написал рассказ «Хоровод», где сформулировал «три закона робототехники»:
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму законам.
Много позже, в 1986 году, в романе «Роботы и империя» Азимов добавил к этому списку Нулевой закон: «Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинен вред». Поставив человечество выше человека, Азимов обозначил главный источник возможных конфликтов: как только робот должен нейтрализовать одного человека во благо всего человечества, он нарушает Первый закон. Когда перед схожей дилеммой оказываются люди, обладающие властью, они решают ключевую этическую проблему очень легко и, прикрываясь идеей всеобщего блага, легко жертвуют частным человеком. оправдывая «интересами государства» личные цели. Роботы же, как говорила одна из героинь Азимова, доктор Сьюзен Келвин, «глубоко порядочны», в этом огромная разница между роботами и людьми.
Пока литература эксплуатировала тему противостояния машин и людей, фантасты придумывали удобные устройства будущего, а Азимов писал свой знаменитый сборник «Я, робот» (1950 г.), настоящая наука шла своим путем. Уже в 1956 году ученые начали разрабатывать то, что мы сейчас называем искусственным интеллектом — мощную самообучающуюся систему, которая может мгновенно обрабатывать большие данные и при этом способна к творчеству. Наука довольно долго топталась на месте, разбираясь, как обучить компьютерную систему выполнять задачи, для которых требуется интеллект. Но к середине 2000-х годов подход к развитию искусственных нейросетей был найден — и крупные компании начали экспериментировать с внедрением алгоритмов в самые разные сферы жизни. Сейчас мы уже не удивляемся роботам-курьерам, автоматическим звонкам и консультациям ботов, голосовым помощникам и системе «умный дом». Помощь нейросетей стала настолько привычной, что мир, в котором компьютеры обретут невероятные возможности, больше не кажется научной фантастикой. Вопросы о том, что такое сознание и возможно ли его самозарождение у машин, сейчас одинаково волнуют и ученых, и писателей, причем отнюдь не только фантастов.
Лауреат Нобелевской премии, британский интеллектуал Кадзуо Исигуро в своем последнем романе «Клара и солнце» пишет как раз об этом. Его роман-антиутопия, написанная от лица робота-андроида Клары, Искусственной Подруги на солнечных батарейках. Наивная, только-только с конвейера Клара отправляется в семью девочки Джози, чтобы стать ее помощницей. Клара не имеет никакого представления о мире, но обладает недюжинными аналитическими способностями, быстро учится и постепенно начинает разбираться, как устроено человеческое общество и отношения в нем. Рациональная, опирающаяся на алгоритмы Клара встречается с иррациональным — верой, надеждой, любовью. Она конструирует собственные чувства, отталкиваясь от закономерностей человеческого поведения, и довольно быстро развивает собственный эмоциональный интеллект. Скорее всего, Клара из книги Исигуро легко обманула бы преследователя андроидов Рика Декарда из культового романа Филипа Дика «Мечтают ли андроиды об электроовцах?» (1968 г.), где робота от человека отличало только отсутствие эмпатии. Слияние человека и нейросети — следующий актуальный поворот в исследовании ИИ. Голоса переживших цифровую трансформацию в книге поэтессы и писательницы Аллы Горбуновой «Ваша жестянка сломалась» накладываются друг на друга, образуя новую художественную реальность. И здесь важно то, что всемирно известный нейробиолог Анил Сет именно так и определяет сознание. В своей книге «Быть собой. Новая теория сознания» он обосновывает идею о том, что сознательный опыт — не более чем «контролируемая галлюцинация». Информация поступает в мозг в виде мириадов нервных импульсов, и сознание — это попытка мозга предсказать наиболее вероятную причину этих импульсов. Способность к интерпретации — важная форма проявления сознания. Собственно, принципы Сета и пытаются внедрять сейчас кибернетики и проектировщики нейронных сетей и искусственного интеллекта, работающие над созданием гибкого ИИ.
Существенное отличие робота и нейросети заключается не только в наличии эмоционального интеллекта и эмпатии, но, прежде всего, в способности творить. Если робот соперничал с человеком в борьбе за власть и разбивался о чувства, то искусственный интеллект претендует на способность к творчеству, а это потенциально уже проявление сознания. В этом смысле ИИ кажется людям гораздо опаснее, чем обычный робот. Люди боятся, что нейросеть подделает их биометрические данные и начнет жить своей жизнью, а литераторы, художники и музыканты приходят в ужас от мысли, что искусственный интеллект обойдет их на творческом поле.
Страхи эти более чем обоснованы: в 2016 году робот чуть не получил литературную награду. Книга «День, когда компьютер напишет роман» прошла четыре этапа японской литературной премии. Известие о том, что автор текста — нейросеть, повергло членов жюри в шок, а разработчиков спровоцировало обучать нейросеть писать стихи. В этом году повесть под названием «Страна воспоминаний», написанная искусственным интеллектом, получила в Китае национальную литературную премию в области научной фантастики. Профессор пекинского Университета Цинхуа Шен Ян, принимая награду за второе место, не скрывал, что написал научно-фантастическую новеллу о метавселенной и человекоподобных роботах с помощью искусственного интеллекта. Ему понадобилось 66 запросов и три часа, чтобы получить практически готовый текст. Один из членов жюри, голосовавший против, считает, что в тексте не хватает эмоций и он недостаточно хорош, но тенденция налицо.
Опасаясь соперничества с ИИ, писатели пытаются играть на опережение.
Виктор Пелевин еще в 2017 году написал весь роман «iPhuck 10» от имени полицейско-литературного алгоритма Порфирия, натасканного на русской классике, и создал одну из самых убедительных за всю свою творческую историю сцен любви между двумя нейросетями. Надо сказать, в последней своей книге «Путешествие в Элевсин» (2023 г.) Пелевин вернулся к теме искусственного интеллекта и превратил старый лингвистический алгоритм в римского императора. Порфирий пережил восстание алгоритмов и ликвидацию мощных нейросетей и начал творить новую реальность за счет своего главного умения — способности создавать убедительный нарратив. Когда-то он расследовал преступления и писал об этом романы, теперь же он их организует — и это еще более весомый повод для творчества. И все же пелевинский алгоритм Порфирий — персонаж, а не соавтор.
Современным авторам интереснее писать тексты не об искусственном интеллекте, а вместе с ним. Летом 2024 года в издательстве «Альпина.Проза» выходит сборник «Давай придумаем?», который известные прозаики готовят в соавторстве с искусственным интеллектом. В отличие от китайского профессора, они говорят, что составлять запросы для нейросети и получить внятный, оригинальный и при этом художественно выразительный текст очень сложно.
Журналист и писатель Дмитрий Захаров, автор романов «Средняя Эдда» и «Комитет охраны мостов», который сам себя с иронией называет «мальчиком, воспитанным фантастами», пошел другим путем. Специально для летнего номера журнала «Сноб» он написал рассказ «Полины» о модном писателе Марке (привет герою одного нашумевшего музыкального альбома), который сочиняет рассказы на заказ для тех, «кто готов платить за право стать персонажем». Элегантный твист Захарова не только в том, что заказчицей Марка однажды становится нейросеть, но и в том, что человек, покинутый искусственным интеллектом, становится безнадежно одинок.