Возможно, человечеству придётся покинуть Землю
Сбылось очередное предсказание Дэна Симмонса, автора легендарной космической оперы «Песни Гипериона». Для контекста: во вселенной Гипериона часть человечества — так называемые Бродяги — живёт в космосе, на блуждающих флотах космических кораблей, которые путешествуют между звёзд. На огромных лайнерах бродяг нет гравитации, так что бродяги приспособлены к невесомости, но не могут уже так просто спускаться на планеты, где сила тяжести может повредить их изменившиеся тела.
Теперь сравните. Вот реальная научная новость из нашего с вами мира (ссылка): учёные смоделировали работу варп-двигателей и выяснили, что такие двигатели будут испускать при работе гравитационные волны, которые можно будет зарегистрировать. Варп-двигатели теоретически возможны, так как не противоречат законам физики, однако наши технологии пока что не позволяют такие двигатели создать: до разработки реальных варп-двигателей нам так же далеко, как Альфреду Нобелю до созданию атомной бомбы.
А вот фрагмент из «Падения Гипериона»:
Я заметил, что эскадры ВКС в основном отслеживают перемещения Роёв [Бродяг], если не считать скоплений кораблей вблизи баз и на орбитах неспокойных миров типа Мауи-Обетованной, Брешии и Кум-Рияда.
— Адмирал, — сказала Гладстон, отмахиваясь от комментариев. — Я думаю, вы позаботились рассчитать время передислокации флота в случае нарушения границы в какой-то другой точке.
На хмуром лице Наситы появилось что-то, могущее сойти за улыбку.
— Да, разумеется, госпожа секретарь. — снисходительно ответил он. — Если вы обратили внимание, ближайшие Рои, кроме того, что у Гипериона, находятся на значительном расстоянии. — Мы увидели скопление красных векторов под золотым облаком, где, как я предполагал, находились Небесные Врата, Роща Богов и Безбрежное Море. В таком масштабе Бродяги действительно казались весьма отдаленной угрозой. — Мы отмечаем миграции Роёв по возмущениям поля Хоукинга, засечёнными постами прослушивания в Сети и за её пределами. Кроме того, наши зонды-разведчики регулярно определяют их размеры и направление движения.
— Как регулярно, адмирал? — перебил его сенатор Колчев.
— По крайней мере один раз в несколько лет, — отрезал Насита. — Следует учесть, что субъективная продолжительность рейса составляет несколько месяцев. Даже на гиперскорости полёт занимает до двенадцати лет по нашему времени.
— Если наблюдения проводятся с интервалами в несколько лет, — настаивал сенатор, — откуда вам известно, где сейчас находятся Рои?
— Двигатели спин-звездолетов не лгут, сенатор, — проговорил Насита с нотками металла в голосе. — Возмущения поля Хоукинга подделать невозможно. То, что мы видим, — положение сотен или, в случае крупных Роёв, тысяч отдельных работающих двигателей на данный момент. Эффект Хоукинга, как вам известно, распространяется без запаздывания во времени.
Как видите, и это предсказание господина Симмонса тоже сбылось, равно как и многие другие… Сейчас, конечно, всё внимание технологически продвинутой общественности приковано к искинам, которые эволюционируют ровно в том направлении, которое во вселенной Гипериона привело их к войне против человечества.
Лично я надеюсь, что противостояния с искинами человечеству так или иначе удастся избежать. Может быть развитие искинов выйдет на плато, окажется «пузырём», как предполагают многие аналитики, так что дальше помощников в простых делах искины не разовьются. Или, может быть, искины станут по-настоящему умными, но предпочтут сотрудничать с людьми, а не враждовать.
Вместе с тем, даже если искины просто помогут нам развить науку, не пытаясь нас поработить, человечеству всё равно грозит много серьёзнейших опасностей. Представьте, например, технологию, которая позволит распечатать бомбу мощностью в 100 мегатонн на кухонном молекулярном принтере. Появление такой технологии сделает Землю некомфортным местом для жизни, так как среди миллиардов людей с избытком хватает безответственных шутников, которым захочется испытать мощную бомбу на заднем дворе у соседа.
Расселение по другим планетам только увеличит риски, так как расселение приведёт к межпланетным конфликтам, а межпланетные конфликты на высоком уровне технологий — к последовательному выжиганию всех вовлечённых в конфликт планет. Одна ракета с антиматерией, запущенная неизвестными из космоса, может сделать целую планету непригодной для жизни.
Такой расклад, вероятно, приведёт к сценарию «Тёмного леса»: появление чересчур мощного оружия вынудить всех враждовать со всеми и прятаться ото всех.
Одна из очевидных стратегий выживания в таком сценарии — построить блуждающие флоты, погрузить на них всё население и мигрировать по глубокому космосу, выбирая маршруты наугад. Если враги не знают, где находится ваша флотилия, они не могут её уничтожить. А даже если узнают, то нанести ущерб флоту, отдельные корабли которого летят на расстоянии тысяч километров друг от друга, гораздо сложнее и дороже, чем, например, бухнуть бомбу в мировой океан. Взорванная в океане бомба поднимает цунами, которое смывает с поверхности планеты разумную и неразумную жизнь. Взорванная в космосе бомба той же мощности даже не создаёт ударной волны, так что может повредить в лучшем случае один корабль роя.
В общем, когда скептики говорят мне, что «ерунда этот ваш ИИ», когда они напоминают про отсутствие яблонь на Марсе и крах доткомов, мне даже отчасти хочется, чтобы они оказались правы. Однако развитие искинов пока что даже не думает замедляться — впечатляющие новости приходят практически каждую неделю.
К примеру, из недавнего — даже нынешние крайне несовершенные искины выявляют рак простаты на 7% точнее, чем опытные врачи (ссылка). Уже сейчас ясно, что в обозримом будущем медицина будет автоматизирована как минимум на 90%.
1. Искин терпеливо расспрашивает пациента на предмет жалоб, собирает анамнез, внимательно читает историю болезни.
2. Искин составляет список предполагаемых диагнозов и назначает исследования.
3. Живая двуногая медсестра берёт у пациента кровь и следит, чтобы тот не вертелся в томографе.
4. Искин лично изучает анализ крови, снимки КТ и тому подобное.
5. Искин ставит окончательный диагноз и ведёт пациента, созваниваясь с ним по три раза в день и напоминая про таблетки.
Все пункты выше — не выдержка из научно-фантастического рассказа. Искины умеют всё это уже сейчас, причём на уровне опытных врачей. Мы не наблюдаем искинов в районных поликлиниках исключительно из-за инерции программистов и бюрократов: требуется много лет, прежде чем готовые технологии пойдут в массы.
Это была одна новость. Другая новость — компания Энтропик (Anthropic) выпустила на днях искина Клод 3.5 Сонет, самого умного из открытых публике на сегодня (ссылка). Сонет обходит ЖПТ-4 от ОпенАИ по большей части метрик. Разумность искинов за последний год возросла колоссально, и у нас пока что нет оснований предполагать, что прогресс хотя бы немного замедлится в 2025 году.
Возможно, было бы и неплохо прогресс замедлить… но, увы, американцы недоговороспособны. Подписать договор об ограничении искусственного интеллекта они ещё могут, если сочтут для себя выгодным, а вот соблюдать этот договор — уже категорически нет.