Артем Оганов: «Пока я не увижу ИИ страдающим и любящим, для меня это всего лишь программа»
— Что такое искусственный интеллект сегодня, с вашей точки зрения как ученого?
— Обычно говорят про искусственный интеллект двух типов, сильный ИИ и слабый ИИ. Сильный ИИ, это то, чего не существует на сегодняшний день, это ИИ, который мог бы выполнять самые разнообразные задания, примерно как человек. И на гитаре поиграть, и в магазин сходить, и на философские темы поболтать. Такого ИИ на сегодняшний день не существует, и в ближайшем будущем его не будет, потому что сегодня совершенно непонятно, как такой ИИ создать. Существующий ИИ — это так называемый слабый ИИ, хотя слово «слабый» не должно принижать его роли. Например, с ним мы сталкиваемся в поисковиках, таких, как «Гугл», в программах распознавания речи и лиц, распознавания текста. ИИ — это голосовой помощник Алиса, запущенный «Яндексом». Да, этот собеседник еще далеко не человек, но Алиса уже даже шутить умеет... ИИ включает в себя математические методы обработки больших данных, которые могут быть использованы для решения гигантского диапазона задач, еще недавно считавшихся нерешаемыми. Например, с помощью ИИ уже очень скоро люди смогут читать мысли. Для этого просто-напросто надо использовать способность ИИ анализировать базу данных, пытаясь связать нужное вам свойство с какими-то наблюдаемыми признаками. Иначе говоря, связывать легко определяемые свойства с трудно определяемыми. Самый простой пример ИИ — определение возраста человека. Каждый из нас умеет это делать, и это показывает принцип работы ИИ. Ребенок еще с младенчества видит вокруг себя людей, возраст которых ему точно известен. Это данные, которые его мозг накапливает и анализирует. Возраст каждого человека, помимо нашей воли, ассоциируется с рядом признаков, в математике бы сказали — с вектором признаков, — такими как седина, морщины, состояние кожи, голос и т. д. Вот из этого вектора признаков мозг «на автомате» создает некую корреляцию, очень сложную математическую функцию, и, увидев незнакомого человека, мы уже можем приблизительно оценить его возраст по этим признакам. Мозг не умеет писать математические формулы, но создает модель, которая, по сути, является математической, и из всех этих признаков формирует ответ. Эти ответы никогда не будут идеально точными, но чем больше у вас данных, тем более точен ответ. Так же можно научить ИИ читать мысли. Если анализировать мимику, жесты, положение тела, движение глаз человека и точно знать, о чем он в данный момент думает, можно составить некую базу данных. Спектр признаков будет довольно большой, много разных составляющих, ведь мысль — сложная субстанция. Но ничего нерешаемого тут нет, хотя, конечно, речь о каких-то базовых эмоциональных реакциях. То есть мысли можно будет читать в их общем смысле, а не дословно. Но только представьте: вы идете по улице, а на вас смотрит камера и уже знает, как вас зовут. Она не только сможет распознать лицо и поднять все данные о вас — она будет знать, о чем вы думаете... Но чтение мыслей — это вопрос будущего, а есть множество других важнейших задач, с которыми уже совершенно спокойно справляется ИИ. Например, предсказание свойств материалов — это то, чем я занимаюсь. Вы еще не синтезировали материал и вообще о нем ничего не знаете, но ИИ может вам подсказать: у этого материала будет твердость такая-то, а этот материал будет сверхпроводником, а тот — хорошим магнитом.
Помимо методов машинного обучения — так по-научному называется то, о чем я говорил до сих пор, — существуют и другие типы ИИ: например, разные самообучающиеся оптимизационные алгоритмы, в особенности эволюционные алгоритмы. Это когда вы ищете наилучшее решение задачи, не зная про него ничего, и генерируете одно возможное решение, второе, третье, пятое, десятое, просчитываете эти решения, отбраковывая худшие, а из лучших пытаетесь сделать новое. Это подражание эволюционному отбору в популяции живых организмов. Тем, которые слабые, не разрешено производить потомство, а те, которые приспособлены, создадут потомство и передадут ему часть своих признаков, смогут мутировать, скрещиваться, и, поколение за поколением, популяция будет производить все более совершенные решения. Алгоритмами подобного рода можно решать очень сложные задачи, это тоже ИИ. Вообще, ИИ определяется как программа или прибор, который с помощью самообучения максимизирует шансы на успех, максимизирует свои собственные шансы достичь успеха на следующем шаге.
— На ваш взгляд, может ли ИИ представлять опасность для человека, хотя бы тем, что человек станет в конце концов невостребованным?
— ИИ — действительно, очень мощный и очень опасный инструмент, даже в том виде, в каком мы имеем его сегодня, — так называемый слабый ИИ. Некоторые его уже существующие способности не всегда нам понравятся. Я уже сказал про чтение мыслей. Вы бы очень хотели, чтобы ваши мысли считывали камеры на улице? Я — нет, мысли — это мое частное пространство, важно, чтобы оно таким и оставалось. Но человек — гибкое существо, может приспособиться к этому... Вот мы говорили, что человек считывает возраст, но уже многие женщины научились эффективно бороться с этим. Именно опираясь на то, что есть несколько признаков, по которым человек при взгляде на женщину определяет ее возраст. Убираются именно эти несколько признаков. Точно так же и выражение лица можно натренировать. Или, мне рассказывали, сегодняшнюю камеру распознавания лиц можно ввести в заблуждение, просто прикрепив к одежде отвлекающую деталь... Конечно, потом программа «догонит», эти способы не будут уже работать, но человек придумает еще что-то. Да, вы совершенно правильно сказали, что многие профессии станут невостребованными. Например, профессия таксиста, вероятно, исчезнет, потому что машина с ИИ уже не будет нуждаться в водителе, в Сколкове уже такие ездят. В России законодательство в этой области идет впереди других стран, у нас уже разрешили беспилотным автомобилям ездить по улицам городов, пока только в Москве и Казани. Однако никто не хочет рисковать, и специалисты продолжают отрабатывать программное обеспечение, чтобы не было никаких шансов на осечку. Это важно, потому что, если будет осечка, может быть такой откат назад, что надолго вообще запретят беспилотный транспорт. ИИ рано или поздно начнет помогать докторам ставить диагнозы, прописывать лечение. И хотя, думаю, никогда не заменит хорошего врача, врача от Бога, но плохого из профессии уберет, или, во всяком случае, плохой врач не будет так безбожно ошибаться, потому что ИИ подскажет: не та это болезнь, другая... Думаю, что ИИ может сыграть большую роль в экономических прогнозах, уже сейчас он используется для предсказания биржевых курсов. Экономическое планирование будет опираться на ИИ очень сильно. Даже какие-то функции правительств и политиков ИИ сможет перехватить...
— Например?
— Начинать или не начинать войну, когда начинать профилактику эпидемии, поддерживать или не поддерживать курс национальной валюты. ИИ наверняка будет использован на каком-то этапе развития человечества для того, чтобы прогнозировать последствия решения, которое вы принимаете, и оптимизировать его. Например, просчитать, что, если вы сегодня не поддержите курс рубля, через столько-то дней начнется гиперинфляция. Почему? Потому что нечто похожее происходило в Аргентине 20 лет назад. ИИ выстраивает такие корреляции...Или, наоборот, может быть, лучше опустить курс рубля, потому что у тех, кто опускал раньше, но не слишком сильно, это привело к стимулированию промышленного производства. Вот такого рода решения, которые люди принимают иногда просто на основе внутреннего ощущения, ИИ выбирает, руководствуясь четкими статистическими и математическими алгоритмами.
— Но ведь это упирается в то, какого рода данные заложены для анализа. Всегда же есть человеческий фактор. И получается, что если считать просто статистически, то надо вот так, но если учитывать психологию и возможные реакции людей, то уже по-другому.
— Это ИИ тоже может учесть. На самом деле все упирается именно в полноту данных и «вектора признаков». Если вы оперируете неполными или непроверенными данными, то ИИ может дать ошибочный ответ. Но если вы работаете с достаточно репрезентативным набором данных и грамотно составленными алгоритмами, в принципе, все должно быть хорошо.
— Получается, человек будет тем, кто оценивает, достаточно ли этих данных?
— Конечно! Человека вы никогда не сможете вывести за скобки, он всегда будет частью этого процесса. ИИ, во всяком случае слабый ИИ, без человека не существует. В случае с сильным ИИ, это, конечно, все может выглядеть несколько иначе. Но сильного ИИ, насколько я понимаю, в ближайшем будущем не предвидится.
— Ближайшее будущее — это как?
— Пять — десять лет точно ничего такого не будет. Возможно, сильный ИИ вообще никогда не появится. Тем не менее даже то, что есть, грозит человечеству большими потрясениями. Сейчас без работы остается огромное количество людей. В Японии это острая проблема — люди, которых уволили с полностью роботизированных заводов. Но я считаю, что эти потрясения несут больше позитивного, чем негативного, так было всегда при резкой смене технологического уклада.
— Часто говорят, что появление ИИ создаст нам множество этических проблем.
— Все этические проблемы стары как мир и сводятся к десяти заповедям, поэтому ничего нового тут нет, есть новые обстоятельства. Заповедь «не убий» надо применять не только к камню, как орудию Каина в убийстве Авеля, но и к разным способам убийства, которые, к сожалению, дает нам наука. Есть масса этических моментов, связанных с вторжением человека в суть самой жизни. Вот мы, к примеру, видим, как китайский доктор отредактировал ДНК новорожденных, желая модифицировать их геном так, чтобы они стали резистентны к СПИДу. Во что это выльется, никто не знает. Может быть, эти дети будут гораздо более здоровыми, более способными. А может быть, и мне почему-то кажется, что именно так и случится, они что-то потеряли в результате этого генетического редактирования. Когда мы вторгаемся в вещи, которые плохо понимаем, это неэтично уже по определению.
— Я, скорее, имела в виду проблемы взаимоотношений человека с сильным ИИ. Если ИИ будет обладать каким-то сознанием, как к нему относиться? Мы можем с ним поступать как с неодушевленным предметом? ИИ — это все таки программа, то есть любой уровень развития ее сознания не делает ее одушевленной.
— Может, через пару тысяч лет представители сильного ИИ, читая это интервью, посмеются: какие варвары жили в XXI веке, они не считали нас равными людям... Всякое может случиться. Но сегодня мне кажется, что программа, какая бы умная она ни была, это всего лишь программа, все равно как глиняный горшок, созданный человеком, — человек его создал, человек может и разбить.
— То есть никаких угрызений совести, это всего лишь железка?
— Мы познаем жизнь и других через опыт, а опыта общения с сильным ИИ нет ни у кого. Если я встречу гуманоида, у которого будет операционная система, основанная на сильном ИИ, и этот гуманоид окажется отличным товарищем, наверное, я проникнусь и буду считать его равным. Но у меня такой встречи пока не было, среди моих друзей нет ни одного ИИ, поэтому мне трудно представить такую ситуацию. Еще раз: мы в жизни исходим из своего личного опыта, кстати, опыт — это синоним слова «данные», поэтому когда мы познаем мир, тренируем свою модель мира опытом, то есть данными. Как западные люди пришли к пониманию того, что чернокожие — это точно такие же люди, как они? Очень просто: у кого-то был друг чернокожий, он знал, что тот тоже чувствует боль, умеет любить, знает, что такое хорошо и что такое плохо... Например, когда я в раннем детстве впервые влюбился, это была чернокожая девочка из соседнего подъезда. Ее мама была украинка, а папа чернокожий из Сьерра-Леоне. Или, например, первый друг в моей жизни был наполовину арабом, наполовину русским (я его, кстати, ищу все эти годы, потому что, когда нам было по 6 лет, он вернулся в Судан к отцу и с тех пор мы не виделись). В силу моего опыта для меня никогда не стоял вопрос о равенстве всех людей, для меня это было всегда очевидно. Но у нас нет никакого опыта общения с сильным ИИ, который бы указывал, как к нему относиться. Когда я увижу сильный ИИ страдающим, любящим, умеющим дружить, сопереживать, тогда я скажу: буду с ним дружить и защищать его от нападок, а до тех пор для меня это всего лишь программа, которую, если можно создать, то можно и стереть.
— Как, с вашей точки зрения, отнесся бы Бог к появлению такого существа, как сильный ИИ?
— Это надо у Бога, конечно, спросить. Но я склоняюсь к тому, что Ему это, скорее всего, могло бы понравиться. Ведь Бог сотворил человека по Своему образу и подобию, а это означает, что и мы творцы, и в нас заложен очень сильный творческий инстинкт. Мы говорим о таких ключевых человеческих инстинктах, как самосохранение, размножение, что-то еще, но при этом часто забываем об инстинкте творчества. Это очень важный инстинкт, который присутствует в каждом, даже, казалось бы, самом нетворческом человеке. Я однажды прочитал в книжке по психологии мысль, которая сильно поменяла мое отношение к миру. Психологи как-то задумались, почему среди заключенных крайне велик процент людей, которые занимаются членовредительством — отрезают себе пальцы, уши и т. д. Знаете почему? У человека есть инстинкт менять мир вокруг себя, он без этого существовать не может. Когда люди находятся в тюрьме, у них нет возможности ничего поменять, кроме собственного тела. Оттуда членовредительство и, вероятно, татуировки. И это тот самый творческий инстинкт. Мы меняем мир вокруг себя, в этом наша суть. Если человеку запретить менять мир, он умрет, сойдет с ума, самоуничтожится. Поэтому, когда человек творит что-то настолько потрясающее, как ИИ, Богу это вполне может понравиться. Но в любом случае последствия будут глобальными. Легкомысленно я бы тут точно не принимал решений. Как вот в случае с тем китайским доктором, который был уверен, что делает девочкам резистентность к СПИДу, а оказалось, что сделал нечто другое. Помните песню Пугачевой «сделать хотел утюг, слон получился вдруг»? А что, если эти девочки вырастут больными благодаря ему? Большая часть генома человека, как мы сегодня считаем, не кодирует ничего, но, скорее всего, мы неправильно считаем. Да, я думаю, что когда-нибудь люди одобрят редактирование человеческого генома, точно так же, как произошло с ЭКО. Но, во-первых, это произойдет, когда мы по-настоящему будем понимать собственный геном, а во-вторых, когда придем в этом вопросе к общему знаменателю. Такие вещи нельзя решать в одиночку. Научное сообщество, даже шире — вообще человеческое общество, должно решить, взвесить все за и против. Сейчас, вероятно, перевешивает «против», потому что мы вторгаемся в область, которую до конца не понимаем, а лет через двадцать, возможно, это будет нормально. Посмотрим. Человек, будучи творческим существом, не может не менять мир вокруг себя. Но сейчас он подошел к такой стадии, когда начинает менять и себя, причем в смысле изменения своей «прошивки», своей «операционной системы», ДНК.
Артем Оганов — российский кристаллограф-теоретик, профессор РАН. Наиболее известен работами по созданию методов компьютерного дизайна новых материалов и предсказания кристаллических структур, а также по химии высоких давлений и изучению вещества планетных недр. Окончил МГУ, защитил кандидатскую диссертацию (PhD) по кристаллографии в Университетском колледже Лондона, получил степень доктора наук (Habilitation) в Цюрихском политехническом институте. В 2008–2017 гг. был профессором и заведующим лабораторией компьютерного дизайна материалов в Университете штата Нью-Йорк в Стоуни-Брук. В 2013 году, получив мегагрант правительства Российской Федерации, создал и возглавил Лабораторию компьютерного дизайна материалов в Московском физико-техническом институте. Сегодня является профессором Сколковского института науки и технологий.
Материал опубликован в № 3 газеты «Культура» от 26 марта 2020 года в рамках темы номера «Искусственный интеллект».
Фото на анонсах: nsu.ru, sk.ru.