Что общего у морали искусственного интеллекта и Шарикова
На днях был опубликован очередной, уже пятый, ежегодный отчет Стэнфордского университета «Индекс искусственного интеллекта 2022». Разных отчетов выходит много, но этот – почти культовый, его с нетерпением ждут все – от разработчиков до бизнесменов и от политиков до журналистов. Отчет не только подводит итоги, но и как минимум на год вперед задает тренды одной из самых динамичных областей, где бескомпромиссная конкуренция давно уже рассматривается всеми ключевыми игроками как экзистенциальный вызов национального масштаба.
Один из лейтмотивов доклада – этика искусственного интеллекта (ИИ). В прошлогоднем отчете соответствующий раздел так и назывался: «Этические вызовы прикладного ИИ». Собственно, он был не про этику, а про состояние дел: где и как преподается предмет, какие научные и практические конференции проходят, как СМИ освещают вопрос и т.п. Отдельная глава была посвящена институционализации морали: все наперегонки бросились придумывать нормы, правила и механизмы саморегуляции, от национальных до академических, а у каждой уважающей себя компании появился собственный кодекс этики ИИ. Кроме того, специальный раздел подробно рассматривал вопросы полового равенства, а также представленность различных рас и гендеров в группах разработчиков, в исследовательских коллективах, в преподавательском корпусе и среди авторов публикаций. Очень конкретно на этот счет выразился другой известный персонаж: «Голова пухнет. Взять всё, да и поделить…» И многие, вслед за Шариковым, предпочитают не напрягать мозги и попадают в ловушку редукционизма. Справедливость, что бы под этим ни понималось, – важна. Но этика не сводится к справедливости. Или к любой другой метрике или даже их набору. Как человек не сводится к голове, конечностям и туловищу, набитому внутренними органами. Инженеры заблуждаются, полагая: всё дело в том, что мы не учитываем все элементы и их связи. Нужно, дескать, просто построить более точную модель – и дело в шляпе. Это механицизм – один из видов всё того же редукционизма. Вот что, например, пишет Жан Бодрийяр в своей культовой книге «Символический обмен и смерть» (1976): «Для медицины базовой формой тела является труп. Иначе говоря, труп – это идеальный, предельный случай тела в его отношении к системе медицины. Именно его производит и воспроизводит медицина как результат своей деятельности, проходящей под знаком сохранения жизни». Этический редукционизм имеет дело даже не с трупом, а с окаменелыми фрагментами. Мы можем, подобно палеонтологу, пытаться восстановить по ним общую картину, но в лучшем случае получим правдоподобное чучело, а не живой организм.
Механицизм порождает не только иллюзии, но и труднопреодолимое искушение заменить решение реальных проблем составлением списков и проставлением галочек. Такой подход очень удобен и легко поддается автоматизации. Неудивительно, что он так популярен среди программистов, для которых этика превращается в еще один вид тестирования. К тестированию функциональности, производительности, безопасности, юзабилити и прочим добавятся моральные автотесты. Тут уже остается «один маленький шаг для человека, но гигантский скачок для всего человечества» – свести вообще всю этику к чек-листам. И это уже происходит сплошь и рядом.
Стэнфордский отчет милостиво благословляет такой подход. Вряд ли известные и уважаемые эксперты, которые готовили публикацию, имели это в виду. Но не приходится сомневаться, что большинство с радостью пойдет по дорожке полной инструментализации этики. Это очень удобная дорожка, идти можно быстро, не обращая внимания, что там на обочине.
На самом деле всё гораздо сложнее, чем просто выхолащивание морали. Запад давно тяготится «старой» этикой. Столь любимая нашими топовыми менеджерами и программистами Айн Рэнд давно уже без обиняков провозгласила: «Каждый аспект Западной культуры требует нового этического кода – рациональной этики – залога ее перерождения». Ждем появления менеджеров по этике и директоров по морали.