Бот в законе: нейросети научатся писать нормативные акты

В Ханты-Мансийском автономном округе (Югра) собираются внедрить нейросетевую модель, которая поможет чиновникам писать нормативно-правовые акты. Сейчас разработка уже ведется, предположительно, осенью нейросеть собираются запустить в тестовом режиме. Можно ли допускать искусственный интеллект к работе над нормативно-правовыми актами, как это отразится на качестве выпускаемых законов и заменит ли нейросеть чиновника — в материале «Известий».

Какую нейросеть запускают в ХМАО

О планах по запуску нейросети заявил заместитель губернатора ХМАО Павел Ципорин.

«Одна из задач чиновников — написание нормативно-правовых актов. Их выпускается достаточно большое количество, поэтому у нас возникла гипотеза, что мы можем обучить нейросетевую модель на наших нормативных актах, чтобы она помогала разрабатывать проекты новых документов, проекты внесения изменений в действующие нормативно-правовые акты», — сказал он.

По словам губернатора, сейчас идет обучение нейросетевой модели. Ориентировочное время запуска системы — осень 2024 года.

Павел Ципорин рассказал «Известиям», что идея заключается в том, чтобы оптимизировать рутинную работу чиновников.

— Эффективным такой подход будет благодаря быстрой подготовке проекта документа и предоставления его для корректировки сотруднику, — сказал он. — Нужно понимать, что искусственный интеллект не заменит полностью юридическую службу, он будет ей хорошим помощником. Конечное решение о редакции проекта НПА принимает, конечно же, человек.

Разработкой занимается подведомственный правительству региона Югорский НИИ информационных технологий. Применять в ХМАО решили малоизвестную модель Mistral. Речь идет, судя по всему, об открытой бесплатной языковой модели французской компании Mistral AI, которая появилась совсем недавно — сообщения о ней возникли в СМИ в сентябре.

Главный архитектор систем искусственного интеллекта исследовательского центра ИИ по направлению «Транспорт и логистика» НИЯУ МИФИ Роман Душкин сказал «Известиям», что к подобного рода открытым нейросетевым моделям лучше относиться с осторожностью, проведя до начала запуска тщательный аудит с включением ее внутрь контура безопасности.

Где еще чиновники используют нейросети

По словам Павла Ципорина, аналогов применения ИИ в этих целях где-либо еще югорские чиновники не встречали. Член комитета Госдумы по информационной политике, ИТ и связи Антон Немкин рассказал «Известиям», что сейчас ряд региональных министерств используют в своей работе цифровых помощников в соцсетях или на своих порталах — например, министерство культуры Самарской области, министерство экономразвития Ставропольского края. Однако основная цель этого инструмента — автоматизация ответов на популярные вопросы населения, но не создание нормативно-правовых актов. В ХМАО, к слову, такой цифровой помощник тоже есть — сообщения о нем поступили осенью 2023 года, хотя публично проект еще не презентовали.

— С сентября 2023 года в России также стартовал эксперимент использования искусственного интеллекта для отбора сотрудников на государственную службу, — рассказал Антон Немкин. — Одна из целей эксперимента — как раз внедрение в кадровую работу технологий искусственного интеллекта.

Аналитик данных Softline Digital Владислав Ботнев отметил, что выпущено уже достаточно много научных статей об использовании нейросетей для решения задач управления государством.

— К примеру, нейросети могут помочь планировать бюджеты, общаться с общественностью, обрабатывать большие данные, — рассказал он «Известиям». — Но о внедрении генеративного ИИ для создания официальных документов я слышу впервые.

Заместитель подразделения консалтинга DIS Group Сергей Евтушенко отмечает, что других примеров применения нейросетей чиновниками достаточно много: их используют для поиска незарегистрированной недвижимости, установления корреляции причин часто происходящих событий, помощи в определении применимости тех или иных законов и положений. Однако во всех случаях важно подходить к этому с «адекватным контролем».

Можно ли допускать нейросеть до работы с законами

Роман Душкин подчеркивает, что ничего плохого в том, чтобы чиновники пользовались нейросетевыми моделями, нет — напротив, это инструмент, который может автоматизировать какую-то часть работы. Подобные инструменты могут улучшить нормативные акты, сделать более системным подход к их разработке, однако ни в коем случае нельзя полностью перекладывать на них разработку документов без какого-либо контроля со стороны человека.

Исполнительный директор группы «Рексофт» Евгений Минеев отмечает, что технология поиска нейросетью нужного информационного куска в многостраничном документе по запросу — хорошо отработанная технология, которая требует лишь аккуратного обучения в связке с человеком. ИИ мог бы помочь с перекрестными ссылками в нормативных документах, предложить чиновнику варианты формулировок под задачу, что сильно облегчило бы работу сотрудников. За человеком при этом всегда остается функция верификации предложенной информации.

— То есть сотрудник пишет вопрос в строке поиска, а сервис в онлайн-режиме выдает структурированный ответ с объяснениями, ссылки на первоисточники и список экспертов по теме, с которыми можно проконсультироваться, — рассказывает Евгений Минеев. — Решение интегрируется с различными внутренними базами организации, работает с текстовыми файлами, презентациями и другими типами документов. В «Рексофте» используем подобный инструмент при подготовке коммерческих предложений, когда нужно найти примеры расчетов стоимости услуг по аналогичным запросам других клиентов или описания уже реализованных проектов для подтверждения квалификации.

Депутат Антон Немкин подчеркивает, что в России не только ИТ-компании и бизнес активно внедряют передовые технологии в свою деятельность — работа ведется на государственном уровне. Это стратегия РФ в отношении ИИ — занять лидирующие позиции в мире.

— Использование генеративных нейросетей моделей для составления типовых проектов документов вполне оправданно, на мой взгляд, — сказал он «Известиям». — Как минимум это позволит сократить бюрократическую нагрузку на людей, оптимизировать их работу, освободив время для более полезных дел. Кроме того, такие помощники могут быть эффективными и для аналитики данных.

Он признает, что первые документы, созданные при помощи нейросетей, могут быть некачественными, однако технология ИИ позволяет постоянно улучшать качество работы.

— Уверен, что власти ХМАО прекрасно это осознают, поэтому постараются максимально обучить такую модель на основе ранее разработанных нормативных актов, скорректировать и усовершенствовать ее, прежде чем полноценно запускать в дело, — сказал Антон Немкин.

Владислав Ботнев полагает, что из инициативы ХМАО может получиться хороший прецедент. При этом важно понимать специфику генеративного ИИ: сгенерировать принципиально новый закон нейросеть не сможет, речь идет скорее о «консультации» составителя документа, о переписывании текста в соответствии с требованиями.

При этом эксперты подчеркивают, что нейросетевая модель — это не замена чиновника, а дополнительный инструмент для него. Директор по развитию Napoleon IT Сергей Белоклоков полагает, что ИИ сможет взять на себя рутинные линейные задачи и через 5–7 лет появятся вакансии уже не на конкретные роли, а на блоки задач, которые могут быть выполнены нейросетью.

Коммерческий директор «Девелоники» (ГК Softline) Роман Смирнов замечает, что сейчас применение нейросетей находится в серой зоне, ведь еще нет никаких регламентов их использования.

В чем опасность нейросетей для чиновников

Роман Душкин подчеркивает, что опасными нейросети становятся, когда исчезает человеческий контроль за ними. Однако в случае с нормативно-правовыми и нормативно-техническими актами это практически невозможно — существует очень серьезная процедура, которая регулирует их выпуск.

— Например, нормативно-технические документы, к выпуску которых я имею отношение, готовятся около двух лет, — говорит эксперт. — Это государственные стандарты, санитарные нормы и правила. Такая процедура гарантирует, что в процессе разработки учтены все возможные аспекты, интересанты и так далее. Без такого контроля не обойтись — ни в случае применения ИИ, ни без него.

Антон Немкин замечает, что контроль над нейросетевой моделью может потеряться только в том случае, если ответственные за перепроверку люди не будут внимательны и решат, что «сойдет и так».

— Именно поэтому, учитывая большие темпы развития нейросетей и их повсеместное внедрение, сегодня на повестке стоит вопрос регулирования этой области, — сказал депутат. — Пока что этот вопрос остается открытым, в то время как количество угроз растет практически соразмерно благам, которые дает использование ИИ.

GR-директор PIX Robotics, руководитель комитета «Руссофт» по ИИ Сергей Вотяков подчеркивает, что в работе чиновников с нейросетями важно использовать модели, которые не находятся во враждебных юрисдикциях. Роман Смирнов из «Девелоники» замечает, что пока наиболее мощные нейросети — зарубежные.

— Они официально не применимы и часто даже блокируются на территории РФ, — заметил он. — В условиях отсутствия регулирования применения и внедрения современных технологий в области языковых моделей высок риск утечки персональных данных и конфиденциальной информации, которая может быть в тех актах, которые составляют чиновники.

Руководитель отдела бизнес-поддержки продаж компании «Дататех» Александр Чулапов также подчеркивает, что языковые модели должны проходить обучение на доверенных данных и документах с соблюдением требований информационной безопасности. Он предполагает, что в скором времени возможно появление открытых российских нейросетевых моделей, которые можно будет использовать для дополнительного обучения на базе нормативно-правовых актов и внутренних документов и применять в защищенном контуре.