Человек, ИИ, закон: как в России будут регулировать искусственный интеллект. В Совете Федерации предложили пойти по китайскому пути в отношениях с генеративными системами
В Совфеде обсудили законодательное регулирование искусственного интеллекта в России. Вопрос, как относиться к ИИ, что именно загонять в законодательные рамки и насколько жесткие нормы принимать в отношении искусственного интеллекта, пока не изведан и требует новых решений. Поэтому законодатели призывают одновременно вносить главные принципы работы с ИИ в Цифровой кодекс и постепенно регулировать особенно чувствительные моменты, связанные с нейросетями. А разработчики призывают использовать возможности саморегулирования отрасли. Подробности - в материале "Известий".
Какие опасности несет ИИ
Председатель Комиссии Совета Федерации по информационной политике и взаимодействию со СМИ Алексей Пушков на заседании в Совфеде подчеркнул, что не совсем правильно говорить о "законодательном регулировании искусственного интеллекта". Скорее речь идет о регулировании применения ИИ и его последствиях.
Говоря о рисках использования ИИ, Алексей Пушков указал на различные противоправные действия на нейросетевой технологической основе, например телефонное мошенничество. Кроме того, искусственный интеллект становится идеологическим инструментом - с его помощью искажается информация, в том числе историческая правда, продолжает сенатор.
- Надо понимать, что ИИ работает в рамках запроса, который делается человеком, на основе заложенных в него данных и реагирует в первую очередь на общественный запрос, - подчеркнул он. - Поэтому, например, недавно Gemini 1.5 от Google в ответ на поиск изображения Людовика XIV продемонстрировал короля Франции чернокожим - просто потому, что такова сейчас повестка в западном обществе.
По его словам, в генеративные модели западных компаний заложено мировоззрение, которое отличается от российского.
Третий большой блок, который выделяет Алексей Пушков, - это тема соблюдения прав человека: наблюдение за ним, распознавание лица, причем следят за человеком те, кто на это вовсе не уполномочен.
Как регулируют ИИ в других странах
Алексей Пушков призвал изучить опыт других стран по регулированию нейросетевых технологий, в том числе ЕС, где недавно вышел акт об использовании искусственного интеллекта.
Первый зампред комитета Совета Федерации по конституционному законодательству и государственному строительству Ирина Рукавишникова на заседании отметила, что ЕС продемонстрировал жесткий подход к регулированию ИИ: фактически это централизованный контроль всех стадий разработки и применения генеративных нейросетей с тщательным их тестированием перед использованием.
В США, Великобритании и Японии, напротив, предусмотрен минимальный контроль ИИ, говорит она. Нейтральное регулирование, когда законодатель находит баланс между развитием и безопасностью с точечным характером ограничений, использует Китай. Ирина Рукавишникова считает, что именно этот вариант будет лучшим для России.
Как предлагают регулировать ИИ в России
Ирина Рукавишникова призывает к применению риск-ориентированного подхода к генерированию искусственного интеллекта. Для этого все сферы, в которых нейросети могут применяться, предлагается разделить на четыре группы.
Первая группа - с недопустимым риском применения ИИ: например, невозможно выставление искусственным интеллектом окончательных медицинских диагнозов, вынесение судебных решений и т.д. Вторая группа - с высоким риском. Сюда отнесены образование, инфраструктура транспорта и т.д. Третья группа - сферы с ограниченным риском, где использование ИИ возможно при условии, что люди будут знать, что они взаимодействуют с нейросетью. И четвертая группа - это минимальный риск и свободное использование ИИ: например, в видеоиграх, в программах для фильтрации спама и т.д.
Такой подход, сообщила Рукавишникова, будет отражен в проекте будущего Цифрового кодекса, который сейчас разрабатывается.
Сенатор также полагает, что нужно обязательно принимать закон о маркировке контента, произведенного с помощью искусственного интеллекта, но с условием введения ответственности за его неисполнение.
При этом Рукавишникова подчеркивает, что одновременно необходимо стимулировать отечественных разработчиков систем ИИ.
Юридический консультант, создатель LegalTech-решений Виктор Наумов на заседании подчеркнул, что важно отразить возможность отказа человека от цифровых технологий - например, чтобы на портале "Госуслуг" можно было воспользоваться не роботом, а услугами живого специалиста.
- Нам нужно право на коммуникацию человека с человеком, - заметил он. - Мы же сейчас привыкаем к тому, что человек человеку не нужен.
Какие точечные изменения могут внести
В свою очередь, сенатор Артем Шейкин заметил, что Цифровой кодекс - это фундаментальный документ, но важно выделить несколько сфер с самыми очевидными злоупотреблениями искусственным интеллектом и реагировать на эти вызовы.
- С помощью поправок мы можем ограничить какие-то потенциальные злоупотребления: например, ограничить продажу сим-карт, чтобы пресечь огромное количество мошеннических звонков, - сказал он.
Управляющий партнер юридической компании "Воин-групп", сертифицированный специалист в области правового регулирования ИИ Полина Толкунова в беседе с "Известиями" заметила, что уже сейчас есть судебная практика по ряду ситуаций со злоупотреблением нейросетевыми технологиями. Например, в суде определялась принадлежность авторских прав на произведения, созданных с использованием технологии ИИ, на основании существующих норм Гражданского кодекса РФ.
- Но технологии ИИ применяются и в таких серьезных направлениях, как здравоохранение, медицина, при ведении военных действий и т.д., - заметила юрист. - Поэтому наиболее оптимальным вариантом правового регулирования считаю внесение соответствующих изменений в существующие федеральные законы и постепенное создание отраслевого федерального законодательства. В первую очередь необходимо регулировать механизмы и разграничение ответственности при использовании технологий ИИ в различных сферах и направлениях, а также вопросы конфиденциальности и защиты данных.
При этом создание рамочного закона она называет невозможным, так как технологии ИИ развиваются беспрецедентно быстро. Полина Толкунова добавила, что сейчас уже есть закрепленное в федеральном законодательстве понятие ИИ: в законе 24.04.2020 N 123-ФЗ "О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в Москве...", однако назвала его не очень удачным.
Руководитель юридической практики Научно-технического центра Роскомнадзора Станислав Махортов на заседании также отметил, что уже сейчас важно работать с действующим законодательством, причем не все его правки будут прямо связаны с нейросетями. В этом контексте на заседании говорили о законе о защите персональных данных, который подразумевает большие штрафы за утечку информации о гражданах страны, используемой затем в мошеннических целях. ИИ в этой ситуации выступает лишь механизмом, который используют злоумышленники.
- Безусловно, есть зоны регулирования, которые могут быть напрямую не связаны с искусственным интеллектом, - сказал сенатор Алексей Пушков "Известиям". - Однако, понимая, что заблокировать всё незаконное распространение персональных данных невозможно, мы должны одновременно вводить ответственность, например, и для операторов искусственного интеллекта, создавая таким образом несколько "фильтров" для минимизации злоупотребления ИИ.
Главный архитектор систем искусственного интеллекта исследовательского центра ИИ по направлению "Транспорт и логистика" НИЯУ МИФИ Роман Душкин на заседании подчеркнул, что для этих целей важнее даже не принятие того или иного закона, а цифровой ликбез для граждан страны, чтобы каждый человек знал, что такое ИИ, и мог определять, что перед ним робот, дипфейк и т.д.
Отрасль - за саморегулирование
В отрасли настороженно относятся к вопросу законодательного ограничения сферы искусственного интеллекта. Роман Душкин в разговоре с "Известиями" признался, что является сторонником мягкого подхода в регулировании.
- На разработку такого мощного нормативного документа, как Цифровой кодекс, уйдут годы, а за это время технологии шагнут далеко вперед, - сказал он. - Либо кодекс станет документом с совершенно общими формулировками, но пустым с точки зрения правоприменительной практики. Он должен будет обрастать огромным количеством подзаконных актов. В то же время добропорядочным гражданам закон, по сути, и так не нужен, а злоумышленникам на него плевать. Запрещать же или сильно ограничивать сам инструмент ИИ при этом нельзя: это будет выстрел себе в ногу.
В "Яндексе" также заявили "Известиям", что в законодательном регулировании ИИ важно "не опережать действительность и отвечать на реальные риски, а не на фобии".
- Как и в любой другой сфере, нужно опираться на практику применения технологий, которая только начинает накапливаться, - отметили в пресс-службе компании. - Основные вопросы, которые сейчас предъявляются к ИИ, касаются этики и ответственного использования технологий - как разработчиками, так и пользователями. Бизнес осознает это и предлагает меры саморегулирования - инициирует кодексы, декларации и отраслевые стандарты.
В компании рассказали, что недавно "Яндекс" вместе с другими участниками Альянса в сфере искусственного интеллекта подписал декларацию об ответственной разработке и использовании сервисов на основе генеративного ИИ. Такой подход, уверены в компании, позволит продолжать развивать технологии в благоприятной и безопасной среде, а пользователям - получать максимально полезные сервисы.
Президент ассоциации разработчиков программного обеспечения "Руссофт" Валентин Макаров также предостерегает от чрезмерного регулирования этой технологической отрасли.
- Опыт ЕС показывает, что принятие сейчас строгого нормативного регулирования ИИ, когда мы еще не знаем, как и куда он развивается, не будет правильным, - сказал он "Известиям". - Думать о вопросах безопасности при применении ИИ, конечно, нужно. И нужно запускать процесс саморегулирования. Важно эффективно работать над техническим регулированием, формируя стандарты, а этот процесс поневоле будет приводить к соответствующему нормативному регулированию.
В то же время технический директор DIS Group Олег Гиацинтов поддерживает мнение о том, что оптимальный подход заключается в сочетании рамочного закона с точечными мерами. Он считает, что в законодательстве должно появиться четкое и универсальное определение искусственного интеллекта, а также основные принципы его использования, обеспечивающие ответственное и безопасное использование ИИ с учетом этических и правовых норм: прозрачности, отчетности, недискриминации, защиты конфиденциальности и т.д.
Вице-президент "Лаборатории Касперского" по связям с государственными органами Юлия Шлычкова в беседе с "Известиями" называла важным разработку и утверждение стандарта по безопасной разработке систем с использованием ИИ, на основании которого впоследствии можно выработать требования к сертификации процессов безопасной разработки. Она также называет эффективным инструментом маркировку контента и нормативное регулирование в области персональных данных.
В "Лаборатории Касперского" также выступили за создание Единого центра мониторинга угроз развития технологий искусственного интеллекта, который не только будет изучать угрозы, но и оповещать о них всех разработчиков ПО, создаст единую базу знаний об угрозах в области ИИ с методологическими описаниями.
(https://iz.ru/1701186/ser...)