В России могут запретить ИИ с «неприемлемым уровнем риска»

В России намерены ввести государственное регулирование искусственного интеллекта. Проект предусматривает запрет на использование систем ИИ, которые представляют собой неприемлемый уровень риска. Разработкой законопроекта занимается профильная рабочая группа из юристов и участников рынка искусственного интеллекта, сообщает РБК со ссылкой на источники.

Законопроект предлагает ввести обязательные информационные обозначения, которые будут указывать на использование ИИ, причем маркировка должна быть «явной» и «недвусмысленной».
Также рабочая группа настаивает, что нужно определить классификацию систем ИИ по уровню опасности и запретить в стране разработку систем с неприемлемым уровнем риска. К ним относятся системы, создающие угрозу безопасности личности, общества и государства и нарушающие основные права и свободы человека.
К системам с высоким уровнем риска относятся те, что применяются в здравоохранении, транспорте и финансах и потенциально могут создать существенную угрозу.

Также законопроект предлагает ввести ответственность за причинение вреда жизни, здоровью или имуществу для лиц, участвующих в разработке и эксплуатации систем искусственного интеллекта.
Представители аппарата правительства и Минцифры говорят, что к ним еще не поступал на рассмотрение такой законопроект. Если поступит, они его рассмотрят.

Обсуждение введения маркировки ИИ-контента также идет в США, соответствующий проект был представлен в марте 2024-го.
В 2024 году Европарламент опубликовал Регламент об искусственном интеллекте, который охватывает все сферы применения нейросетей. Он запретил использование систем, которые применяют ИИ для подсознательного манипулирования или использования уязвимых мест людей, что может привести к физическому или психологическому ущербу, неизбирательное использование дистанционной биометрической идентификации в реальном времени в общественных местах для обеспечения правопорядка или использование властями «социальных баллов», полученных с помощью ИИ, для несправедливого ущемления прав отдельных лиц или групп.

Китай в марте 2025 года также утвердил новые правила для маркировки контента, сгенерированного нейросетями, мера начнет действовать с 1 сентября. По ним платформы и разработчики должны сообщать, что их сервисы создают контент с помощью нейросетей. В свою очередь, магазины приложений должны проверять, как именно маркируется такой контент. Мера направлена на борьбу с дезинформацией.

В России обсуждение введения маркировки ИИ-систем началось еще в 2022 году: с инициативой в адрес Минцифры обратился руководитель рабочей группы Общественной палаты России по законодательству в сфере интернет-технологий и цифровизации Вадим Виноградов. Он отмечал, что это необходимо для обеспечения права человека на получение достоверной информации.