В Корее ищут способы борьбы с сексуальной эксплуатацией нейросетей

На фоне скандала, вызванного искусственным интеллектом Илона Маска и его компании xAI, чья модель генерирует провокационные дипфейки, особое внимание приковано к новому «Основному закону об ИИ» Южной Кореи, который вступает в силу через неделю и станет первым в мире подобным нормативным актом. Об этом пишет The Korea Times, материал которой перевёл aif.ru.

Однако эксперты сомневаются, сможет ли закон реально повлиять на ситуацию. Большинство аналитиков считают, что заблокировать или ограничить доступ к сервисам xAI в ближайшее время практически невозможно, что ставит под сомнение практическую значимость закона.

Модель ИИ Grok, разработанная xAI, продолжает работать на принадлежащей компании социальной сети X*, предлагая пользователям функцию превращения обычных фотографий в откровенные дипфейки. Малайзия и Индонезия уже ограничили доступ к X на своей территории, а другие страны начали правовые расследования.

После скандала xAI ограничила, но общественный резонанс не утихает.

Южнокорейский «Основной закон об ИИ», который вступает в силу 22 января, был принят с целью укрепить доверие к технологиям ИИ за счёт усиления ответственности разработчиков. Одной из ключевых задач закона названо предотвращение преступлений с использованием дипфейков. С этой целью закон распространяется и на иностранные компании, обязывая их назначать локального представителя в Южной Корее для исполнения юридических обязательств.

Однако на практике возникает серьёзная проблема, ведь обязанность маркировать дипфейки как сгенерированные ИИ не включена в чётко определённые функции локального представителя. Из-за этой неопределённости возможны задержки в коммуникации между регуляторами и зарубежными компаниями, что может помешать оперативному реагированию на угрозы.

Закон действительно предусматривает обязательную маркировку контента, созданного ИИ. Если дипфейк трудно отличить от реального изображения, он должен содержать водяной знак, предупреждающий пользователей. За нарушение этого требования предусмотрено предписание об устранении, а при отказе предусмотрен штраф до 30 млн вон (около $22 000). Теоретически изображения, созданные Grok, теперь также должны быть помечены.

Однако на деле применение этих норм отложено как минимум на год. Закон предусматривает период добровольного соблюдения, в течение которого штрафы не будут применяться. Даже после окончания этого периода прямая блокировка или ограничение доступа к иностранным ИИ-сервисам останется крайне сложной задачей, в первую очередь из-за риска торговых и дипломатических споров.

«Согласно действующему законодательству, если иностранная компания, такая как xAI, не будет сотрудничать добровольно, у южнокорейских властей нет иных рычагов воздействия, кроме наложения штрафа», — пояснил адвокат Чон Чхан У.

По словам южнокорейских экспертов, пока «Основной закон об ИИ» не обретёт реальной силы, регулирование подобных случаев следует осуществлять через существующие нормы, такие как «Закон об информационно-коммуникационных сетях» и «Закон о защите персональных данных».

«Сам по себе новый закон обладает слабой принудительной силой. Необходимо комбинировать его с другими законодательными актами, чтобы эффективно пресекать конкретные нарушения, связанные с ИИ», — отметил адвокат Ё Хён Дон.

Правительство Южной Кореи заявило, что намерено временно воздерживаться от жёсткого регулирования.

«Технологии ИИ всё ещё находятся на этапе развития. На данном этапе мы считаем важным дать им возможность к саморегулированию и будем наблюдать за ситуацией», — сообщили в Министерстве науки страны.

Накануне премьер-министр Великобритании Кир Стармер заявил, что соцсеть Х* готова соблюдать британское законодательство и ввела запрет на создание интимных фото с помощью Grok без согласия пользователей.

Ранее в МВД РФ сообщили о способах защиты от розыгрышей с применением ИИ.

* Социальная сеть заблокирована в России по требованию Генпрокуратуры.