Дипфейки могут стать отягчающим обстоятельством для мошенников
Минцифры обсуждает с правоохранителями признание использования дипфейков отягчающим обстоятельством для мошенников. Об этом заявил министр Максут Шадаев на форуме «Кибербезопасность в финансах» в Екатеринбурге.
«С коллегами из правоохранительных органов мы обсуждаем, что использование технологии deepfake станет отягчающим обстоятельством. И нам кажется, что это правильно. И дополнительно мы понимаем, что злоумышленники будут применять эти технологии, и нам нужны свои приложения, которые будут распознавать дипфейки в режиме реального времени», — сказал министр.
Мера станет продолжением внесенного ранее в Госдуму комплекса мер по борьбе с мошенничеством. Как напомнил Шадаев, законопроект, предусматривает создание базы данных с записями голосов мошенников.
«По итогам возбуждения дела (у нас же СОРМ пишет голос) мы можем брать биометрический голос мошенника, вести соответствующую базу и дальше, возможно, давать операторам связи, чтобы они могли эти алгоритмы накладывать, — сказал министр. - И вопрос в системах автоматического распознавания. То есть если звонит какой-то абонент, а у меня стоит приложение, и оно говорит, что с 95%-ной вероятностью это дипфейк, то всё — мне предлагается прекратить общение. Вот такие способы мы видим».
Гендиректор «Лаборатории Касперского» Евгений Касперский сообщил, что компания уже ведет работу над продуктом, который позволит различать дипфейк и реальный голос.
По итогам 2024 года число мошенничеств с использованием дипфейков, в том числе голосовых, выросло более чем на 10%, при этом компании из сферы информационной безопасности сообщали о 5,7 тыс. зарегистрированных инцидентов с использованием этой технологии в финансовом секторе, что на 13% больше, чем в 2023 году.
Сегодня дипфейки скорее приносят обществу больше отрицательного, чем хорошего, создавая новые вызовы. Технологии дипфейков стремительно развиваются, становясь все более реалистичными и доступными. Это дает злоумышленникам мощный инструмент для обмана, позволяя им подделывать не только видео, но и голос. В условиях, когда количество инцидентов с использованием дипфейков в финансовом секторе продолжает расти, усиление ответственности за их применение будет важным сдерживающим фактором, отмечает член комитета Госдумы по информационной политике, информационным технологиям и связи, федеральный координатор партийного проекта «Цифровая Россия» Антон Немкин.
«В будущем число схем с использованием будет только расти по мере освоения мошенниками этой технологии, поэтому включение проблемы дипфейков в правовое полое – это необходимость», - говорит депутат.
Прежде всего, необходимо на законодательном уровне определить понятие дипфейков и возможные концепции их регулирования. Госдума как раз разрабатывает соответствующую нормативную базу. Законопроект станет отправной точкой в регулировании технологии «дипфейков», но очевидно, что могут потребоваться дополнительные дальнейшие инициативы по этому направлению. В частности, это касается и усиления ответственности для тех, кто использует дипфейки для мошенничества, считает Немкин.
«Количество автоматизированных систем, которые будут активно помогать в выявлении дипфейков, также, конечно, должно расти. Не так давно ДИТ Москвы, например, запустил телеграм-бота для борьбы с мошенниками, который в том числе умеет определять аудиозаписи, сгенерированные нейросетями. Со временем эффективность таких систем повысится, однако они уже как минимум позволяют решить важную задачу – пока люди проверяют запись, происходит тот самый период охлаждения, который зачастую помогает избежать попадания в сети мошенников», - подчеркнул депутат.
Как бы то ни было, даже самые продвинутые технологии не смогут полностью защитить пользователей от социальной инженерии, на которой строится большинство схем мошенничества, добавил Немкин. «Обучение граждан распознаванию подозрительных звонков и сообщений, а также внедрение многофакторной аутентификации на всех уровнях финансовых операций станут дополнительными мерами безопасности. Вопрос противодействия дипфейкам требует комплексного подхода, сочетающего в себе законодательные, технические и образовательные решения», - заключил парламентарий.