ДИТ Москвы запустил Telegram-бот для борьбы с дипфейками и мошенниками

Бот умеет распознавать подмену лиц на фото, анализировать скриншоты с переписками и отличать реальную речь от синтезированной.

Департамент информационных технологий (ДИТ) Москвы запустил бота в мессенджере Telegram под названием «Стопфейк». Бот призван помочь распознать аферистов, пытающихся украсть личные данные и деньги россиян.

У бота есть три ключевые функции:

Анализ диалога. В бот можно прислать скриншоты переписок с подозрительным лицом, после чего ИИ укажет, с какой долей вероятности вам написал мошенник;Проверка на дипфейк. Боту можно отправить фото или видео, после чего ИИ просканирует материал на использование технологии подмены лица;Определение синтеза речи. Если отправить боту аудиофайл, бот определит наличие синтезированной речи в записи.

Поверка Hi-Tech Mail показала, что со своей задачей бот справляется на тройку. Редакторы отправили чат-боту запись с синтезированным голосом мошенника, который выдает себя за сотрудника банка. В итоге алгоритмы сказали, что сообщение с 7% вероятностью синтезированное и на 80% мошенническое.

Антон Горелкин, депутат Госдумы, тоже протестировал бот «Стопфейк». И его опыт прошел не гладко. «Первую генерацию [бот] распознал не очень удачно (вероятность – 8%), вторую более уверенно (58%)», — сообщил Горелкин.