Искусственный интеллект создает фальшивое порно с участием знаменитостей

Анонимный пользователь интернет-форума Reddit выкладывает в сеть реалистичные порнографические видео с участием знаменитостей, в которых те никогда не снимались. Автор, скрывающийся за ником 'deepfakes', утверждает, что создает их с использованием общедоступных технологий машинного обучения и медиафайлов из интернета.

Например, в одном из роликов актриса Галь Гадот, известная по фильмам "Чудо-женщина" и кинофраншизе "Форсаж", занимается сексом со сводным братом. Неизвестный программист просто обучил нейронную сеть, "скормив" ей сотни фото и видео с участием Гадот, после чего алгоритм заменил лицом Гадот лицо порноактрисы. В других видео "участвуют" актриса Скарлетт Йоханссон, певица Тейлор Свифт и другие.

Жанру фейковых фото со знаменитостями в онлайн-порнографии столько же лет, сколько первым версиям профессиональных компьютерных фоторедакторов, позволивших с разной степенью убедительности комбинировать изображения тел и лиц. Однако 'deepfakes' выводит его на новый уровень.

Конечно, до располагающих огромными ресурсами голливудских студий, создающих с помощью компьютерной графики целые миры и "воскрешающих" умерших актеров, продукции 'deepfakes' далеко — мимика "Гадот" в ролике временами сбоит, лицо в некоторых ракурсах выглядит неестественно, однако на первый поверхностный взгляд все смотрится довольно убедительно.

'deepfakes' рассказал в интервью изданию Vice, что разработанное им программное обеспечение использует несколько библиотек для машинного обучения с открытым исходным кодом, таких как Keras, а также продукт Google под названием TensorFlow. Изображения лиц для наложения на порноролики алгоритм берет в поиске по картинкам Google, а также в YouTube.

По словам эксперта в области искусственного интеллекта Алекса Чэмпэндарда, в создании подобных видео сегодня уже нет ничего слишком сложного. Программные инструменты доступны бесплатно, а для рендеринга достаточно нескольких часов с использованием высококлассной видеокарты или пары дней, если полагаться только на ресурсы центрального процессора ПК.

Именно легкость, с которой создается такого рода поддельная порнография, должна пугать — причем не только голливудских актрис, а всех, кто достаточно регулярно выкладывает в соцсети фото- и видеоселфи. По данным Google, в сервис Google Photos в 2015-2016 гг было загружено 24 миллиарда сделанных смартфонами автопортретов. Несложно представить, как программист-любитель создает подобное видео с "участием" человека, которому хочет за что-то отомстить, и выкладывает его в сеть. Технология также представляется отличным инструментом для шантажа.

Эксперты говорят, что предотвратить появление общедоступных инструментов для создания поддельных видео методом наложения лиц, скорее всего, невозможно. Кстати, не стоят на месте и технологии синтеза речи — программа Lyrebird умеет копировать любой голос по образцу за минуту. Единственный выход — активно обсуждать проблему, чтобы о возможности такого манипулирования знал каждый, а также создавать инструменты для выявления подделок. В них, кстати, тоже вряд ли удастся обойтись без искусственного интеллекта.