Добавить новость
ru24.net
News in English
Январь
2024

Three ways we can fight deepfake porn

0

Last week, sexually explicit images of Taylor Swift, one of the world’s biggest pop stars, went viral online. Millions of people viewed nonconsensual deepfake porn of Swift on the social media platform X, formerly known as Twitter. X has since taken the drastic step of blocking all searches for Taylor Swift to try to get the problem under control. 

This is not a new phenomenon: deepfakes have been around for years. However, the rise of generative AI has made it easier than ever to create deepfake pornography and sexually harass people using AI-generated images and videos. 

Of all types of harm related to generative AI, nonconsensual deepfakes affect the largest number of people, with women making up the vast majority of those targeted, says Henry Ajder, an AI expert who specializes in generative AI and synthetic media.

Thankfully, there is some hope. New tools and laws could make it harder for attackers to weaponize people’s photos, and they could help us hold perpetrators accountable. 

Here are three ways we can combat nonconsensual deepfake porn. 

WATERMARKS

Social media platforms sift through the posts that are uploaded onto their sites and take down content that goes against their policies. But this process is patchy at best and misses a lot of harmful content, as the Swift videos on X show. It is also hard to distinguish between authentic and AI-generated content. 

One technical solution could be watermarks. Watermarks hide an invisible signal in images that helps computers identify if they are AI generated. For example, Google has developed a system called SynthID, which uses neural networks to modify pixels in images and adds a watermark that is invisible to the human eye. That mark is designed to be detected even if the image is edited or screenshotted. In theory, these tools could help companies improve their content moderation and make them faster to spot fake content, including nonconsensual deepfakes.

Pros: Watermarks could be a useful tool that makes it easier and quicker to identify AI-generated content and identify toxic posts that should be taken down. Including watermarks in all images by default would also make it harder for attackers to create nonconsensual deepfakes to begin with, says Sasha Luccioni, a researcher at the AI startup Hugging Face who has studied bias in AI systems.

Cons: These systems are still experimental and not widely used. And a determined attacker can still tamper with them. Companies are also not applying the technology to all images across the board. Users of Google’s Imagen AI image generator can choose whether they want their AI-generated images to have the watermark, for example. All these factors limit their usefulness in fighting deepfake porn. 

PROTECTIVE SHIELDS

At the moment, all the images we post online are free game for anyone to use to create a deepfake. And because the latest image-making AI systems are so sophisticated, it is growing harder to prove that AI-generated content is fake. 

But a slew of new defensive tools allow people to protect their images from AI-powered exploitation by making them look warped or distorted in AI systems. 

One such tool, called PhotoGuard, was developed by researchers at MIT. It works like a protective shield by altering the pixels in photos in ways that are invisible to the human eye. When someone uses an AI app like the image generator Stable Diffusion to manipulate an image that has been treated with PhotoGuard, the result will look unrealistic. Fawkes, a similar tool developed by researchers at the University of Chicago, cloaks images with hidden signals that make it harder for facial recognition software to recognize faces. 

Another new tool, called Nightshade, could help people fight back against being used in AI systems. The tool, developed by researchers at the University of Chicago, applies an invisible layer of “poison” to images. The tool was developed to protect artists from having their copyrighted images scraped by tech companies without their consent. However, in theory, it could be used on any image its owner doesn’t want to end up being scraped by AI systems. When tech companies grab training material online without consent, these poisoned images will break the AI model. Images of cats could become dogs, and images of Taylor Swift could also become dogs. 

Pros: These tools make it harder for attackers to use our images to create harmful content. They show some promise in providing private individuals with protection against AI image abuse, especially if dating apps and social media companies apply them by default, says Ajder. 

“We should all be using Nightshade for every image we post on the internet,” says Luccioni. 

Cons: These defensive shields work on the latest generation of AI models. But there is no guarantee future versions won’t be able to override these protective mechanisms. They also don’t work on images that are already online, and they are harder to apply to images of celebrities, as famous people don’t control which photos of them are uploaded online. 

“It’s going to be this giant game of cat and mouse,” says Rumman Chowdhury, who runs the ethical AI consulting and auditing company Parity Consulting. 

REGULATION

Technical fixes go only so far. The only thing that will lead to lasting change is stricter regulation, says Luccioni. 

Taylor Swift’s viral deepfakes have put new momentum behind efforts to clamp down on deepfake porn. The White House said the incident was “alarming” and urged Congress to take legislative action. Thus far, the US has had a piecemeal, state-by-state approach to regulating the technology. For example, California and Virginia have banned the creation of pornographic deepfakes made without consent. New York and Virginia also ban the distribution of this sort of content. 

However, we could finally see action on a federal level. A new bipartisan bill that would make sharing fake nude images a federal crime was recently reintroduced in the US Congress. A deepfake porn scandal at a New Jersey high school has also pushed lawmakers to respond with a bill called the Preventing Deepfakes of Intimate Images Act. The attention Swift’s case has brought to the problem might drum up more bipartisan support. 

Lawmakers around the world are also pushing stricter laws for the technology. The UK’s Online Safety Act, passed last year, outlaws the sharing of deepfake porn material, but not its creation. Perpetrators could face up to six months of jail time. 

In the European Union, a bunch of new bills tackle the problem from different angles. The sweeping AI Act requires deepfake creators to clearly disclose that the material was created by AI, and the Digital Services Act will require tech companies to remove harmful content much more quickly. 

China’s deepfake law, which entered into force in 2023, goes the furthest. In China, deepfake creators need to take steps to prevent the use of their services for illegal or harmful purposes, ask for consent from users before making their images into deepfakes, authenticate people’s identities, and label AI-generated content. 

Pros: Regulation will offer victims recourse, hold creators of nonconsensual deepfake pornography accountable, and create a powerful deterrent. It also sends a clear message that creating nonconsensual deepfakes is not acceptable. Laws and public awareness campaigns making it clear that people who create this sort of deepfake porn are sex offenders could have a real impact, says Ajder. “That would change the slightly blasé attitude that some people have toward this kind of content as not harmful or not a real form of sexual abuse,” he says. 

Cons: It will be difficult to enforce these sorts of laws, says Ajder. With current techniques, it will be hard for victims to identify who has assaulted them and build a case against that person. The person creating the deepfakes might also be in a different jurisdiction, which makes prosecution more difficult. 




Moscow.media
Частные объявления сегодня





Rss.plus



Владислав Овчинский: жители дома на Радужной улице начали переезд в новостройку по программе реновации

Бренд экологичной одежды первым в мире сообщил о нападении анти-эко-активисток

Отрытый конкурс красоты и таланта «Одна на миллион»

Певец Дмитрий Камский готовит к релизу новый сингл "Песня Земли"


30 миллионов тормозных колодок выпустило Новосибирское ЛП Желдорреммаш за свою 80-летнюю историю

Приплыли… Какие инфекции обитают в воде

Madi Hiyaa – один из самых красивых ресторанов мира

Кутюрная коллекция Balenciaga осень-зима 2024


Exclusive - Sayantani Ghosh expresses happiness as sets of her show Dahej Daasi shifted close to her home; says 'I've been manifesting this for quite some time now'

England U20 overpower France to be crowned world champions

Faculty of International Journalism and Mass Communications Eurasian International University is conducting an additional intake of applicants!

Biden's anger bleeds through as party weighs his future


В Домодедово сотрудники Росгвардии задержали подозреваемого в краже партии товаров.

Еще один китайский кроссовер планируют собирать в России: что это за модель?

Москва слезам не верит: в ТПП РФ подержали инициативу по защите прав предпринимателей

В Московской области сотрудники Росгвардии задержали подозреваемого в краже партии товаров.


Today's Wordle answer for Saturday, July 20

Интервью AppTime с компанией Innova: релиз Gran Saga в России, внутриигровая оплата и «Масленица» в корейской MMO

D&D's new 2024 Player's Handbook will have 10 species to choose from including goliaths, and drow will be closer to their Baldur's Gate 3 version

According to BioWare, Dragon Age: The Veilguard is the first entry in the series where "the combat's actually fun" and where characters are "intentionally" the focus of the storytelling, which seems pretty unfair on the first three games


Фотомагазин PYN: ваш надійний партнер у світлі та фотографії


Бизнесмен вакцинировался от суда // Дело об особо крупной растрате рассмотрят в заочном режиме

Отрытый конкурс красоты и таланта «Одна на миллион»

Филиал № 4 ОСФР по Москве и Московской области информирует: С начала 2024 года 140 тысяч женщин и новорожденных Московского региона получили услуги по родовым сертификатам

В регионах Центральной России продолжаются мероприятия в рамках ведомственной акции «Каникулы с Росгвардией»




В первом полугодии россияне чаще всего приобретали онлайн и страховали по каско автомобили Lada, Kia и Hyundai

Певец Дмитрий Камский готовит к релизу новый сингл "Песня Земли"

Владислав Овчинский: жители дома на Радужной улице начали переезд в новостройку по программе реновации

Прощай, ЕС! Россия будет поставлять газ в Иран по сверхмощному трубопроводу


Куба рядом: о российско-кубинских отношениях

Юнкор «Нижегородской правды» — в числе победителей «Большой перемены»!

Пономарёв: ЦСКА будет бороться за первое место РПЛ

Сотрудники ФСБ нашли в салате полмиллиона рублей в Перми


Рафаэль Надаль сыграет в финале турнира ATP впервые с 2022 года

Рафаэль Надаль вышел в финал турнира в Бостаде

Рейтинг ATP. Рууд обошел Рублева, Берреттини вернулся в топ-50, Надаль поднялся на 100 строчек

Паес и Амритрадж введены в Зал теннисной славы в Ньюпорте


В Москве мужчина сжег заблокированных в квартире мать и бабушку

Дивиденды от «Сбера» в ближайшее время могут поддержать индекс МосБиржи

CNN заявил о желании стран Запада внедрить призывную службу из-за России


Музыкальные новости

Избалованная дочь Тимати унизила собственную мать: "За секунду ребёнок превращается в демона"

Семьи работников заводов АО "Желдорреммаш" стали призерами федерального конкурса «Это у нас семейное»

Певец SHAMAN приехал на концерт у посольства США на машине «Победа»

Организаторы концерта Глюкозы в Красноярске подадут на нее в суд



Несколько авиарейсов в Томск задерживаются из-за тумана

Бизнесмен вакцинировался от суда // Дело об особо крупной растрате рассмотрят в заочном режиме

Адвокат Горшков: арест блогера Била не остановит его от новых пранков

Филиал № 4 ОСФР по Москве и Московской области информирует: С начала 2024 года 140 тысяч женщин и новорожденных Московского региона получили услуги по родовым сертификатам


Собянин рассказал о работе Московского международного дома музыки

Больше ничто не держит: после смерти Анастасии Заворотнюк ее семья покинула Москву

«Бегал в костюме красноармейца по ресторану отца Андрея Бурковского» Михаил Башкатов в шоу «Вкусно с Анфисой Чеховой» на ТВ-3 рассказал о первом заработке

Заинтересовавший Владимира Путина хит семьи Рыбачевых презентовали на радиостанциях «Газпром-Медиа»


Транссибирская магистраль | 12) Биробиджан

Владимирская область и Москва подписали контракт о создании нового производства

«Надеюсь, еще сыграю в НХЛ с Марченко и Воронковым»

Еще один китайский кроссовер планируют собирать в России: что это за модель?


Гениальный ход: Путин переиграл НАТО. Йеменцы прибыли в Москву с интересным предложением. США в панике готовят флот и авиацию

Bloomberg: В НАТО увидели новую угрозу в российских ледоколах

Что изменилось: как приобрести квартиру по льготной программе

Александр Немец: из Пекина в Москву пришло жесткое указание "Вон из Беларуси!"





Бизнесмен вакцинировался от суда // Дело об особо крупной растрате рассмотрят в заочном режиме

Медицинский центр появится на северо-востоке Москвы

Еще 2 детских сада и поликлинику построят в ЖК «Бригантина» в Долгопрудном

Секреты долголетия: 7 привычек долгожителей


Кличко снова разнёс Зеленского и предрёк ему политическое самоубийство

Кличко: любой шаг Зеленского чреват политическим суицидом

Зеленскому придётся провести референдум, грядущие месяцы будут сложными для него, — Кличко

Кличко отреагировал на снос усадьбы Зеленских в Киеве


Экс-игрок Мостовой: в матче с "Акроном" я увидел обычный "Локомотив"

Министр спорта Забайкалья принял участие во Всероссийском семинаре-совещании по вопросу перспектив развития спортивной отрасли в Москве

«Спартак» проиграл в первом матче РПЛ под руководством тренера Станковича

Спортивные игры в СЛД "Москва-Сортировочная" филиала "Московский"


В Белоруссии заявили, что Лукашенко может помиловать некоторых участников протестов

Александр Немец: из Пекина в Москву пришло жесткое указание "Вон из Беларуси!"



Собянин рассказал о работе Московского международного дома музыки

Собянин: 24 объекта культнаследия восстановили инвесторы по городской программе

Сергей Собянин. Главное за день

Собянин: Началось строительство подъездной дороги к станции Кокошкино МЦД-4


Удобно и безопасно: Москвичам рассказали, как работают перехватывающие парковки для велосипедов и самокатов

Очистные сооружения от завода «ТехВодПолимер»

Новый утильсбор в России изменит цены на автомобили

Транссибирская магистраль | 12) Биробиджан


Псковская область заняла 75 место в рейтинге регионов по развитию ипотеки

Школьники из Жуковского отправились в летний лагерь в Китай

22 июля в истории Асбеста

Во Франции объяснили отказ журналисту «Известий» в визе угрозой безопасности


АО «Транснефть - Север» обеспечивает надежность производственной инфраструктуры в четырех регионах

Спортсмен из сборной Архангельской области стал победителем масс-старте в Малиновке

В Архангельске стартовала Соловецкая регата

Собянин объявил о начале строительства станции метро "Рублево-Архангельское"


Выставка-персоналия «Замечательный русский беллетрист» к 250-летию со дня рождения М.Н.Загоскина, русского писателя и драматурга

Выставка-признание «Жизнь как струна».

В г.Геленджике состоялся Открытый чемпионат Краснодарского края по фланкировке казачьей шашкой, 2024г

Бойцовые собаки чуть не растерзали женщину в Севастополе


В автосервисе Москвы задержали иностранца с мешками героина

Сотрудники ФСБ нашли в салате полмиллиона рублей в Перми

Песков: НАТО продолжает окружать Россию своей инфраструктурой

Пономарёв: ЦСКА будет бороться за первое место РПЛ












Спорт в России и мире

Новости спорта


Новости тенниса
WTA

Саснович уступила в финале турнира WTA-250 в Будапеште






Прием заявок для дистанционного голосования 6-8 сентября стартовал в Подмосковье

Сотрудники ФСБ нашли в салате полмиллиона рублей в Перми

Юнкор «Нижегородской правды» — в числе победителей «Большой перемены»!

Куба рядом: о российско-кубинских отношениях