Добавить новость
ru24.net
The Daily Dot
Апрель
2021

A ‘deepfake’ of a vaping teen is at the center of a harassment case—but what if it’s not faked?

0

Experts are raising doubts that artificial intelligence was used to create a video that police are calling a “deepfake” and is at the center of an ongoing legal battle playing out in Pennsylvania.

The incident made international news last month after the mother of a high school cheerleader was accused of manipulating images and video in an effort to make it appear as if her daughter's rivals were drinking, smoking, and posing nude.

The mother, 50-year-old Raffaela Spone, reportedly sent the doctored content from an anonymous number to three cheerleaders and their coaches.

The Bucks County District Attorney’s Office, which charged Spone with three counts of cyber harassment of a child and three counts of harassment, referenced the term deepfake when discussing the images as well as a video that depicted one of the alleged victim's vaping.

But the accusation is raising serious questions about law enforcement's understanding of deepfake technology, and the media's willingness to repeat their claims without verification.

While prosecutors have not provided specifics, tools designed to make women appear nude in images with the aid of artificial intelligence (AI) do exist. It's instead the alleged vaping video that has spurred significant pushback from deepfake experts.

Although the alleged deepfake was initially unavailable to the public, a cellphone recording of another device playing the vaping footage was provided to NBC News last month after one of the alleged victims came forward.

https://www.youtube.com/watch?v=Tr_545ZgaZg

Madi Hame, a 17-year-old cheerleader with the Victory Vipers squad, denied to NBC News that the footage actually showed her vaping. Hame says she became aware of the video after it was sent, allegedly by Spone, to her cheerleading coaches.

"I thought if I said it, no one would believe me because obviously, there’s proof, there’s a video—but obviously that video was manipulated," Hame told NBC News.

The Daily Dot reached out to Hame's mother Jennifer, who appeared alongside Hame in the NBC News interview, to inquire about the vaping video, but did not receive a reply by press time.

Henry Ajder, a U.K.-based deepfake and synthetic media expert, was one of the first to raise questions about the vaping video after ABC News aired a similar report.

"I had my reservations about the story of a mom making deepfakes of her daughter's cheerleading rivals," Ajder tweeted last month. "One of the videos released by ABC doesn't appear to be a deepfake, but they still label it as one without substantial proof or analysis."

https://twitter.com/HenryAjder/status/1372996750093471748?s=20

Other deepfake experts appear to have the same concerns. The popular deepfake creator known online by the nickname Dr. Fakenstein—who currently works as an AI artist for the comedy show Sassy Justice developed by South Park creators Trey Parker and Matt Stone—told the Daily Dot that the vaping video did not appear to be artificially-generated.

Specifically, Dr. Fakenstein noted that the video lacked certain glitches that almost always appear in deepfakes when a face is obstructed by another object.

"It's hard to see as it's a video of a video but, it doesn't look like a deepfake to me," they said. "The light is shifting like it's natural, no glitching around where the hand covers the face, no glitching when the vape cloud goes in front of the face, which is very hard if not impossible to do without glitches."

The Daily Dot reached out to the Hilltown Township Police Department, which investigated and later carried out the arrest against Spone, to inquire about the vaping video.

Police Chief Christopher Engelhart stated that he believed the charging documents against Spone did not definitively label the video as a deepfake.

"My understanding is it was listed as either a deepfake or similar technology," Engelhart said.

In the criminal complaint against Spone, Hilltown Township Police officer Matthew Reiss refers to the vaping video as "the work of a program that is or is similar to 'Deep Fakes.'"

When pressed about whether the department had entertained the possibility that the vaping video might not be a deepfake at all, Engelhart stated that he was unsure of whether the terminology used to describe the video had been introduced by the alleged victim or police.

Engelhart went on to claim that investigators had conducted a forensic analysis of the video to determine that it had been manipulated.

"The assertion is that that victim was not vaping," Engelhart added. "The assertion is that she [Spone] was able to manipulate that to have it appear that she was vaping."

But experts are skeptical that even the best deepfake creators could produce such a convincing video, let alone Spone. When asked whether the 50-year-old mother had potentially elicited help from a deepfake creator, Engelhart stated that while it is a possibility, no evidence at this time indicates that Spone had an accomplice.

Derpfakes, another well-known deepfake artist whose creations have garnered millions of views online, also viewed the vaping video as presented by NBC News and told the Daily Dot that they couldn't say for certain that it had been manipulated.

"I would lean towards saying it's authentic," Derpfakes said. "If it is a deepfake then it certainly took a certain level of visual effects skill rather than out-of-the-box deepfake software."

During a press conference last month, Bucks County District Attorney Matt Weintraub seemed to suggest that the vaping video was based on existing footage from the victim's social media accounts.

"The videos or the images already existed in some form and then our allegation—this is of course subject to proof at trial, she's innocent until proven guilty—but our allegation is that Mrs. Spone took existing images from existing social media from these three victims' existing social media accounts and manipulated them,” Weintraub said.

The statement is similar to claims made by Engelhart to the Daily Dot that Spone allegedly used legitimate video as a basis for the deepfake. Police did not know whether the alleged victim's face was added to a video of another young female vaping or if a vaping pen and smoke was digitally added to a legitimate video of the alleged victim.

Regardless, experts are skeptical that either scenario is an accurate representation of the footage.

The prominent deepfake creator known as Shamook, whose videos have been viewed more than 21 million times on YouTube alone, argued that although the resolution of the vaping video is "very low, it's just too clean to be a deepfake."

"From my perspective it isn't a deepfake," Shamook told the Daily Dot. "The smoke from the vape would be too hard to create... I just can't see any plausible evidence that it's a deepfake."

Weintraub also stated during the press conference that investigators determined that the vaping video had been manipulated after analyzing its "metadata," a term which refers to embedded information in digital media that can reveal how and when it was last edited.

But after contacting Reiss, the officer who investigated Spone, the Daily Dot learned that police never actually obtained the original vaping video. Instead, like what was seen on NBC News, police only had access to a cellphone recording taken by Spone of the vaping video being played on a separate device. Any metadata analysis would therefore fail to include information on the source video.

In response to questions on how it could have been determined that the vaping footage was manipulated without access to the original video, Reiss argued that he could see with his "naked eye" elements that "don't make sense."

"The source of where Mrs. Spone came up with that video is still a question," Reiss said. "And we hope that Mrs. Spone during the course of the preliminary hearing or trial will enlighten us as far as what her source and intent was."

Reiss stated definitively that "artificial intelligence was used” in the photos that made several cheerleaders appear nude, which would align with current technology designed to do just that. But the existence of those altered photos, in addition to the denial from the alleged victim regarding her apparent inclusion in the vaping video, seems to be the entire basis for the belief that the footage was manipulated, even though no technical evidence thus far supports the claim.

The word "deepfake," as mentioned in the charging documents, seems to have become a catch-all term among police, the district attorney's office, and the media when discussing any and all digital content related to the incident.

Spone's next court hearing is set to take place on May 14, where Reiss says more information about the investigation will be made public.

While new evidence could alter the case, the notion that police may be incorrectly referring to an authentic video as manipulated is not out of the realm of possibility.

Even more troublesome, it seems that no media outlets attempted to verify that the vaping footage was actually a deepfake before broadcasting the claim to millions of Americans.

The possible misstep by the media, and the chance that the criminal justice system could misapply laws against videos mischaracterized as deepfakes, is what worries experts the most.

"Scary though if it isn't a deepfake," Shamook added. "This could be the start of people being able to discredit real evidence by simply saying 'deepfake.'"

The vaping video aside, the other allegations against Spone, if true, are still fraught and frighening. But the aftermath of the case against her, if reliant even in part on inaccurate information, could have dangerous ramifications in the world of manipulated (and non-manipulated) media.

The post A ‘deepfake’ of a vaping teen is at the center of a harassment case—but what if it’s not faked? appeared first on The Daily Dot.




Moscow.media
Частные объявления сегодня





Rss.plus




Коллекция Dior Menswear весна-лето 2026

Астраханское сервисное локомотивное депо стало участником Всероссийской ярмарки трудоустройства

Секреты прошлого загородного комплекса «Тропикана Парк»

Подводный праздник в Dhawa Ihuru: погружение за скидками


The anti-DEI movement has a new ally: The FCC

At Last We Know Why Shemar Turner Fell To The 2nd Round

ICE is 'supercharging detention' with 'flagrantly unlawful' policy: lawyers

Jerome Powell is gaining some key backing on Capitol Hill from GOP senators


Инвестиции в ИИ — главный приоритет для финансовых директоров

«Путь к вершинам»: вдохновляющий проект для детей и подростков с ограниченными возможностями здоровья в Приэльбрусье

Ученый с мировым именем никогда не прерывал связи с родным Арцахом. К 120-летию рождения академика Андроника Иосифьяна

Екатеринбурженка заказала убийство бывшего мужа, чтобы не делить с ним ребенка


В Pokémon TCG Pocket обновится система торговли карточками

As the Nintendo eShop fails to protect from 'eslop', indie devs reflect on how it affects their work and why Steam is just better: 'Their algorithm will more or less naturally bury AI slop'

В демоверсию Silver Palace можно будет поиграть 3 августа в Китае

The origin of 'AI Appreciation Day' isn't what you think: It was started by an Elon Musk admirer who camped outside of SpaceX Starbase for a year hoping to talk to the billionaire about AI regulation



Ярошенко: "Русские люди больше не обязаны платить за чужое предательство"

Сергей Собянин рассказал о проекте «Сделано в Москве» и его значении для предпринимателей

Сергей Собянин сообщил о планах расширения сети летних лагерей для подростков

Mash: Москвичка, которую уволили с работы из-за ИИ, выиграла в суде 1,5 миллиона




«Путь к вершинам»: вдохновляющий проект для детей и подростков с ограниченными возможностями здоровья в Приэльбрусье

«Путь к вершинам»: вдохновляющий проект для детей и подростков с ограниченными возможностями здоровья в Приэльбрусье

«Путь к вершинам»: вдохновляющий проект для детей и подростков с ограниченными возможностями здоровья в Приэльбрусье

Московское «Динамо» потеряло очки в первом матче сезона с новичком РПЛ


Московское «Динамо» потеряло очки в первом матче сезона с новичком РПЛ

Сальвадорский игрок "Балтики" Хиль забил первый мяч в новом сезоне РПЛ

[LIVE] «Динамо» — «Балтика». Онлайн, прямая трансляция

Тренер Гладилин заявил, что "Спартак" столкнется с проблемами в матче с "Динамо"


Роман с Маратом Сафиным и внебрачная дочь: что известно о жене Алексея Воробьева Аиде Гарифуллиной

Александрова покинула турнир в Гамбурге, не дойдя до полуфинала.

Вероника Кудерметова: безумно рада выиграть Уимблдон. Для всех это особенный турнир

Томми Пол снялся с турнира ATP-500 в Вашингтоне


Овечкин посетил матч между "Динамо" и "Балтикой" в первом туре РПЛ

Синоптики предупредили москвичей о рекордных ливнях

Посмертные продажи книг Александра Митты увеличились почти в семь раз.

Сальвадорский игрок "Балтики" Хиль забил первый мяч в новом сезоне РПЛ


Музыкальные новости

Музкритик Троицкий: Лагутенко дал концерты в США ради ремонта дома в Калифорнии

11-летняя дочь Тимати Алиса откровенно ответила на вопрос о семье: видео

Фильм о прощальном концерте Оззи Осборна и Black Sabbath выпустят в 2026 году

«Очередной альфонс-собутыльник»: Волочкова увезла молодого возлюбленного на Мальдивы и показала фото топлесс



Подводный праздник в Dhawa Ihuru: погружение за скидками

Суд признал долг Елены Блиновской перед Сбером по кредиту в 13 млн рублей на ресторан в Красноярске

Сергей Собянин сообщил о планах расширения сети летних лагерей для подростков

День текилы в Waldorf Astoria Seychelles Platte Island


Пора пригласить певца A.SERGIO для участия в теле- и радиопрограммах, подкастах и шоу!

«Путь к вершинам»: вдохновляющий проект для детей и подростков с ограниченными возможностями здоровья в Приэльбрусье

Суд признал долг Елены Блиновской перед Сбером по кредиту в 13 млн рублей на ресторан в Красноярске

Сергей Собянин рассказал о проекте «Сделано в Москве» и его значении для предпринимателей


Новые изменения в правилах дорожного движения от правительства

Правительство разъяснило порядок выплат утильсбора.

В Москве наказали водителей, которые подрались на фоне Кремля

В Москве массовое ДТП затруднило движение на внутренней стороне ТТК


Маршрут от Ноябрьска до Москвы на автомобиле станет короче

Губернатор Владимирской области информировал Путина о progresso региона.

Мединский отметил, что Путин лучше многих историков разбирается в прошлом.

Полетели! Бересту дали Героя. Объявлен заморный период. Противогаз в массы. А вы не ищите...


Ситуация в медицине в России: преодоление новых вызовов хуже, чем во время COVID-19.




Первую в СКФО роботизированную операцию по замене сустава провели в Пятигорске

Опасная сторона загара: дерматолог Энгельгардт о последствиях для кожи

Опасная сторона загара: дерматолог Энгельгардт о последствиях для кожи

Источник 360.ru: в московской клинике пациентов снимали скрытой камерой


В Киеве пожаловались, что Европа не хочет отдать им российские активы

Все получат по заслугам. Россия заявила о праве бить по странам, которые помогают Киеву. Свежая сводка с фронтов СВО от военкоров

Раскрыта роль Зеленского в убийстве полковника СБУ Воронича в Киеве


В Ульяновске пройдет фестиваль пляжного волейбола «Комус Fest 2025»

Александрова покинула турнир в Гамбурге, не дойдя до полуфинала.

Сергей Собянин сообщил о планах расширения сети летних лагерей для подростков

Гафин поделился ожиданиями от встречи "Динамо" с "Балтикой" в РПЛ.


Лукашенко настоятельно призвал жестко остановить воровство в аграрной сфере.

Лукашенко жестко поставил задачу по уборке урожая со словами «умри, но сделай»

«Хочу пообщаться»: Ольга Бузова нежно обратилась к Александру Лукашенко и пригласила его на шоу «Фактор.BY»

Лукашенко поручил милиции разобраться «на всю катушку» с кражами в хозяйствах



Собянин: Еще два БЛПА уничтожены силами ПВО Минобороны на подлете к Москве

Сергей Собянин рассказал о проекте «Сделано в Москве» и его значении для предпринимателей

Сергей Собянин: К началу учебного года подготовим 30 детских садов и школ

Сергей Собянин сообщил о планах расширения сети летних лагерей для подростков


В парке Кузьминки в Москве обнаружили официально исчезнувший вид рыбы

Экоточки Москвы начали принимать на переработку электроприборы

Компании Москвы разрабатывают уникальное оборудование для очистки воды

В экоточках Москвы теперь можно сдать на переработку электроприборы


Число аварий с такси снизилось в Москве на 6% в первом полугодии 2025 года

Овечкин посетил первый матч РПЛ между «Динамо» и «Балтикой»

Овечкин посетил матч между "Динамо" и "Балтикой" в первом туре РПЛ

Синоптики предупредили москвичей о рекордных ливнях


Владимир Ефимов: На станции «Рублево-Архангельское» стартовали монолитные работы

Органами прокуратуры в сфере надзора за исполнением законодательства при реализации национальных проектов в первом полугодии 2025 года выявлено более тысячи нарушений

Алтайский край оказался в числе регионов-аутсайдеров по доступности вторичного жилья

Защищённый планшет Saotron RT-W11J на базе ОС Windows10


Традиции народов Марокко и Мавритании в пересказе российского путешественника

Депутат Госдумы сравнил новый пакет санкций с удавкой на шее ЕС

Новый археологический парк создан в Севастополе

Коктебель частично останется без электричества: в Симферополе, Евпатории, Керчи, Джанкое, Феодосии и Севастополе отключат свет 18 июля


Вспышка неизвестной инфекции произошла на борту лайнера по пути в Мексику

Синоптики предупредили москвичей о рекордных ливнях

Московское «Динамо» потеряло очки в первом матче сезона с новичком РПЛ

Лиам Нисон второй раз пытается продать квартиру в Нью-Йорке за $10,7 млн












Спорт в России и мире

Новости спорта


Новости тенниса
Екатерина Александрова

Пройдёт ли россиянка в полуфинал турнира в Гамбурге? Александрова — Бондарь: прогноз и ставка






Тренер Гладилин заявил, что "Спартак" столкнется с проблемами в матче с "Динамо"

Волонтеры из Буинска навестили раненых земляков в ростовском госпитале

[LIVE] «Динамо» — «Балтика». Онлайн, прямая трансляция

Вспышка неизвестной инфекции произошла на борту лайнера по пути в Мексику