Добавить новость
ru24.net
News in English
Июль
2024

California AI Bill Tells GenAI Startups To Nerd Harder

0

There’s a stunning degree of fear mongering and lack of humility about what California AI bill SB 942 can or can’t do. Honest conversation about this bill’s limitations are essential to ensuring we don’t pass this ineffective law. But its proponents have obstructed reasoned policy development by injecting panic into that conversation and pretending it will solve various multifaceted GenAI abuses that it simply cannot.

This article is a follow up to my first one, where I explain why SB 942’s forced disclosures and inclusion of AI-generated text were unworkable. Despite recent amendments that fix those two issues, the remaining requirement that nascent AI companies create “AI detection tools” make it still a fundamentally flawed bill.

SB 942 vaguely aims to “tackle the issue of GenAI-produced content” by requiring three things:

  1. AI providers must offer a free AI detection tool that identifies content generated using their service
  2. AI providers must offer users the option to include a conspicuous disclosure on content generated with their service. 
  3. AI providers must embed specific metadata into files and the generated content itself, including company name, version number, timestamp, and a unique identifier.

A theme that runs through nearly every aspect of this bill’s journey through the legislature is a mismatch between any given GenAI abuse and how this bill would address it. For example, a June 28 committee analysis clumsily tries to explain the danger of open-source AI and incorrectly implies that SB 942 will help counter it: 

“ChatGPT is an example of an open-sourced tool, meaning it is accessible to the public. Researchers and developers can also access its code and parameters. This accessibility increases transparency, but it has downsides: when a tool’s code and parameters can be easily accessed, they can be easily altered, and open-source tools have the potential to be used for nefarious purposes.”

While OpenAI has released some model weights, ChatGPT is famously not open-source. Here, open-source has been conflated with “widely available.” Ironically, this bill only applies to AI businesses, and not situations where actual open-source AI software may be abused. 

The analysis continues:

“The need for this bill is further highlighted by various instances and research underscoring the threats posed by unregulated GenAI.”

It goes on to describe three examples of GenAI abuse and again falsely implies this bill is the fix. Let’s talk about why that’s not true. 

Example 1:

In January, voters in New Hampshire received phone calls from an AI-generated voice clone of Joe Biden telling them not to vote in the primary election in order to save their vote for the upcoming general election. They caught the man responsible and he’s now facing a 6 million dollar fine and 13 felony charges. The FCC has also now made AI robocalls illegal in response.  

The bill’s three main provisions would not prevent this from happening again: 1) It would be impractical for consumers to record robocalls and then upload them to a detection tool. 2) Nefarious actors would opt out of the optional disclosures and 3) metadata for the fraudulent audiofile would be irrelevant in the context of an ephemeral phone call. 

Example 2:

A finance worker at a Hong Kong firm was persuaded to transfer $25 million to thieves when they were invited to participate in a video call with several other AI-generated colleagues.

This case shares the same pitfalls as the previous example: 1) An employee who thinks they may be in the middle of a fraudulent video call won’t have any way to upload that information to a detection tool during that session. 2) Bad actors will opt out of disclosures and 3) metadata will again be irrelevant.  

Example 3:  

California high school students have been caught generating nonconsensual nude images of their classmates.

1) Determining the authenticity of this content is useless and doesn’t address the harm it creates. 2) Even if a user opts for a disclosure, the content is still extremely harmful. 3) A hidden disclosure embedded into content might be helpful only in cases where no other evidence or context leads to the perpetrator. But this assumes that all companies can implement this still-developing idea across audio, video, and images. Requiring by law that this be implemented by startups is heavy handed and unrealistic.      


The analysis ends with a hypothetical that highlights yet another fundamental flaw:

“In theory, a person who views a video circulating on social media conveying President Joe Biden telling voters not to vote in the primary election could use a provider’s AI detection tool to upload and analyze the video. By examining the embedded machine-readable disclosures, the user could identify the provider’s name, the GenAI system used, and the creation date, concluding that the video was produced by AI. This process would reveal that the video is not genuine, thus, in theory, helping to prevent the spread of misinformation.”

That sounds nice, in theory. But in reality, it’s more complicated than that.

A social media user that uploads to an AI detection tool may not be returned any useful indication about a piece of content’s authenticity because the law only requires AI providers to determine if their service was used. The user would then need to make uploads to every AI provider’s tool until they get a hit, or give up before they do. The user will also need to understand that each tool has a different level of accuracy across video, image, and audio, and will need to account for the fact that there may be false positive and negative results. 

One alternative to this rigmarole is for users to do what they’ve always done when inquiring about suspicious online content: google it. 

But seriously, how many different AI detection websites will one have to potentially go to? Is it 5? 15? Maybe 50? I doubt anyone has contemplated this number. AI providers with over 1M monthly users will have to comply with this law, making the user threshold arbitrarily over inclusive given that there are at least 1,500 GenAI startups poised for growth. And the unlucky startups that already have 1M users will have only four months to develop this unproven technology before the law takes effect in January of next year.

By passing this law, California lawmakers would be telling an untold number of GenAI startups to nerd harder


And now we get to the weird part. 

In the July 2 hearing [2:55hr mark] for which our much-discussed committee analysis was prepared, co-drafter of the bill Tom Kemp again testified in support. 

One statement stood out in particular:

“Recent changes to the bill have addressed many opposition concerns coming out of the privacy committee. For example, a critic just recently wrote that the recent changes have quote, ‘fixed the biggest issues I’ve had with the bill.’ ” 

Who is this unnamed critic? Well, Kemp appears to quote a comment that I made while summarizing several amendments in a Linkedin post. Read next to my own commentary, the two phrases are almost identical:

“These changes fix the biggest issues I had with the bill, link in comments.”

These two phrases don’t appear anywhere else on the internet, suggesting Kemp did in fact quote me. That’s a shame because while amendments did fix two of three issues I originally pointed out, this short phrasing doesn’t reflect my full thoughts on the bill. SB 942, in my opinion, is still a hot mess. 

The amendments didn’t address the issue of compelled AI detection tools. As we’ve already discussed, requiring AI providers to create detection tools does not guarantee them to actually work well. The fact that we can’t rely on them 100% of the time means there will be false positives and negatives, which has already proved to be highly damaging. Mandating these tools by law, with no consideration for how inaccurate they may be, is tech solutionism and will only confuse people more about the authenticity of content they encounter. 

I regret that my choice of a few short words was used to promote this piece of legislation. To avoid any doubt, I’ve edited my Linkedin post to read:

“These changes fix [some of] the biggest issues I had with the bill, [but it still has many, many issues.]


Alan Kyle is a tech policy professional available for hire in AI Governance, Trust & Safety, and Privacy.




Moscow.media
Частные объявления сегодня





Rss.plus




ББР Банк вошел в число лидеров по качеству сайтов финучреждений

Куда российский туристы едут за рыбой: гастрономический туризм на основе рыбной кухни набирает популярность

Лариса Анатольевна Болтенкова: Жить и трудиться – это и есть счастье

Московский оркестр MetalliadA сыграет в Петербурге свои симфонические сюиты


Coinbase faces crypto backlash over sponsoring military parade in D.C.

Traversal emerges from stealth with $48 million from Sequoia and Kleiner Perkins to reimagine site reliability in the AI era

JPMorgan Chase partners with Coinbase to launch deposit token for institutional clients

‘Big Short’ investor warns the precarious tariff environment reminds him of WWI—and a trade war would send the U.S. into a recession


SIMETRA: искусственный интеллект, сервисная модель и импортозамещение изменят рынок транспортного планирования в перспективе пяти лет

Тысячи россиян пожаловались на проблемы в работе мобильного интернета в Сибири и других регионах

Relax FM выступит партнером Yoga Day Russia 2025 в музее-заповеднике «Царицыно»

«Трансстроймеханизация» провела зарыбление Оки


Тактическая стратегия Spaceland вышла за пределами Apple Arcade

Lies of P's new easier difficulty modes reveal the true soul of a soulslike, and surprise: it's not dropping dead every time a monster sneezes

Все в шоке: игры, которые взорвут ваш мозг

Elon Musk's latest gaming take is ruthlessly mocked by Bioshock fans: 'Probably thinks Andrew Ryan was the hero'



Во Владивостоке стартовал второй этап Спартакиады ведомственной охраны Минтранса России

Relax FM выступит партнером Yoga Day Russia 2025 в музее-заповеднике «Царицыно»

В Сочи наградили победителей фестиваля-конкурса национальной патриотической песни «Красная гвоздика» имени Иосифа Кобзона

Работники Центрального филиала ведомственной охраны Минтранса России почтили память героев  Великой Отечественной войны, возложив цветы к мемориалам в разных регионах страны




В Московской области завершился первый этап кинофестиваля «Движение по вертикали», посвященный памяти Станислава Говорухина

В Сочи наградили победителей фестиваля-конкурса национальной патриотической песни «Красная гвоздика» имени Иосифа Кобзона

Работники Центрального филиала ведомственной охраны Минтранса России почтили память героев  Великой Отечественной войны, возложив цветы к мемориалам в разных регионах страны

Потерявшая ребенка Муцениеце торопится в ЗАГС после слухов о новой беременности


Спортсменка из Подмосковья выиграла серебро на чемпионате России по прыжкам в воду

СК завершил расследование дела мужчин, до смерти забивших прохожего в Москве

Ефимов: Москва подписала соглашение по обращению со строительными отходами

В Москве состоится корпоративный турнир "Игры лидеров"


Андрей Рублёв одержал победу в первом круге турнира ATP в Галле

Редкое фото изменившегося Марата Сафина — как сейчас выглядит спортсмен

Андреева заняла седьмое место в рейтинге WTA

Хачанов прошёл во второй раунд турнира в Халле на траве


Не менее трёх млрд рублей вложит МегаФон в цифровое развитие Новосибирской области

Мостовой – о розыгрыше Лиги чемпионов: «Увидел то, что и ожидал»

Нижегородский профессор Мария Ведунова стала героем выставки «Наука в лицах» на ПМЭФ

Владимир Ефимов: Московский фонд реновации строит 15 процентов жилья в столице


Музыкальные новости

Нюша призналась, что мало времени проводит с детьми

В Омской филармонии состоится специальный показ анимационного фильма «Ай да Пушкин!»

Сергей Шнуров воссоединился с четвертой женой Ольгой Абрамовой

Врачи одобрили необычный метод лечения горла Николая Баскова



Грозный задал высокую планку: подведены промежуточные итоги статуса Культурной столицы России 2025 года

Relax FM выступит партнером Yoga Day Russia 2025 в музее-заповеднике «Царицыно»

Московский оркестр MetalliadA сыграет в Петербурге свои симфонические сюиты

Более 1000 человек приняли участие в ежегодном благотворительном МедЗабеге


«Яндекс.Такси» до конца 2025 года снизит стоимость поездок с детьми

Путин сообщил о наличии контактов России с Рубио и Вэнсом

Врач Тяжельников рассказал о Дне Йоги на ВДНХ и пользе физической активности

В Москве отметят 100-летие Майи Плисецкой и 80-летие Победы концертами балета


Сотрудники Госавтоинспекции УВД по ЮЗАО напоминают о важности соблюдения правил безопасности дорожного движения

Получил 13 лет: чем закончилась история с трупом женщины в «Запорожце» Куценко

В Государственной думе предложили установить отдельные зеленые номера для электромобилей

В Госдуме предложили предусматривать наказание за создание ДТП с целью вымогательства


«На Москву полетят “Томагавки». Спасайтесь!»: Скурлатов обрушился на команду Путина

Путин сообщил о наличии контактов России с Рубио и Вэнсом

Москва договорилась с Израилем о безопасности россиян на АЭС «Бушер» в Иране

Путин сообщает, что Новый банк развития профинансировал примерно 120 проектов


28 февраля 2022 года отменяется блокировка транспортных карт для всех москвичей старше 60 лет

Международная Премия #МЫВМЕСТЕ объединила социальных лидеров




Врач Романенко назвала артериальное давление важнейшим показателем здоровья

Врач Тяжельников рассказал о Дне Йоги на ВДНХ и пользе физической активности

Более 1000 человек приняли участие в ежегодном благотворительном МедЗабеге

Врач-косметолог Мадина Осман: как избавиться от темных кругов под глазами


BZ: отмененная встреча Трампа и Зеленского на G7 стала ударом для Киева

Удар по Киеву: Трамп устал, что ему «подсовывают» Зеленского и сбежал с саммита G7 – Berliner Zeitung

В Киеве высмеяли Зеленского из-за преследования Трампа

Berliner Zeitung: Сорванная на G7 встреча Зеленского и Трампа стала ударом для Киева


Семак прокомментировал состояние Караваева

«Реал» сыграл вничью в дебютном матче тренера Алонсо на клубном ЧМ-2025

Инновационный центр "Сколково": 3,5 млрд рублей на спортивный комплекс

Во Владивостоке стартовал второй этап Спартакиады ведомственной охраны Минтранса России


Лукашенко: Минск остается убежденным сторонником углубления евразийской интеграции

Лукашенко: Беларусь является сторонником углубления евразийской интеграции

Лукашенко: Беларусь остается убежденным сторонником углубления евразийской интеграции



Сергей Собянин: Тоннель проведем под водой

Собянин рассказал о модернизации столичных школ

Москва нацелена на технологическую независимость: Собянин и Гарбузов в деле!

Давняя мечта москвичей. Собянин запустил проходку Бирюлевской линии метро


ОЭЗ Москвы станет ведущим промышленным центром Европы

Фестиваль «Эко-Москва» пройдёт в столице 20—22 июня

СИБУР и Московский музей дизайна открыли в Воронеже фотовыставку «От первого лица»

В Государственной думе предложили установить отдельные зеленые номера для электромобилей


Мостовой – о розыгрыше Лиги чемпионов: «Увидел то, что и ожидал»

Сеанс йоги и танцевальные уроки: чем заняться на площадках «Лета в Москве»

Заместитель главы МИД России прокомментировал вопрос о санкциях

Владимир Ефимов: Московский фонд реновации строит 15 процентов жилья в столице


Заместитель прокурора Архангельской области и Ненецкого автономного округа Павел Матанцев и Уполномоченный по правам человека в Ненецком автономном округе Екатерина Жданова проведут личный приём жителей Ненецкого автономного округа

Беспроводной сканер штрих-кодов Heroje S-H29W

Отделочные работы начались на станции «Народное Ополчение»

В Алтайском крае учредили уполномоченного по борьбе с «болью и страхами» населения


Поезда из Москвы в Феодосию будут ходить чаще

Партенит частично останется без электричества: в Симферополе, Евпатории, Алуште, Керчи, Джанкое, Феодосии и Севастополе отключат свет 17 июня

Конфликт Израиля и Ирана: будет ли Россия втянута – мнение

Требование капитуляции Ирана и закон о защите русского языка – главное


«Турецкая мечта» обернулась кошмаром: москвичи рассказали о разочаровании от покупки квартиры в Алании

Важная помощь от читателей «Русской Весны» бойцам, прорывающимся в Днепропетровскую область и штурмующим Часов Яр (ВИДЕО)

Подмосковье станет поставщиком моторных масел для федеральной сети СТО

Гендиректор фонда ВЦИОМ Абрамов объяснил растущее число разводов в России












Спорт в России и мире

Новости спорта


Новости тенниса
Чжу Линь

Повторит ли Кесслер успех в поединке против Чжу Линь? Кесслер — Чжу Линь: прогноз и ставка






Симфония кинохитов: оркестр «Глобалис» исполнит саундтреки на фестивале «НАШИ В ГОРОДЕ»

«Турецкая мечта» обернулась кошмаром: москвичи рассказали о разочаровании от покупки квартиры в Алании

Губернатор Санкт-Петербурга рассказал о развитии промышленности в городе

Важная помощь от читателей «Русской Весны» бойцам, прорывающимся в Днепропетровскую область и штурмующим Часов Яр (ВИДЕО)