Добавить новость
ru24.net
News in English
Июль
2024

California AI Bill Tells GenAI Startups To Nerd Harder

0

There’s a stunning degree of fear mongering and lack of humility about what California AI bill SB 942 can or can’t do. Honest conversation about this bill’s limitations are essential to ensuring we don’t pass this ineffective law. But its proponents have obstructed reasoned policy development by injecting panic into that conversation and pretending it will solve various multifaceted GenAI abuses that it simply cannot.

This article is a follow up to my first one, where I explain why SB 942’s forced disclosures and inclusion of AI-generated text were unworkable. Despite recent amendments that fix those two issues, the remaining requirement that nascent AI companies create “AI detection tools” make it still a fundamentally flawed bill.

SB 942 vaguely aims to “tackle the issue of GenAI-produced content” by requiring three things:

  1. AI providers must offer a free AI detection tool that identifies content generated using their service
  2. AI providers must offer users the option to include a conspicuous disclosure on content generated with their service. 
  3. AI providers must embed specific metadata into files and the generated content itself, including company name, version number, timestamp, and a unique identifier.

A theme that runs through nearly every aspect of this bill’s journey through the legislature is a mismatch between any given GenAI abuse and how this bill would address it. For example, a June 28 committee analysis clumsily tries to explain the danger of open-source AI and incorrectly implies that SB 942 will help counter it: 

“ChatGPT is an example of an open-sourced tool, meaning it is accessible to the public. Researchers and developers can also access its code and parameters. This accessibility increases transparency, but it has downsides: when a tool’s code and parameters can be easily accessed, they can be easily altered, and open-source tools have the potential to be used for nefarious purposes.”

While OpenAI has released some model weights, ChatGPT is famously not open-source. Here, open-source has been conflated with “widely available.” Ironically, this bill only applies to AI businesses, and not situations where actual open-source AI software may be abused. 

The analysis continues:

“The need for this bill is further highlighted by various instances and research underscoring the threats posed by unregulated GenAI.”

It goes on to describe three examples of GenAI abuse and again falsely implies this bill is the fix. Let’s talk about why that’s not true. 

Example 1:

In January, voters in New Hampshire received phone calls from an AI-generated voice clone of Joe Biden telling them not to vote in the primary election in order to save their vote for the upcoming general election. They caught the man responsible and he’s now facing a 6 million dollar fine and 13 felony charges. The FCC has also now made AI robocalls illegal in response.  

The bill’s three main provisions would not prevent this from happening again: 1) It would be impractical for consumers to record robocalls and then upload them to a detection tool. 2) Nefarious actors would opt out of the optional disclosures and 3) metadata for the fraudulent audiofile would be irrelevant in the context of an ephemeral phone call. 

Example 2:

A finance worker at a Hong Kong firm was persuaded to transfer $25 million to thieves when they were invited to participate in a video call with several other AI-generated colleagues.

This case shares the same pitfalls as the previous example: 1) An employee who thinks they may be in the middle of a fraudulent video call won’t have any way to upload that information to a detection tool during that session. 2) Bad actors will opt out of disclosures and 3) metadata will again be irrelevant.  

Example 3:  

California high school students have been caught generating nonconsensual nude images of their classmates.

1) Determining the authenticity of this content is useless and doesn’t address the harm it creates. 2) Even if a user opts for a disclosure, the content is still extremely harmful. 3) A hidden disclosure embedded into content might be helpful only in cases where no other evidence or context leads to the perpetrator. But this assumes that all companies can implement this still-developing idea across audio, video, and images. Requiring by law that this be implemented by startups is heavy handed and unrealistic.      


The analysis ends with a hypothetical that highlights yet another fundamental flaw:

“In theory, a person who views a video circulating on social media conveying President Joe Biden telling voters not to vote in the primary election could use a provider’s AI detection tool to upload and analyze the video. By examining the embedded machine-readable disclosures, the user could identify the provider’s name, the GenAI system used, and the creation date, concluding that the video was produced by AI. This process would reveal that the video is not genuine, thus, in theory, helping to prevent the spread of misinformation.”

That sounds nice, in theory. But in reality, it’s more complicated than that.

A social media user that uploads to an AI detection tool may not be returned any useful indication about a piece of content’s authenticity because the law only requires AI providers to determine if their service was used. The user would then need to make uploads to every AI provider’s tool until they get a hit, or give up before they do. The user will also need to understand that each tool has a different level of accuracy across video, image, and audio, and will need to account for the fact that there may be false positive and negative results. 

One alternative to this rigmarole is for users to do what they’ve always done when inquiring about suspicious online content: google it. 

But seriously, how many different AI detection websites will one have to potentially go to? Is it 5? 15? Maybe 50? I doubt anyone has contemplated this number. AI providers with over 1M monthly users will have to comply with this law, making the user threshold arbitrarily over inclusive given that there are at least 1,500 GenAI startups poised for growth. And the unlucky startups that already have 1M users will have only four months to develop this unproven technology before the law takes effect in January of next year.

By passing this law, California lawmakers would be telling an untold number of GenAI startups to nerd harder


And now we get to the weird part. 

In the July 2 hearing [2:55hr mark] for which our much-discussed committee analysis was prepared, co-drafter of the bill Tom Kemp again testified in support. 

One statement stood out in particular:

“Recent changes to the bill have addressed many opposition concerns coming out of the privacy committee. For example, a critic just recently wrote that the recent changes have quote, ‘fixed the biggest issues I’ve had with the bill.’ ” 

Who is this unnamed critic? Well, Kemp appears to quote a comment that I made while summarizing several amendments in a Linkedin post. Read next to my own commentary, the two phrases are almost identical:

“These changes fix the biggest issues I had with the bill, link in comments.”

These two phrases don’t appear anywhere else on the internet, suggesting Kemp did in fact quote me. That’s a shame because while amendments did fix two of three issues I originally pointed out, this short phrasing doesn’t reflect my full thoughts on the bill. SB 942, in my opinion, is still a hot mess. 

The amendments didn’t address the issue of compelled AI detection tools. As we’ve already discussed, requiring AI providers to create detection tools does not guarantee them to actually work well. The fact that we can’t rely on them 100% of the time means there will be false positives and negatives, which has already proved to be highly damaging. Mandating these tools by law, with no consideration for how inaccurate they may be, is tech solutionism and will only confuse people more about the authenticity of content they encounter. 

I regret that my choice of a few short words was used to promote this piece of legislation. To avoid any doubt, I’ve edited my Linkedin post to read:

“These changes fix [some of] the biggest issues I had with the bill, [but it still has many, many issues.]


Alan Kyle is a tech policy professional available for hire in AI Governance, Trust & Safety, and Privacy.




Moscow.media
Частные объявления сегодня





Rss.plus




Индивидуальные мастер-классы в «Тропикана Парк»

Тravel-эксперт Тариел Гажиенко: советы новичкам, как правильно подготовиться к путешествию

НОВЫЙ СЕЗОН – НОВАЯ ЛОКАЦИЯ. РЕКТОР АКАДЕМИИ ОТКРЫЛ VII ТУРCЛЕТ

585*ЗОЛОТОЙ представил обвесы для обвесов


This millennial CEO grew up with a heroin addict dad. Now he’s running a multimillion-dollar agency

Anupamaa actress Rupali Ganguly’s day isn’t complete without a call to her son Rudransh from set

One of the country’s largest supermarket chains recalls baby food sold in 8 states because of elevated levels of lead, health officials say

Exact date in DAYS millions of Nationwide customers will find out if they’ll get £100 free cash


НеSOCрушимая безопасность

Житель Ельца подделал анализ для участия в СВО и потерял 2 млн рублей

Киберэксперт GSOC Жданухин: хакеры используют доверие к Zenmap и WinMTR

«Битцевский маньяк» захотел в колонию поближе к Москве, но получил отказ


Five new Steam games you probably missed (May 26, 2025)

Все изменения в Destiny Rising перед началом ЗБТ: общий уровень героев, гача-крутки и модификации

Most players 'know next to nothing about how games are made': New Blood devs sound off on gamedev misconceptions

Началась предзагрузка Crystal of Atlan на PC и смартфонах



Киберэксперт Полунин: уязвимость Meteobridge — следствие проблем «коробочных» решений

Основные ошибки при монтаже систем отопления и почему лучше обратиться к специалистам

Shazam. Увеличение прослушиваний в Shazam. 

«73,8 млн прослушиваний»: «Ура! Музыка» подвел итоги




Призванный в армию Калюжный сначала отправится в учебную часть

Собянин подписал закон о штрафах для не прошедших экзамен на знание Москвы таксистов

Shazam. Увеличение прослушиваний в Shazam. 

Какой сегодня праздник: 27 мая – День города Санкт-Петербурга


Москва: Возведение делового центра создаст 1,4 тыс. новых рабочих мест

В Мексике открылся «Вернисаж Музея Победы»

Песков: Усиление атак Киева по РФ противоречит переговорному процессу

Анонс: Лавров обсудит с главой МИД Турции ситуацию после переговоров Москвы и Киева в Стамбуле


Андрей Рублев поборется в финале за победу в теннисном турнире ATP-500

США выиграли ЧМ по хоккею, информация об уходе Угальде из «Спартака». Главное к утру

«Возвращение в десятку — одна из задач» // Экс-девятая ракетка мира Вероника Кудерметова о задачах на сезон

Рафаэль Надаль подвел итоги своей карьеры на церемонии «Ролан Гаррос»


Спортсмен из Хакасии – бронзовый призёр международных соревнований по дзюдо

Призванный в армию актер Калюжный приехал в военкомат на дорогом внедорожнике

В Союзе пассажиров рассказали о росте серого рынка такси

Сохранение наследия: в центре столицы отреставрируют памятник московского модерна


Музыкальные новости

В Волгограде с лучшими хитами выступит легендарный Вячеслав Бутусов. Угадайте, сколько стоят билеты на первые ряды

В Пресненском районе отреставрируют памятник московского модерна — Сергунина

Талантливые артисты и поэты выступили на благотворительном концерте «Культура в помощь Донбассу» в Нальчике

Шнуров и Розенбаум поздравили футбольный клуб «Зенит» со 100‑летним юбилеем



Тravel-эксперт Тариел Гажиенко: советы новичкам, как правильно подготовиться к путешествию

Киберэксперт Полунин: уязвимость Meteobridge — следствие проблем «коробочных» решений

Основные ошибки при монтаже систем отопления и почему лучше обратиться к специалистам

«Лосиному острову» добавляют точности // Минприроды обозначит границы охранной зоны нацпарка в Подмосковье


Бизнес-центры на взлете // Почему растут ставки аренды офисов в Москве

Филипп Киркоров признался, что хочет воссоединить маму с папой

Дмитрий Губерниев против Елены Вяльбе: битва за пост главы ФЛГР в 2026 году

Собянин рассказал в социальных сетях о работе платформы Mos.Hub


В Москве будут штрафовать таксистов за незнание города

Княжевская: Автосервис, мойка и минимаркет появятся в составе АЗС в районе Вороново

Московских таксистов оштрафуют за отсутствие аттестации

Собянин подписал закон о штрафах для не прошедших экзамен на знание Москвы таксистов


Фидан встретился с Путиным

Российская экономика приближается к "мягкой посадке"

NYT: Трамп ясно дал понять, что не намерен вводить жесткие санкции против России

Путин: РФ не будет стелить «Макдоналдсу» дорожку, если он захочет вернуться





«Швабе» представил уникальную камеру для хранения донорской крови

Генеральный директор «Евроонко» Александр Свиридов выступил на Форуме частных медицинских организаций

Ферментация во благо здоровья

Мастерству дипломатии обучат «долголетов» Марьиной Рощи



Нижегородская детская мотокоманда завоевала призовые места на соревнованиях

Новые тренажеры и лаунж-зона с шезлонгами появятся в парке «Дубрава» на северо-западе столицы

Анчелотти намерен привести сборную Бразилии к шестым победам на чемпионате мира

«Торпедо» рассматривает пять кандидатов на пост главного тренера


Минниханов: Во время визитов в Минск Лукашенко всегда находит время встретиться с нами



С 21 по 24 июня на Красной площади будет работать иммерсивный музей — Собянин

Собянин: Сервисами mos.ru воспользовались уже более 5 млрд раз

Собянин: Музей под открытым небом откроется на Красной площади 21 июня

Собянин: иммерсивный музей на Красной площади расскажет о событиях ВОВ


Биолог Марьинский предупредил о нашествии гигантских слизней в Москве

Начался вывоз загрязненного песка с полигона в Смикаракорском районе

Огненное «комбо»: как пережить магнитные бури в сильную жару

Hybrid запускает программу амбассадорства для digital-специалистов и рекламных агентств


Синоптик Шувалов: снег в Сибири к концу недели сменится погодой под +20 °С

С 21 по 24 июня на Красной площади будет работать иммерсивный музей — Собянин

Субтропические ночи в Москве: рекордные +20°C в конце мая

В Союзе пассажиров рассказали о росте серого рынка такси


Международный фестиваль блюза стартовал в Архангельске

Жара накроет регионы России

Полвека на службе Арктике: «Михаил Сомов» доставит грузы на 21 станцию и отметит юбилей в море

В суд направлено уголовное дело о незаконной охоте с причинением крупного ущерба на территории Ненецкого автономного округа


Сахарная Головка частично останется без электричества: в Симферополе, Евпатории, Алуште, Ялте, Керчи, Джанкое, Феодосии и Севастополе отключат свет 26 мая 2025

Выставка-призыв «Курение – зло, откажись от него»

Мы служим книге, чтобы книга служила людям

Запущен новый поезд, соединяющий Таганрог и Симферополь


«Активные граждане» выберут граффити — символ молодежи Москвы

Экс-сотрудник ОМОНа получил 17 лет за убийство начальника милиции

Москва: Возведение делового центра создаст 1,4 тыс. новых рабочих мест

Собянин: Сервисами mos.ru воспользовались уже более 5 млрд раз












Спорт в России и мире

Новости спорта


Новости тенниса
Янник Синнер

Синнер начал выступление на «Ролан Гаррос» с победы






Надежные решения в сфере климатической техники от компании «ПАРИСТА-КЛИМАТ»

Анонс: Лавров обсудит с главой МИД Турции ситуацию после переговоров Москвы и Киева в Стамбуле

Спортсмен из Хакасии – бронзовый призёр международных соревнований по дзюдо

Автоюрист Золотов: новый закон может лишить работы 507 тысяч таксистов