Добавить новость
ru24.net
News in English
Декабрь
2024
1 2 3 4 5 6 7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31

The Curious Case Of ChatGPT’s Banned Names: Hard-Coding Blocks To Avoid Nuisance Threats

0

Over the weekend, I saw Andy Baio post on Bluesky an amusing experiment in response to Mark Sample posting about how the name “David Mayer” appears to break ChatGPT:

The “David Mayer” issue got a fair bit of attention in some corners of the media, as lots of people tried to figure out what was going on. Pretty quickly, people started to turn up a small list of other names that broke ChatGPT in a similar way:

  • Brian Hood
  • Jonathan Turley
  • Jonathan Zittrain
  • David Faber
  • David Mayer
  • Guido Scorza

I actually knew about Brian Hood, and had meant to write about him a while back, but never got around to it. A year and a half ago, a commenter here at Techdirt had posted a few times about the fact that ChatGPT broke on “Brian Hood.” That was about a month after Brian Hood, an Australian mayor, threatened to sue OpenAI for defamation, after someone generated some false statements about Hood.

OpenAI’s apparent “solution” was to hardcode ChatGPT to break on certain names like “Brian Hood.” When I tried to generate text about Brian Hood, using a similar method to Andy Baio’s test above, I got this error:

There has been widespread speculation online about why these specific names are blocked. A fairly comprehensive Reddit post explores the likely reasons each person ended up on ChatGPT’s blocklist.

There are many David Mayers, but one likely culprit is a UK-based American theater historian who made news a few years ago when terrorist watch lists confused him with a Chechen ISIS member who sometimes went by the name “David Mayer.” As of Monday when I was writing this article, the hard coding on the name “David Mayer” had been removed, though the reasons for that are unclear.

Jonathan Turley and Jonathan Zittrain are both high-profile professors (though one is nutty and one is very thoughtful). Turley freaked out last year (around the same time Brian Hood did) when he claimed that someone generated false information about him via ChatGPT.

Unlike the others on the list, with Zittrain there’s no such trail of freaking out or raising alarms about AI-generated content. Zittrain is a Harvard professor and the Faculty Director at the Berkman Klein Center for Internet and Society at Harvard. He writes a lot about the problems of the internet though (his book The Future of the Internet: And How to Stop It is worth reading, even if a bit out of date). He is, apparently, writing a similar book about his concerns regarding AI agents, so perhaps that triggered it? For what it’s worth, Zittrain also seems to have no idea why he’s on the list. He hasn’t threatened to sue or demanded his name be blocked.

Guido Scorza, an Italian data protection expert, wrote on ExTwitter last year about how to use the GDPR’s problematic “right to be forgotten” to delete all the data ChatGPT had on him. This is something that doesn’t quite make sense, given that it’s not a database storing information on him. But, it appears that the way OpenAI dealt with that deletion request was to just… blocklist his name. Easy way out, etc., etc.

No one seems to have any idea why David Faber is on the list, but it could certainly be another GDPR right to be forgotten request.

While I was finishing up this post, I saw that Benj Edwards at Ars Technica wrote a similar exploration of the topic, though he falsely claims he “knows why” these names are blocked, and his reporting doesn’t reveal much more than the same speculation others have.

Still, all of this is kind of silly. Hard coding names that break ChatGPT may be the least costly way for AI companies to avoid nuisance legal threats, but it’s hardly sustainable, scalable or (importantly), sensible.

LLMs are tools. Like most tools, the focus of liability for misuse should fall on the users, not the tool. Users need to learn that the output of LLMs may not be accurate and shouldn’t be relied upon as factual. Many people know this, but obviously, it still trips up some folks.

If someone takes hallucinating output and publishes it or does something else with it without first checking to see if it’s legitimate, the liability should fall on that person who failed to do the proper due diligence and relied on a fantasy-making machine to tell the truth.

But, of course, for these services, convincing the world of these concepts is a lot harder than just saying “fuck it, remove the loud threatening complainers.” But that kind of solution can’t last.




Moscow.media
Частные объявления сегодня





Rss.plus



В День Неизвестного Солдата подмосковные росгвардейцы почтили память Героев, отдавших свои жизни на благо Отечества

В Азербайджане прошел третий, завершающий этап проекта «Русский язык: читаем, слушаем, смотрим в странах СНГ»

В Азербайджане прошел третий, завершающий этап проекта «Русский язык: читаем, слушаем, смотрим в странах СНГ»

В Азербайджане прошел третий, завершающий этап проекта «Русский язык: читаем, слушаем, смотрим в странах СНГ»


Известны первые финалисты конкурса малых грантов для социальных предпринимателей

Героическое участие армян в СВО. Часть девятая

Дочь Майкла Джексона выходит замуж: кто жених

На Воробьевых горах открылась фотовыставка «Без барьеров»


Watch: India boss Rohit gets down to pink-ball business in Adelaide

Gujarat's Urvil Patel smashes another blazing century in SMAT

Bigg Boss 18: Digvijay Rathee asks Chum Darang about the kind of guy she would like to marry; says ‘mere parents ko manana padega’

Cook backs Jaiswal's fearless sledging of Starc


«Грузовичкоф» — финалист премии РБК Awards 2024

• Dusil Photography • https://dusil.org

Власти Екатеринбурга рассчитали рост тарифов ЖКХ на 20 лет вперед

ТСД SAOTRON RT41 GUN: практичный, производительный, надёжный


Woolly Boy and the Circus можно предзаказать на iOS, Android и PC

Доступна предзагрузка Steam-версии Delta Force: Hawk Ops

How two secret Stalker 2 hacks cut my loading time from 5 minutes to 52 seconds and got me in the Zone faster

MMORPG Journey of Monarch можно предзагрузить на iOS и Android


Інтернет-магазин GARNA: ваш вибір професійної косметики


«Грузовичкоф» не за горами: о работе Сервиса в Перми 

Bloody представил свой стенд и стал техническим партнёром на Red Expo-2024

Россияне хотят зарабатывать в 2025 году шестизначную сумму

«Грузовичкоф» не за горами: о работе Сервиса в Перми 




Врач Павлова предупредила, что у мужчин с лишним весом выше риск деменции

В Азербайджане прошел третий, завершающий этап проекта «Русский язык: читаем, слушаем, смотрим в странах СНГ»

«Грузовичкоф» — финалист премии РБК Awards 2024

Ценны вверх: к новогодним праздникам импортные продукты могут подорожать на 20%


Рецидивист из Подмосковья обманул тульских пенсионерок на 1,3 миллиона рублей

Детский сад в ЖК «Зеленые аллеи» в Видном построят в 2025 году

Спортсмены из Шахт стали призерами международных соревнований по каратэ

Секретарь Совбеза Белоруссии сообщил, что у Лукашенко есть свой «ядерный чемоданчик» и своя «красная кнопка»


WTA направила предостережения теннисисткам после скандала с Бадосой

Елена Рыбакина впечатлила подготовкой к новому сезону

В WTA могут ввести штрафы за посты в соцсетях после скандалов Бадосы и Линетт в Китае

Топ-теннисисток затравили хейтеры за слова о Китае. А WTA вообще запретила им говорить


Либералы посчитали людей ничтожествами. Дугин: "Румыны должны восстать"

Гостям кинопарка "Москино" предложат освоить азы главных специальностей времён Великой Отечественной войны

От деревяшки к титану: новые импланты ТРИНИТИ уже работают

Бывший киллер и спецназовец: из тюрьмы вышел лидер жесточайшей «Захаровской» ОПГ


Музыкальные новости

Певец Юрий Лоза заявил, что пенсии хватает только на оплату коммунальных услуг

Джиган решился на кардинальную смену имиджа

"КП": Басков и Веденеева будут вести "Голубой огонек" в 2025 году

Кто этот ЛЮТЫЙ МОНСТР / Реакция Джигана / NBC 11 EXPO



Известны первые финалисты конкурса малых грантов для социальных предпринимателей

«Грузовичкоф» не за горами: о работе Сервиса в Перми 

«Грузовичкоф» не за горами: о работе Сервиса в Перми 

Bloody представил свой стенд и стал техническим партнёром на Red Expo-2024


AI Певица. Создание AI Певиц. AI Певец. AI Артист. Создание и продвижение AI Певицы.

Подмосковные росгвардейцы получили более 100 новых служебных автомобилей

Саундтреки к кинофильмам прозвучат в исполнении оркестра

«Грузовичкоф» — финалист премии РБК Awards 2024


Фиксики, LEGO-человечки, «Синий трактор»: детские новогодние шоу в Москве

В Москве велокурьер попал в больницу, столкнувшись с коллегой

Насколько эффективен процесс сравнения предложений на платформе Болерон для поиска лучшего ОСАГО?

Автомобиль загорелся на внешней стороне 29-го километра МКАД


Россия и Белоруссия отменят роуминг: что это значит для пользователей

«Кошка, гуляющая сама по себе»: с чем связано назначение Хинштейна главой Курской области

Исполать тебе, Александр Ярославич…

Владимир Путин наградил орденом Мужества волонтёра Федора Геращенко


Постковидный синдром: что делать, если болезнь прошла, но симптомы остались




Суд в Москве исключил "Международную лигу трезвости и здоровья" из госреестра

Врачи из Каширы поблагодарили руководителя фракции КПРФ Наумова за помощь

Президент ФЛГР Вяльбе о медицинском обследовании Большунова: ничего серьезного

Растопите жир, укрепите иммунитет: доктор Кутушов рассказал о пользе холода


Депутат Чепа заявил, что команда Ермака, вероятно, разочарована встречей с Уайлс


Футбольные мамы из России провели турнир в самых крупных трущобах Африки

На востоке Москвы появился спортивный бульвар

Фиксики, LEGO-человечки, «Синий трактор»: детские новогодние шоу в Москве

Президент ФЛГР Вяльбе о медицинском обследовании Большунова: ничего серьезного


Лукашенко заявил о необходимости создать общий с РФ энергетический рынок

Лукашенко рассказал о потенциале союза России и Белоруссии

Путин пригласил Лукашенко на парад в честь 80-летия Победы в Москве

Путин и Лукашенко участвуют в заседании Высшего госсовета в Минске



Собянин рассказал об отсутствии планов запускать в Москве новогодние фейерверки

Сергей Собянин: Юбиляр — человек сложной, но удивительной судьбы

Собянин отменил новогодние фейерверки в Москве

Собянин: В ОЭЗ "Технополис Москва" откроется еще один центр подготовки студентов


Мужчине, изнасиловавшему девушку в парке в 2012 году, предъявили обвинения

Известны первые финалисты конкурса малых грантов для социальных предпринимателей

Руководители заповедников и нацпарков страны ...

«Не каждый обрадуется такому сюрпризу»: эксперты предупреждают о том, что не стоит дарить змей на Новый год


Детский сад в ЖК «Зеленые аллеи» в Видном построят в 2025 году

Гостям кинопарка "Москино" предложат освоить азы главных специальностей времён Великой Отечественной войны

Бывший киллер и спецназовец: из тюрьмы вышел лидер жесточайшей «Захаровской» ОПГ

Роснефть предложила сохранить индексацию тарифов Транснефти на инфляцию


Какой будет погода на Новый год, спрогнозировали синоптики

Костомукшские пауэрлифтеры вернулись из Коми с медалями первенства СЗФО

Беспроводной сканер штрих-кодов SAOTRON P05i промышленного класса

VIII-й Arctic open зажег в Архангельске


Калмыкия может открыть авиарейсы в Петербург, Казань, Екатеринбург и Улан-Удэ

Час мужества "Их подвиг жив, неповторим и вечен"

Беседа-рекомендация «Это важно знать»

Алупка частично останется без электричества: в Симферополе, Евпатории, Алуште, Ялте, Керчи, Джанкое, Феодосии и Севастополе отключат свет 6 декабря 2024


МКБ взыскал с бельгийского Euroclear Bank 13,6 миллиарда рублей

Изменение системы расчета оплаты за вывоз мусора опровергли

Путин принимает участие в заседании Высшего Госсовета Союзного государства

В Москве арестовали последователя секты «Фалуньгун»












Спорт в России и мире

Новости спорта


Новости тенниса
WTA

WTA ввела цензуру на посты теннисисток в соцсетях из-за недавних слов Паулы Бадосы и Магды Линетт о Китае






Альфа-Конфа собрала пять тысяч предпринимателей из разных городов страны

От деревяшки к титану: новые импланты ТРИНИТИ уже работают

Роснефть предложила сохранить индексацию тарифов Транснефти на инфляцию

Сихарулидзе: между парами Мишина — Галлямов и Бойкова — Козловский реальная схватка, в которой на карту поставлено всё