Добавить новость
ru24.net
News in English
Декабрь
2024
1 2 3 4 5 6 7 8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31

The Curious Case Of ChatGPT’s Banned Names: Hard-Coding Blocks To Avoid Nuisance Threats

0

Over the weekend, I saw Andy Baio post on Bluesky an amusing experiment in response to Mark Sample posting about how the name “David Mayer” appears to break ChatGPT:

The “David Mayer” issue got a fair bit of attention in some corners of the media, as lots of people tried to figure out what was going on. Pretty quickly, people started to turn up a small list of other names that broke ChatGPT in a similar way:

  • Brian Hood
  • Jonathan Turley
  • Jonathan Zittrain
  • David Faber
  • David Mayer
  • Guido Scorza

I actually knew about Brian Hood, and had meant to write about him a while back, but never got around to it. A year and a half ago, a commenter here at Techdirt had posted a few times about the fact that ChatGPT broke on “Brian Hood.” That was about a month after Brian Hood, an Australian mayor, threatened to sue OpenAI for defamation, after someone generated some false statements about Hood.

OpenAI’s apparent “solution” was to hardcode ChatGPT to break on certain names like “Brian Hood.” When I tried to generate text about Brian Hood, using a similar method to Andy Baio’s test above, I got this error:

There has been widespread speculation online about why these specific names are blocked. A fairly comprehensive Reddit post explores the likely reasons each person ended up on ChatGPT’s blocklist.

There are many David Mayers, but one likely culprit is a UK-based American theater historian who made news a few years ago when terrorist watch lists confused him with a Chechen ISIS member who sometimes went by the name “David Mayer.” As of Monday when I was writing this article, the hard coding on the name “David Mayer” had been removed, though the reasons for that are unclear.

Jonathan Turley and Jonathan Zittrain are both high-profile professors (though one is nutty and one is very thoughtful). Turley freaked out last year (around the same time Brian Hood did) when he claimed that someone generated false information about him via ChatGPT.

Unlike the others on the list, with Zittrain there’s no such trail of freaking out or raising alarms about AI-generated content. Zittrain is a Harvard professor and the Faculty Director at the Berkman Klein Center for Internet and Society at Harvard. He writes a lot about the problems of the internet though (his book The Future of the Internet: And How to Stop It is worth reading, even if a bit out of date). He is, apparently, writing a similar book about his concerns regarding AI agents, so perhaps that triggered it? For what it’s worth, Zittrain also seems to have no idea why he’s on the list. He hasn’t threatened to sue or demanded his name be blocked.

Guido Scorza, an Italian data protection expert, wrote on ExTwitter last year about how to use the GDPR’s problematic “right to be forgotten” to delete all the data ChatGPT had on him. This is something that doesn’t quite make sense, given that it’s not a database storing information on him. But, it appears that the way OpenAI dealt with that deletion request was to just… blocklist his name. Easy way out, etc., etc.

No one seems to have any idea why David Faber is on the list, but it could certainly be another GDPR right to be forgotten request.

While I was finishing up this post, I saw that Benj Edwards at Ars Technica wrote a similar exploration of the topic, though he falsely claims he “knows why” these names are blocked, and his reporting doesn’t reveal much more than the same speculation others have.

Still, all of this is kind of silly. Hard coding names that break ChatGPT may be the least costly way for AI companies to avoid nuisance legal threats, but it’s hardly sustainable, scalable or (importantly), sensible.

LLMs are tools. Like most tools, the focus of liability for misuse should fall on the users, not the tool. Users need to learn that the output of LLMs may not be accurate and shouldn’t be relied upon as factual. Many people know this, but obviously, it still trips up some folks.

If someone takes hallucinating output and publishes it or does something else with it without first checking to see if it’s legitimate, the liability should fall on that person who failed to do the proper due diligence and relied on a fantasy-making machine to tell the truth.

But, of course, for these services, convincing the world of these concepts is a lot harder than just saying “fuck it, remove the loud threatening complainers.” But that kind of solution can’t last.




Moscow.media
Частные объявления сегодня





Rss.plus



Певица RIIJI выпустила яркий дебютный трек

Певица RIIJI выпустила яркий дебютный трек

Известны первые финалисты конкурса малых грантов для социальных предпринимателей

Певица RIIJI выпустила яркий дебютный трек


В Москве названы победители литературной премии имени В.К. Арсеньева за 2024 год

Сильвестр Сталлоне обзавелся новым особняком

На новогоднем банкете не хватает только Вас

«Плачу»: Ольга Орлова высказалась о помолвке Ксении Бородиной с Николаем Сердюковым


Shark Tank India 4 set to go on floors in January 2025 with a new Shark; Amit Jain, Deepinder Goyal and Radhika Gupta not on the panel

Bigg Boss 18: Shalini Passi's grand entry stirs up drama amid housemates; Vivian, Karan, Chum and others deal with her tantrums and fancy demands

3/3! Scott Boland wins another battle against Shubman Gill

Kaun Banega Crorepati 16: Amitabh Bachchan recalls an anecdote about freedom fighter Vijaya Laxmi Pandit relating to Contestant Mintu Sarkar's struggles


«Грузовичкоф» не за горами: о работе Сервиса в Перми 

Хвост павлина / Peacock tale

Одну из улиц в центре Екатеринбурга на три месяца закроют из-за новогоднего катка

На трассе под Орлом лоб в лоб столкнулись легковушка и грузовик. Один из водителей попал в больницу


Delta Force has a list of tech it'll ban you to the shadowrealm for using, including the usual cheating software but also way weirder stuff like 'USB drives'

Silent Hill и "Черепашки-ниндзя": топ-10 худших игр года по отзывам на Metacritic

«Подводим итоги»: Как прошёл первый день релиза Marvel Rivals?

What are your most-played games on Steam, and why have you spent so many hours on them?


Інтернет-магазин GARNA: ваш вибір професійної косметики


В Москве названы победители литературной премии имени В.К. Арсеньева за 2024 год

Певица RIIJI выпустила яркий дебютный трек

Певица RIIJI выпустила яркий дебютный трек

Певица RIIJI выпустила яркий дебютный трек




Певица RIIJI выпустила яркий дебютный трек

Певица RIIJI выпустила яркий дебютный трек

Бастрыкин: СК направил в суд 9 тыс дел о коррупции, что на 14,4% больше

"Нас поставили на колени": Бунт врачей скорой помощи — людей вынуждают увольняться, чтобы расчистить места для мигрантов


Премьер Сирии сообщил о готовности сотрудничать с любым избранным правительством

Владивосток стал лидером в списке самых солнечных городов России

Оберег на будущее: «Орешник» будет размещен в Белоруссии

Исторические хроники: наследие как способ сформировать любовь к малой Родине


Ник Кирьос допустил, что Энди Роддик мог принимать допинг

Топ-теннисисток затравили хейтеры за слова о Китае. А WTA вообще запретила им говорить

Кириос о том, что, собирая идеального игрока, выбрал свой IQ: «Не знаю, доходил ли кто-то еще до финала «Уимблдона» без тренера»

Рыбакина вошла в рейтинг самых высокооплачиваемых спортсменок мира в 2024 году. Известна сумма ее заработка


Москвичи начали отказываться от собак в квартирах

"Прошерстить всё осиное гнездо!": Народный бунт в Курской области остановил Путин

Лавров: Россия будет поддерживать нынешнее правительство Сирии

Владивосток стал лидером в списке самых солнечных городов России


Музыкальные новости

В Азербайджане прошел третий, завершающий этап проекта «Русский язык: читаем, слушаем, смотрим в странах СНГ»

Восьмиклассник с ножом устроил резню в краснодарской школе. Он напал на учеников из-за песни Моргенштерна

Спит с Федей и Витей: стало известно, как живет Шнуров после развода с молодой женой

Певица RIIJI выпустила яркий дебютный трек



Певица RIIJI выпустила яркий дебютный трек

Певица RIIJI выпустила яркий дебютный трек

В Москве названы победители литературной премии имени В.К. Арсеньева за 2024 год

Певица RIIJI выпустила яркий дебютный трек


Певица RIIJI выпустила яркий дебютный трек

Собянин: Открытие ВСМ Москва — Петербург увеличит пассажиропоток между городами

Бербок грубо ошиблась, споря с Лавровым

Оперативный сбор руководящего состава Приволжского округа Росгвардии завершился в Нижнем Новгороде


Собянин поздравил Центр организации дорожного движения Москвы с 25-летием

Источник 360.ru: автобус попал в ДТП в Москве, пострадали дети

Трое детей пострадали в результате столкновения автобуса и автомобиля в Москве

В Москве внедорожник столкнулся с автобусом


Кремль назвал время выхода в эфир "Итогов года с Путиным"

«Президентский штандарт»: мистическую картину с Путиным выставили на продажу за 10 млн рублей

Спроси у Путина. Мандарины едут к нам. "Устраняя зимнюю скользкость". Круиз в Махачкалу. А ну их, дома эти!

Россиянам рассказали, как задать вопрос на прямой линии с Путиным





Подробный гороскоп для Весов на 2025 год: любовь, карьера, здоровье и удача

Педиатр Купцова рассказала об опасности микоплазменной пневмонии

В Щербинке начали строить детско-взрослую поликлинику

"Нас поставили на колени": Бунт врачей скорой помощи — людей вынуждают увольняться, чтобы расчистить места для мигрантов



КХЛ. «Динамо» Москва — «Металлург». Прямая трансляция: смотреть онлайн

Московское «Динамо» представило новую форму

Артур Давтян выиграл многоборье на Кубке Воронина в Москве

Зимняя сказка в Северном Тушино: развлекательная площадка проекта «Зима в Москве» открыла свои двери


Владимир Путин выступил в Минске на заседании Высшего Государственного Совета Союзного государства

Лукашенко рассказал, как уговорил Путина поставить "Орешник" Белоруссии

Лукашенко и Путин в Минске утвердили Концепцию безопасности Союзного государства

Александр Лукашенко приехал на спортивно-развлекательное шоу "Время наших побед" в "Минск-Арене"



Собянин поздравил Центр организации дорожного движения Москвы с 25-летием

Завершена реставрация сказочного терема на Тверской улице — Сергей Собянин

Собянин: Центр "Профессии будущего" помогает освоить любую из 75 специальностей

Собянин: Завершена реставрация Саввинского подворья на Тверской улице


Пока Москва погружается в сугробы, у нас в Крыму снег — явление редкое, его можно занести в Красную книгу полуострова

В Москве тестируют первый в России беспилотный трамвай

Победившие в конкурсе «Зеленая волна» экопроекты семинаристов представили в Москве

РЭО установит елку желаний в ходе церемонии награждения на Зеленой Премии


«Можно понемногу»: кому следует сократить количество какао в меню

Исторические хроники: наследие как способ сформировать любовь к малой Родине

"Прошерстить всё осиное гнездо!": Народный бунт в Курской области остановил Путин

В Реутове установили памятную доску участнику СВО


В Архангельске наградили лауреатов региональной премии «Юрист года»

Костомукшские пауэрлифтеры вернулись из Коми с медалями первенства СЗФО

VIII-й Arctic open зажег в Архангельске

Собянин: Этапы строительства Рублево-Архангельской линии завершатся в 2026-2027


Алупка частично останется без электричества: в Симферополе, Евпатории, Алуште, Ялте, Керчи, Джанкое, Феодосии и Севастополе отключат свет 6 декабря 2024

Прогноз погоды в Крыму на 8 декабря

Какие рынки в Крыму закроются из-за новых законов

Машина повисла в воздухе: иномарка рухнула в подземный переход в Симферополе


В Реутове установили памятную доску участнику СВО

От иконы – к шкатулке: как рождалась палехская миниатюра

Москвичи начали отказываться от собак в квартирах

Премьер Сирии сообщил о готовности сотрудничать с любым избранным правительством












Спорт в России и мире

Новости спорта


Новости тенниса
Янник Синнер

Синнер отказался от вечера в честь победы в Кубке Дэвиса ради дня рождения Калинской — Cds






В Наро-Фоминске прошел фестиваль для детей с ОВЗ «Открытое сердце»

Лавров: Россия будет поддерживать нынешнее правительство Сирии

Владивосток стал лидером в списке самых солнечных городов России

В Реутове установили памятную доску участнику СВО