Добавить новость
ru24.net
News in English
Декабрь
2024
1 2 3 4 5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31

The Curious Case Of ChatGPT’s Banned Names: Hard-Coding Blocks To Avoid Nuisance Threats

0

Over the weekend, I saw Andy Baio post on Bluesky an amusing experiment in response to Mark Sample posting about how the name “David Mayer” appears to break ChatGPT:

The “David Mayer” issue got a fair bit of attention in some corners of the media, as lots of people tried to figure out what was going on. Pretty quickly, people started to turn up a small list of other names that broke ChatGPT in a similar way:

  • Brian Hood
  • Jonathan Turley
  • Jonathan Zittrain
  • David Faber
  • David Mayer
  • Guido Scorza

I actually knew about Brian Hood, and had meant to write about him a while back, but never got around to it. A year and a half ago, a commenter here at Techdirt had posted a few times about the fact that ChatGPT broke on “Brian Hood.” That was about a month after Brian Hood, an Australian mayor, threatened to sue OpenAI for defamation, after someone generated some false statements about Hood.

OpenAI’s apparent “solution” was to hardcode ChatGPT to break on certain names like “Brian Hood.” When I tried to generate text about Brian Hood, using a similar method to Andy Baio’s test above, I got this error:

There has been widespread speculation online about why these specific names are blocked. A fairly comprehensive Reddit post explores the likely reasons each person ended up on ChatGPT’s blocklist.

There are many David Mayers, but one likely culprit is a UK-based American theater historian who made news a few years ago when terrorist watch lists confused him with a Chechen ISIS member who sometimes went by the name “David Mayer.” As of Monday when I was writing this article, the hard coding on the name “David Mayer” had been removed, though the reasons for that are unclear.

Jonathan Turley and Jonathan Zittrain are both high-profile professors (though one is nutty and one is very thoughtful). Turley freaked out last year (around the same time Brian Hood did) when he claimed that someone generated false information about him via ChatGPT.

Unlike the others on the list, with Zittrain there’s no such trail of freaking out or raising alarms about AI-generated content. Zittrain is a Harvard professor and the Faculty Director at the Berkman Klein Center for Internet and Society at Harvard. He writes a lot about the problems of the internet though (his book The Future of the Internet: And How to Stop It is worth reading, even if a bit out of date). He is, apparently, writing a similar book about his concerns regarding AI agents, so perhaps that triggered it? For what it’s worth, Zittrain also seems to have no idea why he’s on the list. He hasn’t threatened to sue or demanded his name be blocked.

Guido Scorza, an Italian data protection expert, wrote on ExTwitter last year about how to use the GDPR’s problematic “right to be forgotten” to delete all the data ChatGPT had on him. This is something that doesn’t quite make sense, given that it’s not a database storing information on him. But, it appears that the way OpenAI dealt with that deletion request was to just… blocklist his name. Easy way out, etc., etc.

No one seems to have any idea why David Faber is on the list, but it could certainly be another GDPR right to be forgotten request.

While I was finishing up this post, I saw that Benj Edwards at Ars Technica wrote a similar exploration of the topic, though he falsely claims he “knows why” these names are blocked, and his reporting doesn’t reveal much more than the same speculation others have.

Still, all of this is kind of silly. Hard coding names that break ChatGPT may be the least costly way for AI companies to avoid nuisance legal threats, but it’s hardly sustainable, scalable or (importantly), sensible.

LLMs are tools. Like most tools, the focus of liability for misuse should fall on the users, not the tool. Users need to learn that the output of LLMs may not be accurate and shouldn’t be relied upon as factual. Many people know this, but obviously, it still trips up some folks.

If someone takes hallucinating output and publishes it or does something else with it without first checking to see if it’s legitimate, the liability should fall on that person who failed to do the proper due diligence and relied on a fantasy-making machine to tell the truth.

But, of course, for these services, convincing the world of these concepts is a lot harder than just saying “fuck it, remove the loud threatening complainers.” But that kind of solution can’t last.




Moscow.media
Частные объявления сегодня





Rss.plus



Подмосковные росгвардейцы получили более 100 новых служебных автомобилей

В День Неизвестного Солдата подмосковные росгвардейцы почтили память Героев, отдавших свои жизни на благо Отечества

Лучшие студенческие энергетические отряды «Россети Центр» и «Россети Центр и Приволжье» награждены в Москве

Thyseed — новый игрок на рынке товаров для мам и детей в «Детском мире»


Растения, занесенные в Красную книгу России

Революционный подход в самопознании – метод «Проектирование личности»

Ядовитая красота: врач Кутушов рассказал о скрытых рисках искусственных елок

Позор на съёмках, слухи о болезни и прозвище "Падальщик": Самые скандальные факты про Андрея Малахова


Bigg Boss 18: Digvijay Rathee asks Chum Darang about the kind of guy she would like to marry; says ‘mere parents ko manana padega’

Gujarat's Urvil Patel smashes another blazing century in SMAT

Watch: India boss Rohit gets down to pink-ball business in Adelaide

Bigg Boss 18: Netizens slam Raftaar and Ikka’s for calling Digvijay Singh Rathee ‘napti’; see tweets


Элитродон двузубый

ТСД SAOTRON RT41 GUN: практичный, производительный, надёжный

• Dusil Photography • https://dusil.org

«Байкал Сервис» открыл второй терминал в Хабаровске


Доступна предзагрузка Steam-версии Delta Force: Hawk Ops

Woolly Boy and the Circus можно предзаказать на iOS, Android и PC

MMORPG Journey of Monarch можно предзагрузить на iOS и Android

Arcane co-creator reminds fans 'there are always constraints', dispels theories the show was rushed or restrained by Riot's higher-ups



На Воробьевых горах открылась фотовыставка «Без барьеров»

В Азербайджане прошел третий, завершающий этап проекта «Русский язык: читаем, слушаем, смотрим в странах СНГ»

В Азербайджане прошел третий, завершающий этап проекта «Русский язык: читаем, слушаем, смотрим в странах СНГ»

В Азербайджане прошел третий, завершающий этап проекта «Русский язык: читаем, слушаем, смотрим в странах СНГ»




В Азербайджане прошел третий, завершающий этап проекта «Русский язык: читаем, слушаем, смотрим в странах СНГ»

Thyseed — новый игрок на рынке товаров для мам и детей в «Детском мире»

Лучшие студенческие энергетические отряды «Россети Центр» и «Россети Центр и Приволжье» награждены в Москве

Долой офисы? Работодатели адаптировались к «удаленке»


Новые материалы для педагогов и школьников появились в библиотеке «МЭШ»

Юрий Подоляка в свежей сводке от 05.12.2024 сообщил о том, ВС РФ зашли в посёлок Шевченко на Покровском направлении

Бастрыкин поручил разобраться с заражением ребенка ВИЧ на Камчатке

«Факел Ямал» обыграл волейболистов из Нижнего Новгорода


Теннисистка Кудерметова планирует восстанавливаться после сезона в Казани

Казахстанская теннисистка из топ-30 WTA одержала победу на турнире в России

В WTA могут ввести штрафы за посты в соцсетях после скандалов Бадосы и Линетт в Китае

Жену второй ракетки Белоруссии Герасимова обокрали в отеле в Петербурге


Врач Кузнецова: неприятный запах ног может указывать на онкологию

Красные поворотники в фонарях вне закона? Глава ГАИ поставил точку в этом вопросе

Пенсионерка постирала свою кошку в стиральной машинке

Новые материалы для педагогов и школьников появились в библиотеке «МЭШ»


Музыкальные новости

Выбежала со сцены в толпу: Диана Арбенина удивила своим поведением на концерте в Екатеринбурге

Экс-следователь из Екатеринбурга Екатерина Герлах вступилась за честь и достоинство Мэнсона

Mr. President, Лариса Долина и другие выступили на шоу «Легенды Ретро FM 2024»

Дышите глубже: доктор Кутушов рассказал, как "безопасные" альтернативы сигарет отравляют ваш организм



В Азербайджане прошел третий, завершающий этап проекта «Русский язык: читаем, слушаем, смотрим в странах СНГ»

В Азербайджане прошел третий, завершающий этап проекта «Русский язык: читаем, слушаем, смотрим в странах СНГ»

На Воробьевых горах открылась фотовыставка «Без барьеров»

В Азербайджане прошел третий, завершающий этап проекта «Русский язык: читаем, слушаем, смотрим в странах СНГ»


В Подмосковье сотрудники Росгвардии задержали подозреваемых в краже железнодорожных рельс

Для трамвайной линии «Славянка» изготовили перекрестный съезд

Стендап-терапия: Елизавета Варвара Аранова о премьере сольного концерта и Большом туре 2025

ТСД промышленного класса Saotron RT-Т510


Коллекционирование моделей авто: как начать свое хобби

Regions Development: 79% россиян планируют потратить средства с депозитов на покупку недвижимости

«Москвич» вне конкуренции: какие машины соперничали с первым массовым автомобилем

История суперкаров: модели, вдохновившие коллекцию Teboil


Александр Цыбульский принял участие в пленарном заседании инвестиционного форума «Россия зовёт!»

Путин: скоординированные действия ЦБ и кабмина нужны для сдерживания инфляции

Меркель отказалась верить в слова Путина о Кони

Путин заявил о политических мотивах ухода Volkswagen из России





В Москве хирурги удалили с головы пациентки десять атером

В Москве врачи спасли мужчину со сломавшимся кардиостимулятором

Дерматолог Пашкова рассказала, что такое сальные нити и как с ними бороться

От воспалений до рака: о каких болезнях может говорить неприятный запах от ног


Такер Карлсон заявил, что Киев запретил Зеленскому дать ему интервью

Такер Карлсон: Посольство США в Киеве запретило Зеленскому давать интервью


«Динамо» обратилось в ЭСК РФС с просьбой рассмотреть два эпизода матча Кубка России с «Локомотивом»

Суд передал олимпийский велотрек в Крылатском государству

ТРЦ «Нора» провёл семейный шахматный турнир

В Москве врачи спасли мужчину со сломавшимся кардиостимулятором


Признают ли Лукашенко на Западе после «выборов»?



Собянин: За пять лет работы на МЦД перевезли миллиард пассажиров

Сергей Собянин рассказал о развитии технопарка Руднево

Мэр Москвы заявил, что число пассажиров трамваев в столице продолжает расти

Собянин: Открытие ВСМ Москва — Петербург увеличит пассажиропоток между городами


В Москве заработали первые платные городские зарядки для электромобилей

Hybrid представил первый в России рейтинг виртуальных миров

В Москве полицейские пресекли сбыт свыше 1,4 кг мефедрона уроженцем Хабаровского края

Краснокнижные колпицы поселились в Московском зоопарке


Пенсионерка постирала свою кошку в стиральной машинке

Aнтиkpизисный GR в недвижимoсти: kak исследoвaния мoгут пpoдвинуть интеpесы oтpaсли в kpизис

Не на своих местах сидят главы СКР и МВД, уверен Кадыров

Врач Кузнецова: неприятный запах ног может указывать на онкологию


Беспроводной сканер штрих-кодов SAOTRON P05i промышленного класса

ТСД SAOTRON RT-T50: высокопроизводительный терминал сбора данных промышленного класса

В Архангельске представили выставку «Мечта о Севере. Снегурочка»

Собянин: Этапы строительства Рублево-Архангельской линии завершатся в 2026-2027


Калмыкия может открыть авиарейсы в Петербург, Казань, Екатеринбург и Улан-Удэ

Беседа-рекомендация «Это важно знать»

Выставка-память «Пропавшие без вести, но не забытые», ко Дню Неизвестного солдата

Час мужества "Их подвиг жив, неповторим и вечен"


Aнтиkpизисный GR в недвижимoсти: kak исследoвaния мoгут пpoдвинуть интеpесы oтpaсли в kpизис

Россиянка постирала кошку в стиральной машине

Врач Кузнецова: неприятный запах ног может указывать на онкологию

Не на своих местах сидят главы СКР и МВД, уверен Кадыров












Спорт в России и мире

Новости спорта


Новости тенниса
Australian Open

«Поражён, как здорово меня поддерживают». Откровения австралийского теннисиста в России






Вернувшаяся Литвинова снова чувствует себя дивой в России

Россия приветствует итоги выборов в Намибии

Галина Янко рассказала, какие подарки не стоит дарить в преддверии праздников - они могут навлечь на одаряемого беду

ПСБ Благосостояние: в 2024 году доходы и стоимость имущества жителей России выросли, а долговая нагрузка снизилась