Добавить новость
ru24.net
News in English
Декабрь
2024
1 2 3 4 5 6 7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31

The Curious Case Of ChatGPT’s Banned Names: Hard-Coding Blocks To Avoid Nuisance Threats

0

Over the weekend, I saw Andy Baio post on Bluesky an amusing experiment in response to Mark Sample posting about how the name “David Mayer” appears to break ChatGPT:

The “David Mayer” issue got a fair bit of attention in some corners of the media, as lots of people tried to figure out what was going on. Pretty quickly, people started to turn up a small list of other names that broke ChatGPT in a similar way:

  • Brian Hood
  • Jonathan Turley
  • Jonathan Zittrain
  • David Faber
  • David Mayer
  • Guido Scorza

I actually knew about Brian Hood, and had meant to write about him a while back, but never got around to it. A year and a half ago, a commenter here at Techdirt had posted a few times about the fact that ChatGPT broke on “Brian Hood.” That was about a month after Brian Hood, an Australian mayor, threatened to sue OpenAI for defamation, after someone generated some false statements about Hood.

OpenAI’s apparent “solution” was to hardcode ChatGPT to break on certain names like “Brian Hood.” When I tried to generate text about Brian Hood, using a similar method to Andy Baio’s test above, I got this error:

There has been widespread speculation online about why these specific names are blocked. A fairly comprehensive Reddit post explores the likely reasons each person ended up on ChatGPT’s blocklist.

There are many David Mayers, but one likely culprit is a UK-based American theater historian who made news a few years ago when terrorist watch lists confused him with a Chechen ISIS member who sometimes went by the name “David Mayer.” As of Monday when I was writing this article, the hard coding on the name “David Mayer” had been removed, though the reasons for that are unclear.

Jonathan Turley and Jonathan Zittrain are both high-profile professors (though one is nutty and one is very thoughtful). Turley freaked out last year (around the same time Brian Hood did) when he claimed that someone generated false information about him via ChatGPT.

Unlike the others on the list, with Zittrain there’s no such trail of freaking out or raising alarms about AI-generated content. Zittrain is a Harvard professor and the Faculty Director at the Berkman Klein Center for Internet and Society at Harvard. He writes a lot about the problems of the internet though (his book The Future of the Internet: And How to Stop It is worth reading, even if a bit out of date). He is, apparently, writing a similar book about his concerns regarding AI agents, so perhaps that triggered it? For what it’s worth, Zittrain also seems to have no idea why he’s on the list. He hasn’t threatened to sue or demanded his name be blocked.

Guido Scorza, an Italian data protection expert, wrote on ExTwitter last year about how to use the GDPR’s problematic “right to be forgotten” to delete all the data ChatGPT had on him. This is something that doesn’t quite make sense, given that it’s not a database storing information on him. But, it appears that the way OpenAI dealt with that deletion request was to just… blocklist his name. Easy way out, etc., etc.

No one seems to have any idea why David Faber is on the list, but it could certainly be another GDPR right to be forgotten request.

While I was finishing up this post, I saw that Benj Edwards at Ars Technica wrote a similar exploration of the topic, though he falsely claims he “knows why” these names are blocked, and his reporting doesn’t reveal much more than the same speculation others have.

Still, all of this is kind of silly. Hard coding names that break ChatGPT may be the least costly way for AI companies to avoid nuisance legal threats, but it’s hardly sustainable, scalable or (importantly), sensible.

LLMs are tools. Like most tools, the focus of liability for misuse should fall on the users, not the tool. Users need to learn that the output of LLMs may not be accurate and shouldn’t be relied upon as factual. Many people know this, but obviously, it still trips up some folks.

If someone takes hallucinating output and publishes it or does something else with it without first checking to see if it’s legitimate, the liability should fall on that person who failed to do the proper due diligence and relied on a fantasy-making machine to tell the truth.

But, of course, for these services, convincing the world of these concepts is a lot harder than just saying “fuck it, remove the loud threatening complainers.” But that kind of solution can’t last.




Moscow.media
Частные объявления сегодня





Rss.plus



«Грузовичкоф» — финалист премии РБК Awards 2024

В День Неизвестного Солдата подмосковные росгвардейцы почтили память Героев, отдавших свои жизни на благо Отечества

Известны первые финалисты конкурса малых грантов для социальных предпринимателей

В Азербайджане прошел третий, завершающий этап проекта «Русский язык: читаем, слушаем, смотрим в странах СНГ»


«Ничего не жду»: Азиза явилась в суд для дачи показаний об убийстве Игоря Талькова

Фиксики, LEGO-человечки, «Синий трактор»: детские новогодние шоу в Москве

Благотворительный фонд Потанина стал участником конференции «Технологии добра»

Chanel, коллекция pre-fall 2025


Bigg Boss 18: Delhi-based Shalini Passi arrives in Mumbai for her wildcard entry in the show

Cook backs Jaiswal's fearless sledging of Starc

Gujarat's Urvil Patel smashes another blazing century in SMAT

Bigg Boss 18: Digvijay Rathee asks Chum Darang about the kind of guy she would like to marry; says ‘mere parents ko manana padega’


• Dusil Photography • https://dusil.org

Thyseed — новый игрок на рынке товаров для мам и детей в «Детском мире»

В Азербайджане прошел третий, завершающий этап проекта «Русский язык: читаем, слушаем, смотрим в странах СНГ»

Певица RIIJI выпустила яркий дебютный трек


«Подводим итоги»: Как прошёл первый день релиза Marvel Rivals?

Доступна предзагрузка Steam-версии Delta Force: Hawk Ops

Marvel Rivals players are complaining that nobody is playing healer, and the grizzled Overwatch vets knowingly nod in solidarity

Woolly Boy and the Circus можно предзаказать на iOS, Android и PC


Інтернет-магазин GARNA: ваш вибір професійної косметики


Певица RIIJI выпустила яркий дебютный трек

«Грузовичкоф» не за горами: о работе Сервиса в Перми 

Певица RIIJI выпустила яркий дебютный трек

Певица RIIJI выпустила яркий дебютный трек




Известны первые финалисты конкурса малых грантов для социальных предпринимателей

США призвали американцев покинуть Сирию из-за нестабильной обстановки

ВСЕХ МОГУТ СДЕЛАТЬ ХОРОШИМИ ВРАЧАМИ И УЧЁНЫМИ В ОБЯЗАТЕЛЬНОМ ПОРЯДКЕ! Полезные советы Высшего Всенародного Президента. Россия, США, Европа могут улучшить отношения и здоровье общества?!

NYT сообщила о начале эвакуации иранских военных из Сирии


Правительство РФ установило стоимость экзаменов по русскому языку для мигрантов

NYT сообщила о начале эвакуации иранских военных из Сирии

Олег Газманов объяснил решение приемного сына отказаться от фамилии отца

Зашли с черного хода: подробности рейда в гей-клубы столицы


Организаторы теннисного турнира в Петербурге хотят пригласить для участия Шарапову

В WTA могут ввести штрафы за посты в соцсетях после скандалов Бадосы и Линетт в Китае

Жену второй ракетки Белоруссии Герасимова обокрали в отеле Петербурга

Супругу теннисиста Герасимова Анну обокрали в отеле Санкт-Петербурга


Олег Газманов объяснил решение приемного сына отказаться от фамилии отца

Один человек погиб в результате возгорания автобуса на юго-западе Москвы

Стивен Сигал сделал прогноз об отношениях США с Россией при Трампе

Синоптики спрогнозировали снег и гололедицу в Москве 7 декабря


Музыкальные новости

Певица RIIJI выпустила яркий дебютный трек

Продюсер Рудченко назвал рэпера Моргенштерна токсичным элементом

Вывела на сцену всю семью и призналась в любви Киркорову: первый сольный концерт Люси Чеботиной в Москве

Певица RIIJI выпустила яркий дебютный трек



Певица RIIJI выпустила яркий дебютный трек

«Грузовичкоф» не за горами: о работе Сервиса в Перми 

Певица RIIJI выпустила яркий дебютный трек

Певица RIIJI выпустила яркий дебютный трек


Певица RIIJI выпустила яркий дебютный трек

Сергей Собянин рассказал о развитии технопарка Руднево

Певица RIIJI выпустила яркий дебютный трек

Футболисты «Спартака» и «Зенита» проведут заключительные матчи РПЛ в 2024 году


Происшествия: Один человек погиб и один пострадал при возгорании автобуса на юго-западе Москвы

Один человек погиб при возгорании междугороднего автобуса на юго-западе Москвы

При пожаре в автобусе на юго-западе Москвы погиб человек

Автобус загорелся на юго-западе Москвы, один человек погиб и еще один пострадал


Владимир Путин наградил орденом Мужества волонтёра Федора Геращенко

Путин пригласил Лукашенко на парад в честь 80-летия Победы в Москве

Россия и Белоруссия отменят роуминг: что это значит для пользователей

Исполать тебе, Александр Ярославич…





Суд в Москве исключил "Международную лигу трезвости и здоровья" из госреестра

Президент ФЛГР Вяльбе о медицинском обследовании Большунова: ничего серьезного

В России ликвидировали «Международную лигу трезвости и здоровья»

Подробный гороскоп для Весов на 2025 год: любовь, карьера, здоровье и удача


ВСУ атаковали Крым с моря. Окружение войск под Курахово. Для Зеленского готовят «золотую ссылку» — Горячая сводка 6 декабря 2024 г.


«Это направление может стать флагманским»: в Москве состоится финал гимнастической Премьер-лиги

Московский ЦСКА по буллитам обыграл «Торпедо» в матче КХЛ

Футболисты «Спартака» и «Зенита» проведут заключительные матчи РПЛ в 2024 году

Президент ФЛГР Вяльбе о медицинском обследовании Большунова: ничего серьезного


Лукашенко заявил о беспрецедентном уровне военного стратегического сотрудничества Минска и Москвы

Лукашенко заявил о необходимости создать общий с РФ энергетический рынок

Путин пригласил Лукашенко на парад в честь 80-летия Победы в Москве

Лукашенко рассказал, как уговорил Путина поставить "Орешник" Белоруссии



Собянин рассказал об отсутствии планов запускать в Москве новогодние фейерверки

Собянин: Центр "Профессии будущего" помогает освоить любую из 75 специальностей

Собянин: в Москве в этом году не будут запускать новогодние фейерверки

Собянин: В ОЭЗ "Технополис Москва" откроется еще один центр подготовки студентов


Известны первые финалисты конкурса малых грантов для социальных предпринимателей

ГК «Основа»: Пять новейших трендов в благоустройстве новостроек

Мужчине, изнасиловавшему девушку в парке в 2012 году, предъявили обвинения

«Не каждый обрадуется такому сюрпризу»: эксперты предупреждают о том, что не стоит дарить змей на Новый год


Синоптики спрогнозировали снег и гололедицу в Москве 7 декабря

Арбитражный суд Москвы признал компанию Ralf Ringer банкротом

Плати по частям. Названы главные риски покупки жилья в рассрочку

Долгожданный зимний антураж: когда в Москве и области выпадет снег


Часть пермских автобусов могут перевезти в Архангельск и Ижевск

Костомукшские пауэрлифтеры вернулись из Коми с медалями первенства СЗФО

VIII-й Arctic open зажег в Архангельске

Беспроводной сканер штрих-кодов SAOTRON P05i промышленного класса


Беседа-рекомендация «Это важно знать»

Калмыкия может открыть авиарейсы в Петербург, Казань, Екатеринбург и Улан-Удэ

Беседа-рекомендация «Это важно знать»

Час мужества "Их подвиг жив, неповторим и вечен"


Стивен Сигал сделал прогноз об отношениях США с Россией при Трампе

Правительство РФ установило стоимость экзаменов по русскому языку для мигрантов

Утвержден порядок прохождения весового контроля автомобилей

МИД РФ рассказал о задачах новому послу в США












Спорт в России и мире

Новости спорта


Новости тенниса
WTA

WTA направила предостережения теннисисткам после скандала с Бадосой






Дмитровские спасатели оказали помощь пострадавшим в ДТП

Один человек погиб в результате возгорания автобуса на юго-западе Москвы

В Уфе родители ушли из дома и оставили младенца одного на месяц

Олег Газманов объяснил решение приемного сына отказаться от фамилии отца