Добавить новость
ru24.net
News in English
Декабрь
2024
1 2 3 4 5 6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31

The Curious Case Of ChatGPT’s Banned Names: Hard-Coding Blocks To Avoid Nuisance Threats

0

Over the weekend, I saw Andy Baio post on Bluesky an amusing experiment in response to Mark Sample posting about how the name “David Mayer” appears to break ChatGPT:

The “David Mayer” issue got a fair bit of attention in some corners of the media, as lots of people tried to figure out what was going on. Pretty quickly, people started to turn up a small list of other names that broke ChatGPT in a similar way:

  • Brian Hood
  • Jonathan Turley
  • Jonathan Zittrain
  • David Faber
  • David Mayer
  • Guido Scorza

I actually knew about Brian Hood, and had meant to write about him a while back, but never got around to it. A year and a half ago, a commenter here at Techdirt had posted a few times about the fact that ChatGPT broke on “Brian Hood.” That was about a month after Brian Hood, an Australian mayor, threatened to sue OpenAI for defamation, after someone generated some false statements about Hood.

OpenAI’s apparent “solution” was to hardcode ChatGPT to break on certain names like “Brian Hood.” When I tried to generate text about Brian Hood, using a similar method to Andy Baio’s test above, I got this error:

There has been widespread speculation online about why these specific names are blocked. A fairly comprehensive Reddit post explores the likely reasons each person ended up on ChatGPT’s blocklist.

There are many David Mayers, but one likely culprit is a UK-based American theater historian who made news a few years ago when terrorist watch lists confused him with a Chechen ISIS member who sometimes went by the name “David Mayer.” As of Monday when I was writing this article, the hard coding on the name “David Mayer” had been removed, though the reasons for that are unclear.

Jonathan Turley and Jonathan Zittrain are both high-profile professors (though one is nutty and one is very thoughtful). Turley freaked out last year (around the same time Brian Hood did) when he claimed that someone generated false information about him via ChatGPT.

Unlike the others on the list, with Zittrain there’s no such trail of freaking out or raising alarms about AI-generated content. Zittrain is a Harvard professor and the Faculty Director at the Berkman Klein Center for Internet and Society at Harvard. He writes a lot about the problems of the internet though (his book The Future of the Internet: And How to Stop It is worth reading, even if a bit out of date). He is, apparently, writing a similar book about his concerns regarding AI agents, so perhaps that triggered it? For what it’s worth, Zittrain also seems to have no idea why he’s on the list. He hasn’t threatened to sue or demanded his name be blocked.

Guido Scorza, an Italian data protection expert, wrote on ExTwitter last year about how to use the GDPR’s problematic “right to be forgotten” to delete all the data ChatGPT had on him. This is something that doesn’t quite make sense, given that it’s not a database storing information on him. But, it appears that the way OpenAI dealt with that deletion request was to just… blocklist his name. Easy way out, etc., etc.

No one seems to have any idea why David Faber is on the list, but it could certainly be another GDPR right to be forgotten request.

While I was finishing up this post, I saw that Benj Edwards at Ars Technica wrote a similar exploration of the topic, though he falsely claims he “knows why” these names are blocked, and his reporting doesn’t reveal much more than the same speculation others have.

Still, all of this is kind of silly. Hard coding names that break ChatGPT may be the least costly way for AI companies to avoid nuisance legal threats, but it’s hardly sustainable, scalable or (importantly), sensible.

LLMs are tools. Like most tools, the focus of liability for misuse should fall on the users, not the tool. Users need to learn that the output of LLMs may not be accurate and shouldn’t be relied upon as factual. Many people know this, but obviously, it still trips up some folks.

If someone takes hallucinating output and publishes it or does something else with it without first checking to see if it’s legitimate, the liability should fall on that person who failed to do the proper due diligence and relied on a fantasy-making machine to tell the truth.

But, of course, for these services, convincing the world of these concepts is a lot harder than just saying “fuck it, remove the loud threatening complainers.” But that kind of solution can’t last.




Moscow.media
Частные объявления сегодня





Rss.plus



В Азербайджане прошел третий, завершающий этап проекта «Русский язык: читаем, слушаем, смотрим в странах СНГ»

Thyseed — новый игрок на рынке товаров для мам и детей в «Детском мире»

В День Неизвестного Солдата подмосковные росгвардейцы почтили память Героев, отдавших свои жизни на благо Отечества

На Воробьевых горах открылась фотовыставка «Без барьеров»


Коллекция бренда Klimkova Kids на M2 X Sokol Fashion Week FW-2024/25

«Маша и Медведь в кино: Парк чудес» при поддержке Детского радио

Фонд борьбы с инсультом ОРБИ при поддержке Т-Банка запустили платформу волонтерского фандрайзинга

В Нижегородской области создали шесть маршрутов для зимнего туризма


Bigg Boss 18: Digvijay Rathee asks Chum Darang about the kind of guy she would like to marry; says ‘mere parents ko manana padega’

Bigg Boss 18: Delhi-based Shalini Passi arrives in Mumbai for her wildcard entry in the show

Watch: India boss Rohit gets down to pink-ball business in Adelaide

Cook backs Jaiswal's fearless sledging of Starc


ТСД SAOTRON RT41 GUN: практичный, производительный, надёжный

В Азербайджане прошел третий, завершающий этап проекта «Русский язык: читаем, слушаем, смотрим в странах СНГ»

Орловские полицейские установили личность преступника, обокравшего иностранцев

Thyseed — новый игрок на рынке товаров для мам и детей в «Детском мире»


Arcane co-creator reminds fans 'there are always constraints', dispels theories the show was rushed or restrained by Riot's higher-ups

Доступна предзагрузка Steam-версии Delta Force: Hawk Ops

MMORPG Journey of Monarch можно предзагрузить на iOS и Android

How two secret Stalker 2 hacks cut my loading time from 5 minutes to 52 seconds and got me in the Zone faster


Інтернет-магазин GARNA: ваш вибір професійної косметики


В Азербайджане прошел третий, завершающий этап проекта «Русский язык: читаем, слушаем, смотрим в странах СНГ»

«Грузовичкоф» — финалист премии РБК Awards 2024

В Азербайджане прошел третий, завершающий этап проекта «Русский язык: читаем, слушаем, смотрим в странах СНГ»

В Азербайджане прошел третий, завершающий этап проекта «Русский язык: читаем, слушаем, смотрим в странах СНГ»




Памятную доску бойцу СВО Леониду Бровкину открыли в Балашихе

На Красной площади торжественно открыли ГУМ-каток

РусГидро завершило строительство линии электропередачи Певек-Билибино

У летевшего из Пскова в Минводы самолета в воздухе отказал автопилот


Палатное лечение

Умер ученый в области термоядерного синтеза академик Евгений Велихов

Собянин поздравил ветерана Великой Отечественной со столетием

Экспозиция отечественных достижений в зимних видах спорта открыта на ВДНХ


WTA сообщила Зарине Дияс плохую новость

Организаторы теннисного турнира в Петербурге хотят пригласить для участия Шарапову

WTA ввела цензуру на посты теннисисток в соцсетях из-за недавних слов Паулы Бадосы и Магды Линетт о Китае

Жену второй ракетки Белоруссии Герасимова обокрали в отеле Петербурга


В поселке Рублево откроется каток в рамках фестиваля «Зима в Москве»

Около села Волково освятили место под строительство монумента «Ни шагу назад»

Следком показал кадры нападения подростка из Чечни после критики Кадырова

«Самое большое археологическое открытие текущего столетия»: в Москве презентовали книгу по итогам изучения росписей Георгиевского собора Юрьева монастыря


Музыкальные новости

Смотрите "Вести" в 14:30: звезда Мариинки Василий Герелло дал концерт во Владимире

В России придумали, как поступить с 70 объектами недвижимости Макаревича*

В Оренбурге пройдет XIV Всероссийский фестиваль академического искусства «Оренбургские сезоны Дениса Мацуева»

В очках и с волосами: рэпер Джиган предстал перед фанатами в новом образе



«Грузовичкоф» — финалист премии РБК Awards 2024

В Азербайджане прошел третий, завершающий этап проекта «Русский язык: читаем, слушаем, смотрим в странах СНГ»

В Азербайджане прошел третий, завершающий этап проекта «Русский язык: читаем, слушаем, смотрим в странах СНГ»

В Азербайджане прошел третий, завершающий этап проекта «Русский язык: читаем, слушаем, смотрим в странах СНГ»


Собянин: За пять лет работы на МЦД перевезли миллиард пассажиров

Бастрыкин потребовал доложить региональные СК о незаконном вывозе детей за границу

Генерал-полковник Алексей Воробьев вручил награды артистам Академического ансамбля песни и пляски Росгвардии

Стали известны имена победителей спортивного турнира, прошедшего в Сибирском филиале ведомственной охраны Минтранса России


Собянин: строительство моста через Нагатинский затон завергится в 2025 году

Во сколько обойдется поездка на машине из Москвы во Владивосток?

В Москве велокурьер попал в больницу, столкнувшись с коллегой

Источник 360.ru: автобус и легковушка столкнулись на Боровском шоссе Москвы


Оренбуржцы выйдут на паркет благотворительного бала в Кремле

LIVE: Путин проводит заседание Совета по стратегическому развитию и национальным проектам

Путин: Китайские автомобили лучше европейских, а уход Volkswagen из России стал ошибкой

Собянин доложил Путину о реализации нацпроектов


Постковидный синдром: что делать, если болезнь прошла, но симптомы остались




Врачи из Каширы поблагодарили руководителя фракции КПРФ Наумова за помощь

В Москве велокурьер попал в больницу, столкнувшись с коллегой

Сеть клиник «Будь Здоров» вошла в ТОП-20 крупнейших медицинских компаний России по версии журнала Forbes Россия

Дерматолог Пашкова рассказала, что такое сальные нити и как с ними бороться


Депутат Чепа заявил, что команда Ермака, вероятно, разочарована встречей с Уайлс

Зеленский заявил о намерении вмешаться в ситуацию в Грузии

Зеленский введёт санкции против Грузии за разгон протестов

Британский дипломат: Русские могут получить Киев только в виде руин


Пять новейших трендов в благоустройстве новостроек

«Зима в Москве» познакомит с историей зимних видов спорта на катке ВДНХ

Эксперт: реконструкция СК «Олимпийский» — один из амбициозных проектов Москвы

КХЛ-2024/25. СКА — «Динамо Москва». Прямая трансляция: смотреть онлайн


Лукашенко встретится с госсеретарем СГ

Лукашенко: торговля РФ и Белоруссии в 2024 году может достигнуть почти $60 млрд

Путин и Лукашенко обсудят укрепление обороны России и Белоруссии

Главы Белоруссии и России не будут принимать заявления о развитии СГ



Собянин: Открытие ВСМ Москва — Петербург увеличит пассажиропоток между городами

Сергей Собянин: Юбиляр — человек сложной, но удивительной судьбы

Собянин поздравил ветеранов с годовщиной контрнаступления в битве под Москвой

Собянин доложил Путину о реализации нацпроектов


«Метриум»: На страже комфорта

Наталья Сергунина: Гранты мэра Москвы для НКО с начала года помогли воплотить более 240 инициатив

Известны первые финалисты конкурса малых грантов для социальных предпринимателей

Сергунина рассказала о проектах столичных НКО


Зима в Восточном Измайлово: развлечения для жителей всех возрастов

Следком показал кадры нападения подростка из Чечни после критики Кадырова

«Пушкинская карта» оказалась скидочной // Осужденные за махинации вскоре смогут выйти по УДО

В ЮАО открылось 20 катков с искусственным льдом


Собянин: Этапы строительства Рублево-Архангельской линии завершатся в 2026-2027

Часть пермских автобусов могут перевезти в Архангельск и Ижевск

Какой будет погода на Новый год, спрогнозировали синоптики

Костомукшские пауэрлифтеры вернулись из Коми с медалями первенства СЗФО


Выставка-память «Пропавшие без вести, но не забытые», ко Дню Неизвестного солдата

Беседа-рекомендация «Это важно знать»

Беседа-рекомендация «Это важно знать»

Калмыкия может открыть авиарейсы в Петербург, Казань, Екатеринбург и Улан-Удэ


Инфекционист: Неизвестная болезнь из Конго вряд ли вызвана новым вирусом

Выставку художника из Мытищ Виктора Попкова открыли в Третьяковской галерее

Стала известна стоимость новогодней ночи в ресторанах Москвы

Зима в Восточном Измайлово: развлечения для жителей всех возрастов












Спорт в России и мире

Новости спорта


Новости тенниса
WTA

Казахстанская теннисистка взлетела в рейтинге WTA






"Мы здесь решаем, как вам жить": Банда мигрантов-подростков расстреляла студента за свидание с девушкой

Тамбовчан научат распознавать мошенников с помощью проекта "Перезвони сам"

Успехи России и планы до 2030 года

Следком показал кадры нападения подростка из Чечни после критики Кадырова