Добавить новость
ru24.net
Все новости
Декабрь
2024
1 2 3 4 5 6 7 8 9 10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31

Пользователи нашли «запретные» для ChatGPT имена: в чем дело

0

Неожиданный баг стал горячей темой для обсуждения в социальных сетях. Рассказываем, что об этом известно.

Пользователи сети выяснили, что ChatGPT не способен отвечать на запросы, в которых упоминаются некоторые имена. Например, при попытке указать, «Брайан Худ» или «Джонатан Терли» на английском языке бот выдает ошибку или мгновенно завершает беседу. Подобное поведение вызвало активное обсуждение в соцсетях и стало поводом для множества теорий.

Изначально пользователи обнаружили проблему, вводя имя «Дэвид Майер». Вместо ответа бот отказывался генерировать текст, что было расценено как баг. Однако углубленный анализ показал, что причина связана с жесткими фильтрами, которые встроены в систему ChatGPT.

Как работают фильтры ChatGPT

Для защиты от распространения вредной информации разработчики OpenAI добавили в ChatGPT ограничения, блокирующие упоминание определенных имен. Эти фильтры включают известные личности, о которых бот может случайно выдать ложную информацию. Например, в случае с Брайаном Худом модель выдумала, что он был осужден за взяточничество, хотя в реальности он являлся разоблачителем корпоративных махинаций.

Судебное разбирательство вынудило OpenAI внедрить «хардкод» — жесткий запрет на обработку имени. Впоследствии подобные меры были приняты и для других фигур, таких как юрист Джонатан Терли, чье имя система ранее связывала с вымышленным скандалом.




Moscow.media
Частные объявления сегодня





Rss.plus




Спорт в России и мире

Новости спорта


Новости тенниса
Симона Халеп

Симона Халеп: «Теннисистка – не хочу называть имя – отбыла 3 недели дисквалификации, потом сыграла 2 турнира и продолжила отбывать дисквалификацию. Это как?»






Большой концерт современной патриотической поэзии прошёл на сцене Воронежской филармонии

«МК»: мужчина с телефоном лег на пути Арбатско-Покровской линии метро в Москве

Суд приостановил работу ресторана «Моремания» в Москве из-за антисанитарии

Блогер из Красноярского края стал номинантом спецпремии «Наука и образование»