If you follow generative AI news at all, you're probably familiar with LLM chatbots' tendency to "confabulate" incorrect information while presenting that information as authoritatively true. That tendency seems poised to cause some serious problems now that a chatbot run by the New York City government is making up incorrect answers to some important questions of local law and municipal policy.
NYC's "MyCity" ChatBot launched as a "pilot" program last October. The announcement touted the ChatBot as a way for business owners to "save ... time and money by instantly providing them with actionable and trusted information from more than 2,000 NYC Business webpages and articles on topics such as compliance with codes and regulations, available business incentives, and best practices to avoid violations and fines."
But a new report from The Markup and local nonprofit news site The City found the MyCity chatbot giving dangerously wrong information about some pretty basic city policies. To cite just one example, the bot said that NYC buildings "are not required to accept Section 8 vouchers," when an NYC government info page says clearly that Section 8 housing subsidies are one of many lawful sources of income that landlords are required to accept without discrimination. The Markup also received incorrect information in response to chatbot queries regarding worker pay and work hour regulations, as well as industry-specific information like funeral home pricing.
«585*ЗОЛОТОЙ» рассказала об изделиях с историей, которые принесли клиенты в ломбард ювелирной сети
Фонд «Зеленая миссия» запустил акселератор для социальных предпринимателей и продолжает прием заявок на участие в конкурсе
Спектакль «Раневская. Одинокая насмешница» в Москве: дань великой актрисе
Последняя выпущенная песня Вячеслава Добрынина “Родная Земля”, исполненная Сергеем Арутюновым и Львом Лещенко, навсегда сохранит память о великом композиторе
Омниканальность в люксе: как обеспечить индивидуальный подход и управлять многоканальной продажей
«О вручении решения Трибунала»
ЗЕМЛЯ И ВСЕ ЦИВИЛИЗАЦИИ НА ФЛЕШКЕ? ЕВРОПУ НАДО СПАСАТЬ ОТ НАТО?! Россия, США, Европа могут улучшить отношения?! Очень полезные советы Высшего Всенародного Президента Вселенной активной.
Mash: 90-летняя актриса Инна Выходцева госпитализирована с инсультом в Москве
Судим будет. Новые подробности уголовного дела Аяза Шабутдинова
Омниканальность в люксе: как обеспечить индивидуальный подход и управлять многоканальной продажей
«О вручении решения Трибунала»
ЗЕМЛЯ И ВСЕ ЦИВИЛИЗАЦИИ НА ФЛЕШКЕ? ЕВРОПУ НАДО СПАСАТЬ ОТ НАТО?! Россия, США, Европа могут улучшить отношения?! Очень полезные советы Высшего Всенародного Президента Вселенной активной.