Jazyk, paměť a halucinace

Proč lidé nebo umělá inteligence někdy mluví brilantně – a přesto úplně mimo? Mluví plynule, s jistotou, používají bohatý jazyk. Okolí je vnímá jako mimořádně chytré. Až na to, že jejich závěry jsou občas až zarážejícím způsobem odtržené od reality.

Totéž dnes pozorujeme u velkých jazykových modelů (LLM). Umí psát eseje, generovat kód, odpovídat na filozofické otázky – a pak přijde moment, kdy dostanete na banální dotaz překvapivě nesmyslnou odpověď. Jenže ona to není chyba, nýbrž vlastnost!