Umelej inteligencii na vás nezáleží. Expert varuje pred stratou kontroly nad súkromím

Pred dvoma rokmi sme sa z AI tešili ako z obrovskej novinky, dnes je bežnou súčasťou mobilov aj kancelárií. Sme vo fáze, keď sme túto technológiu ovládli, alebo ona nenápadne ovláda nás?

JP: Od nástupu ChatGPT v novembri 2022 sa toho veľa zmenilo, hlavne z pohľadu toho, ako o AI hovoríme, ako o týchto systémoch uvažujeme a čo od nich očakávame. Keď sa ale pozrieme do histórie, nie je to prvýkrát, keď umelá inteligencia vyvolala nadšenie, ktoré po istom čase vystriedalo vytriezvenie. Otázkou je, či to tentoraz bude inak a namiesto tretej AI zimy sa umelá inteligencia dlhodobo adaptuje do spoločnosti a biznisu. Sme určite vo fáze adaptácie, hľadania nových spôsobov použitia, ale aj vo fáze veľkého hypu, techno-solucionistických tendencií a používania jazyka, ktorý viac sľubuje, ako dokáže reálna implementácia doručiť. Takže by som bol veľmi opatrný pri posudzovaní toho, či nás AI ovláda, lebo táto antropomorfizácia nám nijako nepomáha pochopiť, že k redistribúcii moci nedochádza medzi ľudstvom a AI, ale medzi jednotlivými vrstvami spoločnosti. Už teraz sme svedkami zneužívania AI, manipulácie používateľov alebo asymetrie moci a benefitov, ktoré z nej dokážeme získať. To sú kriticky dôležité témy, o ktorých musíme otvorene hovoriť.

Často počúvame, že AI už „uvažuje“. Je to v roku 2026 pravda, alebo len stroje ešte presvedčivejšie simulujú logiku, ktorú v skutočnosti nemajú?

MŠ: Tu sa názory odborníkov rôznia. Ja som zatiaľ skeptik: prikláňam sa k tomu, že ide skôr o simulovanie logiky. Vo svojej podstate sú veľké jazykové modely pravdepodobnostné modely založené na štatistickom predpovedaní ďalších slov v texte. Nemajú vnútorné porozumenie rovnaké ako človek. Postupne sa však zlepšujú a dokážu napodobniť vzorce nášho myslenia, napr. tak, že rozpíšu riešenie po krokoch (tzv. chain-of-thought). Pri niektorých jednoduchších úlohách to môže stačiť na to, aby to bolo presvedčivé. Keď sa hovorí o “uvažovaní” (angl. reasoning), v odborných kruhoch sa tak opatrne označujú prvotné prejavy uvažovania, uvažovanie podobné ľudskému súčasné modely umelej inteligencie nedosahujú. Kde je hranica medzi sofistikovanou štatistickou simuláciou uvažovania a skutočnou formou (strojového) uvažovania je skôr filozofická otázka.

Odpovedali:

JP: Juraj Podroužek, vedúci tímu pre etiku a ľudské hodnoty v technológiách, KInIT

MŠ: Marián Šimko, vedúci tímu pre spracovanie prirodzeného jazyka, KInIT

Jedným z najväčších strašiakov je to, že pre umelú inteligenciu prídeme o prácu. Ktoré profesie už AI reálne začala vytláčať a kde sú ľudia zatiaľ ...