Šéf firmy, ktorá stojí za programom ChatGPT, v Kongrese volal po regulácii umelej inteligencie
Vládne opatrenia budú "kľúčové" pri snahe obmedziť riziká spojené s využívaním umelej inteligencie, povedal dnes pri vypočutí v americkom Kongrese šéf spoločnosti OpenAI Sam Altman. Riaditeľ start-upu stojaceho za revolučným programom ChatGPT okrem iného vyjadril podporu zavedeniu systému s bezpečnostnými štandardmi pre uvádzanie podobných aplikácií na trh. Agentúra AP poznamenala, že však aktuálne nič nenasvedčuje tomu, že by americkí zákonodarcovia mali pripraviť súbor pravidiel pre využívanie umelej inteligencie.
Altman v pripravenom prejave uviedol, že "vláda Spojených štátov by mala zvážiť kombináciu kritérií na povolenie alebo registráciu pri vývoji a uvádzaní modelov AI... súbežne s stimulmi na plné dodržiavanie týchto podmienok". Zároveň vyjadril názor, že regulácia by nemala blokovať snahu o inovácie, píše list The Washington Post. Bezpečnostné požiadavky pre firmy v oblasti AI by mali byť "dostatočne flexibilné v záujme adaptácie na nový technologický pokrok", povedal jednému z podvýborov amerického Senátu Altman, ktorý v najbližších týždňoch plánuje podobné vystúpenia po celom svete.
Rýchli vývoj
Dnešné vypočutie nadväzuje na mesiace rýchleho vývoja na poli umelej inteligencie, ktorý spustilo minuloročné uvedenie chatovacieho programu ChatGPT. Ten spadá do kategórie takzvanej generatívnej umelej inteligencie a dokáže na základe "tréningu" na obrovskom množstve dát produkovať výstupy ťažko rozlíšiteľné od ľudských prejavov. Iné programy fungujúce na rovnakom princípe môžu generovať obrázky či zvukové stopy silne pripomínajúce snímky alebo hlasy skutočných ľudí.
Vlády a regulačné orgány na celom svete nezvládajú s vývojom držať krok, čo prispieva k varovaniam ohľadom potenciálnych úskalia novej technológie. Obavy sa týkajú najrôznejších oblastí od školstva, cez zábavný priemysel až po manipuláciu s informáciami na internete, pričom zaznievajú aj od samotných tvorcov súčasných dátových modelov.
Altman už skôr uviedol, že umelá inteligencia podľa neho bude vyžadovať "nový zákon", teraz v tomto smere poskytol nové podrobnosti. Okrem iného podporil myšlienku medzinárodnej organizácie, ktorá by v danej sfére vytvárala štandardy, pričom ponúkol prirovnanie k regulácii jadrových zbraní. Pred americkými senátormi vyhlásil, že vládne zásahy "budú kľúčové pre obmedzenie rizík čoraz silnejších" systémov umelej inteligencie.
Vlády nestíhajú
Za jednu z otázok, ktoré mu robia najväčšie starosti, označil Altman schopnosti nových modelov manipulovať s ľuďmi a "poskytovať akési... interaktívne dezinformácie". Počas vypočutia sa vyslovil za právne aj firemné normy, ktoré by ošetrovali možnosti politických subjektov využívať generatívne AI pri presviedčaní voličov počas kampaní. "Som z toho nervózna," citovala šéfa OpenAI agentúra Reuters.
Kým firmy od veľkých až po tie začínajúce sa predháňajú vo vývoji produktov využívajúcich umelú inteligenciu, reguláciou týchto nástrojov sa nezaoberajú len úrady v USA. Európska únia sa približuje k prijatiu "aktu o umelej inteligencii", ktorý by aplikácie rozdelil do rôznych kategórií a zaviedol rôzne obmedzenia podľa toho, aké so sebou nesú riziko.
V Kongrese sa podľa AP nič také aktuálne nečrtá, americké úrady však sľúbili ťaženie proti "škodlivým" službám založeným na AI, ktoré porušujú existujúce pravidlá ochrany spotrebiteľov a občianske práva. V americkej federálnej zákonodarnej moci, ktorú dlhodobo paralyzujú politické spory a obštrukcie, sú akékoľvek debaty o zásadnej regulácii nových technológií veľmi zložité. V uplynulých rokoch opakovane vyzýval na opatrenia zamerané na ochranu súkromia a reguláciu internetového obsahu šéf spoločnosti Meta Mark Zuckerberg, žiadny takýto krok sa však nedostavil.