Nová pozícia EÚ k otázke umelej inteligencie: Súkromie a bezpečie na prvom mieste, rozhodli poslanci

Európsky parlament prijal v stredu rokovaciu pozíciu k Zákonu o umelej inteligencii. Nové pravidlá majú podporiť zavádzanie dôveryhodnej umelej inteligencie zameranej na človeka a chrániť zdravie, bezpečnosť, základné práva a demokraciu pred jej škodlivými účinkami.

Za pozíciu EP hlasovalo 499 poslancov, 28 bolo proti a 93 sa zdržalo. Už v stredu poobede sa tak môžu začať rokovania s členskými štátmi EÚ o konečnej podobe zákona.

Pravidlá odobrené EP sa riadia prístupom založeným na riziku a stanovujú povinnosti pre poskytovateľov a operátorov umelej inteligencie v závislosti od úrovne rizika, ktoré UI môže predstavovať. Systémy s neprijateľnou úrovňou rizika pre bezpečnosť ľudí by mali byť zakázané.

Poslanci ich rozšírili o zákaz používania umelej inteligencie spôsobom, ktorý narúša súkromie a je diskriminačný. Sú to napríklad systémy diaľkovej biometrickej identifikácie v reálnom čase, systémy biometrickej kategorizácie podľa citlivých údajov (pohlavie, rasa, etnický pôvod, občianstvo, náboženstvo, politická orientácia), systémy rozpoznávania emócií v oblasti presadzovania práva a podobne.

Europoslanci presadili, aby klasifikácia vysokorizikových aplikácií zahŕňala aj systémy UI, ktoré významne poškodzujú ľudské zdravie, bezpečnosť, základné práva alebo životné prostredie,  ovplyvňujú voličov a výsledky volieb či v odporúčacích systémoch používaných platformami sociálnych médií (nad 45 miliónov používateľov).

Generatívne systémy umelej inteligencie ako ChatGPT musia podľa nových pravidiel spĺňať požiadavky na transparentnosť a informovať, že obsah bol vytvorený umelou inteligenciou a pomáhať odlíšiť falošné obrazy od skutočných, a poskytnúť záruky proti vytváraniu nezákonného obsahu.

S cieľom podporiť inovácie v oblasti UI a malé a stredné podniky europoslanci doplnili výnimky pre výskumné činnosti a komponenty umelej inteligencie poskytované na základe licencií s otvoreným zdrojovým kódom.

Poslanci chcú posilniť aj právo občanov podávať sťažnosti na systémy UI ako aj právo získať vysvetlenie rozhodnutí založených na vysokorizikových systémoch umelej inteligencie, ktoré majú významný vplyv na ich základné práva.

Poslanci prepracovali aj úlohu Úradu EÚ pre umelú inteligenciu, ktorý by mal po novom monitorovať uplatňovanie súboru pravidiel umelej inteligencie.