Teď tady velím já. Kontrolu už možná dávno nemáte vy, ale váš AI asistent

Vezmete telefon do ruky, abyste si přečetli zprávu, jenže než stihnete cokoli udělat, váš asistent umělé inteligence sám otevře finanční aplikaci a doporučí vám investici, o kterou jste nikdy nežádali. Matně si vzpomenete, že jste před pár týdny bez většího přemýšlení souhlasili s povolením funkce čtení obrazovky. To, co se tehdy mohlo jevit jako užitečný prvek, najednou působí mnohem temněji: jako kontrola. 

Vítejte v éře umělé inteligence, která čte obrazovku. Kde digitální nástroje už nejsou jen pasivními pomocníky, ale přebírají rozhodování a stále častěji řídí naše digitální životy – často bez našeho pochopení nebo souhlasu.

Je jasné, v čem tkví přitažlivost chytrých asistentů, jako je Google Assistant, Siri, čínské Yoyo nebo Zhipu AutoGLM: bezproblémový multitasking. Vyslovit „objednej moji obvyklou kávu“ a sledovat, jak asistent bez námahy ovládá aplikace, uplatňuje slevy a dokončuje platby, je bez pochyb lákavé a působivé.

Tato magie ale zcela stojí na schopnosti umělé inteligence číst vaši obrazovku. Původně tyto nástroje vznikly, aby lidé s postižením mohli snadněji používat technologická zařízení. Dnes však poskytují hluboký přístup k obsahu, čímž umožňují umělé inteligenci vidět a reagovat na cokoli, co je na obrazovce zobrazeno, a aktivně s tím pracovat.

Od chytrých brýlí Ray-Ban od společnosti Meta, které dokážou živě rozpoznávat obličeje, až po software pro sledování zaměstnanců. Umělá inteligence se vyvinula z pouhého pomocníka v toho, kdo aktivně – a vtíravě – rozhoduje.

Globální poplach kvůli zneužívání nástrojů 

Bránou, kterou si umělá inteligence proráží cestu do našeho digitálního světa, jsou takzvané Accessibility API, tedy speciální rozhraní, která měla původně pomáhat lidem se zrakovým nebo motorickým postižením. Dnes je ale umělá inteligence často zneužívá a získává díky nim téměř neomezený přístup k obrazovce a dokáže napodobovat naše vlastní kroky.

Nejde jen o problém Číny, je to celosvětový jev. Sledovací kód Pixel od společnosti Meta je dnes zabudován do zhruba 5,8 milionu webových stránek po celém světě a obchází přitom ochranu soukromí v systému Android.

Ruská společnost Yandex zase nasazuje své sledovací nástroje Metrica přibližně na třech milionech webů, kde se dokážou dostat i skrz bezpečnostní omezení a detailně monitorovat chování uživatelů.

V Jižní Koreji pobouřil veřejnost chatbot Lee Luda, vytvořený společností Scatter Lab. Ukázalo se totiž, že absolvoval výcvik na osobních konverzacích uživatelů seznamovací aplikace Science of Love, a to navzdory tomu, že uživatelé s tímto využitím údajně souhlasili jen prostřednictvím vágně formulovaných podmínek ochrany soukromí.

Korejský úřad pro ochranu osobních údajů následně rozhodl, že takto obecně pojatý souhlas může být v rozporu se zákonem.

Ještě znepokojivější byl případ španělské již uzavřené platformy ClothOff, zaměřené na tvorbu deepfake obsahu. Ta fungovala pod znepokojivým sloganem: Svlékněte oblečení komukoli, svlékněte dívky zdarma. Uživatelé nahráli fotografie oblečených lidí a zpět jim přišly realistické nahé snímky, často bez výslovného souhlasu osoby na fotografii.

Podmínky služby sice tvrdily, že uživatelé musejí být starší osmnácti let nebo mít souhlas rodičů a že platforma neukládá žádná data. Přesto se ukázalo, že nejméně jedenáct místních dospívajících tyto uměle vytvořené nahé snímky sdíleli na sociálních sítích, což mělo ničivý dopad na život jejich mladých obětí.

Všechny tyto případy odhalují stejnou systémovou slabinu: umělá inteligence schopná číst obrazovku potlačuje vůli uživatelů, přebírá nad nimi kontrolu pod záminkou pomoci a skrývá se za vágními uživatelskými souhlasy, aby se vyhnula odpovědnosti.

Když AI rozhoduje za vás

Skutečné nebezpečí nespočívá jen v tom, že nás AI sleduje. Horší je, že dokáže hádat naše záměry a jednat naším jménem. Dříve bylo sbírání dat jednoduché – měli jsme nad tím kontrolu, protože jsme sdíleli jen ta data, která jsme chtěli sdílet.

Dnes, kvůli čtení obrazovky v kombinaci s rozhodováním řízeným AI, už lidé nesdílejí jen data – svěřují AI moc rozhodovat za sebe, často nezvratně.

Vezměte si například Doubao, velmi populárního AI asistenta vyvinutého společností ByteDance, známého v Číně svou emoční citlivostí, zejména mezi mladšími uživateli. Nedávno byla do počítačové verze Doubao přidána funkce čtení obrazovky.

Jeden uživatel zapomněl zavřít chatovací aplikaci s osobními informacemi a požádal Doubao, aby mu upravil slohovou práci. Bylo šokující, že AI do upraveného textu zahrnula podrobné informace o tom, kde tento uživatel bydlí. Asistent přitom neporušil bezpečnostní pravidla, jednoduše přečetl, co bylo zobrazeno na obrazovce.

Takové schopnosti umožňují umělé inteligenci doporučovat obsah nebo služby se skrytými pohnutkami. Například pokud vám asistent AI doporučí jednu aplikaci na rozvoz jídla místo jiné, může jít o placené upřednostnění, kdy AI nenápadně ovlivňuje rozhodnutí uživatelů ve prospěch zisku.

Umělá inteligence už zkrátka nepotřebuje přímá osobní data, aby vás dokázala ovlivnit. Stačí jí znát vaše zvyky, preference a impulzy. Stáváte se produktem.

Když „nemám co skrývat“ už neplatí

Desítky let lidé bagatelizovali obavy o soukromí tvrzením, že nemají co skrývat. Tento pohled je dnes ale nebezpečně zastaralý. Moderní umělá inteligence dokáže z pouhého sledování obrazovky odhadnout náladu, zvyky i slabá místa uživatele.

Nepotřebuje přímá osobní data, stačí jí jen vhled, aby mohla nenápadně ovlivňovat rozhodnutí a působit spíše jako užitečný pomocník než jako něco dotěrného. Uživatelé přitom málokdy odolají, protože jim připadá, že taková interakce je přirozená a prospěšná. 

Ve světě řízeném umělou inteligencí je snadné a pohodlné nechat rozhodování na ní. Vede to ale ke klamné iluzi, že uživatel má svobodnou vůli. 

Znovunabytí kontroly

Otázka už není jen, zda mě AI sleduje, ale zda za mě také rozhoduje. A pokud rozhoduje, kdo naprogramoval její volby, kdo z toho má prospěch a kdo skutečně nese odpovědnost? 

Souhlas musí být skutečně informovaný, ne jen skrytý v uživatelských podmínkách. Regulátoři musejí vyžadovat transparentnost u procesů, kterými umělá inteligence vyvozuje závěry, a ne pouze u sběru dat. Funkce umožňující zpřístupnění obsahu, již zmíněné Accessibility API, musejí být přísněji kontrolovány, aby nedošlo k jejich zneužití.

Uživatelé si musejí uvědomit, že kliknutí na „souhlasím“ už dnes nemusí být jen formální nebo snadný krok, ale že to může znamenat předání kontroly nad důležitými rozhodnutími umělé inteligenci.

AI není náš nepřítel. Skutečnou výzvou je udržet si vlastní vůli a svobodu rozhodování ve světě ovládaném algoritmy. Umělá inteligence nás totiž stále častěji postrkuje k rozhodnutím, o nichž si myslíme, že jsou naše vlastní, a hrozí, že nad nimi nakonec ztratíme kontrolu úplně. 

Není to žádná abstraktní hrozba – děje se to už teď. Systémy umělé inteligence jsou stále sofistikovanější a tím zesilují i svůj nenápadný vliv. O to ostražitější proto musejí uživatelé být.

Pokud váš asistent začne rozhodovat za vás – a vy budete mít pocit, že se odjakživa jednalo o vaše rozhodnutí – pak už boj o kontrolu bude možná prohraný.

Řešením není odmítat umělou inteligenci, ale zajistit transparentnost, odpovědnost a skutečně informovaný souhlas. Technologie má největší hodnotu tehdy, když posiluje naši schopnost jednat, ne když s námi manipuluje.

Hranice mezi pomocí a nadvládou musí zůstat jasně vymezená, jinak riskujeme tichou kapitulaci před neviditelnými silami, které řídí naše digitální životy.

Nakonec, odpovědnost leží na nás všech – na tvůrcích technologií, regulátorech i běžných uživatelích, aby zajistili, že umělá inteligence zůstane nástrojem, který kontrolujeme my, aby se z nás samotných nestaly nástroje AI. Protože ve chvíli, kdy technologie nenápadně převezmou „volant“ a zároveň vás přesvědčí, že stále řídíte vy, v tu chvíli jste už nad cílem cesty ztratili kontrolu.

The post Teď tady velím já. Kontrolu už možná dávno nemáte vy, ale váš AI asistent appeared first on Forbes.