Falošná správa o "explózii pri Pentagone" načrtla problémy umelej inteligencie aj režimu na twitteri
Na sociálnej sieti Twitter sa v pondelok popoludní rýchlo šíril obrázok, ktorý mnohé účty vrátane viacerých "overených" prezentovali ako dôkaz výbuchu pri sídle amerického ministerstva obrany. K žiadnej explózii pri Pentagone však nedošlo a komentátori začali čoskoro poukazovať na to, že obrázok nesie známky výstupu vygenerovaného umelou inteligenciou. Podľa agentúry Bloomberg išlo možno o prvý prípad, keď takto vytvorená snímka ovplyvnila akciové trhy.
"Toto je presne to, čo všetci čakali," komentoval incident niekdajší bezpečnosťou šéf facebooku Alex Stamos, ktorý aktuálne vedie výskumné pracovisko na Stanfordovej univerzite.
Koniec overovania
Odkazoval pri tom na skutočnosť, že systémy označované ako generatívna umelá inteligencia sú schopné vytvárať realistické obrazové materiály, čo môže uľahčiť šírenie falošných správ. Zároveň poukázal na to, že twitter už nepreveruje totožnosť užívateľov pri udeľovaní "modrej fajočky", takže dôveryhodne môžu pôsobiť aj podvodné profily.
Rad účtov s týmto odznakom, ktorý bol predtým vyhradený len pre profily osobností či firiem, u ktorých bola totožnosť overená, sa podieľal na vyvolaní pondelkovej paniky. Bol medzi nimi aj profil s názvom Bloomberg Feed, ktorý s americkou spravodajskou agentúrou nemal nič spoločné a bol neskôr zablokovaný. Falošnú snímku zdieľal tiež účet zerohedge s 1,6 miliónom sledujúcich a profil ruskej štátnej televízie RT.
Na snímke bola zobrazená biela stavba pripomínajúca americké vládne budovy a v popredí oblak čierneho dymu. Podľa Bloombergu sa najskôr objavil na facebooku, načo sa začal rýchlo šíriť na twitteri. "Facebook príspevok zablokoval, keď nezávislí analytici dospeli k záveru, že je falošný. Väčší dosah mal na twitteri, "uvádza web Platformer, ktorý sa špecializuje na spravodajstvo o nových médiách.
Vyvrátenie dezinformácie
Obrázok bol spojený s tvrdením, že ukazuje výsledok explózie pri Pentagone, túto informáciu však bolo pomerne jednoduché vyvrátiť. Jednak sa budova na ňom nezhodovala so skutočným sídlom ministerstva obrany, jednak snímka obsahovala rôzne nedokonalosti charakteristické pre výstupy generované systémami AI. Oficiálny účet záchranných zložiek v oblasti zahŕňajúcej Pentagon na twitteri prispieval s vyhlásením, že žiadny incident nenastal.
Veľké účty ako RT a zerohedge svoje prvotné príspevky krátko po zverejnení vymazali, šírenie podvodnej správy však podľa všetkého stihlo mať dopad na cenu akcií na Wall Street. Krátko po desiatej hodine východoamerického času (16:00 nášho času), keď obrázok s dymom cirkuloval na twitteri, oslabil hlavný akciový index S & P 500 asi o 0,3 percenta na svoje denné minimum. Keď začalo byť jasné, že žiada explózia nenastala, index stratu zmazal.
Pôvod obrázku, ktorý spôsobil paniku, nie je známy. Špekulácie o tom, že ide o tvorbu umelej inteligencie, priživili obavy ohľadom vplyvu týchto nástrojov na účinnosť dezinformácií, uvádza Bloomberg. Ihneď po vlne príspevkov o "výbuchu pri Pentagone" sa objavil ďalší podobný prípad, tentoraz prezentovaný ako snímka Bieleho domu.
Podľa webu Platformer pondelkové udalosti tiež ukazujú "vážne nedostatky" bezpečnostných opatrení twitteru. "Twitter proti tomu míňal dobrú obranu. Hoci mal svoje muchy, starý systém overovania poskytoval prvú obrannú líniu proti typu útoku, aký sme dnes (v pondelok) videli. V dnešnom twitteri sú však obranné pozície prevažne opustené, "napísal.