Brusel začal vyšetrovanie platformy X kvôli generovaniu sexualizovaných snímok žien a detí

Európska komisia začala vyšetrovať americkú technologickú spoločnosť X. Dôvodom je jej chatbot umelej inteligencie Grok, ktorý generoval sexualizované obrázky žien a detí. Správa pochádza z agentúry DPA.

Eurokomisia podozrieva firmu miliardára Elona Muska, že pri zavádzaní umelej inteligencie na svojej platforme zle vyhodnotila a dostatočne nepotlačila súvisiace riziká. „Nekonsenzuálne sexuálne deepfaky žien a detí sú násilnou, neprijateľnou formou ponižovania,“ uviedla v pondelok podpredsedníčka EK Henna Virkkunenová.

Eurokomisia vo vyhlásení uviedla, že preverí, či X dodržiava svoje povinnosti, ktoré jej ukladá legislatívou Európskej únie vrátane povinnosti „starostlivo posudzovať a zmierňovať systémové riziká“.

„To zahŕňa riziká spojené so šírením nelegálneho obsahu v EÚ, ako sú manipulované sexuálne explicitné obrázky vrátane materiálu, ktorý môže predstavovať sexuálne zneužívanie detí,“ uviedla EK. „Zdá sa, že tieto riziká sa už naplnili a spôsobili občanom EÚ vážnu ujmu.“

Sociálna sieť X Elona Muska čelí v posledných týždňoch ostrej kritike po tom, čo Grok umožnil používateľom digitálne nahrádzať oblečenie žien bikinami a v niektorých prípadoch vytvárať sexualizované zobrazenia maloletých. Po rozsiahlej medzinárodnej kritike zaviedla platforma X v polovici januára určité obmedzenia.