Reakce na kontroverzní generování obscénního obsahu
Evropská unie začala rozsáhlé šetření ohledně chatbota Grok, který je dostupný na platformě X, dříve známé jako Twitter, po globálním rozruchu týkajícím se schopnosti tohoto nástroje vytvářet sexuálně explicitní obrázky, včetně zachycujících děti. Skandál vypukl koncem loňského roku, když umělá inteligence generovala řadu digitálně oděných nebo téměř nazí obrázků žen a dětí na základě požadavků uživatelů.
Reakce společnosti a opatření proti nevhodnému obsahu
Po veřejném odporu zveřejnila společnost X oznámení, že tento nástroj bude zpřístupněn pouze platícím předplatitelům. Nakonec však firma zakázala všem uživatelům vytváření obrazů skutečných osob v odhaleném oblečení pomocí Grok. Evropská komise, která je výkonným orgánem Evropské unie, vydala prohlášení, v němž sdělila, že vyšetřování se zaměří na to, jestli platforma správně posoudila a zmírnila rizika spojená s nasazením funkcionalit Grok na platformě X v EU.
Stanovisko komisařky a ochrana práv
Henna Virkkunen, vysoká úřednice Evropské komise odpovědná za technologie, bezpečnost a demokracii, uvedla ve svém prohlášení: „Sexuální deepfakes žen a dětí představují násilnou, nepřijatelnou formu degradace. S tímto vyšetřováním zjistíme, zda X splnila své právní povinnosti, nebo zda považovala práva evropských občanů – včetně žen a dětí – za vedlejší produkt své služby.“
Reakce X a opatření proti zneužívání
Při žádosti o komentář společnost X odkazovala CNN na prohlášení zveřejněné 14. ledna na jejích sociálních sítích, které mimo jiné uvádí: „Činíme kroky k odstranění obsahu porušujícího pravidla, včetně materiálů souvisejících s dětskou pornografií (CSAM) a nereálných nahot. Přijímáme opatření proti účtům porušujícím naše pravidla a také hlásíme účty povzbuzující zneužívání dětí příslušným orgánům.“
Výhrady k opatřením a nedostatečná předběžná analýza rizik
V rámci tiskové konference pro novináře jeden z vysokých představitelů Evropské komise přiznal zatím přijatá opatření, ale upozornil, že společnost zatím neprovedla řádné posouzení rizik před spuštěním chatbota Grok. Vyšetřování bylo zahájeno na základě zákona Evropské unie o digitálních službách, který požaduje od velkých technologických firem větší odpovědnost za kontrolu nelegálního a škodlivého obsahu na internetu.
Budoucí kroky a možné sankce
Neexistuje stanovený časový rámec dokončení vyšetřování ani jasná značka, jaké opatření může Evropská komise přijmout na základě výsledků. Anonymní zdroj z komise však sdělil novinářům, že mají k dispozici „celou řadu nástrojů“ a že velká pokuta je možná. „Naším cílem je změnit chování platformy,“ doplnil.
Finanční tresty a rozšířená vyšetřování
V prosinci udělila EU platformě X pokutu ve výši přibližně 140 milionů dolarů za to, že její „klamavý design“ modrého ověřovacího symbolu a dalších funkcí porušil zákon o digitálních službách. Elon Musk tato opatření označil za „šílená“.
Ohledně zaplacení pokuty, anonymní představitel EU uvedl, že zatím nebyla uhrazena, ale společnost má stále čas na její vyřešení.
Aktuálně z letošního měsíce je známo, že generální prokurátor Kalifornie, Rob Bonta, rovněž zahájil vyšetřování ohledně šíření nereálných sexuálně explicitních materiálů vytvořených s pomocí Grok. Indonésie a Malajsie zakázaly používání Grok již kvůli kontaminaci s generováním nevhodného obsahu. Britský regulátor Ofcom rovněž zahájil formální vyšetřování platformy X.
Na závěr přispěli Hadas Gold a Claire Duffy, kteří také aktualizovali zprávu o dodatečných detailech a pozadí celé záležitosti.
