X vypnula generování obrázků neplatícím uživatelům, dle EK a Londýna to nestačí

Sociální síť X amerického miliardáře Elona Muska vypnula neplatícím uživatelům možnost prostřednictvím chatbota s prvky umělé inteligence Grok generovat nebo upravovat obrázky. Jde o reakci na kritiku skutečnosti, že chatbot na žádost uživatelů na síti X generoval sexualizované fotografie žen a dětí. Mluvčí Evropské komise a britské vlády už krok kritizovali jako nedostatečný.

Funkci mohou nadále využívat uživatelé s modrým ověřovacím symbolem u jména, kteří si platí prémiovou verzi platformy. V Česku předplatné prémiové verze stojí 67 Kč měsíčně. "Na naší základní připomínce to nic nemění. Placené nebo neplacené předplatné, nechceme vidět takové obrázky. Tak jednoduché to je," uvedl mluvčí Evropské komise Thomas Regnier.

"Nic to neřeší. Ve skutečnosti je to urážka obětí misogynie a sexuálního násilí. Dokazuje to pouze to, že X dokáže jednat rychle, když chce," sdělil serveru The Guardian mluvčí britské vlády s tím, že síť jen změnila funkci z neplacené služby na prémiovou. "Je na čase, aby se X touto otázkou zabývalo," dodal.

Mluvčí německého ministerstva spravedlnosti Anna-Lena Beckfeldová dnes uvedla, že se se problémem bude zabývat také německá vláda. "Je nepřijatelné, aby se manipulace ve velkém měřítku využívala k systematickému porušování osobních práv," řekla.

"Chceme proto zajistit, aby bylo možné účinněji využívat trestní právo v boji proti tomuto jevu," dodala s tím, že ministerstvo pracuje na lepší regulaci věrohodně působících falešných obrázků a videí generovaných AI (takzvaných deepfakes) a plánuje zákon proti digitálnímu násilí na podporu jeho obětí.

EK ve čtvrtek zaslala společnosti X Corp žádost o informace ohledně Groka v reakci na skandál se sexualizovanými obrázky. Brusel zároveň firmě nařídil, aby nadále uchovávala všechny dokumenty týkající se Groka na její platformě X, a to až do konce letošního roku.

"Nelegální. Nepřijatelné. Nechutné," uvedl ve středu Regnier s tím, že podle unijního nařízení o digitálních službách (DSA) má síť X povinnost situaci řešit. "Protože takový výstup nemůžeme tolerovat. Je to v rozporu s evropskými hodnotami a základními právy. Dodržování evropské legislativy není volba, je to povinnost," dodal.

Chatbot generoval sexualizované obrázky dětí, které byly sdíleny na platformě X, což vyvolalo obavy o bezpečnost modelu, uvedl server listu Financial Times (FT). Grok později v příspěvku na webu X uvedl, že materiály se sexuálním zneužíváním dětí jsou "nezákonné a zakázané".

Doktorandka dublinské Trinity College Nana Nwachukwuová ve svém výzkumu shromáždila asi 500 interakcí uživatelů sítě X s Grokem, na nichž podle webu The Guardian dokládá, jak často se něco podobného děje. Téměř tři čtvrtiny příspěvků byly žádosti o snímky skutečných žen nebo nezletilých s odstraněnými nebo přidanými částmi oblečení.

Uživatelé si podle Nwachukwuové navzájem radí, jak zadávat příkazy. Navrhují Grokovi zobrazení žen v prádle nebo plavkách, případně s částmi těla pokrytými spermatem a žádají chatbota, aby odstranil svrchní oděv v odpovědích na příspěvky obsahující autoportréty uživatelek. Z kontextu vyplývá, že se tak děje bez souhlasu dotčených žen.

Musk loni oznámil, že kontrolu nad sítí X převzal jeho start-up pro umělou inteligenci xAI, který získal firmu X Corp, tedy provozovatele sítě X. Start-up také vyvíjí chatbota Grok, kterého síť X integrovala do své platformy.

Jedním z Muskových projektů bylo integrování chatbota do sítě X, což umožňuje uživatelům povolat jej na pomoc v běžných veřejných konverzacích. Například když chtějí ověřit, zda je výrok jiného uživatele pravdivý nebo když mu chtějí dodat kontext.

Loni Grok na síti X zveřejnil antisemitské a urážlivé komentáře. Mezi jeho výstupy se objevily například konspirační teorie o židovském vlivu a Grok sám sebe v některých odpovědích označil za MechaHitlera, robotickou postavu Hitlera, která se poprvé objevila v roce 1992 ve videohře Wolfenstein 3D.