Liz Kendall žádá, aby X situaci „okamžitě řešil“, zatímco odborník kritizuje „alarmující pomalost“ vládní reakce.
Britská ministryně pro technologie odsoudila šíření obrázků žen a dětí s digitálně odstraněným oblečením, které vytvořila umělá inteligence Grok od Elona Muska, a označila je za „otřesné a ve slušné společnosti nepřijatelné“.
Liz Kendall uvedla, že platforma X, kterou Musk vlastní, musí situaci „naléhavě řešit“, a podpořila britský regulátor Ofcom, aby „přijal veškerá opatření, která jsou nutná“ k ochraně uživatelů. Zdůraznila, že nelze tolerovat šíření ponižujících obrázků, které jsou cílené především na ženy a dívky, a vyzvala k jednotnému postupu k jejich odstranění.
Její komentáře zazněly uprostřed diskuse o nutnosti zpřísnění zákona o online bezpečnosti, který má chránit děti a omezit online škody, přestože na něj vyvíjí tlak i části Trumpovy administrativy, aby byl zmírněn.
Jeden odborník kritizoval, že platformy jako X a britské regulační orgány si problém „přenášejí jako tenisový míček“ a označil reakci vlády za „znepokojivě pomalou“.
Jessaline Caine, oběť sexuálního zneužívání dětí, označila vládní reakci za „bezpáteřní“. Uvedla, že chatbot Groku jí v úterý ráno stále umožnil manipulovat s jejím obrázkem jako tříleté dívky, zatímco stejné pokusy na ChatGPT a Gemini byly zamítnuty. Kritizovala Grok za nedostatek ochranných opatření a varovala, že obsah je „odporný a ponižující“.
Ofcom uvedl, že si je vědom vážných obav ohledně toho, že Grok generuje nahé a sexualizované snímky, včetně dětí, a kontaktoval X a xAI, aby zjistil, jak chrání uživatele ve Velké Británii. Na základě reakcí společnosti zvažuje regulatorní kroky.
Beeban Kidronová, expertka na online bezpečí dětí, vyzvala vládu, aby „prokázala páteř“ a urychleně posílila zákon o online bezpečnosti. Zdůraznila, že kdyby jakýkoli jiný produkt způsobil takovou škodu, byl by již stažen z trhu, a vyzvala uživatele, aby přestali používat produkty, které nechrání děti a ženy.
Ofcom může platformy pokutovat až do výše 18 milionů liber nebo 10 % globálních příjmů. Minulý měsíc byla udělena rekordní pokuta 1 milion liber poskytovateli pornografie, který neprováděl povinné kontroly věku.
Ministři také slíbili nové zákony, které zakážou nástroje pro „nudifikaci“ – generativní AI schopnou vytvářet falešné nahé obrázky skutečných lidí bez jejich souhlasu. Datum účinnosti zákazu zatím nebylo stanoveno.
Sarah Smithová z charitativní organizace Lucy Faithfull Foundation vyzvala X k okamžitému vypnutí funkcí úpravy obrázků v Groku, dokud nebudou zavedena bezpečnostní opatření. X na žádost o komentář k vyjádření Kendallové nereagovala, ale uvedla, že odstraňuje nelegální obsah a spolupracuje s úřady.
Jake Moore, bezpečnostní expert ze společnosti ESET, kritizoval pomalou reakci a upozornil, že AI generované falešné snímky a videa mohou mít stále vážnější dopady na životy lidí.
Generování či sdílení intimních snímků osob bez souhlasu, včetně deepfakeů, je již nezákonné. AI obrázky dětí v bikinách sice nemusí být považovány za materiál zobrazující sexuální zneužívání, ale narušují jejich soukromí a pohrdají jejich svobodnou vůlí. Kidronová zdůraznila, že děti by neměly být nuceny čelit sexualizaci, pokud jen chtějí sdílet běžné fotografie.