Nadace Internet Watch Foundation našla příručku o temném webu, která nabádá zločince k používání softwarových nástrojů, které odstraňují oděv.
Podle charitativní organizace zaměřené na zneužívání dětí jsou pedofilové nabádáni, aby pomocí umělé inteligence vytvářeli nahé obrázky dětí a vymáhali z nich extrémnější materiál.
Nadace Internet Watch Foundation (IWF) uvedla, že příručka nalezená na temném webu obsahovala část vybízející zločince, aby používali „nudifikační“ nástroje k odstranění oblečení ze záběrů ze spodního prádla zaslaných dítětem. Zmanipulovaný obrázek by pak mohl být použit proti dítěti k vydírání, aby posílalo více grafického obsahu, uvedla IWF.“Toto je první důkaz, který jsme viděli, že si pachatelé vzájemně radí a povzbuzují se, aby k těmto účelům používali technologii AI,“ uvedla IWF.
Mohou být generátory obrázků AI hlídány, aby se zabránilo explicitním hlubokým falšování dětí?
Přečtěte si více
Charita, která na internetu nalézá a odstraňuje materiály týkající se sexuálního zneužívání dětí, loni varovala před nárůstem případů vydírání, kdy jsou oběti zmanipulovány, aby posílaly své grafické obrázky, a je jim pak vyhrožováno zveřejněním těchto obrázků, pokud nepředají peníze. Rovněž označila první příklady použití umělé inteligence k vytvoření „úžasně realistického“ zneužívání obsahu.
Anonymní autor online manuálu, který má téměř 200 stran, se chlubí tím, že „úspěšně vydíral“ 13leté dívky, aby posílaly nahé snímky online. IWF uvedla, že dokument byl předán britské Národní kriminální agentuře.Minulý měsíc Guardian odhalil, že labouristická strana zvažuje zákaz nudifikačních nástrojů, které uživatelům umožňují vytvářet obrázky lidí bez oblečení.
IWF také uvedla, že rok 2023 byl „nejextrémnějším rokem v historii“. Její výroční zpráva uvádí, že organizace v loňském roce našla více než 275 000 webových stránek obsahujících sexuální zneužívání dětí, což je nejvyšší počet zaznamenaný IWF, s rekordním množstvím materiálu „kategorie A“, který může zahrnovat nejzávažnější snímky včetně znásilnění, sadismu a sodomie. . IWF uvedla, že obsah kategorie A obsahuje více než 62 000 stránek ve srovnání s 51 000 v předchozím roce.
IWF nalezla 2 401 obrázků materiálu o sexuálním zneužívání dětí, který si sami vytvořili – kde jsou oběti zmanipulovány nebo jim vyhrožováno, aby nahrály své zneužívání – pořízených dětmi ve věku od tří do šesti let. Analytici uvedli, že viděli zneužívání v domácím prostředí, včetně ložnic a kuchyní.
Susie Hargreavesová, výkonná ředitelka IWF, uvedla, že oportunističtí zločinci, kteří se snaží manipulovat s dětmi, nejsou „vzdálenou hrozbou“. Řekla: „Pokud jsou takto zaměřeny děti mladší šesti let, musíme nyní vést konverzace přiměřené věku, abychom se ujistili, že vědí, jak rozpoznat nebezpečí.“
Hargreaves dodal, že zákon o online bezpečnosti, který se stal zákonem v loňském roce a ukládá společnostem sociálních médií povinnost pečovat o ochranu dětí, „musí fungovat“.Ministr bezpečnosti Tom Tugendhat řekl, že by rodiče měli mluvit se svými dětmi o používání sociálních sítí. „Platformy, o kterých se domníváte, že jsou bezpečné, mohou představovat riziko,“ řekl a dodal, že technologické společnosti by měly zavést silnější záruky, aby zabránily zneužití.
Podle výzkumu, který minulý týden zveřejnil komunikační regulátor Ofcom, čtvrtina tří až čtyřletých dětí vlastní mobilní telefon a polovina dětí mladších 13 let je na sociálních sítích. Vláda se chystá v nadcházejících týdnech zahájit konzultaci, která bude zahrnovat návrhy na zákaz prodeje chytrých telefonů mladším 16 let a zvýšení minimálního věku pro stránky sociálních médií z 13 až na 16 let.