Pachatelé upravují fotografie ze školních webů a sociálních sítí tak, aby z nich vznikly sexuálně explicitní snímky.
Britským školám se doporučuje, aby ze svých webů a účtů na sociálních sítích odstranily fotografie tváří žáků, protože je zločinci využívají k vytváření sexuálně explicitních snímků pomocí umělé inteligence, varují odborníci.
Experti na ochranu dětí i britská Národní agentura pro boj s kriminalitou (NCA) upozorňují, že pachatelé manipulují s fotografiemi dětí a následně požadují výkupné za to, že je nezveřejní. Školám proto radí, aby buď odstranily identifikovatelné snímky žáků, nebo výrazně omezily jejich zveřejňování.
Organizace Internet Watch Foundation (IWF) uvedla, že jedna britská střední škola se nedávno stala terčem vydírání. Útočníci využili fotografie ze školních webů či sociálních sítí, upravili je pomocí AI do podoby materiálů zobrazujících sexuální zneužívání dětí a pak hrozili jejich zveřejněním, pokud nedostanou zaplaceno. IWF snímky analyzovala a pomohla je označit digitálním otiskem, aby se zabránilo jejich dalšímu šíření.
Ministryně pro ochranu žen a dívek Jess Phillips označila tento typ útoků za velmi znepokojivý nový trend a uvedla, že vláda je připravena upravit zákony týkající se AI, pokud to bude nutné.
Podle odborných skupin není tento problém zatím plošný, ale existuje obava, že se může rychle rozšířit. Školám se proto doporučuje omezit zveřejňování jasně identifikovatelných fotografií, například snímků zblízka s viditelnými obličeji, a místo toho používat méně detailní záběry nebo fotografie zezadu.
Doporučení také zahrnují omezování používání jmen u fotografií, nastavení přísnějšího soukromí na školních webech a pravidelné kontroly zveřejněných snímků. V případě útoku mají školy okamžitě kontaktovat policii a zajistit důkazy.
Odborníci zdůrazňují, že v posledních letech roste tzv. sextortion – vydírání pomocí intimních nebo upravených snímků – které je navíc zesilováno rozvojem generativní AI. Tento typ kriminality už byl spojen i s případy sebevražd mladistvých.
Podle organizace Report Remove přibývá oznámení o podobných útocích, přičemž meziročně jde o výrazný nárůst. Za těmito činy často stojí mezinárodní zločinecké skupiny, mimo jiné ze západní Afriky.
Některé školy už na rostoucí hrozbu reagovaly a začaly upravovat své weby tak, aby na nich nebyly snadno rozpoznatelné fotografie žáků.