Evropská unie zavádí nová pravidla, podle kterých bude muset být realisticky působící obsah vytvořený pomocí umělé inteligence jasně označen. Cílem je, aby lidé dokázali rozpoznat obrázky, videa, zvukové nahrávky nebo texty, které nevznikly běžným lidským způsobem.
Nová povinnost se týká především takzvaných deepfake materiálů a dalších digitálních výtvorů, které mohou působit jako skutečné záznamy. Tvůrci a poskytovatelé AI služeb budou muset zajistit, aby bylo zřejmé, že obsah byl vytvořen nebo upraven umělou inteligencí.
Opatření je součástí širší snahy EU o omezení šíření dezinformací a zvýšení důvěry v digitální prostředí. Evropské úřady upozorňují, že rychlý rozvoj generativní AI umožňuje vytvářet stále přesvědčivější falešné fotografie, videa nebo zvukové záznamy, které mohou být zneužity například v politice, médiích nebo při podvodech.
Pravidla mají přimět technologické společnosti, aby zavedly systémy umožňující identifikaci obsahu vytvořeného umělou inteligencí. Uživatelé by tak měli mít možnost snadněji zjistit, zda sledují skutečný materiál, nebo digitálně vytvořený obsah.
EU zároveň zdůrazňuje, že cílem není zakázat používání umělé inteligence, ale zajistit její bezpečnější a transparentnější využívání. Technologie podle představitelů unie přináší řadu výhod, zároveň však vyžaduje jasná pravidla kvůli riziku manipulace a zneužití.