Podle nové zprávy o zabezpečení společnosti Meta přinášejí podvodné kampaně využívající umělou inteligenci pro zlomyslné aktéry pouze minimální úspěch.
Rusko začalo využívat generativní umělou inteligenci ve svých online dezinformačních kampaních, ale podle bezpečnostní zprávy Meta zveřejněné ve čtvrtek toto úsilí nepřineslo očekávané výsledky.
Společnost Meta, která vlastní Facebook a Instagram, zjistila, že taktiky poháněné umělou inteligencí zatím pouze zvyšují efektivitu a produkci obsahu pro škodlivé aktéry, ale Meta byla schopna narušit jejich dezinformační operace.
Meta se intenzivně zaměřuje na boj proti „koordinovanému neautentickému chování“ na svých platformách, zvláště s ohledem na rostoucí obavy, že generativní AI by mohla být zneužita k matení voličů během voleb v USA a dalších zemích.
David Agranovich, ředitel bezpečnostní politiky Meta, uvedl, že Rusko stále zůstává hlavním zdrojem těchto „koordinovaných neautentických aktivit“ prostřednictvím falešných účtů na Facebooku a Instagramu.
Od ruské invaze na Ukrajinu v roce 2022 se tyto snahy zaměřily na podkopávání Ukrajiny a jejích spojenců. S blížícími se americkými volbami Meta předpokládá, že ruské online dezinformační kampaně budou cílit na politické kandidáty podporující Ukrajinu.
Facebook byl v minulosti kritizován za to, že sloužil jako platforma pro volební dezinformace, zejména během amerických voleb v roce 2016, kdy jej ruští agenti využili k rozdmýchání politického napětí.
Odborníci se obávají, že díky snadnému přístupu k generativním nástrojům umělé inteligence, jako jsou ChatGPT nebo DALL-E, mohou špatní aktéři vytvářet dezinformační obsah během několika sekund. Umělá inteligence se používá k vytváření obrázků, videí, překladu textu a vytváření falešných zpráv.
Meta se při odhalování podvodů zaměřuje spíše na chování účtů než na samotný obsah. Společnost také upozornila na to, že umělý obsah se na platformě X (dříve Twitter) často používá k vytváření dojmu důvěryhodnosti. Meta sdílí své poznatky s dalšími internetovými společnostmi a zdůrazňuje potřebu koordinované obrany proti dezinformacím.
Na otázku, zda Meta vidí, že X jedná podle jejich upozornění na podvodné aktivity, Agranovich odpověděl, že X stále prochází přechodným obdobím a mnozí lidé, se kterými Meta dříve spolupracovala, už na X nepracují. Platforma X omezila své týmy důvěry a bezpečnosti, což podle výzkumníků z ní dělá živnou půdu pro dezinformace.