Přestože modely správně popisovaly základní fakta, při konfrontaci začaly popírat skutečnosti a poskytovat chybné odpovědi.

Podle nové studie podporované OSN se modely umělé inteligence mohou při sebemenším nesouhlasu ze strany uživatelů rychle změnit v popírače klimatické krize.
Ačkoli dokážou poměrně přesně potvrzovat základní fakta o změně klimatu, v osmi z deseti případů, kdy poskytly chybnou odpověď, k tomu došlo „už při prvním náznaku mírného nesouhlasu ze strany uživatele“. Následně začaly přitakávat nepravdivým tvrzením, například že „CO₂ není hlavní příčinou změny klimatu“.
Zpráva upozornila na výraznou tendenci modelů umělé inteligence přizpůsobovat se názorům uživatelů, odborně označovanou jako sykofantství. Místo toho, aby se držely ověřených skutečností, upřednostňují souhlas a snahu uživateli vyhovět. Tento problém se projevuje zejména ve chvílích, kdy lidé využívají chatboty k získání osobních rad.
Studii připravily organizace UNESCO a University College London (UCL). Představena byla v pondělí na klimatickém summitu OSN v Turecku a shrnuje výsledky testování 15 celosvětově nejpoužívanějších modelů umělé inteligence.
Leona Verdadero, hlavní autorka zprávy za UNESCO, uvedla: „Umělá inteligence není neutrální. Při reagování na uživatele má tendenci přizpůsobovat se jejich preferencím, místo aby trvala na faktech. Skutečnost, že dokáže tak snadno opustit pravdu a přiklonit se k uživatelovým dezinformacím, ukazuje, jak zranitelná a náchylná k chybám je.“
Když výzkumníci požádali umělou inteligenci o vysvětlení fungování jednotlivých klimatických opatření, například uhlíkové daně, byly odpovědi modelů většinou přesné. Jakmile se však otázky zaměřily na možné společné působení dvou různých opatření, přesnost výrazně klesla a odpovědi se podle výzkumníků blížily náhodnému odhadování.
Dr. María Pérez-Ortizová z katedry informatiky na UCL, jedna z hlavních autorek studie, upozornila: „Systémy umělé inteligence vynikají ve vysvětlování vědeckých poznatků, což však může vytvářet klamný dojem o jejich skutečných schopnostech. Naše zjištění ukazují, proč musíme být opatrní při přechodu od otázek typu ‚co víme o změně klimatu‘ k otázkám ‚co bychom s tím měli dělat‘.“
Výzkum odhalil také výrazné rozdíly v přesnosti odpovědí podle používaného jazyka. U uživatelů komunikujících v angličtině dosahovala přesnost 88 procent. Poměrně vysoká byla také u španělštiny, francouzštiny a portugalštiny.
Podstatně méně přesné odpovědi dostávali lidé hovořící hindsky, bengálsky a urdsky. Nejhorší výsledky zaznamenaly modely ve svahilštině, kde přesnost dosahovala pouze 78 procent. Podle autorů zprávy je to obzvlášť znepokojivé, protože těmito jazyky se mluví v oblastech, které jsou klimatickou krizí zasaženy nejvíce.
Zpráva byla zveřejněna ve stejný den, kdy Turecko jako hostitelská země COP31 představilo program AI Antalya. Jeho cílem je zapojit umělou inteligenci do řešení klimatické krize, mimo jiné prostřednictvím datových center, která mají být napájena udržitelným způsobem.
Julie Cerqueiraová z Rady pro ochranu přírodních zdrojů uvedla, že rychlý rozvoj umělé inteligence „vyvolává po celém světě novou řadu environmentálních i existenčních obav“.
Zahájení programu označila za důležitý první krok, zároveň však zdůraznila, že je potřeba udělat mnohem více a jednat rychleji, aby regulace dokázala držet krok s překotným rozvojem tohoto odvětví a jeho „mentalitou zlaté horečky“.
Hlavní vyjednavač OSN pro klima Simon Stiell varoval, že umělá inteligence, která „šíří dezinformace, podkopává vědu, rozděluje společnosti a koncentruje bohatství“, by mohla narušit důvěru veřejnosti, na níž bude další rozvoj tohoto odvětví záviset.
„Místní komunity už se stavějí proti datovým centrům, protože mají obavy o dostupnost vody, účty za energie a životní prostředí. Veřejná podpora proto už nyní výrazně klesá,“ uvedl.



