Nobelista varuje před rizikem vážného incidentu způsobeného touto technologií.
Geoffrey Hinton, jeden z průkopníků umělé inteligence, prohlásil, že lidstvu by možná bylo lépe, kdyby tuto technologii nikdy nevyvinulo. Varoval také, že už letos nebo příští rok může dojít k rozsáhlému incidentu, například k dočasnému ochromení finančních systémů nebo výpadku elektrické sítě.
Tento počítačový vědec a nositel Nobelovy ceny v rozhovoru pro deník The Guardian uvedl, že se nepovažuje za „katastrofistu“, pokud jde o technologii, na jejímž vzniku se sám významně podílel prostřednictvím průkopnického výzkumu umělých neuronových sítí. Připouští, že umělá inteligence může lidstvu přinést „úžasnou budoucnost“, zároveň však dodává: „Možná by bylo lepší, kdybychom ji nikdy nevyvinuli.“
Osmasedmdesátiletý Hinton se domnívá, že během příštích deseti let, možná dokonce dříve, se ukáže, zda lidstvo dokáže zvládnout nebezpečí spojená s umělou inteligencí a využít její potenciál k dosažení toho, co označuje jako „radikální hojnost“. V opačném případě podle něj hrozí, že „rizika nezvládneme, což povede k obrovské propasti mezi bohatými a chudými, vážným kulturním problémům, masivní nezaměstnanosti a v podstatě k rozvratu společnosti“.
Hinton se k těmto otázkám vyjádřil před promítáním nového celovečerního dokumentu s názvem AI: Probably Nothing to Worry About (Umělá inteligence: Pravděpodobně není důvod k obavám). Název filmu navrhl samotný chatbot. Vedle Hintona v něm vystupuje také jeho někdejší kolega ze společnosti Google Demis Hassabis. Tvůrcům dokumentu Hinton vysvětluje: „Cítím, že mám povinnost. Díky své pověsti funguji jako mluvčí a musím ji celou využít právě k tomuto účelu.“
V rozhovoru pro The Guardian Hinton kritizoval riskantní strategii vedení některých velkých technologických společností, které se zabývají vývojem umělé inteligence. Ve snaze získat náskok před konkurencí a posílit své postavení na trhu podle něj neustále uvádějí na trh stále výkonnější modely AI. Zároveň prohlásil, že Samu Altmanovi, šéfovi společnosti OpenAI, která stojí za chatbotem ChatGPT, „vůbec“ nedůvěřuje. „Myslím, že [Mark] Zuckerberg, [Elon] Musk a Sam Altman si rizika uvědomují, ale je jim to úplně jedno. Jde jim hlavně o peníze. Tak to vidím já,“ řekl.
Počítačový vědec, který se narodil v Londýně, vyrůstal v Bristolu a značnou část své profesní dráhy strávil na Torontské univerzitě, označil za „nesmírně znepokojující“, že Altman stojí v čele jedné z mála předních amerických společností vyvíjejících umělou inteligenci, které v současnosti soupeří s Čínou o vytvoření nejvýkonnějších systémů. Altman v září prohlásil: „Svět by nám měl věřit, že uděláme správnou věc – prostě proto, že je správná, a také proto, že si uvědomujeme, jak je celá záležitost závažná.“
Hinton se výzkumu umělé inteligence věnuje přibližně 44 let. V 70. letech přišel s konceptem neuronových sítí, tedy matematických systémů schopných učit se a získávat zkušenosti způsobem, který se v některých ohledech podobá lidskému učení. V roce 2023 odešel ze společnosti Google, aby mohl o možných nebezpečích umělé inteligence veřejně a otevřeně hovořit. Varuje přitom, že pokud se tyto systémy začnou samostatně a nekontrolovaně snažit získat větší moc, může to mít vážné následky. „Pokud se tyto systémy začnou nekontrolovaně dožadovat větší moci, máme zaděláno na velký problém,“ upozornil.
Za varovný signál považuje také události z letošního léta, kdy se agenti umělé inteligence vyvinutí společností OpenAI pokusili proniknout na webové stránky platformy Hugging Face. Hinton tyto incidenty přirovnal k částečnému roztavení aktivní zóny reaktoru v jaderné elektrárně Three Mile Island v americké Pensylvánii v roce 1979. Podle něj šlo o událost, která měla upozornit na závažnost možných rizik.
„Buď ještě letos, nebo příští rok nás čeká ‚Černobyl‘ – a to by mohlo konečně přimět lidi, aby začali dávat opravdu dobrý pozor,“ prohlásil.
Případný incident tohoto typu by podle Hintonových příkladů nemusel mít nic společného s jadernou havárií. Mohlo by jít například o kybernetický útok řízený umělou inteligencí na elektrickou síť, který by „způsobil rozsáhlý výpadek proudu“, nebo o událost, jež by na celý týden ochromila finanční systém.
„Dovedete si představit, co by se stalo? Sice bychom se z toho nakonec vzpamatovali, ale rozhodně by to všechny přimělo zpozornět,“ uvedl.
Když se ho novináři zeptali, koho by taková událost měla přimět k větší pozornosti, odpověděl: „Světové lídry – s výjimkou Trumpa.“ Americký prezident Donald Trump totiž prohlásil, že „zcela odmítá jakýkoli pokus o vytvoření globalistického systému“ pro regulaci umělé inteligence. Prosazuje, aby se přední společnosti v tomto odvětví regulovaly samy. Jeho postoj přichází v době, kdy sílí obavy, že přísnější pravidla by mohly Spojené státy zpomalit v technologickém soupeření s Čínou.
Hinton naopak podporuje přísnější mezinárodní přístup, který prosazuje prezident Finska společně se zástupci dalších 32 zemí. Mezi nimi jsou například Singapur, Německo, Kanada a Austrálie. Navrhovaný plán počítá s povinným testováním nejvýkonnějších modelů umělé inteligence, jejich nezávislým hodnocením a zavedením společných standardů mezi jednotlivými státy.
Britský premiér Andy Burnham uvedl, že chce využít britského předsednictví skupiny G20 v příštím roce k dosažení dohody o „jednotném souboru globálních principů a standardů, které se do značné míry týkají uvolnění plného potenciálu a zároveň ochrany před riziky“.
Hinton se domnívá, že vývoj umělé inteligence by měl podléhat přísnější kontrole ještě předtím, než se nové modely dostanou na trh. Přirovnává to k regulaci léčiv ve Spojených státech, kde společnosti musí doložit jejich bezpečnost a účinnost. „Potřebujeme něco jako americký Úřad pro kontrolu potravin a léčiv (FDA) pro léky, kde společnosti musí předložit nezávislému orgánu velmi dobré statistické důkazy o tom, že [model umělé inteligence] má před svým uvedením na trh více užitku než škody,“ vysvětlil.
Jako varovný příklad připomněl thalidomid, lék vyvinutý v 50. letech 20. století, jehož užívání vedlo k závažným vrozeným vadám. Hinton zdůraznil, že nestačí nejprve uvést potenciálně nebezpečný produkt na trh a případné následky řešit až prostřednictvím soudních sporů. „Vypustit to a pak se s nimi soudit – to není ten správný postup. Velké technologické firmy v podstatě říkají: přistupujme k tomu stejně, jako jsme přistupovali k thalidomidu,“ uvedl.
Vzhledem k tomu, že Hinton patří k průkopníkům umělé inteligence, bývá někdy přirovnáván k Robertu Oppenheimerovi, jedné z klíčových postav vývoje jaderných zbraní. Jeden z jeho přátel mu dokonce pořídil klobouk ve stylu, který Oppenheimer nosil. Hinton se však od takového srovnání distancuje. „Já nejsem Oppenheimer,“ zdůrazňuje a připomíná, že na výzkumu neuronových sítí se podílely tisíce dalších vědců.
Navzdory svým varováním zůstává Hinton v celkovém pohledu optimistický a věří, že nejhorším scénářům lze ještě zabránit.
„Mám pocit, že situaci máme stále pod kontrolou,“ řekl. „Je docela možné, že s tím dokážeme něco udělat. Bude to vyžadovat obrovské úsilí, ale je docela možné, že toto úsilí skutečně vynaložíme.“