Geoffrey Hinton odhaduje, že je 10% až 20% pravděpodobnost, že umělá inteligence během následujících 30 let způsobí vyhynutí lidstva, protože vývoj probíhá velmi rychle.
Britsko-kanadský počítačový vědec Geoffrey Hinton, často označovaný za „kmotra“ umělé inteligence, varoval, že rychlost pokroku v této technologii je „mnohem vyšší“, než se původně očekávalo, a zvýšil odhad pravděpodobnosti, že AI způsobí vyhynutí lidstva během příštích 30 let.
Hinton, který letos získal Nobelovu cenu za fyziku za svůj přínos v oblasti AI, uvedl, že šance na vyhynutí lidstva kvůli umělé inteligenci je mezi 10 % a 20 %.
Dříve tvrdil, že pravděpodobnost takového katastrofického scénáře je zhruba 10 %. Na otázku v pořadu BBC Radio 4 „Today“, zda revidoval svůj odhad o potenciální hrozbě AI, odpověděl: „Ano, nyní je to 10 % až 20 %.“
Hintonův odhad vedl hostujícího moderátora pořadu „Today“, bývalého kancléře Sajida Javida, k poznámce: „Zvyšujete pravděpodobnost,“ na což Hinton odpověděl: „Pokud vůbec, tak ano. Nikdy jsme se nemuseli vypořádat s něčím, co je inteligentnější než my sami.“
Pokračoval otázkou: „Kolik příkladů znáte, kde méně inteligentní bytost dokáže ovládat inteligentnější? Moc jich není. Jedinou výjimkou je možná vztah mezi matkou a dítětem, kde evoluce umožnila dítěti určitý vliv, ale to je zřejmě jediný příklad, který mě napadá.“
Hinton, který se narodil v Londýně a nyní působí jako emeritní profesor na University of Toronto, přirovnal vztah mezi lidmi a pokročilou umělou inteligencí k rozdílu mezi batoletem a dospělým. „Představte si situaci, kde jste vy a tříleté dítě. My budeme ti tříletí,“ vysvětlil.
Umělou inteligenci (AI) definoval jako počítačové systémy schopné provádět úkoly obvykle spojené s lidskou inteligencí.
Hinton se loni dostal do centra pozornosti, když odešel z Googlu, aby mohl otevřeněji hovořit o rizicích, která s sebou nese nekontrolovaný rozvoj AI. Vyjádřil obavy, že technologie by mohla být zneužita „špatnými aktéry“ k poškození ostatních. Hlavní obavou odborníků na bezpečnost AI je, že vývoj obecné umělé inteligence – systémů inteligentnějších než lidé – by mohl vést k existenční hrozbě tím, že by tyto systémy unikly lidské kontrole.
Když Hinton přemýšlel o tom, kam by AI mohla směřovat, vzpomínal na své začátky v této oblasti. „Nepředpokládal jsem, že se dostaneme tam, kde jsme teď. Myslel jsem, že to bude někdy v budoucnosti,“ uvedl.
Hinton doplnil: „Současná situace je taková, že většina odborníků v oblasti AI se domnívá, že někdy během příštích 20 let vytvoříme umělou inteligenci, která bude chytřejší než lidé. A to je velmi znepokojující představa.“
Podle Hintonových slov je tempo vývoje „mnohem rychlejší, než jsem očekával“ a apeloval na potřebu vládní regulace této technologie.
„Obávám se, že neviditelná ruka trhu nás neudrží v bezpečí. Pouhé spoléhání se na motivy zisku velkých firem nebude stačit k zajištění bezpečnosti vývoje,“ řekl. „Jediným způsobem, jak přimět tyto velké společnosti věnovat větší pozornost výzkumu bezpečnosti, je vládní regulace.“
Hinton, který patří mezi tři „kmotry AI“ oceněné prestižní cenou ACM AM Turing, počítačovou obdobou Nobelovy ceny, uvedl, že jeden z nich, Yann LeCun, hlavní vědec AI ve společnosti Meta Marka Zuckerberga, bagatelizoval existenciální hrozbu. LeCun podle něj řekl, že AI „by mohla skutečně zachránit lidstvo před vyhynutím“.