Žádají o přerušení boomu v oblasti umělé inteligence kvůli „profoundním rizikům“ a vyzývají významné laboratoře zabývající se touto oblastí, aby pozastavily vývoj AI systémů pokročilejších než GPT-4 po dobu minimálně šesti měsíců.
Otevřený dopis, který v úterý zveřejnila nezisková organizace Future of Life Institute, má více než 1000 signatářů, včetně Maska, spoluzakladatele Applu Steva Wozniaka, CEO Stability AI Emada Mostaque a autora knihy Sapiens Yuvala Noaha Harariho. Dopis požaduje okamžité zastavení trénování systémů po dobu alespoň šesti měsíců, což musí být veřejné, ověřitelné a zahrnovat všechny veřejné subjekty.
„Otevřený dopis uvádí, že AI systémy s lidskou konkurenční inteligencí mohou představovat hluboká rizika pro společnost a lidskost, jak ukazuje rozsáhlý výzkum a potvrzují přední laboratoře pro AI. Měli bychom nechat stroje zaplavovat naše informační kanály propagandou a nepravdami? Měli bychom automatizovat všechny práce, včetně těch naplňujících? Měli bychom riskovat ztrátu kontroly nad naší civilizací?“
Otevřený dopis přichází několik týdnů po veřejném debutu OpenAI’s GPT-4, velkého jazykového modelu, který napájí prémiovou verzi populárního chatbota ChatGPT. Nový GPT-4 dokáže řešit složitější úkoly a produkovat nuancovanější výsledky než předchozí verze a je také méně náchylný k nedostatkům předchozích verzí, jak uvádí OpenAI.
Aby mohly systémy jako GPT-4 pracovat, musí být trénovány na velkém množství dat, ze kterých mohou poté čerpat pro odpovídání na otázky a plnění jiných úkolů. ChatGPT, který se objevil na scéně v listopadu, má lidskou schopnost psát pracovní e-maily, plánovat cesty, produkovat počítačový kód a dobře obstát v testech, jako je barová zkouška.
OpenAI neodpovědělo okamžitě na žádost o komentář. Na svých webových stránkách však OpenAI uznává potřebu zajistit, aby technologické systémy, které jsou „obecně chytřejší než lidé“, pracovaly ve prospěch lidstva. „V některém bodě může být důležité získat nezávislé posouzení před začátkem trénování budoucích systémů a pro nejvyspělejší úsilí souhlasit s omezením rychlosti růstu výpočetního výkonu používaného pro vytváření nových modelů.“
Od začátku roku se seznam společností, včetně Google, Microsoft, Adobe, Snapchat, DuckDuckGo a Grammarly, které využívají generativních dovedností umělé inteligence, neustále rozšiřuje.
Vlastní výzkum OpenAI ukázal, že s těmito dovednostmi umělé inteligence jsou spojena rizika. Generativní AI systémy mohou například citovat nedůvěryhodné zdroje, nebo jak OpenAI poznamenalo, „zvyšovat bezpečnostní problémy tím, že přijímají škodlivé nebo nechtěné akce a zvyšují schopnosti špatných aktérů, kteří by podváděli, manipulovali nebo zneužívali ostatní.“
Odborníci na umělou inteligenci jsou děsiví z toho, kam by to mohlo směřovat, a z toho, že společnosti uvádějí produkty na trh bez dostatečné ochrany nebo dokonce bez porozumění důsledkům.
„Vyspělá umělá inteligence by mohla představovat hlubokou změnu v historii života na Zemi a měla by být plánována a řízena s odpovídající péčí a zdroji“, píše se v dopise.
„Bohužel se však tento stupeň plánování a řízení neuskutečňuje, i když v posledních měsících AI laboratoře soupeří v závodech bez kontroly o vytváření a nasazení stále výkonnějších digitálních myslí, které nikdo – ani jejich tvůrci – nemohou porozumět, předvídat ani spolehlivě ovládat.“