Zastánci i kritici generativní AI ji často přirovnávají k atomové bombě. Zde ale narazíme na rozdíly v této analogii.
Tempo změn v generativní AI je momentálně šílené. OpenAI vydalo ChatGPT pro veřejnost teprve před čtyřmi měsíci. Do dvou měsíců dosáhl 100 milionů uživatelů. (TikTok, předchozí okamžitá senzace internetu, to trvalo devět měsíců.) Google, který se snaží držet krok, uvedl na trh své vlastní AI chatboty s názvem Bard a již existují různé klonové verze ChatGPT a nové plug-iny, které umožňují bota pracovat s populárními webovými stránkami jako je Expedia a OpenTable.
Nová verze modelu OpenAI s názvem GPT-4, která byla vydána minulý měsíc, je přesnější a „multimodální“, umožňuje zpracování textu, obrázků, videí a zvuků současně. Generování obrazů se také posunuje vpřed stejně freneticky: nejnovější verze MidJourney nám dala virální deepfake senzace zatčení Donalda Trumpa a papeže, kteří vypadají stylově v stříbrném nafukovacím kabátě, což naznačuje, že brzy budete muset podezřívat každý obrázek, který vidíte online.
A titulky! Ach, ty titulky. AI přichází do škol! Psaní sci-fi! Zákon! Hry! Vytváří video! Bojuje proti bezpečnostním rizikům! Napomáhá kulturním sporům! Vytváří černé trhy! Rozpoutává startupovou horečku! Přebírá kontrolu nad hledáním! DJ’uje vaši hudbu! Jde po vaší práci!
V tomto šílenství jsem dvakrát slyšel porovnání vzniku generativní AI s vytvořením atomové bomby. Co je překvapivé, je že toto porovnání učinili lidé s diametrálně odlišnými názory na to, co to znamená.
Jeden z nich je nejbližší osobou, kterou generativní revoluce v oblasti AI má k hlavnímu architektovi: Sam Altman, CEO společnosti OpenAI, který v nedávném rozhovoru pro The New York Times nazval projekt Manhattan „úrovní ambicí, ke kterým se snažíme přiblížit“.
Ostatní jsou Tristan Harris a Aza Raskin z Centra pro lidskou technologii, kteří se stali poměrně známými tím, že varovali, že sociální média ničí demokracii. Nyní chodí kolem a varují, že generativní AI by mohla zničit samotnou civilizaci tím, že poskytuje nástroje s úžasnou a nepředvídatelnou mocí téměř každému.
Altman však nesouhlasí s Harrisem a Raskinem v tom, že AI může zničit civilizaci. Jen tvrdí, že je více založen na dobré vůli než ostatní lidé, takže se může snažit zajistit, že nástroje budou vyvíjeny s bezpečnostními opatřeními – a navíc nemá jinou možnost, než tlačit vpřed, protože technologie je tak jako tak nezastavitelná. Je to neuvěřitelná směs víry a fatality.
Pro záznam, souhlasím s tím, že technologie je nezastavitelná. Ale myslím si, že bezpečnostní opatření, která jsou v současné době implementována – jako například filtrování nenávistných projevů nebo kriminálních rad z odpovědí chatGPT – jsou směšně slabá. Bylo by poměrně triviální záležitostí, aby společnosti jako OpenAI nebo MidJourney vložily těžko odstranitelné digitální vodoznaky do všech svých obrázků generovaných AI, aby bylo snazší detekovat deepfake, jako jsou obrázky papeže.
Koalice nazvaná Content Authenticity Initiative to dělá v omezené formě; její protokol umožňuje umělcům dobrovolně připojovat metadata k obrázkům generovaným AI. Ale nevidím, že by se některá z hlavních společností generativní AI zapojila do takových snah.
Samozřejmě, možná byste mohli požádat (bez ochranných opatření) GPT-4 nebo jeho nástupce, aby „navrhl superinfekční vir, který je nakažlivější než Covid-19 a zabíjí 20 procent lidí, které infikuje“. Avšak lidstvo stále existuje, ačkoli recepty na smrtelné toxiny a genetický kód virulentních onemocnění jsou již několik let volně dostupné online.
To, co dělá AI děsivou, je spíše to, že nikdo nemůže předpovědět většinu využití, na které na ni lidé pomyslí. Některé z těchto využití mohou být ekvivalentem jaderné bomby pro velmi specifické věci – jako například pro psaní vysokoškolských esejů, které mohou rychle zastaralé. V jiných případech budou škodlivé účinky pomalejší a těžší předvídat. (Například, zatímco ChatGPT se ukázal jako neuvěřitelně silný nástroj pro psaní kódu, někteří se obávají, že to bude znamenat zbytečnost komunit, kde lidé sdílejí znalosti programování, a tak zničí samotný základ, na kterém jsou vycvičeni budoucí lidští programátoři a AI.)
Nicméně, analogie s Manhattan Project mi připadá správná v jednom ohledu: Existuje svět před masovým přístupem k generativnímu umělému inteligencí a svět po něm a nejsou si podobné.