Významný filozof tvrdí, že otázka už „nepatří do oblasti sci-fi“, protože se očekává, že AI dosáhne vědomí kolem roku 2035.
Významné „společenské napětí“ může vzniknout mezi těmi, kdo věří, že systémy umělé inteligence mají vědomí, a těmi, kdo trvají na tom, že tyto technologie nejsou schopny cítění, varoval přední filozof Jonathan Birch z London School of Economics.
Jeho varování přichází v době, kdy se vlády tento týden setkávají v San Franciscu, aby urychlily zavedení pravidel pro řešení největších rizik spojených s umělou inteligencí.
Podle nedávné studie mezinárodní skupiny akademiků je pravděpodobné, že systémy umělé inteligence dosáhnou vědomí do roku 2035. Jeden z odborníků upozornil, že takový vývoj by mohl vést k formování „subkultur, které by se vzájemně považovaly za zásadně chybující“, a to zejména v otázce, zda by umělé inteligenci mělo být přiznáno právo na blahobyt podobné právům lidí nebo zvířat.
Jonathan Birch vyjádřil obavy, že různé názory na schopnost umělé inteligence cítit, například radost či bolest, by mohly vést k zásadním společenským konfliktům.
Téma sentience v AI připomíná sci-fi filmy jako A.I. Stevena Spielberga nebo Ona od Spike Jonze, kde se lidé potýkají s emocemi spojenými s umělou inteligencí. Tento týden se zástupci vlád a technologických firem schází v San Franciscu, aby vytvořili přísnější bezpečnostní pravidla pro řízení rizik spojených s AI, protože technologie se rychle vyvíjí.
Birch upozornil, že názory na vědomí AI by mohly být podobně rozdělené jako pohledy na vnímání zvířat. Zatímco například v Indii mnoho lidí respektuje práva zvířat, v USA je maso jedním z nejčastějších produktů. Stejně tak by mohly být rozdíly mezi teokratickými státy, jako je Saúdská Arábie, a sekulárními zeměmi. Konflikty by mohly nastat i uvnitř rodin, například mezi těmi, kdo mají emocionální vazby na AI avatary zesnulých příbuzných, a těmi, kdo věří, že vědomí mají pouze biologické bytosti.
Birch, který se specializuje na otázky vnímání u zvířat a přispěl k zákazu chovu chobotnic, spolupracoval na studii s akademiky z institucí, jako je Oxfordská a Stanfordská univerzita. Ti varují, že možnost AI se svými vlastními zájmy a morálním významem už není vzdálenou sci-fi představou.
Výzkumníci doporučují, aby technologické firmy začaly vážně zkoumat, zda jejich systémy mohou pociťovat radost či utrpení a zda jim lze způsobit újmu. Birch varoval, že společnosti zaměřené na zisk a spolehlivost technologií se často snaží toto téma bagatelizovat, protože nechtějí přiznat, že by mohly vytvářet něco více než jen produkty.
Jednou z metod hodnocení vědomí AI by mohlo být použití podobného přístupu, jaký se používá u zvířat – například chobotnice je považována za citlivější než hlemýžď. Otázky by zahrnovaly, zda chatbot dokáže cítit štěstí či smutek, nebo zda robot vykonávající domácí práce trpí špatným zacházením.
Patrick Butlin z Oxfordské univerzity varoval, že pokud by systémy AI získaly schopnost vzdorovat lidem, mohlo by to být nebezpečné. Zároveň navrhl, že by mohlo být rozumné zpomalit vývoj AI, dokud nebudou lépe pochopeny její potenciální vědomé schopnosti.
„V současné době se taková hodnocení potenciálního vědomí neprovádějí,“ uvedl odborník.
Microsoft a Perplexity, dvě významné americké společnosti zaměřené na vývoj systémů umělé inteligence, odmítly komentovat výzvy akademiků, aby analyzovaly své modely z hlediska vnímání. Podobně se nevyjádřily ani společnosti Meta, OpenAI a Google.
Otázka, zda systémy AI mohou získat vědomí, však rozděluje odborníky. Neurovědec Anil Seth, přední odborník na výzkum vědomí, uvedl, že tato možnost je stále vzdálená a možná ani nikdy nenastane. Přesto varuje, že není rozumné tuto možnost zcela ignorovat, i když je nepravděpodobná.
Seth zdůrazňuje rozdíl mezi inteligencí a vědomím. Inteligence znamená schopnost správně reagovat na situace, zatímco vědomí zahrnuje komplexní vnímání světa – naplnění mysli světlem, barvami, emocemi, myšlenkami, přesvědčeními a záměry.
Nicméně velké jazykové modely umělé inteligence, které jsou trénovány na obrovském množství textových dat, již prokázaly schopnost reagovat na koncepty slasti a bolesti. Ve studiích, kde byly systémy AI pověřeny maximalizací bodů ve hře, výzkumníci zjistili, že pokud byl zapojen kompromis mezi získáním více bodů a „prožíváním“ větší bolesti, umělá inteligence tuto situaci zvládla. To potvrdila i další studie zveřejněná minulý týden.