Slova generálního ředitele zaznívají v době rostoucího dohledu nad tím, jak americká armáda využívá technologii, a současně v kontextu etických obav mezi pracovníky v oblasti umělé inteligence.
Generální ředitel OpenAI, Sam Altman, v úterý zaměstnancům oznámil, že jeho společnost nemá kontrolu nad tím, jak Pentagon využívá jejich produkty umělé inteligence při vojenských operacích. Altmanova slova přicházejí v době zvýšeného dohledu nad armádním nasazením AI a v souvislosti s etickými obavami pracovníků ohledně možného využití jejich technologie.
„Nemáte právo rozhodovat o operacích,“ uvedl Altman podle agentur Bloomberg a CNBC. „Můžete mít názor, že útok na Írán byl správný a invaze do Venezuely špatná, ale nemáte právo se k tomu vyjadřovat.“
Odvětví AI se v posledních týdnech ocitlo pod tlakem a debatami, protože Pentagon požaduje, aby firmy odstranily bezpečnostní omezení ze svých modelů a umožnily jejich širší vojenské využití. AI systémy byly podle zpráv již zapojeny do operací americké armády, včetně pokusu o zadržení venezuelského vůdce Nicoláse Madura a při cílených akcích proti Íránu.
Konkurent OpenAI, společnost Anthropic, minulý týden odmítl spolupráci s Pentagonem kvůli riziku, že jejich model může být použit pro domácí sledování nebo autonomní zbraně. Americký ministr obrany Pete Hegseth označil Anthropic za „riziko dodavatelského řetězce“, což je neobvyklý krok, který by mohl firmě způsobit vážné finanční problémy. Ve stejný den Pentagon oznámil dohodu s OpenAI, což mělo nahradit plánované použití Anthropic ve vojenských aplikacích. Tento krok vyvolal kritiku veřejnosti i interní nespokojenost mezi zaměstnanci OpenAI, kteří se obávali, že firma překročila etické hranice, jež Anthropic odmítl.
Altman a OpenAI trvají na tom, že jejich technologie bude používána legálně a s kontrolou škod. Altman však připustil, že dohoda byla uzavřena uspěchaně a společnost působila „oportunisticky a nedbale“.
Dario Amodei, šéf Anthropic, označil Altmana ve zprávě zaměstnancům za „lživého“ a kritizoval jeho podporu Trumpa. Uvedl, že Anthropic se držel svých „červených linií“ a odmítl spolupráci, která by podle něj byla jen „bezpečnostní divadlo“ pro Pentagon a politické poradce. Amodei také poukázal na finanční dary prezidenta OpenAI Grega Brockmana a jeho manželky pro podporu Trumpa, které podle něj ovlivnily vztahy s administrativou.