Čínské přijetí open-source umělé inteligence dává Silicon Valley silného konkurenta. Pro Peking se zároveň stalo významným zdrojem vlivu: přitahuje zahraniční vývojáře a stává se jedním ze základních kamenů nabídky prezidenta Si Ťin-pchinga na spolupráci s globálním Jihem a na získání vlivu nad příští technologickou revolucí.
S tím, jak jsou otevřené modely schopnější, se ale Peking snaží zachovat výhody transparentnosti, aniž by se stejné přednosti změnily v nevýhody.
Vlády si nemohou dovolit odvracet zrak. Závažné selhání bezpečnosti AI by se mohlo snadno přelít přes hranice. Velké laboratoře od Chang-čou po San Francisco proto mají silnou motivaci řešit tato rizika dříve, než dojde ke katastrofě, která by mohla zpomalit vývoj AI na celém světě — podobně jako havárie ve Fukušimě v Japonsku urychlila německý odklon od jaderné energetiky.
Často se opakuje, zejména ze strany lidí z velkých firem vyvíjejících uzavřené modely, že otevřené systémy jsou ze své podstaty méně bezpečné. Na papíře to dává smysl: jakmile jsou zveřejněny váhy modelu, vývojáři ztrácejí kontrolu nad tím, jak budou použity. Řada vysoce sledovaných případů zneužití AI však nastala u uzavřených modelů s prolomenými ochrannými mechanismy. Může to být tím, že stále podávají lepší výkon, nebo tím, že je pro škodlivé aktéry snazší je používat než získat hardware a know-how potřebné pro nasazení otevřených alternativ. Bezpečnost AI proto nelze zjednodušit jen na spor otevřených a uzavřených systémů.
Toto dělení zakrývá i důležité nuance, zejména u jedné z nejbezprostřednějších hrozeb: kybernetické bezpečnosti. Otevřené systémy lze využít k posílení obrany proti útočníkům využívajícím AI. Když při testování neřízený agent OpenAI napadl Hugging Face, platforma při obraně použila otevřený model pekingské společnosti Zhipu. Spoluzakladatel Hugging Face Clement Delangue po incidentu uvedl, že AI „udělá svět bezpečnějším, ne méně bezpečným, stejně jako většina zásadních technologií“. Navrhl vybavit obránce nejlepšími nástroji, „zejména otevřenými modely“, a zároveň zavést smysluplnější sankce, které by odrazovaly od kybernetických útoků s pomocí AI, povinné hlášení incidentů a sdílení detailů. To je slibný začátek.
Zhipu v pátek představila GLM-5.3, který označila za svůj dosud nejschopnější model pro úkoly v kybernetické bezpečnosti. Přestože patří mezi výrazné veřejné zastánce otevřené AI, širší přístup chce zpřístupňovat postupně a až po důkladných bezpečnostních hodnoceních. Znamená to, že čínské firmy konečně považují bezpečnostní rizika otevřeného vývoje za příliš velká? Pravděpodobně ne. Společnost připouští zjevná rizika dvojího užití, ale GLM-5.3 označuje za „otevřený štít“, který má obráncům pomoci dříve nacházet slabiny, ověřovat rizika a urychlovat nápravu. Přijímá rozumná opatření. Jedna firma ale problém sama nevyřeší.
Stejně jednoduché není ani zakázat přístup k otevřeným modelům. Kromě toho, že by to bylo nepraktické a poškodilo americké vývojáře, by to hrozbu neodstranilo. Zneužití by se mohlo přesunout více do podzemí a zároveň by se omezilo širší šíření obranných nástrojů. Moc by se navíc soustředila do rukou několika velkých laboratoří.
Rozšířeným omylem je představa, že otevřené modely znamenají, že kdokoli může okamžitě provozovat vlastní výkonný systém AI. Nasazení těch nejschopnějších však vyžaduje značný výpočetní výkon, což řadu uživatelů tlačí ke cloudovým a hostingovým poskytovatelům. Tvůrci politik by s těmito službami měli spolupracovat na sledování podezřelé aktivity a označování možného zneužití.
Washington podle dostupných zpráv vyjímá otevřené modely z rámce Trumpovy administrativy pro přezkum pokročilé AI před uvedením. To je chyba. Otevřené systémy mohou být hůře kontrolovatelné, právě proto je ale důležitější jejich testování a pochopení rizik, nikoli méně důležité. Obtížnost při potírání zneužití není důvodem přehlížet jejich schopnosti.
Nejhlasitěji znějí varovné signály v kybernetické bezpečnosti. I když se zákonodárci nedokážou shodnout na širší regulaci AI, musí se nyní soustředit na posílení obrany. Tvůrci politik by měli tuto oblast chápat jako kritickou infrastrukturu, místo aby nechávali každou firmu či úřad, ať se brání samostatně. To znamená sdílet informace, standardizovat osvědčené postupy a připravovat se centrálně podobně, jako vlády plánují reakci na přírodní katastrofy.
Zároveň je potřeba výrazně více financování a podpory ze strany průmyslu i vlád pro výzkum technických ochranných mechanismů a bezpečnosti AI obecně. Některé studie naznačují, že odstranění nebezpečných informací z tréninkových dat, například informací souvisejících s biologickými hrozbami, může pomoci zabránit zneužití otevřených modelů. Není ale jasné, jak široce lze podobné metody použít na další rizika, například kybernetická. Soutěživost odvětví zřejmě odsunula bezpečnost na vedlejší kolej. To není udržitelné.
Plná spolupráce USA a Číny je v dnešním prostředí vzájemné nedůvěry nepravděpodobná. Určitý dialog je ale nezbytný. Matt Sheehan z Carnegie Endowment for International Peace píše, že bez informací o testování nebo ochranných mechanismech budou představitelé obou zemí předpokládat to nejhorší. Příští měsíc by dobrým místem pro začátek mohl být summit Trumpa a Si Ťin-pchinga, pokud budou mezery v bezpečnosti AI chápány jako společná hrozba, a ne jako vyjednávací páka pro něco jiného.
Pokud tato rizika zploštíme na debatu o soupeření otevřených a uzavřených laboratoří — nebo budeme nečinnost omlouvat jako cenu globálního závodu — mohou prodělat všechny strany.
Tento sloupek odráží osobní názory autorky a nemusí nutně odpovídat stanovisku redakční rady ani společnosti Bloomberg LP a jejích vlastníků.
Catherine Thorbecke je komentátorka Bloomberg Opinion zaměřená na technologický sektor v Asii. Dříve působila jako technologická reportérka v CNN a ABC News.
Tato zpráva vznikla s pomocí Bloomberg Automation.
Text vychází ze zprávy agentury Bloomberg a je redakčně upraven pro české čtenáře.
ZDROJ: Bloomberg.com
