Lídři Silicon Valley, včetně generálního ředitele Anthropic PBC Daria Amodeie a šéfa Nvidia Corp. Jensena Huanga, varují před rozsáhlým vládním zásahem proti systémům umělé inteligence s otevřenými vahami v reakci na průlomový čínský model AI, který zpochybnil vedoucí postavení USA v této technologii.
Amodei se v blogovém příspěvku zveřejněném v pondělí snažil vyvrátit tvrzení, že Anthropic podporuje zákaz modelů s otevřenými vahami, které uživatelům umožňují technologii stáhnout a upravovat. Zároveň vyzval Spojené státy k přijetí politických opatření, jež by zpomalila rozvoj čínské AI, a uvedl, že všechny modely — otevřené i uzavřené — by před uvedením měly projít povinným bezpečnostním testováním.
„Řeknu to jasně, aby nebylo pochyb: Anthropic nikdy neprosazoval zákaz modelů s otevřenými vahami,“ napsal Amodei. Současně dodal, že tyto modely představují rizika, protože je „obtížné uplatnit ochranná opatření“ nebo „sledovat jejich používání“.
Poznámka Radka Jakubce: AI model s otevřenými vahami je model, jehož natrénované parametry si lze stáhnout a provozovat na vlastním počítači či serveru. Umožňuje tak větší kontrolu nad daty, úpravy pro konkrétní účely a nezávislost na provozovateli služby, neznamená však automaticky, že jsou otevřené také zdrojový kód, trénovací data nebo že je jeho použití bez omezení.
Trumpova administrativa a Kongres nyní řeší, jak reagovat na nový model s otevřenými vahami Kimi K3 od čínského startupu Moonshot AI, který soupeří s nabídkou společností Anthropic a OpenAI. Technologičtí lídři se proto snaží jasně vymezit své postoje.
V dopise podepsaném v pátek uvedli představitelé technologického odvětví, včetně Huanga z Nvidie a generálního ředitele Microsoft Corp. Satyi Nadelly, že otevřené systémy pomáhají „zpřístupnit pokročilou AI širšímu okruhu lidí, učinit ji přizpůsobivější a dostupnější“.
Anthropic dopis nepodepsal. To vedlo některé kritiky, včetně bývalého zmocněnce Bílého domu pro AI Davida Sackse, k tvrzení, že firma lobbuje za omezení čínských konkurentů, kteří ohrožují obchodní model společností s uzavřenými modely. Amodei v pondělním blogu toto obvinění odmítl a obhajoval rozhodnutí Anthropicu dopis nepodpořit s tím, že nesouhlasí s tvrzením, podle něhož modely s otevřenými vahami usnadňují vývoj ochranných opatření.
Amodei zopakoval svůj dlouhodobý názor, že modely s otevřenými vahami přinášejí větší riziko zneužití ke kybernetickým nebo biologickým útokům. Ke snížení těchto rizik prosazuje přísné kontroly čipů, politické kroky proti údajnému zneužívání amerických modelů čínskými konkurenty a povinné testování otevřených i uzavřených modelů.
Huang, který stojí v čele podpory otevřených systémů, se má v úterý ve Washingtonu sejít se senátorem Markem Warnerem, nejvýše postaveným demokratem ve výboru pro zpravodajské služby, uvedl senátorův mluvčí. Warner minulý týden v rámci návrhu legislativního rámce pro AI vyzval k povinnému bezpečnostnímu testování nejpokročilejších modelů. Jde o nejnovější z řady návrhů na regulaci AI, které se letos objevily v Kongresu. O Huangových schůzkách se zákonodárci dříve informoval server Politico.
Ředitel Úřadu Bílého domu pro vědeckou a technologickou politiku Michael Kratsios minulý týden vyvolal obavy ze zákazu modelů s otevřenými vahami v USA, když na sociální síti uvedl, že americká vláda má důkazy, podle nichž Moonshot neoprávněně přistupoval k americkým modelům AI při vývoji svého nejnovějšího systému. Tento proces se označuje jako destilace. Ve stejném týdnu ministr financí Scott Bessent připustil možnost sankcí proti čínským firmám, u nichž by se takové jednání prokázalo. Destilace spočívá v použití výstupů mateřského modelu jako trénovacích dat pro studentský model.
Anthropic a OpenAI obvinily čínské společnosti zabývající se AI, od DeepSeek po Alibaba Group Holding Ltd., z destilace. Americká vláda souhlasila se sdílením informací, které mají pomoci zakročit proti těmto údajným útokům porušujícím podmínky používání daných společností. Čína odmítla tvrzení, že její vývojáři AI využívají destilaci neférovým způsobem, a úřady v Pekingu v pondělí varovaly, že na případné americké sankce vůči čínským firmám odpovědí vlastními odvetnými opatřeními.
Někteří vývojáři AI v USA, například OpenAI, sice nabízejí modely s otevřenými vahami, většinu pozornosti však věnují uzavřeným nebo proprietárním systémům, které prodávají zákazníkům. Čínské společnosti včetně DeepSeek už dříve zaplavily trh dostupnějšími otevřenými modely. Ty obvykle zaostávají za nejpokročilejším softwarem amerických konkurentů, vzhledem k ceně však představují atraktivní nabídku.
Debata ve Washingtonu o reakci na Moonshot probíhá v době, kdy Trumpova administrativa připravuje návrh rámce pro posuzování bezpečnosti nejpokročilejších systémů AI. Firmy ze Silicon Valley si stěžují na nahodilý charakter nedávných amerických kroků k omezení nových modelů, včetně krátkodobého zavedení vývozních kontrol vůči Anthropicu, které firmu přimělo dočasně vypnout produkty Fable 5 a Mythos 5.
Jeden z připravovaných návrhů, na jehož tvorbě se podílel Bessent, by zřídil nezávislého regulátora, který by s přispěním odvětví prověřoval modely AI. Návrh se podobá plánu, který minulý týden představil generální ředitel Google DeepMind Demis Hassabis. Ten se má tento týden setkat s tvůrci politiky ve Washingtonu a prosazovat svou vizi.
Tato zpráva vznikla s pomocí Bloomberg Automation.
Text vychází ze zprávy agentury Bloomberg a je redakčně upraven pro české čtenáře.
ZDROJ: Bloomberg.com
