Washington 1. července (ČTK) – Bílý dům po třech týdnech restrikcí zcela uvolnil ruce technologickému startupu Anthropic. Administrativa amerického prezidenta Donalda Trumpa v úterý večer povolila firmě obnovit plný přístup k jejím nejpokročilejším modelům umělé inteligence Claude Fable 5 a Mythos 5. Ty byly pro globální klientelu nedostupné od 12. června kvůli akutním bezpečnostním obavám vlády z kybernetických hrozeb.
„Obdrželi jsme zprávu, že ministerstvo obchodu zrušilo exportní omezení vůči Claude Fable 5 a Mythos 5,“ potvrdila firma Anthropic na svém účtu na síti X s tím, že okamžitě zahajuje obnovování plného provozu.
AI psala nebezpečný kód: Na zranitelnost systému upozornil Amazon
Za třítýdenním stažením nejnovějších modelů (ke kterému došlo pouhé tři dny po spuštění vlajkové lodi Fable 5 stál nebezpečný objev výzkumníků ze společnosti Amazon. Ti v systému odhalili kritické slabiny.
Bezpečnostní incident: Specialisté Amazonu našli způsob, jak obejít integrovaná bezpečnostní opatření. Model Fable 5 poté dokázal sám identifikovat zranitelnosti softwaru a v jednom případě dokonce vygeneroval funkční kód demonstrující, jak tyto slabiny zneužít ke kybernetickému útoku.
Anthropic na situaci reagoval nasazením nových ochranných filtrů, které toto chování blokují. Pokud systém detekuje pokus o zneužití, požadavek automaticky přesměruje na starší, bezpečnější model Opus 4.8. Vedení firmy však otevřeně varovalo, že stoprocentní odolnost proti obcházení pravidel (tzv. jailbreakingu) nelze u žádné pokročilé AI nikdy garantovat.
Dohoda s ministrem: Anthropic podepsal pakt s vládou
K úplnému odblokování exportu pomohlo to, že společnost přistoupila na striktní podmínky Washingtonu, který se dlouhodobě obává, že by pokročilé americké technologie mohly zneužít vojenské rozvědky v Číně, Rusku nebo Íránu.
Americký ministr obchodu Howard Lutnick potvrdil, že restrikce skončily až poté, co Anthropic oficiálně „souhlasil s tím, že bude proaktivně odhalovat a řešit bezpečnostní rizika“. Firma se navíc zavázala, že bude s vládou sdílet protokoly budoucích modelů a okamžitě hlásit jakoukoliv detekovanou škodlivou činnost.
Válka s Pentagonem trvá: Stopka pro masové sledování a autonomní zbraně
Přestože ministerstvo obchodu firmě vyhovělo, vztahy mezi Anthropicem a americkou armádou zůstávají na bodu mrazu. Ministerstvo obrany (Pentagon) na konci února označilo firmu za bezpečnostní riziko pro dodavatelský řetězec a kompletně ji odstřihlo od jakýchkoliv vládních zakázek.
| Postoj Pentagonu | Hodnoty společnosti Anthropic |
| Požaduje využití AI pro armádní a bezpečnostní účely. | Odmítá vývoj technologií pro masové sledování domácností. |
| Trvá na zakázkách pro moderní obranu. | Striktně blokuje nasazení AI pro plně autonomní zbraňové systémy. |
Generální ředitel Anthropiku Dario Amodei nekompromisní vojenské veto obhajuje tím, že zneužití umělé inteligence pro tyto účely by přímo podkopávalo demokratické hodnoty.
Společnost Anthropic založili v roce 2021 bývalí klíčoví zaměstnanci firmy OpenAI (tvůrci ChatGPT). Ti společnost opustili právě kvůli nesouhlasu s přílišnou komercializací a zanedbáváním bezpečnostních rizik. Hlavním produktem firmy je chatbot Claude, který dnes patří k absolutní světové špičce.
