Autor: Micah Barkley
Debata o tom, jak daleko a jak rychle umělá inteligence postupuje, staví technologické manažery před vážné dilema. Chtějí dát najevo své obavy z možných rizik této technologie a navrhují různá řešení, včetně zpomalení jejího vývoje. Zároveň ale do AI investovali stovky miliard dolarů, takže se snaží veřejnost uklidnit, aniž by vyděsili investory a zákazníky.
Veřejná debata zesílila minulý týden poté, co výzkumník Anthropic PBC Jacob Coxon rezignoval a varoval, že lidé, kteří AI vyvíjejí, „upřímně věří, že by nás mohla všechny zabít do konce desetiletí“. Jeho obavy veřejně zopakovali i další zaměstnanci Anthropic, včetně vedoucího týmu Alignment Science Evana Hubingera, který uvedl, že podle něj existuje více než desetiprocentní pravděpodobnost, že tato technologie během příštího desetiletí způsobí vyhynutí lidstva.
Do debaty vstoupil i prezident Donald Trump, který odmítl potřebu bezpečnostních mantinelů pro AI a zaútočil na generálního ředitele Anthropic Daria Amodeie. Ten v sobotním blogovém příspěvku tvrdil, že schopnosti AI rostou rychleji, než bezpečnostní opatření stačí držet krok, a navrhl větší nezávislý dohled a koordinaci mezi firmami a vládami.
Trump v pondělním příspěvku na Truth Social obvinil „NEMOCNÉ spiknutí“ z odporu voličů vůči datovým centrům AI a rostoucích obav z nejpokročilejších modelů a dodal, že „jediný, kdo z toho má radost, je Čína“. Generální ředitel Nvidia Corp. Jensen Huang v úterý odmítl potřebu nových regulací, zatímco zakladatel Meta Platforms Inc. Mark Zuckerberg podpořil myšlenku nezávislých hodnotitelů namísto záměrného zpomalování vývoje AI.
Elon Musk, SpaceX/SpaceXAI
„Dario má pravdu,“ napsal Musk v příspěvku na síti X.
Sam Altman, OpenAI
„Souhlasím s Dariem, že musíme tempo na hranici možností řídit. V posledních týdnech to bylo hlavní téma našich diskusí v OpenAI. Zavázat se k nezávislým hodnotitelům s přístupem podobným zaměstnancům je skvělý nápad a uděláme totéž. Brzy budeme mít více informací,“ napsal Altman na síti X.
Aidan Gomez, Cohere
„Mechanismus, který všechny zpomalí a současně výslovně zachová stávající obchodní výhodu, AI bezpečnější neudělá,“ uvedl Gomez v blogovém příspěvku, v němž kritizoval návrh na plošné zpomalení AI. Podle něj jsou bezpečnostní mantinely nutné, ale vývoj by měl pokračovat odpovědným tempem, které společnost dokáže zvládat.
Satya Nadella, Microsoft
„Jakákoli snaha o superinteligenci musí stát na základním principu, že pokud AI, kterou vytváříme, nepomáhá lidstvu a není pod lidskou kontrolou, nemá smysl o ni usilovat,“ napsal Nadella na síti X.
Clément Delangue, Hugging Face
„Nyní je jasné, že alignment je klíčový a nevyřeší se za zavřenými dveřmi hrstky laboratoří na hranici vývoje,“ napsal Delangue při citaci Amodeiova příspěvku na X. Oznámil iniciativu Open Alignment Initiative společnosti Hugging Face a uvedl, že firma chce usilovat o účast v programu „embedded evaluators“, k němuž se Anthropic právě zavázala.
George Kurtz, CrowdStrike
„Zpomalit to, co přijde dál, nezabezpečí to, co už je tady,“ napsal Kurtz na síti X. Podle něj by se kyberbezpečnostní sektor měl místo zpomalování vývoje AI soustředit na obranu, která dokáže držet krok se stále autonomnějšími systémy, včetně nezávislého testování, silnějších bezpečnostních kontrol a lidského dohledu nad rozhodnutími s vysokým dopadem.
Jensen Huang, Nvidia
Šéf nejhodnotnější společnosti světa odmítl potřebu bezpečnostních regulací pro AI a tvrdil, že firmy budou k bezpečným inovacím motivovat tržní síly. „Nepotřebujeme nové zákony — nepotřebujeme nové regulace,“ řekl Huang na akci Salesforce Inc. „Postupujete takovým tempem, dokud si nejste jistí, že vydáváte něco, co trh ocení. Tržní síly už existují.“
Mark Zuckerberg, Meta
„Zapojení nezávislých hodnotitelů a poradců je osvědčenou praxí v odvětví,“ napsal Zuckerberg v úterý na síti X. „Meta odložila uvedení Muse o několik měsíců, aby se soustředila na bezpečnost a zabezpečení. Nevyzývali jsme všechny ostatní, aby udělali totéž, než to uděláme my. Prostě jsme to udělali v rámci každodenní práce, protože to bylo zjevně správné pro lidi i pro nás.“
Zuckerberg tvrdí, že AI je bezpečnější, pokud k ní má přístup široké spektrum lidí a organizací, místo aby byla soustředěna v několika firmách. Kritizoval laboratoře, které vyvíjejí stále pokročilejší modely, ale rozhodnou se je neuvolnit, a takový přístup označil za „docela nebezpečný“. Žádné konkrétní společnosti přitom nejmenoval.
Tato zpráva vznikla s pomocí Bloomberg Automation.
Text vychází ze zprávy agentury Bloomberg a je redakčně upraven pro české čtenáře.
ZDROJ: Bloomberg.com
