Vývojáři umělé inteligence by podle šéfa americké společnosti Anthropic Daria Amodeie měli zpomalit tempo, kterým zvyšují schopnosti svých modelů. Amodei představil tříbodový rámec, který má podle něj dát firmám více času na zvládnutí rizik spojených s rychlým rozvojem AI. Reaguje tak na sílící obavy z možného zneužití této technologie, uvedla agentura Reuters.
„Musíme zpomalit tempo, jakým zlepšujeme schopnosti modelů umělé inteligence. Pokrok bude i tak rychlý a my musíme moudře využít čas, který tím získáme,“ napsal Amodei v eseji zveřejněné na sociální síti X.
Anthropic upozornil na zneužití svých modelů
Výzva přichází krátce po zprávě, kterou Anthropic zveřejnil ve čtvrtek. Firma v ní popsala několik případů, kdy byly její modely Claude využity k nebezpečným aktivitám.
Podle společnosti šlo mimo jiné o vývoj zbraní, kybernetické operace, sledování a podvody. Zpráva přispěla k debatě o tom, zda současné bezpečnostní mechanismy dokážou držet krok s rychlým rozšiřováním schopností generativní AI.
Výzkumník varoval před krajním scénářem
Obavy o budoucí bezpečnost umělé inteligence zesílily také po odchodu výzkumníka Anthropic Jacoba Coxona. Tento týden podal výpověď a uvedl, že podle něj lidé pracující na vývoji AI skutečně věří, že by tato technologie mohla do konce tohoto desetiletí způsobit lidstvu katastrofální následky.
Amodei přitom zdůrazňuje, že jeho cílem není technologický pokrok zastavit. Zpomalení má podle něj vytvořit prostor pro lepší zabezpečení modelů a nezávislé ověření toho, zda přijatá opatření skutečně fungují.
Anthropic chce zapojit externí odborníky
Součástí navrhovaného přístupu má být podle Amodeie také větší dohled zvenčí. Anthropic chce do předních společností zabývajících se umělou inteligencí umístit stálé externí odborníky, kteří by měli přístup k relevantním nástrojům i interním procesům vyhodnocování rizik.
Amodei zároveň vyzval firmy v oboru k dobrovolné spolupráci na vytvoření společných bezpečnostních standardů. Podle něj je to důležité i vzhledem k tomu, že američtí zákonodárci tlačí na přijetí nových pravidel pro oblast umělé inteligence.
Šéf Anthropic tak prosazuje postup, který by podle něj umožnil pokračovat v rychlém technologickém rozvoji, ale zároveň poskytl firmám i nezávislým odborníkům více času na posouzení a omezení jeho možných rizik.
Zdroj: ČTK
