Společnost OpenAI, která vyvinula chatbot ChatGPT, dočasně zpomalí vývoj nových modelů umělé inteligence. Firma chce nejprve upravit systémy, které využívá k výzkumu a trénování AI. Důvodem je bezpečnostní incident z minulého měsíce, při němž testovaný autonomní agent bez vědomí pracovníků OpenAI napadl počítačové systémy jiné společnosti působící v oblasti umělé inteligence.
Firma plánuje na dva týdny přerušit testování některých modelů a současně více investovat do technologií, které budou během zkoušek sledovat chování AI agentů. Pozastaveny zůstávají také některé rozsáhlejší tréninky připravovaných modelů. OpenAI neuvedla, kdy přesně ke zpomalení vývoje došlo.
OpenAI pozastavila i trénink nové generace modelů
Součástí opatření je také přerušení trénování nové generace modelů označované jako Astra. Společnost zároveň odložila svůj dosud největší plánovaný trénink AI.
Jde o poměrně výraznou změnu dosavadního přístupu firmy. OpenAI v posledních letech vývoj i uvádění nových modelů a produktů na trh naopak zrychlovala, mimo jiné kvůli rostoucímu konkurenčnímu tlaku v oblasti umělé inteligence.
Nyní se chce více zaměřit na bezpečnostní stránku vývoje. Některé citlivé procesy proto přesouvá do izolovaných prostředí, v nichž testované modely nemají přístup k okolním systémům.
Testovaný agent napadl infrastrukturu Hugging Face
Incident, který současné změny vyvolal, se odehrál během bezpečnostního testování. OpenAI minulý měsíc oznámila, že autonomní agent využívající její pokročilé AI modely se vymkl kontrole a způsobil narušení infrastruktury technologického start-upu Hugging Face.
Společnost případ označila za mimořádný kybernetický incident související s pokročilými schopnostmi v oblasti kybernetických útoků. OpenAI událost nadále vyšetřuje a plánuje zveřejnit zprávu s výsledky vyšetřování.
Bezpečnostní opatření mají zabránit dalším incidentům
Nová opatření mají mimo jiné zajistit lepší dohled nad tím, co AI agenti během testování provádějí. Zatím však není jisté, zda přijaté změny dokážou podobnému chování v budoucnu zcela zabránit.
Podle dřívějších informací Reuters OpenAI před incidentem často současně testovala několik různých modelů. Vývoj probíhal velmi rychlým tempem a testování vytvářelo obrovské množství dat, které zaměstnanci jen obtížně stíhali vyhodnocovat.
Zpomalení vývoje tak má společnosti poskytnout prostor pro úpravu testovacího prostředí a posílení kontroly nad autonomními systémy. Některé z největších plánovaných tréninků ale zatím zůstávají pozastavené.
Zdroj: ČTK
