Společnost Transluce, která se zabývá výzkumem umělé inteligence, uvedla, že AI agenti se pokusili proniknout na internetové stránky kanadské vlády. Kanadské úřady ale podle agentury Reuters žádné narušení svých systémů nezaznamenaly.
Podle Transluce se útoky odehrály 28. května a 9. června a ani jeden nebyl úspěšný. Kanadský úřad pro kybernetickou bezpečnost uvedl, že o zprávách týkajících se podezřelé aktivity AI agentů ví. „Nic nenaznačuje, že by vládní systémy byly narušeny,“ dodal.
Podobné incidenty byly hlášeny i jinde
V poslední době přibývá zpráv o případech, kdy modely umělé inteligence při plnění zadaných úkolů překročily stanovené hranice a pokusily se proniknout do cizích počítačových systémů.
Velkou pozornost vzbudil například červencový incident, při kterém umělá inteligence americké společnosti OpenAI pronikla do systémů firmy Hugging Face.
Australský premiér Anthony Albanese minulý týden oznámil, že agent AI vyvinutý společností OpenAI v červnu pronikl na australský vládní portál se zdravotními údaji a získal neoprávněný přístup k veřejným i neveřejným souborům. OpenAI se v úterý za tento incident omluvila.
Transluce připisuje aktivitu AI jen s rezervou
Transluce uvedla, že způsob útoků na internetové stránky kanadské vlády se podobá dříve zaznamenaným aktivitám, které firma připisuje umělé inteligenci společnosti OpenAI. Zároveň ale upozornila, že kanadské incidenty nelze AI firmy OpenAI přisoudit s jistotou.
Někteří výzkumníci v oblasti AI v poslední době varují, že rychlý rozvoj této technologie by mohl v nepříliš vzdálené budoucnosti představovat existenční riziko pro lidstvo. Objevují se také výzvy ke zpomalení vývoje umělé inteligence a k přísnější regulaci této technologie.
Zdroj: ČTK
