Jak informoval web ČTK, americké technologické společnosti Microsoft, Google a xAI poskytnou vládě Spojených států přístup k novým modelům umělé inteligence (AI) před jejich uvedením na trh. Oznámila to dnes americká vláda, která tak bude moci prověřit, zda modely nepředstavují hrozbu pro národní bezpečnost.
Oznámení podtrhuje rostoucí obavy Washingtonu z rizik spojených s výkonnými AI systémy. Americké úřady chtějí v rámci předběžného přístupu k novým modelům identifikovat možné hrozby. Například zneužití modelů ke kybernetickým útokům či vojenským účelům, píše agentura Reuters.
Dohody s firmami Microsoft, Google a xAI uzavřelo Centrum pro AI standardy a inovace (CAISI). To spadá pod americké ministerstvo obchodu. „CAISI bude provádět předběžná hodnocení a cílený výzkum, aby lépe posoudilo schopnosti nejnovější AI a posílilo její bezpečnost,“ píše se v tiskové zprávě.
Obavy, že by se umělá inteligence mohla stát nástrojem hackerů, v poslední době posílil nový model Mythos od společnosti Anthropic. Ten údajně umí velmi rychle identifikovat slabiny v počítačových systémech. Firma Anthropic tvrdí, že Mythos je z tohoto důvodu příliš nebezpečný, než aby jej zpřístupnila veřejnosti.
Se společností Anthropic a jejím konkurentem OpenAI se americká vláda na předběžném přístupu k AI modelům dohodla již v roce 2024.
