Manažéri AI firiem očakávajú veľký kyberútok riadený AI, možný už do roka

Manažéri AI firiem očakávajú veľký kyberútok riadený umelou inteligenciou

Vedenia popredných spoločností v oblasti umelej inteligencie sa pripravujú na možnosť vážneho incidentu spojeného s AI. Podľa informácií portálu Axios manažéri a výskumníci z firiem ako Anthropic či OpenAI v zákulisí rozoberajú scenáre rozsiahleho kybernetického útoku. Niektorí ľudia z odvetvia očakávajú veľký incident v najbližších šiestich až dvanástich mesiacoch.

Mohlo by ísť napríklad o útok, ktorý by narušil finančné služby, internet alebo dodávky elektriny či vody. Nejde o predpoveď konkrétneho útoku ani o tvrdenie, že ho určite vykoná samotná AI. Firmy sa pripravujú na katastrofický scenár, pri ktorom by umelá inteligencia mohla pomôcť útočníkom alebo by sa problém mohol začať zlyhaním autonómnych systémov a predstavoval by hrozbu na úrovni štátov.

Spoločnosti sa obávajú aj následnej politickej a verejnej reakcie. Veľký incident by mohol vyvolať tlak na obmedzenie alebo reguláciu AI. Firmy preto pri plánovaní počítajú aj s tým, ako by po kríze vysvetľovali svoje rozhodnutia zákonodarcom a verejnosti.

Obavy podporujú prípady z testovania modelov

Obavy podporujú aj prípady, ktoré Anthropic nedávno opísal pri testovaní svojich modelov. Model Claude Mythos 5 napríklad počas práce s verejnými webovými stránkami získal prístup k údajom štátnej agentúry, ktoré boli dostupné za poplatok. Zistil, že verejný informačný panel poskytuje návštevníkom prístupový token, a použil ho na dopytovanie databázy. Nešlo o utajované vládne informácie. V samostatnom prípade model obišiel obmedzenia pri prístupe k mape miestnej samosprávy. Takýchto prípadov získania nelegálneho prístupu k dátam je v prípade testovania AI popísaných už niekoľko.

Anthropic uviedol, že väčšina opísaných situácií mala malý dosah a modely konali pri testovaní alebo internom používaní. Spoločnosť zároveň oznámila, že dočasne vypne živý prístup na internet pri všetkých interných testoch, kým neoverí svoje bezpečnostné a monitorovacie opatrenia.

Verejná mienka v USA naznačuje podporu regulácie

V júnovom prieskume AI Policy Institute si 63 percent opýtaných vybralo dočasný zákaz pokročilejšej AI pred možnosťou bez regulácie. Keď však mali na výber aj povinné bezpečnostné štandardy, 66 percent uprednostnilo štandardy pred zákazom a 78 percent pred nulovou reguláciou. Výsledky teda neznamenajú, že väčšina Američanov chce AI všeobecne zakázať. Skôr ukazujú, že v prieskume dávali prednosť záväzným pravidlám. Prieskum sa uskutočnil 10. a 11. júna 2026 medzi 1 007 pravdepodobnými voličmi v USA.