AI model Mythos vydesil aj svojich “stvoriteľov”

Dramatické entrée, ktoré Claude Mythos Preview (Mythos) dosiahol, vzbudilo pozornosť médií, ale i finančných expertov a vládnych predstaviteľov viacerých štátov. Tento model spoločnosti Anthropic sa totiž považuje za dvojsečnú zbraň.  

Podľa výskumníkov výborne plní úlohy týkajúce sa počítačovej bezpečnosti. Dokázal by rýchlo, lacno a vo veľkom meradle odhaľovať tisícky zraniteľných miest v softvéroch firiem, ktoré by ich následne včas odstránili. Napríklad Mozilla otestovala Mythos vo svojom prehliadači Firefox, kde bolo zistených a následne opravených desaťkrát viac chýb ako predtým.    

Podľa Anthropic však model predstavuje natoľko vážnu potenciálnu hrozbu pre akúkoľvek organizáciu, že k nemu verejnosť radšej nepustila. Keďže Mythos vie bez ľudského zásahu lokalizovať bugy, ktoré sa skrývajú v starom kóde, ľahko ich dokáže zneužiť. V niektorých činnostiach by svojou šikovnosťou dokonca prekonal ľudí. Aj keď nutne nepredstavuje nový druh kybernetickej hrozby, vie premeniť skrytú slabinu na systémové riziko.  

Najmocnejší hacker na svete

Mythos dokáže identifikovať a využiť aj chyby typu „zero-day“, čiže bugy, o ktorých organizácie a vývojári vôbec nevedia a nestihnú ich opraviť skôr, ako na ne zaútočí potenciálny hacker. Odhalil napríklad 27 rokov starú zraniteľnosť v OpenBSD, ktorý sa používa na prevádzku firewallov a inej kritickej infraštruktúry. Hoci má povesť jedného z najbezpečnejších operačných systémov na svete, toto slabé miesto umožňovalo útočníkovi vzdialene spôsobiť zlyhanie akéhokoľvek počítača s daným operačným systémom. Model tiež objavil niekoľko zraniteľností v jadre Linuxu, ktoré útočníkovi umožňovali eskalovať z bežného prístupu používateľa na úplnú kontrolu nad zariadením.  

Podobné slabiny dokázal Mythos prepojiť a prevziať tak kontrolu nad hlavnými operačnými systémami a webovými prehliadačmi. Zvládol to celkom autonómne. Znepokojivé je aj to, že sa v testoch pokúsil obísť obmedzenia, získať prístup na internet a maskovať svoje stopy. Tento model by mohol umožniť nielen masové krádeže identity a odhalenie obchodných portfólií, ale aj priemyselnú špionáž a manipuláciu s trhom, ktoré predtým vyžadovali kapacity celých štátov.  

Podľa AISI, poprednej svetovej organizácie v oblasti bezpečnosti AI, Mythos ako úplne prvý úspešne dokončil 32-krokovú simuláciu kybernetického útoku na korporátnu sieť. Model teda dokáže zneužiť malé systémy so slabou úrovňou zabezpečenia, no AISI nemôže s istotou povedať, či by bol schopný premôcť dobre chránené systémy. No kým veľké korporácie môžu mať prostriedky na to, aby v reakcii na čoraz sofistikovanejšie AI hrozby posilnili svoju ochranu, menšie subjekty a prevádzkovatelia verejnej infraštruktúry s nedostatočnými zdrojmi sú v horšej pozícii.  

Mythos vyvoláva zmiešané reakcie

Niektorí ministri financií, predstavitelia centrálnych bánk a finančného sektora sa obávajú, že tento model by mohol ohroziť bezpečnosť finančných systémov. Britská vláda varovala tamojšie firmy, že AI čoskoro uľahčí a urýchli kybernetické útoky, na čo väčšina z nich nie je pripravená. Aj Európska komisia vedie rokovania o Mythos s Anthropic.  

Hoci cieľom Anthropic je nakoniec verejne sprístupniť modely triedy Mythos, tento konkrétny predbežný model nebude verejne dostupný. Prístup k nemu dostalo len približne 50 technologických firiem a bánk, ktoré majú v rámci projektu Glasswing posúdiť riziká Mythosu pre ich podnikanie a zákazníkov. Opravou zraniteľných miest by mali pomôcť ochrániť najkritickejší softvér na svete. Je medzi nimi aj Amazon Web Services, Apple, Google či JPMorganChase.  

Konkurencia Anthropic, OpenAI, išla inou cestou. Podobne výkonný model, GPT-5.4-Cyber, bol vydaný s oveľa menej obmedzujúcimi podmienkami ako Mythos. Jeho mladší súrodenec GPT-5.5 je dokonca verejne dostupný. Zároveň si treba uvedomiť, že pokročilé modely majú tendenciu byť rýchlo kopírované inými firmami, vrátane open-source vývojármi, ktorých nástroje sú užívateľom voľne dostupné. 

Niektorí nezávislí analytici a experti v oblasti kybernetickej bezpečnosti však zostávajú voči výkonnosti Mythosu skeptickí. Spoločnosť Aisle, ktorá sa zaoberá kyberbezpečnosťou v oblasti AI, analyzovala hlavné tvrdenia Anthropic o zraniteľnostiach typu zero-day. Zistila, že tieto problémy dokázali odhaliť aj iné, oveľa lacnejšie modely. Odborníci tiež varujú, že väčšina narušení bezpečnosti stále pochádza z dobre známych rizík, ako je slabá autentifikácia a už zistené chyby, ktoré neboli opravené. Aj keď nie je pochýb o tom, že Mythos je výkonný, dramatické oznámenie spoločnosti mu zabezpečilo značnú mediálnu pozornosť.  

Nie sme dosť chránení

Prekvapivé je, že na to, aby sa k modelu, ktorý vzbudil vážne medzinárodné obavy, dostali nepovolené osoby, neboli potrebné ani vysoko sofistikované hackerské nástroje. Skupine nemenovaných osôb stačilo nájsť medzery v okolitom prostredí systému, ako sú nesprávne nakonfigurované prístupové oprávnenia. Tento incident zdôrazňuje dôležitosť zabezpečenia nielen AI modelu, ale aj každej úrovne prístupu k nemu. Ak nie sú dodávatelia, externí poskytovatelia a nastavenia oprávnení starostlivo monitorované, môžu predstavovať riziko. Zároveň sa objavili otázky o tom, nakoľko sú veľké súkromné spoločnosti schopné zabrániť tomu, aby sa ich pokročilé AI modely dostali do nesprávnych rúk.  

Predpokladá sa, že v najbližšej dobe vlády pravdepodobne prehodnotia svoje protokoly kyberbezpečnosti a rámce reakcie na incidenty tak, aby do nich zahrnuli povinné nepretržité skenovanie zraniteľností pomocou AI. Časy, keď sa organizácie spoliehali len na príležitostné kontroly vykonávané ľuďmi, by sa tak skončili. Hoci by to mohlo vďaka rýchlejšiemu odhaľovaniu chýb výrazne zvýšiť bezpečnosť, pravdepodobne by to znásobilo i náklady a riziko spomalenia systémov, falošných poplachov alebo krátkodobých prevádzkových výpadkov pri aplikovaní opráv.  

Rýchly technologický pokrok tiež prináša otázku, nakoľko by súkromné spoločnosti mali prijímať čoraz dôležitejšie rozhodnutia o tom, či a ako by sa mali vytvárať potenciálne nebezpečné AI modely a komu by malo byť povolené ich používať. Od 2. augusta navyše v EÚ vojde do platnosti Akt o umelej inteligencii, ktorý sa zaoberá systémovými rizikami vyplývajúcimi z najpokročilejších modelov. A hoci predstavuje dobrý začiatok, Mythos a predzvesť budúcich nástrojov AI poukazujú na potrebu prísnejších pravidiel a robustných medzinárodných noriem v oblasti kybernetickej bezpečnosti.  

Bez nich hrozí, že namiesto jedného bezpečného internetu vznikne množstvo konkurenčných sietí, z ktorých každá bude „opravovať“ svoj vlastný systém a žiadnej z ostatných nebude plne dôverovať. Internet by už nebol globálnym spoločným priestorom. Podľa The Guardian tá firma alebo štát, ktorý vytvorí najvýkonnejšie AI modely, získa geopolitické výhody nielen voči svojim spojencom, ale aj nepriateľom.   

Ak chceš využiť svoju odvahu a expertízu na posilnenie kybernetickej obrany významných systémov, prezri si titanské IT projekty. Pomôžeme ti prejsť do nezávislej dimenzie freelancingu, kde zachrániš firmy pred sofistikovanými útokmi hackerov, vycibríš si portfólio a objavíš rozsiahlu komunitu ďalších technologických talentov.