Společnost Anthropic plánuje vydat veřejnou verzi svého modulu kybernetické bezpečnosti nazvaného Mythos. Tento modul dokáže detekovat zranitelnosti softwaru rychleji než většina lidských týmů. Ale je to nebezpečné.
Problém
Problém je, že tento modul nemá žádné ochranné mechanismy. Podle jejich vlastních slov zatím ne. Společnost uvedla, že nikdo na Zemi nebyl schopen vytvořit dostatečně účinné prostředky ochrany proti tak silnému nástroji. Pokud je tento modul používán bez kontroly, hackeři jej budou moci zneužít. Společnost má v plánu zpomalit svůj rozvoj. Nejprve budou mít přístup k tomuto modulu vlády USA a spojenců. A pak možná všichni ostatní.
Register toto přiznání dobře popsal. Anthropic popsal načasování jako neurčité. Uvedli také konkrétní časové období – od šesti do dvanácti měsíců. Věří, že modely třídy Mythos budou ve světě kybernetické bezpečnosti široce dostupné. Ne vždy to ale znamená bezpečnost.
Proč to lidi děsí?
Model Mythos byl vydán v dubnu. Výsledky testu byly podivné: pomocí standardních kritérií model Mythos úspěšně vytvořil malware v 72 % případů. Standardní model Claude Opus 4.6 – téměř žádný úspěch.
Zamyslete se nad rozdíly mezi těmito modely.
Výzkumníci, kteří neznali kódy, požádali AI, aby hledala zranitelnosti, zatímco oni spali. Když se probudili, malware již byl připraven. Tohle byla realita, ne spekulace.
„Modely třídy Mythos budou široce používány,“ píše Anthropic na svém blogu.
Od té doby model naskenoval tisíce open source projektů. Bylo objeveno více než 23 000 zranitelností. Mnoho z nich bylo ve vážném nebezpečí. K jedné z vážných chyb došlo u knihovny wolfSSL. Tato knihovna se používá v miliardách zařízení. Mythos byl schopen odhalit způsob, jak padělat certifikáty. Hackeři by se mohli vydávat za jakýkoli web, který navštívíte. Tým tuto chybu úspěšně opravil.
Rozhořčení
Nástroje umělé inteligence nacházejí zranitelná místa rychleji, než je lidé mohou opravit.
Programy odměn za zranitelnost jsou na ústupu. Některé z nich přestaly kvůli nedostatku zdrojů fungovat úplně. Vývojáři open source softwaru požádali Anthropic o pozastavení těchto programů. Ale to problém neřeší. Objem zpráv o zranitelnosti je pro ně příliš velký.
Co Anthropic nabízí? Více AI.
Firma sama argumentuje, že nakonec vyhrají obránci. To ale nikoho neutěšuje. Kdo chce žít ve stavu nejistoty, zatímco se hackeři učí?
