Anthropic planuje wypuścić publiczną wersję swojego modułu cyberbezpieczeństwa o nazwie Mythos. Moduł ten może wykryć luki w oprogramowaniu szybciej niż większość zespołów ludzkich. Ale to niebezpieczne.
Problem
Problem w tym, że moduł ten nie posiada żadnych mechanizmów ochronnych. Ich własnymi słowami, jeszcze nie. Firma stwierdziła, że nikomu na Ziemi nie udało się stworzyć wystarczająco skutecznego środka ochrony przed tak potężnym narzędziem. Jeśli ten moduł będzie używany bez kontroli, hakerzy będą mogli go niewłaściwie wykorzystać. Plan spółki zakłada spowolnienie jej rozwoju. Dostęp do tego modułu będą miały w pierwszej kolejności rządy USA i sojuszników. A potem być może wszyscy inni.
„Rejestr” dobrze opisał to wyznanie. Anthropic określił termin jako nieokreślony. Wskazali także konkretny okres czasu – od sześciu do dwunastu miesięcy. Wierzą, że modele klasy Mythos będą powszechnie dostępne w świecie cyberbezpieczeństwa. Jednak nie zawsze oznacza to bezpieczeństwo.
Dlaczego to przeraża ludzi?
Model Mythos został wypuszczony w kwietniu. Wyniki testu były dziwne: stosując standardowe kryteria, model Mythos z powodzeniem stworzył szkodliwe oprogramowanie w 72% przypadków. Standardowy model Claude Opus 4.6 – prawie bez sukcesu.
Pomyśl o różnicach między tymi modelami.
Badacze, którzy nie znali kodów, poprosili sztuczną inteligencję, aby podczas snu szukała luk w zabezpieczeniach. Kiedy się obudzili, szkodliwe oprogramowanie było już gotowe. To była rzeczywistość, a nie spekulacja.
„Modele klas Mythos staną się powszechnie stosowane” – pisze Anthropic na swoim blogu.
Od tego czasu model przeskanował tysiące projektów open source. Odkryto ponad 23 000 luk. Wiele z nich stanowiło poważne zagrożenie. Jeden z poważnych błędów wystąpił w bibliotece wolfSSL. Ta biblioteka jest używana na miliardach urządzeń. Mythosowi udało się wykryć sposób na fałszowanie certyfikatów. Hakerzy mogą udawać, że są dowolną witryną, którą odwiedzasz. Zespół pomyślnie naprawił ten błąd.
Oburzenie
Narzędzia AI znajdują luki w zabezpieczeniach szybciej, niż ludzie są w stanie je naprawić.
Zmniejsza się liczba programów nagród za luki w zabezpieczeniach. Część z nich całkowicie przestała działać z powodu braku środków. Twórcy oprogramowania typu open source poprosili firmę Anthropic o zawieszenie tych programów. Ale to nie rozwiązuje problemu. Liczba raportów o podatnościach staje się dla nich zbyt duża.
Co oferuje Anthropic? Więcej sztucznej inteligencji.
Sama firma przekonuje, że w ostatecznym rozrachunku zwyciężą obrońcy. Ale to nikogo nie pociesza. Kto chce żyć w stanie niepewności, podczas gdy hakerzy się uczą?
