Anthropic планує випустити публічну версію свого модуля кібербезпеки під назвою Mythos. Цей модуль може виявляти вразливість у програмному забезпеченні швидше, ніж більшість команд людей. Але це небезпечно.
Проблема
Проблема в тому, що цей модуль не має жодних механізмів захисту. За їхніми словами, поки що немає. Компанія заявила, що ніхто на Землі не зміг створити достатньо ефективних засобів захисту від такого потужного інструменту. Якщо модуль буде використовуватися без контролю, хакери зможуть його неправильно використовувати. План компанії у тому, щоб уповільнити його розвиток. Спочатку уряди США та союзних країн отримають доступ до цього модуля. А потім, можливо, і решта.
Журнал The Register добре описав це зізнання. Компанія Anthropic назвала цей термін невизначеним. Вони також вказали конкретний проміжок часу від шести до дванадцяти місяців. Вони вважають, що моделі класу Mythos будуть широко доступні у світі кібербезпеки. Але це завжди означає безпеку.
Чому це лякає людей
Модель Mythos була випущена у квітні. Результати тестування були дивними: при використанні стандартних критеріїв модель Mythos успішно створювала шкідливі програми у 72% випадків. Стандартна модель Claude Opus 4.6 майже ніяких успіхів не мала.
Подумайте про різницю між цими моделями.
Дослідники, які не знали коди, попросили AI шукати вразливості під час їхнього сну. Коли вони прокинулися, шкідливі програми вже були готові. Це було реальністю, а чи не здогадкою.
“Моделі класу Mythos стануть широко використовуються”, – пише компанія Anthropic у своєму блозі.
З того часу модель просканувала тисячі відкритих проектів. Було виявлено понад 23 000 вразливостей. Багато хто з них мав серйозний рівень небезпеки. Одна з серйозних помилок сталася з бібліотекою WolfSSL. Ця бібліотека використовується у мільярдах пристроїв. Mythos зміг виявити спосіб підробки сертифікатів. Хакери могли уявляти себе будь-яким сайтом, на який ви заходите. Команда успішно виправила цей баг.
Обурення
Інструменти AI виявляють вразливість швидше, ніж люди можуть їх виправити.
Програми винагороди за виявлені вразливості занепадають. Деякі з них повністю припинили роботу через брак ресурсів. Розробники відкритого програмного забезпечення попросили компанію Anthropic припинити ці програми. Але це не вирішує проблеми. Обсяг повідомлень про вразливість стає занадто великим для них.
Що пропонує компанія Anthropic? Більше ІІ.
Сама компанія стверджує, що зрештою захисники виграють. Але це не втішає нікого. Хто хоче жити у стані невизначеності, доки хакери навчаються?
