Компания Anthropic планирует выпустить публичную версию своего модуля кибербезопасности под названием Mythos. Этот модуль может обнаруживать уязвимости в программном обеспечении быстрее, чем большинство команд людей. Но это опасно.
Проблема
Проблема в том, что у этого модуля нет никаких механизмов защиты. По их собственным словам, пока нет. Компания заявила, что никто на Земле не смог создать достаточно эффективные средства защиты от такого мощного инструмента. Если этот модуль будет использоваться без контроля, хакеры смогут его неправильно использовать. План компании заключается в том, чтобы замедлить его развитие. Сначала правительства США и союзных стран получат доступ к этому модулю. А потом, возможно, и все остальные.
Журнал The Register хорошо описал это признание. Компания Anthropic назвала этот срок неопределенным. Они также указали конкретный промежуток времени – от шести до двенадцати месяцев. Они считают, что модели класса Mythos будут широко доступны в мире кибербезопасности. Но это не всегда означает безопасность.
Почему это пугает людей
Модель Mythos была выпущена в апреле. Результаты тестирования были странными: при использовании стандартных критериев модель Mythos успешно создавала вредоносные программы в 72% случаев. Стандартная модель Claude Opus 4.6 – почти никаких успехов не было.
Подумайте о разнице между этими моделями.
Исследователи, которые не знали коды, попросили AI искать уязвимости во время их сна. Когда они проснулись, вредоносные программы уже были готовы. Это было реальностью, а не догадкой.
“Модели класса Mythos станут широко используемыми”, – пишет компания Anthropic в своем блоге.
С тех пор модель просканировала тысячи открытых проектов. Было обнаружено более 23,000 уязвимостей. Многие из них имели серьезный уровень опасности. Один из серьезных ошибок произошел с библиотекой wolfSSL. Эта библиотека используется в миллиардах устройств. Mythos смог обнаружить способ подделки сертификатов. Хакеры могли представлять себя любым сайтом, на который вы заходите. Команда успешно исправила этот баг.
Возмущение
Инструменты AI обнаруживают уязвимости быстрее, чем люди могут их исправить.
Программы вознаграждения за обнаруженные уязвимости приходят в упадок. Некоторые из них полностью прекратили работу из-за нехватки ресурсов. Разработчики открытого программного обеспечения попросили компанию Anthropic приостановить эти программы. Но это не решает проблемы. Объем сообщений о уязвимостях становится слишком большим для них.
Что предлагает компания Anthropic? Больше ИИ.
Сама компания утверждает, что в конечном итоге защитники выиграют. Но это не утешает никого. Кто хочет жить в состоянии неопределенности, пока хакеры учатся?
