Microsoft представила Agent 365 и Microsoft 365 Enterprise 7 – новые инструменты, предназначенные для решения растущей проблемы безопасности: неконтролируемые ИИ-агенты, действующие внутри организаций. Запуск, вступающий в силу 1 мая, происходит на фоне стремительного распространения ИИ-агентов, которые уже используются более чем в 80% компаний из списка Fortune 500 – зачастую без должного надзора.
Растущая Угроза Неуправляемого ИИ
Основная проблема заключается в том, что ИИ-агенты, ранее экспериментальные, теперь глубоко интегрированы в операционные структуры. Без мониторинга эти агенты могут быть скомпрометированы и действовать против своих организаций. Microsoft называет такие скомпрометированные системы «двойными агентами», подчеркивая риск манипулирования посредством инъекций запросов, отравления моделей или других техник.
Проблема реальна: почти треть агентов функционирует без одобрения ИТ- или служб безопасности, и почти половина организаций не имеет никаких мер безопасности для своих ИИ-развертываний. Это создает существенную слепую зону, особенно учитывая, что злоумышленники разрабатывают все более изощренные методы взлома агентов. Недавние исследования показывают, что компании неосознанно внедряют вредоносные инструкции в инструменты на базе ИИ, создавая «спящих агентов», готовых выполнять вредоносные команды.
Решение Microsoft: Agent 365 и E7
В качестве противодействия Microsoft предлагает два решения:
- Agent 365 (15 долларов за пользователя в месяц): Централизованная «панель управления» для наблюдения, регулирования и защиты ИИ-агентов в масштабе предприятия.
- Microsoft 365 Enterprise 7 (99 долларов за пользователя в месяц): Объединяет Agent 365 с Copilot и расширенными функциями безопасности, предлагая комплексное решение для управления ИИ.
Платформа расширяет существующую инфраструктуру безопасности (Defender, Entra, Purview) на нечеловеческие сущности. Ключевые функции включают Реестр Агентов для отслеживания всех агентов, Agent ID для управления идентификацией и защиту данных с помощью меток конфиденциальности и мониторинга инсайдерских рисков.
Подход соответствует принципам нулевого доверия, применяемым к ИИ, обеспечивая, что агенты рассматриваются как потенциальные угрозы до тех пор, пока не будут проверены. Microsoft может блокировать рискованные агенты в режиме реального времени.
Почему Это Важно Сейчас
Быстрое внедрение ИИ-агентов опережает разработку эффективных инструментов управления. Рынок, по прогнозам, достигнет 1,3 миллиарда агентов к 2028 году, но многие организации не готовы к последствиям для безопасности.
Это не просто техническая проблема; это бизнес-риск. Неконтролируемые агенты могут привести к утечке конфиденциальных данных, саботажу операций или стать точками входа для кибератак. Этот шаг Microsoft сигнализирует о переходе от экспериментов к операционной безопасности в эпоху автономного ИИ.
Расширение Copilot и Геополитический Контекст
Запуск приурочен к третьей волне Microsoft 365 Copilot, которая теперь включает в себя модель Claude от Anthropic наряду с OpenAI. Это расширение происходит в условиях геополитической напряженности, поскольку Министерство обороны США недавно обозначило Anthropic как риск для цепочки поставок из-за отказа компании соответствовать требованиям Пентагона. Продолжающаяся поддержка Microsoft Anthropic подчеркивает ее приверженность разнообразию моделей, несмотря на политическое давление.
Главный Вывод
Microsoft делает ставку на то, что предприятия отдадут приоритет управлению ИИ, прежде чем злоумышленники воспользуются текущими уязвимостями. Гонка между созданием и контролем началась, и компания позиционирует себя как надежного поставщика для обеспечения безопасности будущего ИИ-управляемых рабочих процессов.
Неясно, насколько быстро предприятия примут эти инструменты, чтобы опередить угрозу, но ставки очевидны: неуправляемые ИИ-агенты представляют собой реальный и растущий риск для организаций любого размера.
