Microsoft představil Agent 365 a Microsoft 365 Enterprise 7, nové nástroje navržené k řešení rostoucího bezpečnostního problému: podvodní agenti AI působící uvnitř organizací. Spuštění s platností od 1. května přichází uprostřed rychlého šíření agentů AI, které již využívá více než 80 % společností z Fortune 500 – často bez řádného dohledu.
Rostoucí hrozba neřízené umělé inteligence
Hlavním problémem je, že agenti AI, kdysi experimentální, jsou nyní hluboce integrováni do operačních struktur. Bez monitorování mohou být tito agenti kompromitováni a jednat proti jejich organizacím. Microsoft nazývá takovéto kompromitované systémy „dvojitými agenty“, čímž zdůrazňuje riziko manipulace prostřednictvím vkládání dotazů, otravy modelu nebo jiných technik.
Problém je skutečný: Téměř třetina agentů pracuje bez schválení IT nebo zabezpečení a téměř polovina organizací nemá zavedena žádná bezpečnostní opatření pro nasazení AI. To vytváří významné slepé místo, zvláště když útočníci vyvíjejí stále sofistikovanější metody ke kompromitaci agentů. Nedávný výzkum ukazuje, že společnosti nevědomky vkládají škodlivé pokyny do nástrojů poháněných umělou inteligencí a vytvářejí „agenty spánku“ připravené provádět škodlivé příkazy.
Řešení společnosti Microsoft: Agent 365 a E7
Aby tomu Microsoft čelil, nabízí dvě řešení:
- Agent 365 (15 USD za uživatele/měsíc): Centralizovaný „dashboard“ pro monitorování, regulaci a ochranu agentů AI v celém podniku.
- Microsoft 365 Enterprise 7 (99 USD za uživatele/měsíc): Kombinuje Agenta 365 s Copilotem a pokročilými bezpečnostními funkcemi a nabízí tak komplexní řešení správy AI.
Platforma rozšiřuje stávající bezpečnostní infrastrukturu (Defender, Entra, Purview) na jiné než lidské entity. Mezi klíčové funkce patří registr agentů pro sledování všech agentů, ID agenta pro správu identit a ochrana dat pomocí štítků citlivosti a monitorování vnitřních rizik.
Tento přístup se řídí zásadami nulové důvěry aplikovanými na AI a zajišťuje, že s agenty se bude až do ověření zacházet jako s potenciálními hrozbami. Microsoft dokáže blokovat rizikové agenty v reálném čase.
Proč na tom teď záleží
Rychlé přijetí agentů AI předbíhá vývoj účinných nástrojů pro správu. Předpokládá se, že trh dosáhne do roku 2028 1,3 miliardy agentů, ale mnoho organizací není na bezpečnostní důsledky připraveno.
Nejedná se pouze o technický problém; Jedná se o obchodní riziko. Nekontrolovaní agenti mohou uniknout citlivá data, sabotovat operace nebo se stát vstupními body pro kybernetické útoky. Krok Microsoftu signalizuje posun od experimentování k provozní bezpečnosti v době autonomní umělé inteligence.
Rozšíření druhého pilota a geopolitický kontext
Uvedení na trh se shoduje s třetí vlnou Microsoft 365 Copilot, která nyní zahrnuje model Claude od Anthropic spolu s OpenAI. Expanze přichází v době geopolitického napětí, přičemž americké ministerstvo obrany nedávno označilo Antropic za riziko dodavatelského řetězce kvůli tomu, že společnost nesplnila požadavky Pentagonu. Pokračující podpora společnosti Anthropic ze strany Microsoftu podtrhuje její závazek vůči různým modelům navzdory politickému tlaku.
Hlavní závěr
Microsoft sází na to, že podniky budou upřednostňovat správu AI před tím, než útočníci zneužijí aktuální zranitelnosti. Závod mezi tvorbou a ovládáním je v plném proudu a společnost se staví jako důvěryhodný poskytovatel, aby zajistila budoucnost pracovních postupů řízených umělou inteligencí.
Není jasné, jak rychle podniky přijmou tyto nástroje, aby zůstaly před hrozbou, ale sázka je jasná: podvodní agenti AI představují skutečné a rostoucí riziko pro organizace všech velikostí.
