Microsoft telah meluncurkan Agent 365 dan Microsoft 365 Enterprise 7, alat baru yang dirancang untuk mengatasi ancaman keamanan yang semakin meningkat: agen AI tidak terkendali yang beroperasi dalam organisasi. Peluncuran ini, yang efektif tanggal 1 Mei, dilakukan ketika agen AI berkembang pesat, dengan lebih dari 80% perusahaan Fortune 500 telah menggunakannya—seringkali tanpa pengawasan yang tepat.
Meningkatnya Ancaman Rogue AI
Kekhawatiran utamanya adalah bahwa agen AI, yang dulunya bersifat eksperimental, kini tertanam kuat dalam struktur operasional. Tanpa pengawasan, agen-agen ini dapat dieksploitasi dan bertindak melawan organisasi induknya. Microsoft menyebut sistem yang disusupi ini sebagai “agen ganda”, yang menyoroti risiko manipulasi melalui injeksi cepat, keracunan model, atau teknik lainnya.
Masalahnya nyata: hampir sepertiga agen beroperasi tanpa persetujuan TI atau keamanan, dan hampir separuh organisasi tidak memiliki langkah-langkah keamanan apa pun untuk penerapan AI mereka. Hal ini menciptakan titik buta yang signifikan, terutama ketika penyerang mengembangkan metode yang semakin canggih untuk membajak agen. Penelitian terbaru menunjukkan bahwa perusahaan tanpa sadar menanamkan instruksi berbahaya ke dalam alat yang didukung AI, sehingga menciptakan “agen tidur” yang siap menjalankan perintah berbahaya.
Solusi Microsoft: Agen 365 dan E7
Untuk mengatasi hal ini, Microsoft menawarkan dua solusi:
- Agen 365 ($15/pengguna/bulan): Sebuah “bidang kendali” terpusat untuk mengamati, mengatur, dan mengamankan agen AI di seluruh perusahaan.
- Microsoft 365 Enterprise 7 ($99/pengguna/bulan): Menggabungkan Agent 365 dengan Copilot dan fitur keamanan tingkat lanjut, yang bertujuan untuk memberikan solusi tata kelola AI yang komprehensif.
Rangkaian ini memperluas infrastruktur keamanan yang ada (Defender, Entra, Purview) ke entitas non-manusia. Fitur utama mencakup Registri Agen untuk melacak semua agen, ID Agen untuk manajemen identitas, dan perlindungan data melalui label sensitivitas dan pemantauan risiko orang dalam.
Pendekatan ini mencerminkan prinsip keamanan zero-trust yang diterapkan pada AI, memastikan agen diperlakukan sebagai ancaman potensial hingga diverifikasi. Microsoft dapat memblokir agen berisiko secara real-time.
Mengapa Ini Penting Sekarang
Pesatnya adopsi agen AI melampaui pengembangan alat tata kelola yang efektif. Pasarnya diperkirakan akan mencapai 1,3 miliar agen pada tahun 2028, namun banyak organisasi yang tidak siap menghadapi implikasi keamanannya.
Ini bukan hanya masalah teknis; ini merupakan risiko bisnis. Agen yang tidak terkontrol dapat membocorkan data sensitif, menyabotase operasi, atau menjadi titik masuk serangan siber. Langkah Microsoft menandakan peralihan dari eksperimen ke keamanan operasional di era AI yang otonom.
Ekspansi Kopilot dan Arus Geopolitik
Peluncuran ini terkait dengan Gelombang 3 dari Microsoft 365 Copilot, yang kini menyertakan model Claude Anthropic bersama dengan OpenAI. Ekspansi ini terjadi di tengah ketegangan geopolitik, karena Departemen Pertahanan AS baru-baru ini menandai Anthropic sebagai risiko rantai pasokan karena penolakannya untuk mematuhi ketentuan Pentagon. Dukungan berkelanjutan Microsoft terhadap Anthropic menggarisbawahi komitmennya terhadap keberagaman meskipun ada tekanan politik.
Intinya
Microsoft bertaruh bahwa perusahaan akan memprioritaskan tata kelola AI sebelum penyerang mengeksploitasi kerentanan yang ada. Perlombaan antara penciptaan dan pengendalian sedang berlangsung, dan perusahaan memposisikan dirinya sebagai penyedia tepercaya untuk mengamankan masa depan alur kerja berbasis AI.
Masih belum pasti apakah dunia usaha akan mengadopsi alat-alat ini dengan cukup cepat untuk tetap berada di depan ancaman tersebut, namun taruhannya jelas: agen AI yang tidak diatur menimbulkan risiko yang nyata dan semakin besar bagi organisasi dari semua ukuran.
