Microsoft предупредила, что новые функции искусственного интеллекта (ИИ) в Windows 11 могут непреднамеренно подвергнуть пользователей вредоносному ПО и нарушениям безопасности. Сама компания признаёт, что предоставление ИИ широкого доступа к системе несёт риски, даже для тех, кто выбирает экспериментальные функции.
Автоматизация с Помощью ИИ и Новые Уязвимости
Недавние обновления Windows 11 Insider builds представили возможности «агентного ИИ», позволяющие ИИ автоматизировать такие задачи, как управление электронной почтой и файлами. Хотя эти функции отключены по умолчанию, предупреждение Microsoft о безопасности предостерегает, что их включение создаёт новые векторы атак. В частности, компания указывает на риск «атак с внедрением межпромптовых команд» (XPIA).
«Вредоносный контент, встроенный в элементы пользовательского интерфейса или документы, может переопределить инструкции агента, что приведёт к непреднамеренным действиям, таким как кража данных или установка вредоносного ПО».
Это означает, что тщательно разработанный файл или элемент интерфейса может обмануть ИИ, заставив его выполнить вредоносные команды, такие как установка злонамеренного программного обеспечения или кража данных.
Ответ Microsoft: Рабочее Пространство Агента
Чтобы смягчить эти риски, Microsoft тестирует функцию «рабочего пространства агента». Это рабочее пространство ограничивает доступ ИИ только теми файлами и системами, которые доступны всем пользователям, предотвращая доступ к конфиденциальным данным, специфичным для пользователя.
Почему Это Имеет Значение
Признание того, что функции ИИ вносят уязвимости в безопасность, является значимым. Это подчёркивает присущие трудности интеграции мощных автоматизированных систем в персональные вычисления. ИИ, хотя и обещает эффективность, по-прежнему склонен к ошибкам (так называемым «галлюцинациям») и может быть манипулируем злоумышленниками. Тот факт, что Microsoft сочла необходимым выдать это предупреждение, говорит о том, что такие риски не являются чисто теоретическими.
Быстрая интеграция ИИ в операционные системы ставит вопросы о долгосрочной безопасности и необходимости надёжных мер защиты. Пользователям следует проявлять осторожность перед включением этих функций, поскольку потенциал для вреда, каким бы небольшим он ни был, существует.
Microsoft всё ещё находится на ранних стадиях развёртывания ИИ в Windows 11. Эволюция этих функций будет зависеть от того, насколько хорошо компания сможет решить возникающие проблемы безопасности.
