Компания Microsoft намерена внедрить новые ИИ-функции в операционную систему Windows 11 на основе отдельных ИИ-агентов. В середине октября Microsoft заявила, что превратит каждый компьютер с Windows 11 в ПК с ИИ, и уверенно двигается в этом направлении. Это предполагает новые способы взаимодействия с системой и общую смену парадигмы развития ОС.

В какой-то момент даже привычные операции с помощью мыши и клавиатуры заменят ИИ-агенты. Для этого у компании уже есть Copilot Voice и Copilot Vision в составе Copilot Actions, что делает возможным управление визуальным интерфейсом и содержимым на экране с помощью голосовых команд. Последние апдейты превращают панель задач Windows 11 в центр управления ИИ-агентами для быстрого доступа к ИИ-функциям (пока опционально).

Одновременно Microsoft в открытой документации и комментариях признает новые опасности. Это связано с возможностью галлюцинаций у ИИ, а также с новыми угрозами безопасности. Агенты уязвимы к перекрестному внедрению запросов (XPIA), вредоносным запросам и воздействию вредоносного ПО. Самым серьезным риском является XPIA. Это ситуация, когда ИИ-агент обманут сложным запросом. Например, он может получить инструкцию, которая заставит его выполнить вредное ПО или предоставить конфиденциальные данные. И соответствующие исследования показывают, что ИИ-агенты для работы с графическим интерфейсом вполне уязвимы к таким косвенным атакам, поскольку получают высокие привилегии.

Поэтому Microsoft вводит схему, когда ИИ-агенты будут работать под отдельными учетными записями с ограниченными правами доступа. Хотя доступ к папкам «Документы», «Видео», «Загрузки», «Рабочий стол» и т.п. по умолчанию им все равно открыт. Новый уровень безопасности обеспечит внедрение рабочего пространства Agent Workspace, что станет основой концепции ОС с ИИ-агентами. Это параллельная среда Windows с собственной учётной записью и собственными правами. Она будет запускаться для каждого сеанса с ИИ-агентом, а ОС будет воспринимать его как отдельного пользователя со своим уровнем доступа. В этом пространстве агент работает с приложениями, веб-средой и данными, но если возникнет угроза, то урон будет ограничен своей учетной записью. А отдельные запреты и контроль будут предотвращать доступ к системным папкам.

Источник:
Windows Latest