引言：AI代理进入操作系统核心
微软近年来一直在Windows 11中整合人工智能功能，但近期这些功能已进入操作系统更深层次，包括生成式AI和所谓的"代理式"AI功能。最新发布的Windows 11测试版本中，设置中新增了一个"实验性代理功能"开关，用于支持名为Copilot Actions的功能。微软还发布了一份详细的支持文章，详细说明了这些"实验性代理功能"将如何工作。
这些AI代理被设计为能够在后台执行分配的任务，使用户可以将注意力转向其他地方。微软表示，这些代理应该能够完成"日常任务，如整理文件、安排会议或发送邮件"，而Copilot Actions应该为用户提供"一个积极的数字协作者，可以为您执行复杂任务以提高效率和生产力"。
然而，就像其他类型的AI一样，这些代理容易出错和编造信息，即使它们不知道自己在做什么，也会继续进行。更重要的是，它们带来了"新颖的安全风险"，主要集中在攻击者能够向这些代理发出指令时可能发生的情况。
AI代理的工作原理与功能
代理式AI的定义与目标
"代理式"是微软反复用来描述其对Windows 11未来野心的一个流行词——用更通俗的语言来说，这些代理旨在在后台完成分配的任务，允许用户将注意力转向其他地方。微软希望这些代理能够成为用户的智能助手，处理各种日常任务，从而提高工作效率。
Copilot Actions的功能特点
Copilot Actions是微软推出的一个功能，旨在为用户提供"一个积极的数字协作者，可以为您执行复杂任务以提高效率和生产力"。这些功能允许AI代理在用户不知情的情况下在后台工作，自动完成各种任务。
目前，这些"实验性代理功能"是可选的，仅在Windows 11的早期测试版本中可用，并且默认处于关闭状态。这一功能代表了微软将其AI功能更深地集成到操作系统中的最新尝试。
安全风险分析
数据访问权限问题
AI代理在PC上运行时将被赋予独立于用户个人账户的用户账户，确保它们没有更改系统上所有内容的权限，并为它们提供自己的"桌面"工作空间，不会干扰用户在屏幕上的工作。然而，这并不能完全消除风险。
这些代理将能够请求对其用户账户中大多数文件的读写访问权限——默认情况下，可以访问Documents、Downloads、Desktop、Music、Pictures和Videos文件夹中的任何内容。它们还可以访问已为PC上所有用户安装的任何应用程序（仅安装在用户个人账户中的应用程序将无法被代理访问，并且用户也可以安装仅其代理可以访问的应用程序）。
潜在的攻击向量
代理可能容易受到劫持，使您的数据面临攻击者的风险——微软特别提到了"跨提示注入(XPIA)"，其中嵌入在UI元素或文档中的恶意内容可以覆盖代理指令，导致数据泄露或恶意软件安装等意外操作。
此外，AI代理的另一个风险是它们的"自信错误"。这些AI系统容易出错和编造信息，即使它们不知道自己在做什么，也会继续进行。这种特性可能导致代理执行不正确的操作，可能对用户数据或系统安全造成损害。
微软的安全措施
面对这些风险，微软实施了一系列安全措施：
- 隔离的用户账户：AI代理运行在独立的用户账户中，与用户个人账户分离。
- 权限限制：代理无法访问系统上的所有内容，只能访问特定的文件夹和应用程序。
- 用户审批：用户需要批准对其数据的请求。
- 活动监控：所有代理操作都是可观察的，并且与用户采取的操作有区别。
- 活动日志：代理需要能够生成其活动的日志。
- 任务预览：代理应提供监督其活动的方法，包括向用户显示他们将采取的行动列表以完成多步任务。
用户应对策略
管理AI代理设置
对于关心安全和隐私的用户，有几个关键步骤可以采取：
- 保持默认关闭状态：目前，这些功能可以通过设置开关关闭，并且默认处于关闭状态。用户应确保保持这种状态，除非他们明确需要这些功能。
- 定期审查权限：如果用户选择启用这些功能，应定期审查授予AI代理的权限，确保它们只访问必要的文件和应用程序。
- 监控代理活动：利用微软提供的日志和监控功能，密切关注代理执行的操作，特别是涉及敏感数据的操作。
替代方案与最佳实践
- 使用有限功能的AI助手：考虑使用功能有限但经过严格审查的AI助手，而不是具有广泛系统访问权限的完整代理。
- 定期备份数据：无论是否使用AI代理，都应定期备份重要数据，以防数据泄露或损坏。
- 保持系统更新：确保操作系统和应用程序保持最新状态，以利用最新的安全修复程序。
微软的应对与未来展望
从过去的错误中学习
微软对Windows Recall功能的数据收集问题的处理方式受到了批评，这次似乎吸取了教训。通过默认关闭这些功能并提供详细的风险说明，微软表明它意识到了用户对AI功能的担忧。
用户体验与安全性的平衡
微软也在努力使Copilot更加"以人为中心"和易于接近，添加了一个类似Clippy的动画角色"Mico"，并改进了其对语音输入以及典型鼠标和键盘请求的理解能力。然而，这种增强用户体验的努力必须在安全性和隐私保护之间取得平衡。
未来发展方向
未来，我们可以预期微软将继续改进其AI代理的安全措施，可能包括：
- 更精细的权限控制：允许用户更精确地控制代理可以访问的文件和系统资源。
- 增强的监控工具：提供更强大的工具来监控和审计AI代理的活动。
- 先进的检测机制：开发更好的机制来检测和防止恶意利用AI代理的尝试。
结论：明智地拥抱AI
Windows 11中的AI代理代表了计算技术的前沿，但也带来了新的安全和隐私挑战。微软已经认识到这些风险并实施了一些措施来缓解它们，但用户仍然需要保持警惕并采取主动措施来保护自己的数据。
随着AI技术继续发展，操作系统与AI的集成将变得更加深入。用户需要了解这些技术的风险，并做出明智的决定，是否以及如何使用它们。通过保持知情和谨慎，用户可以享受AI带来的便利，同时最大限度地降低相关风险。
最终，AI代理的成功将取决于微软在提供强大功能与确保用户安全和隐私之间取得平衡的能力。只有通过持续改进和用户教育，这些技术才能真正实现其提高生产力和简化任务的承诺，而不以牺牲安全性为代价。
Windows 11中的AI代理功能代表了微软对未来计算愿景的重要一步，但用户必须了解并准备应对随之而来的安全挑战。
