微软近年来一直在Windows 11中整合AI功能，但近期这些功能已进入新阶段，生成式AI和所谓的"代理式"AI功能正深入操作系统的核心架构。昨日向Windows Insider Program测试者发布的新版Windows 11 build中，设置中新增了一个"实验性代理功能"开关，以支持名为Copilot Actions的功能，同时微软也发布了详细的支持文章，阐述这些"实验性代理功能"的工作原理。
什么是AI代理？
"代理式"是微软反复用来描述其对Windows 11未来愿景的一个流行术语。简单来说，这些代理旨在在后台完成分配的任务，让用户可以将注意力转向其他地方。微软表示，希望这些代理能够处理"日常任务，如整理文件、安排会议或发送邮件"，而Copilot Actions应该为用户提供"一个积极的数字协作者，可以为您执行复杂任务以提高效率和生产力"。
然而，与其他AI一样，这些代理容易出错和产生幻觉，即使它们不知道自己在做什么，也常常会继续执行任务。用微软自己的话说，它们还带来了"新颖的安全风险"，主要与攻击者能够向这些代理发出指令后可能发生的情况有关。
微软的安全措施
为了应对这些风险，微软在实现这些功能时走了一条钢丝线，即在授予代理访问用户文件的权限的同时，将它们与系统的其他部分隔离开来。
账户隔离
例如，在PC上运行的AI代理将被分配独立于用户个人账户的专用账户，确保它们没有权限更改系统上的所有内容，并为它们提供自己的"桌面"工作区，不会干扰用户在屏幕上的工作。
用户授权机制
用户需要批准对数据的请求，并且"代理的所有操作都是可观察的，并且可以与用户执行的操作区分开"。微软还表示，代理需要能够生成其活动日志，"应该提供监督其活动的方法"，包括向用户显示他们将采取以完成多步骤任务的操作列表。
默认关闭
目前，这些"实验性代理功能"是可选的，仅在Windows 11的早期测试版本中可用，并且默认处于关闭状态。这一对用户偏好的让步，加上详细的支持文档概述了风险以及微软尝试构建到系统中的预防措施，至少表明微软从去年数据抓取的Windows Recall功能失败的发布中吸取了教训。
潜在的安全风险
尽管有这些保障和监控功能，但使用AI代理仍然会使自己面临隐私和安全风险。它们将能够请求对用户账户中大多数文件的读写访问权限——默认情况下，可以访问文档、下载、桌面、音乐、图片和视频文件夹中的任何内容。
文件访问权限
代理可以访问已为PC上所有用户安装的任何应用程序（仅安装在用户账户中的应用程序代理无法访问，用户也可以安装只有其代理可以访问的应用程序）。此外，代理可能容易受到劫持，从而使您的数据面临攻击者的威胁——微软特别提到了"跨提示注入(XPIA)"，其中嵌入在UI元素或文档中的恶意内容可以覆盖代理指令，导致数据泄露或恶意软件安装等意外操作。
指令注入攻击
跨提示注入攻击是一种新型威胁，攻击者可以通过在用户界面元素或文档中嵌入恶意内容来操控AI代理的行为。这种攻击可能导致代理执行未经授权的操作，如窃取敏感数据或安装恶意软件。由于AI代理被设计为能够理解和执行复杂指令，它们可能无法正确识别这些恶意指令，从而成为攻击者的工具。
数据泄露风险
AI代理对用户文件的访问权限意味着它们可以查看、修改甚至删除敏感信息。如果代理被恶意软件感染或受到攻击者控制，这些数据可能会被泄露。特别令人担忧的是，代理可能在用户不知情的情况下执行数据传输操作，使数据安全防护变得更加复杂。
用户如何保护自己
随着这些AI代理功能即将向公众推出，用户需要了解如何保护自己的数据和隐私。
定期审查权限
用户应该定期检查AI代理的权限设置，确保它们只访问必要的文件和应用程序。限制代理的访问范围可以降低潜在的风险，即使代理被攻击者控制，其造成的损害也会受到限制。
保持系统更新
微软可能会通过系统更新来修复AI代理中的安全漏洞。保持Windows 11的最新版本可以确保用户获得最新的安全补丁和功能改进。
监控代理活动
利用微软提供的日志功能，用户可以监控代理的活动，及时发现任何异常行为。如果代理执行了未经授权的操作，用户应该立即采取措施，如撤销其权限或运行安全扫描。
谨慎使用AI代理
在完全了解其工作原理和安全风险之前，用户应该谨慎使用AI代理功能。对于处理敏感数据的任务，考虑使用传统的手动方法而不是依赖AI代理。
微软的应对策略
微软似乎已经从过去的安全事件中吸取了教训，在推出AI代理功能时采取了更加谨慎的态度。
透明沟通
通过发布详细的支持文档，微软向用户清楚地解释了AI代理的功能、潜在风险以及缓解措施。这种透明的沟通有助于用户做出明智的决定，了解他们可能面临的风险。
默认关闭功能
将实验性AI代理功能默认关闭是一个明智的决策，这给了用户选择是否使用这些功能的空间，而不是在不知情的情况下启用可能带来风险的功能。
持续改进
随着技术的发展，微软可能会不断改进AI代理的安全机制。通过收集用户反馈和监控安全事件，微软可以识别并修复潜在的安全漏洞，提高AI代理的整体安全性。
未来的挑战
随着AI技术不断深入操作系统，安全与隐私的挑战也将变得更加复杂。
平衡便利与安全
微软需要在提供便利的AI功能和确保用户安全之间找到平衡点。过于严格的限制可能会降低AI代理的实用性，而过于宽松的权限则可能增加安全风险。
新型攻击向量
随着AI代理功能的普及，攻击者可能会开发新的攻击方法来利用这些功能。安全研究人员和开发人员需要保持警惕，及时识别和应对这些新型威胁。
用户教育
提高用户对AI代理功能及其潜在风险的认识至关重要。通过教育用户如何安全地使用这些功能，可以减少因用户操作不当导致的安全事件。
结论
Windows 11中的AI代理功能代表了操作系统发展的一个重要方向，它们有潜力显著提高用户的生产力和效率。然而，这些功能也带来了前所未有的安全与隐私挑战。通过采取适当的安全措施，保持警惕，并了解潜在风险，用户可以在享受AI代理带来的便利的同时，保护自己的数据和隐私。微软也需要不断改进这些功能的安全性，确保它们能够成为用户的得力助手，而不是安全威胁的来源。
