智能AI使用政策的深层演进与未来展望
随着人工智能技术的飞速发展及其在各行各业的日益普及，我们对AI产品的使用规范也在不断更新与完善。本篇政策更新旨在为智能模型及相关产品的使用提供更清晰、更详尽的指导框架，以适应日益增长的能力、多元化的应用场景、用户反馈、产品演变以及不断变化的监管要求。这些调整体现了我们对负责任AI发展的一贯承诺，并将于2025年9月15日正式生效。
强化网络安全与代理式AI应用的规制
过去一年，代理式人工智能（Agentic AI）取得了显著的进展。无论是通过我们自主开发的AI工具，如智能代码助手与计算机使用模型，还是赋能全球领先的编码代理，AI的代理能力正日益强大。然而，这种强大能力也伴随着新的风险，例如潜在的大规模滥用、恶意软件的创建以及网络攻击。正如我们此前的威胁情报报告所揭示的，AI在恶意用途方面的潜力不容忽视。
为应对这些严峻挑战，我们已在《使用政策》中增设专章，明确禁止任何形式的恶意计算机、网络及基础设施攻击活动。这包括但不限于利用AI进行未经授权的系统入侵、数据窃取、拒绝服务攻击或任何可能危害网络安全的行为。与此同时，我们坚定支持那些旨在增强网络安全的应用场景，例如在系统所有者明确同意的前提下，利用AI协助发现并修复潜在的安全漏洞。这种双轨制的方法旨在鼓励AI技术在安全领域的积极应用，同时严厉打击其被恶意利用的可能。此外，我们已发布了补充指南，通过具体案例详细阐述了《使用政策》如何应用于各类代理式AI场景，旨在提供更直观、操作性更强的行为准则。
精细化管理政治内容限制
在修订之前，我们的《使用政策》曾对所有类型的游说或竞选相关内容采取了广泛的禁令。这一立场源于我们对AI生成内容可能影响民主进程的未知风险的审慎评估，并且这些风险至今仍是我们高度关注的核心议题。然而，我们也听取了广大用户的反馈，认识到这种一刀切的限制，无意中也束缚了AI在政策研究、公民教育和政治写作等合法领域的应用空间。许多用户希望能够利用AI进行客观的分析、信息整合和文本生成，以促进更深入的公共讨论。
基于此，我们现在将限制措施进行更精细化的调整，重点禁止那些具有欺骗性、干扰民主进程或涉及选民及竞选目标定位的AI使用场景。这意味着，利用AI生成虚假信息、冒充特定候选人或组织、进行误导性宣传，或通过AI进行非法选民操纵等行为将被严格禁止。相反，我们鼓励并支持AI在促进合法政治论述和深入研究方面的应用，例如分析政策文本、汇总公众意见、辅助撰写非偏颇的政治评论或进行公民教育材料的创作。这种策略旨在平衡言论自由与民主程序的完整性保护，确保AI技术在政治领域的应用既能发挥其积极作用，又能有效规避潜在的负面影响。
明晰执法领域AI应用规范
此前，关于AI在执法领域的使用政策语言存在一定的模糊性，特别是针对“后台工具”和“分析应用程序”的各种例外条款，有时使得用户难以清晰辨别哪些用例是被允许的。这种复杂性可能导致误解或执行上的不一致。
为消除这种不确定性，我们对政策语言进行了全面修订，使其更加清晰、直接和易于理解。此次更新并未改变AI在执法领域被允许或禁止的核心范围，而是旨在更明确地传达我们现有的立场。我们仍将严格限制AI在存在重大伦理和社会风险的领域应用，包括但不限于监控、追踪、分析个人档案（Profiling）以及生物识别监测等。这些限制旨在保护公民的隐私权和基本自由，防止AI技术被滥用于侵犯个人权利。同时，我们继续支持那些被认为合适且已获许可的后台操作和分析用例，例如用于大数据分析以识别犯罪模式、辅助文件管理或进行非侵入性证据分析等，这些应用应严格遵循数据保护法规和伦理准则。
优化高风险消费者应用场景要求
我们的高风险用例要求适用于那些可能对公共福祉和社会公平产生深远影响的应用场景，特别是在法律、金融和就业等关键领域。这些场景由于其固有的敏感性和潜在的社会影响，需要额外的保障措施，例如强制性的人工干预（human-in-the-loop oversight）和明确的AI信息披露。这意味着在AI做出可能影响个人重大决策的输出时，必须有人类专家进行最终审查和批准，并且用户应被清晰告知其互动对象是AI系统。
鉴于AI模型在企业级应用中的日益广泛，我们特别澄清，这些强化要求主要适用于模型的输出直接面向消费者（consumer-facing）的场景，而非企业对企业（B2B）的内部交互。例如，一个AI辅助的法律咨询平台直接向普通公众提供法律建议，则需严格遵循这些高风险要求；而一个内部AI工具辅助企业法务团队进行文件检索，则可能不在此列。这一区分旨在精准定位风险点，确保在AI服务直接影响公众个体利益时，能够提供最高水平的保护和透明度。
展望未来：动态演进的治理框架
我们深知，人工智能的风险图景是一个不断演变的动态过程。因此，我们始终将《使用政策》视为一份“活文件”，它将随着AI技术的持续进步、社会认知的深化以及新的风险挑战的出现而持续迭代更新。我们将继续与公司内外的专家团队、政策制定者、主题领域专家以及公民社会组织保持紧密合作，定期评估政策的有效性和适用性，确保其能够持续引导AI技术的负责任创新。通过这种持续的对话与协作，我们致力于构建一个既能促进技术进步，又能坚守伦理底线，并最终造福全人类的AI生态系统。
