人工智能安全：平衡创新与风险的基石
随着人工智能（AI）技术的飞速发展，特别是大型语言模型的普及，其在赋能各行各业、激发人类创造力、深化世界理解方面展现出前所未有的潜力。然而，伴随这些巨大机遇的，是日益凸显的潜在滥用风险和对社会可能造成的危害。为了确保AI模型的积极效用能够得到充分发挥，同时有效防范并减轻其负面影响，构建一个坚实、多层级的AI安全防护体系变得至关重要。一个专业的AI安全团队，汇集了政策、执行、产品、数据科学、威胁情报和工程领域的专家，致力于识别潜在风险、应对安全威胁，并构建起能够使AI系统既有用又安全的防御机制。
多维度的安全防护策略
AI模型的安全防护是一个贯穿其整个生命周期的复杂工程，它要求在政策制定、模型训练、部署前测试、实时检测及持续监控等多个层面进行深度协同。这种全方位的策略确保了AI系统从设计之初就融入了强大的安全基因，并在实际应用中能够抵御不断演变的风险。
行为准则与政策的演进
安全团队负责制定AI模型的《使用规范》，这是一个定义了AI系统正确与不当使用方式的核心框架。该规范为儿童安全、选举公正性、网络安全等关键领域提供了指导，并针对医疗、金融等特定行业提供了更为细致的使用指南。
政策的制定和迭代主要通过以下两种机制驱动：
- 统一危害评估框架：这是一个动态演进的框架，旨在帮助团队从物理、心理、经济、社会和个人自主权五个维度全面理解AI模型可能造成的潜在危害。它并非一个僵化的评分系统，而是一个结构化的视角，用于在制定政策和执行程序时，评估滥用的可能性及其潜在规模。
- 政策脆弱性测试：我们与外部领域的专家合作，识别潜在的担忧区域，并通过对AI模型在挑战性提示下的输出进行评估，对现有政策进行压力测试。这些合作伙伴包括反恐、反激进化、儿童安全和心理健康等领域的专家。测试结果直接影响政策、训练数据和检测系统的优化。例如，在重要选举期间，通过与外部机构合作，我们曾发现AI模型可能提供过时信息的问题，并因此在用户界面上添加了指引，推荐用户查阅官方权威信息来源。
模型训练中的安全融入
安全团队与模型微调团队紧密合作，通过一个高度协作的过程，致力于防止AI模型产生有害行为和不当响应。这包括深入探讨模型应展现和不应展现的行为模式，从而为模型训练中的关键特性构建提供决策依据。
我们的评估和检测流程还负责识别潜在的有害输出。当发现问题时，我们与微调团队合作，通过更新训练中的奖励模型或调整已部署模型的系统提示来提供解决方案。
此外，我们还与领域专家进行深度合作，以提升AI模型对敏感领域的理解。例如，我们与专注于在线危机支持的机构合作，深入理解在涉及自残和心理健康的情况下，AI模型应如何以及何时做出响应。这些洞察被反馈给训练团队，以帮助模型在响应中融入更多细微差别，而非简单地拒绝互动或误解用户的意图。通过这种协作流程，AI模型得以发展出多项重要技能：它学会了拒绝协助有害的非法活动，识别生成恶意代码、欺诈内容或策划有害活动的行为，并能以谨慎的态度讨论敏感话题，区分这些讨论与实际造成伤害的企图。
严格的测试与评估流程
在发布任何新模型之前，我们都会对其性能和能力进行严格的评估。这些评估包括：
- 安全评估：我们根据《使用规范》评估AI模型在儿童剥削或自残等话题上的依从性。我们测试各种场景，包括明显的违规行为、模糊语境以及多轮对话。这些评估利用AI模型对自身响应进行初步评级，并辅以人工审核以确保准确性。
- 风险评估：对于与网络危害、化学、生物、放射性、核武器及高当量炸药（CBRNE）等相关的高风险领域，我们与政府机构和私营企业合作，进行AI能力提升测试。我们定义可能因能力提升而出现的威胁模型，并评估我们的安全防护措施在这些威胁模型下的表现。
- 偏见评估：我们检查AI模型是否能在不同语境和用户群体中始终提供可靠、准确的响应。针对政治偏见，我们测试具有对立观点的提示，并比较响应，对其事实性、全面性、等效性和一致性进行评分。我们还测试在工作和医疗等话题上，包含性别、种族或宗教等身份属性是否会导致偏见输出。
这种严格的预部署测试有助于验证训练成果在压力下的表现，并指示我们是否需要构建额外的防护措施来监控和防范风险。例如，在预发布评估中，我们曾发现某个工具可能助长垃圾信息生成和分发。作为回应，我们在发布前开发了新的检测方法和强制执行机制，包括对显示滥用迹象的账户禁用该工具的选项，以及保护用户免受提示注入攻击的新防护措施。
实时检测与强制执行
一旦AI模型部署上线，我们将结合自动化系统和人工审核，实时检测潜在危害并执行《使用规范》。
我们的检测和强制执行系统由一系列经过特定提示或微调的AI模型（称为“分类器”）驱动，这些分类器旨在实时检测特定类型的政策违规。我们可以同时部署多个不同的分类器，每个分类器监控特定类型的危害，同时主对话流程自然进行。除了分类器，我们还针对已知有害图像内容（如儿童性虐待材料，CSAM）进行专门检测，通过比对上传图像的哈希值与已知数据库进行识别。
这些分类器帮助我们决定何时采取强制执行行动，包括：
- 响应引导：我们可以实时调整AI模型对特定用户提示的解释和响应方式，以防止有害输出。例如，如果我们的分类器检测到用户可能试图生成垃圾信息或恶意软件，我们可以自动向AI模型的系统提示中添加额外指令，以引导其响应。在少数极端情况下，我们甚至可以完全阻止模型响应。
- 账户强制措施：我们调查违规模式，并可能在账户层面采取额外措施，包括警告，在严重情况下则会终止账户。我们还设有防御机制，以阻止欺诈性账户的创建和对服务的滥用。
构建这些强制执行系统是一项巨大的挑战，无论是设计所需的机器学习研究，还是实施所需的工程解决方案。例如，我们的分类器必须能够处理数万亿的输入和输出标记，同时限制计算开销并避免对良性内容进行误判。
持续监控与威胁情报
我们还对AI模型的潜在有害流量进行持续监控，超越单一提示和个体账户的范围，以理解特定危害的普遍性并识别更复杂的攻击模式。这项工作包括：
- AI洞察与观察：我们的洞察工具以保护隐私的方式，将对话分组为高层主题集群，帮助我们衡量AI模型在真实世界中的使用情况并分析流量。基于这项工作进行的研究可以为我们构建的防护措施提供信息。
- 分层摘要技术：为了监控计算能力使用或潜在的有害网络利用，我们采用分层摘要技术。该技术将个体交互浓缩成摘要，然后分析这些摘要以识别账户层面的问题，从而帮助我们发现只有在汇总时才可能显现的违规行为，例如自动化影响力操作和其他大规模滥用。
- 威胁情报：我们还研究AI模型的严重滥用案例，识别对抗性使用模式以及现有检测系统可能遗漏的威胁。我们通过将滥用指标（如账户活动异常激增）与典型账户使用模式进行比较来识别可疑活动，并将外部威胁数据（如开源库或行业报告）与内部系统进行交叉引用。我们还监控不良行为者可能活动的渠道，包括社交媒体、消息平台和黑客论坛。我们将研究结果发布在公开的威胁情报报告中。
携手共建AI安全未来
保障AI的使用安全是一个任何单一组织都无法独自应对的重大挑战。我们积极寻求用户、研究人员、政策制定者以及公民社会组织的反馈与合作。我们还采纳公众的意见，包括通过持续的漏洞奖励计划来测试我们的防御措施。通过这种开放、协作的方式，我们期望能共同提升AI系统的安全性、可靠性和负责任性，确保人工智能技术真正造福全人类。
