随着人工智能技术的飞速发展，大模型正以前所未有的速度渗透到金融、政务、能源等关键领域。然而，这种智能化进程也带来了严峻的安全挑战——"越智能，越危险"的安全悖论正引发行业广泛警觉。在2025年世界互联网大会乌镇峰会上，360数字安全集团正式发布国内首份《大模型安全白皮书》，为这一新兴领域提供了系统性安全解决方案。
大模型安全威胁：多维度的复杂挑战
白皮书深入分析指出，大模型的安全威胁已形成跨层级、强耦合的复杂矩阵，不再是单一维度的技术问题，而是涉及多个层面的系统性挑战。这些威胁主要涵盖五大核心维度，共同构成了大模型安全防护的完整图景。
基础设施层：算力与训练平台的安全隐患
大模型的训练和运行依赖于庞大的算力集群和专用训练平台，这些基础设施已成为攻击者的重要目标。一旦算力集群或训练平台遭受攻击，可能导致模型被投毒或窃取，造成不可估量的损失。攻击者可以通过篡改训练数据、植入后门程序或直接窃取模型参数，从根本上破坏大模型的完整性和可靠性。
内容层：虚假信息与"AI幻觉"的社会风险
大模型生成内容的能力既是优势也是风险。一方面，它可以创造有价值的信息和内容；另一方面，也可能生成虚假信息、违规内容或"AI幻觉"，这些内容一旦传播，将引发严重的社会风险。特别是在新闻、媒体、教育等敏感领域，大模型生成的内容若未经严格审核，可能误导公众、传播错误观点，甚至影响社会稳定。
数据与知识库层：可信根基的动摇
大模型的性能和可靠性高度依赖于训练数据和知识库的质量与安全。然而，训练数据泄露、知识库被污染等问题正日益凸显。一旦敏感训练数据被窃取或知识库被恶意篡改，不仅会损害企业利益，更将动摇整个大模型的可信根基。在金融、医疗等高度依赖数据准确性的领域，这一问题尤为严重。
智能体层（Agent）：自主决策的潜在威胁
随着大模型向智能体（Agent）方向发展，自主决策的AI代理若被操控，可能执行恶意任务，带来新的安全挑战。智能体能够自主规划、执行复杂任务，这种能力一旦被恶意利用，可能造成远超传统攻击的破坏。例如，在工业控制、交通管理等关键领域，被操控的智能体可能导致严重的安全事故。
用户端层：直接操控模型的攻击手段
用户端是大模型与用户交互的界面，也是安全防护的最后一道防线。提示注入、越权访问等攻击手段可直接绕过防护机制，操控模型行为。这些攻击往往利用大模型的漏洞或设计缺陷，通过精心构造的输入诱导模型执行非预期操作，可能导致敏感信息泄露或系统功能异常。
双轨治理框架："外挂式"与"平台原生"并行
面对这一多维威胁，360数字安全集团在白皮书中创新性地提出了"外挂式安全+平台原生安全"双轨治理框架，为大模型安全提供了全新的解决思路。
"外挂式安全"：外部监测与防护
"外挂式安全"强调在模型外部部署监测、过滤与审计系统，构建全方位的外部防护网。这一策略主要包括内容合规网关、异常行为检测、威胁情报分析等组件，能够在大模型运行过程中实时监测异常行为，过滤有害内容，并对模型输出进行合规性审计。
"外挂式安全"的优势在于实施相对简单，能够快速部署，适用于大多数现有大模型系统。通过这种方式，企业可以在不修改模型本身的情况下，显著提升大模型的安全性，降低安全风险。
"平台原生安全"：安全能力内嵌
与"外挂式安全"不同，"平台原生安全"主张将安全能力内嵌至大模型研发、训练、部署、推理各环节，实现"安全即代码"。这一策略要求在模型设计之初就考虑安全因素，将安全机制与模型架构深度融合，从根本上提升大模型的安全性能。
"平台原生安全"的优势在于能够提供更全面、更深入的保护，有效应对各类高级威胁。通过将安全能力内嵌至大模型全生命周期，可以实现从数据输入到模型输出的全程防护，大幅降低安全风险。
全链路解决方案：七大核心能力构建安全屏障
基于双轨治理框架的理念，360数字安全集团已构建了覆盖大模型全生命周期的七大核心安全能力，形成了完整的全链路解决方案。
数据脱敏：保护训练数据安全
数据脱敏是保障大模型安全的第一道防线。通过对敏感数据进行脱敏处理，可以有效防止训练数据泄露和隐私侵犯。360的数据脱敏技术采用多种先进算法，能够自动识别和转换敏感信息，在保护数据安全的同时，最大限度地保留数据价值。
模型加固：提升模型抗攻击能力
模型加固技术通过优化模型架构和参数，提升大模型的抗攻击能力。这一技术能够有效抵御模型投毒、后门攻击等多种威胁，确保大模型在各种复杂环境下的稳定性和可靠性。360的模型加固方案已成功应用于多个关键行业，显著提升了大模型的安全性。
内容过滤：防止有害信息传播
内容过滤技术能够实时检测和过滤大模型生成的内容中的有害信息，防止虚假信息、违规内容的传播。360的内容过滤系统采用先进的自然语言处理技术，能够精准识别各类有害内容，确保大模型输出符合法律法规和社会规范。
Agent行为审计：监控智能体活动
随着大模型向智能体方向发展，Agent行为审计技术变得越来越重要。该技术能够实时监控智能体的行为，及时发现异常活动，防止智能体被操控执行恶意任务。360的Agent行为审计系统已成功应用于多个智能体项目，有效保障了智能系统的安全运行。
API防护：保障接口安全
API是大模型与外部系统交互的重要接口，也是安全防护的重点。360的API防护技术能够有效防止越权访问、数据泄露等安全威胁，确保大模型API的安全可靠。该技术采用先进的身份验证和访问控制机制，能够有效抵御各类API攻击。
红蓝对抗：主动发现安全漏洞
红蓝对抗是一种主动的安全测试方法，通过模拟攻击者行为，主动发现大模型系统中的安全漏洞。360的红蓝对抗团队拥有丰富的实战经验，能够全面评估大模型系统的安全性，并提供针对性的改进建议，帮助客户构建更加安全的大模型系统。
安全合规：满足法规要求
随着AI监管政策的不断完善，安全合规成为大模型发展的重要考量。360的安全合规服务能够帮助客户了解和满足相关法规要求，确保大模型系统的合规性。该服务涵盖风险评估、合规咨询、认证支持等多个方面，为客户提供全方位的合规保障。
行业实践：从理论到落地的安全解决方案
360的全链路安全解决方案已在金融、制造、政务等多个行业落地实践，为客户提供了切实有效的安全保障。
金融行业：保障金融AI应用安全
在金融领域，大模型被广泛应用于风险评估、智能投顾、反欺诈等多个场景。360的安全解决方案帮助金融机构构建了全方位的AI安全防护体系，有效防范了数据泄露、模型操纵等安全威胁，保障了金融AI应用的安全可靠。
制造行业：提升工业AI系统安全性
在制造业，大模型被用于智能质检、预测性维护、生产优化等关键环节。360的安全解决方案帮助制造企业提升了工业AI系统的安全性，有效防止了生产数据泄露、系统被操控等安全风险，保障了生产安全和数据安全。
政务领域：确保公共AI服务可信
在政务领域，大模型被用于智能问答、政策解读、政务服务等多个场景。360的安全解决方案帮助政府部门构建了可信的公共AI服务体系，有效防范了虚假信息传播、数据泄露等安全风险，提升了公共服务的质量和效率。
开放生态：共建AI安全未来
360数字安全集团强调，单靠企业防护远远不够。未来将联合产学研各方，推动大模型安全标准制定、威胁情报共享与开源安全工具共建，打造开放、协同、可信的AI安全生态。
推动安全标准制定
随着大模型应用的不断深入，制定统一的安全标准变得尤为重要。360将积极参与大模型安全标准的制定工作，推动行业形成统一的安全规范和评估体系，为大模型的安全发展提供指导。
威胁情报共享
威胁情报是防范大模型安全威胁的重要资源。360将建立大模型威胁情报共享平台，促进各方之间的信息交流与合作，共同应对不断演变的安全威胁。通过威胁情报共享，可以提前预警潜在风险，提高整体防御能力。
开源安全工具共建
开源安全工具是提升大模型安全性的重要手段。360将积极贡献开源安全工具，并与社区共同开发和完善这些工具，为大模型安全提供更多、更好的解决方案。通过开源合作，可以加速安全技术创新，降低安全防护成本。
未来展望：AI安全新基建的路线图
在大模型从"技术秀场"迈向"生产基础设施"的关键节点，360的白皮书不仅是一份风险预警，更是一张AI安全新基建的路线图。当智能成为生产力，安全必须成为底线——这场由360发起的防御战，关乎的不只是技术，更是AI能否被社会真正信任与托付的未来。
随着大模型技术的不断发展和应用的不断深入，安全问题将变得越来越重要。360数字安全集团将继续深耕大模型安全领域，不断创新安全技术，完善安全解决方案，为客户和社会提供更加可靠的安全保障，推动AI技术的健康、可持续发展。
在智能时代，安全不仅是技术的挑战，更是社会的责任。只有通过多方协作、共同努力，才能构建一个安全、可信、可持续的AI未来，让AI技术真正造福人类社会。
