美国白宫近日发布了名为“赢得竞争：美国AI行动计划”的全面战略，旨在巩固美国在人工智能发展领域的领先地位。该计划聚焦于加速AI基础设施建设和联邦政府的AI技术采纳，同时强化安全测试与安全协调机制，这些举措与Anthropic此前提出的政策建议高度契合，令业界备受鼓舞。尽管该计划为美国AI进步奠定了坚实基础，我们仍认为，严格的出口管制和AI开发透明度标准，将是确保美国AI领导力的关键下一步。
加速AI基础设施与联邦应用
“行动计划”将AI基础设施建设和应用置于优先地位，这与Anthropic在今年3月向科学技术政策办公室（OSTP）提交的建议不谋而合。
我们高度赞赏政府致力于简化数据中心和能源许可流程的承诺，以应对AI技术日益增长的电力需求。正如我们向OSTP提交的报告以及在宾夕法尼亚能源与创新峰会上所强调，若国内能源供应不足，美国AI开发者可能被迫将业务迁往海外，这无疑将使敏感技术暴露于潜在的外部风险之下。Anthropic近期发布的《在美国建设AI》报告，详细阐述了政府为加速国家AI基础设施建设所能采取的措施。我们期待与政府紧密合作，共同推进国内能源能力的拓展。
该计划中关于提升联邦政府AI采纳率的建议，也与Anthropic的政策重点和向白宫提出的建议高度一致，具体包括：
- 责成管理和预算办公室（OMB）解决联邦AI采纳过程中面临的资源限制、采购瓶颈和项目障碍。
- 启动信息征询（RFI），以识别阻碍AI创新的联邦法规，并由OMB协调改革工作。
- 更新联邦采购标准，消除阻碍各机构部署AI系统的壁垒。
- 通过公私合作，推动AI在国防和国家安全领域的应用。
普惠AI的社会红利
我们与“行动计划”的核心理念高度一致，即确保AI的持续发展和部署能够实现广泛的参与和普惠的利益。
“行动计划”继续推行国家AI研究资源（NAIRR）试点项目，确保全国各地的学生和研究人员都能参与并贡献于AI前沿技术的进步。我们长期以来一直是NAIRR的坚定支持者，并对我们与该试点项目的合作引以为傲。此外，“行动计划”强调为受技术转型影响的工人提供快速再培训项目，以及推行AI学徒前置计划，这表明政府吸取了以往技术变革的经验教训，并致力于将AI的福祉惠及所有美国公民。
作为对这些提案的补充，我们正积极探索AI如何正在以及将如何重塑经济格局。Anthropic的“经济指数”和“经济未来计划”旨在为研究人员和政策制定者提供所需的数据和工具，以确保AI的经济利益得到广泛共享，并有效管理相关风险。
促进AI技术的安全发展
在未来几年，强大的人工智能系统必将得到飞速发展。因此，该计划强调防范强大AI模型的滥用，并为未来与AI相关的风险做好准备，这是恰当且卓越的。我们尤其赞赏政府优先支持AI可解释性、AI控制系统和对抗性鲁棒性等领域的研究。这些是重要的研究方向，必须加以支持，以帮助我们应对强大的AI系统。
我们乐见“行动计划”肯定了国家标准与技术研究院（NIST）下属的AI标准与创新中心（CAISI）在评估前沿模型国家安全风险方面的重要工作，并期待与该中心继续保持紧密合作。我们鼓励政府持续对CAISI进行投资。正如我们在提交的报告中所述，先进AI系统在与生物武器开发相关的能力上已表现出令人担忧的进步。CAISI在开发测试和评估能力以应对这些风险方面发挥了主导作用。我们鼓励将这些努力集中在AI系统可能构成的最独特和最严重的国家安全风险上。
国家级透明度标准的必要性
除了常规测试，我们认为基本的AI开发透明度要求，例如公开报告安全测试结果和能力评估，对于负责任的AI发展至关重要。领先的AI模型开发者应遵循基本的、可公开验证的标准，以评估和管理其系统可能带来的灾难性风险。我们提出的针对前沿模型透明度的框架正是聚焦于这些风险，但我们希望该报告能在此议题上投入更多笔墨。
包括Anthropic、OpenAI和Google DeepMind在内的领先实验室已经实施了自愿性安全框架，这证明了负责任的开发与创新可以并行不悖。事实上，在推出Claude Opus 4时，我们主动激活了ASL-3防护措施，以防止其被滥用于化学、生物、放射性及核（CBRN）武器的开发。这一预防性步骤表明，健全的安全防护措施非但不会减缓创新，反而有助于我们构建更优质、更可靠的系统。
我们与政府一样，担忧过于严格的监管方式可能导致法律碎片化且带来沉重负担。理想情况下，这些透明度要求应由政府通过单一的国家标准来确立。然而，我们此前曾明确表示，对州级AI立法实行十年暂停期是过于简单粗暴的工具，因此，如果联邦政府未能采取行动，我们仍将反对旨在阻止各州制定措施以保护其公民免受强大AI系统潜在危害的提案。
维持严格的出口管制
“行动计划”指出，“阻止我们的外国对手获取[先进AI计算能力]……既是地缘战略竞争，也是国家安全问题。”我们对此深表认同。正因如此，我们对政府近期在对华出口英伟达H20芯片问题上的立场逆转表示担忧。
AI的发展一直遵循着规模化定律：系统的智能和能力由其训练期间的计算、能源和数据输入规模所决定。虽然这些规模化定律持续有效，但最新、最具推理能力的模型已证明，AI能力与系统在特定任务上可用的计算量（即“推理”）呈正相关。推理期间可用的计算量受芯片内存带宽的限制。尽管H20的原始计算能力已被华为制造的芯片超越，但正如商务部长和副部长近期所作证词，华为仍在生产量上面临挑战，并且目前没有任何中国国产芯片能与H20的内存带宽相匹敌。
因此，H20提供了独特的、关键的计算能力，这些能力是中国企业通过其他途径无法获得的，并将弥补中国AI芯片的严重短缺。允许H20出口到中国，将错失在一个新竞争阶段刚刚开启之际，扩大美国AI主导地位的机会。此外，美国AI芯片的出口并不会阻止中国寻求在AI堆栈上实现自给自足的决心。
为此，我们强烈敦促政府继续维持对H20芯片的出口管制。这些管制符合“行动计划”所建议的出口管制措施，对于确保和扩大美国在AI领域的领先优势至关重要。
展望未来
我们的诸多政策建议与“AI行动计划”的高度一致性，表明我们对AI的变革潜力以及为维持美国领导地位所需采取的紧迫行动有着共同的理解。
我们期待与政府携手合作，共同实施这些倡议，同时确保对灾难性风险给予充分关注，并维持强有力的出口管制。通过共同努力，我们可以确保强大的AI系统在美国境内，由美国企业安全开发，充分体现美国的价值观和国家利益。
