在人工智能技术迅猛发展的今天,OpenAI和Anthropic等AI巨头正面临一个前所未有的挑战:传统保险公司对AI风险的全面承保持谨慎态度,导致这些公司不得不考虑使用投资者资金来应对潜在的法律诉讼。这一现象不仅揭示了AI行业独特的风险特征,也引发了关于科技企业风险管理模式的深刻思考。
保险市场对AI风险的谨慎态度
人工智能技术的快速发展带来了前所未有的风险形态,而保险市场对此的反应却相对保守。OpenAI和Anthropic这两家美国AI初创公司虽然已经购买了传统的商业保险,但保险专业人士指出,AI模型提供商将难以获得全面保障,以覆盖未来可能需要支付的全部赔偿金额。
"我们目前还没有足够的承保能力来为模型提供商提供保障,"安联集团(Aon)网络风险主管凯文·卡利尼奇(Kevin Kalinich)表示。他进一步解释道:"如果AI提供商犯下的错误最终演变为系统性、相关性、聚合性的风险,保险公司将无法承担这种赔偿责任。"
安联集团作为全球第二大保险经纪商,已被OpenAI聘请协助解决其保险需求。据熟悉该公司政策的人士透露,OpenAI已获得高达3亿美元的AI新兴风险保障。然而,另一位熟悉该政策的人士对此数字提出异议,称实际金额要低得多。但双方一致认为,这一金额远不足以保障公司应对一系列数十亿美元法律索赔的潜在损失。
AI行业特有的风险挑战
保险行业对AI风险的谨慎态度源于几个关键因素。首先,AI公司相对年轻却面临巨额索赔的可能性,这在科技行业是前所未有的。其次,近年来针对美国大公司的"核判决"(nuclear verdicts)——即巨额赔偿判决——变得越来越普遍,进一步放大了这一风险。
OpenAI目前正面临多起诉讼,包括《纽约时报》和作者群体提起的版权侵权诉讼,指控其未经同意使用他们的内容训练模型。此外,OpenAI还面临一起 wrongful death(不当致死)诉讼,由一名16岁青少年的父母提起,该青少年在与ChatGPT讨论自杀方法后自杀身亡。
这些案件凸显了AI行业面临的独特风险:一方面是知识产权侵权的法律风险,另一方面是产品使用过程中可能造成的严重人身伤害风险。这两种风险都可能导致数十亿美元的赔偿,远超传统保险产品的承保范围。
自保与投资者资金的新角色
面对传统保险市场的局限,AI公司开始探索替代性的风险管理策略。据两位知情人士透露,OpenAI已考虑"自保"(self-insurance)方案,即设立专项基金,使用投资者资金来扩展其保障范围。迄今为止,OpenAI已筹集近600亿美元资金,其中相当一部分资金依赖于拟议的公司重组。
其中一位知情人士表示,OpenAI曾讨论设立"captive"——一种通常被大型公司用来管理新兴风险的隔离式保险工具。微软、Meta和谷歌等科技巨头已经使用captive来覆盖互联网时代的责任,如网络安全或社交媒体相关风险。
然而,captive本身也存在风险,因为重大索赔可能耗尽资金不足的captive,使母公司容易受到冲击。OpenAI表示,公司已有保险保障,并随着业务增长正在评估不同的保险结构,但目前尚未设立captive,且拒绝就未来计划发表评论。
Anthropic的赔偿先例
Anthropic的情况则更为直接。该公司已同意支付15亿美元,就涉嫌使用盗版书籍训练AI模型的集体诉讼达成和解。在法庭文件中,Anthropic的律师警告称,这起诉讼可能带来"前所未有的、可能威胁到业务生存的法定赔偿,针对的是众多使用相同书籍数据开发AI的公司中最小的一个"。
据一位知情人士透露,Anthropic迄今为止已筹集超过300亿美元,部分使用自有资金进行和解。Anthropic拒绝就此事发表评论。
行业影响与未来展望
AI公司面临的保险困境对整个行业产生了深远影响。首先,它可能导致AI研发和部署成本上升,因为公司需要预留更多资金用于潜在的法律风险。其次,这可能加速AI行业整合,因为只有资金雄厚的公司才能承担这种风险。
从保险市场的角度看,这一现象也促使保险公司重新评估其风险评估模型,开发更适合AI行业特点的保险产品。一些保险公司已经开始探索基于使用场景和风险控制措施的差异化定价模式。
此外,监管机构也在密切关注这一趋势。随着AI技术的广泛应用,监管框架正在逐步完善,这可能为AI公司提供更清晰的法律预期,但也可能增加合规成本。
风险管理的创新路径
面对这一挑战,AI公司正在探索多种创新的风险管理路径。除了自保和设立captive外,一些公司开始考虑以下策略:
风险分散:通过与多家保险公司合作,将风险分散到多个承保人身上,降低单一保险人的集中风险。
分层保险结构:设计多层次保险结构,基础层覆盖常见风险,高级层覆盖极端但可能性较低的风险事件。
风险共担:与客户、合作伙伴建立风险共担机制,明确各方在使用AI技术时的责任边界。
技术缓解措施:投资开发更安全的AI系统,减少潜在风险的发生概率和影响程度。
监管合规:积极参与行业标准制定和监管对话,推动建立合理的法律框架,平衡创新与风险控制。
结论:AI时代的风险管理新范式
AI公司面临的保险困境不仅是技术发展带来的挑战,更是风险管理范式转变的催化剂。传统保险模式难以适应AI技术的快速迭代和复杂风险特征,这促使整个行业重新思考如何评估和管理新兴技术风险。
对于投资者而言,这一现象也意味着需要更全面地评估AI公司的风险敞口,不仅仅关注技术性能和市场规模,还要考虑其风险管理体系的有效性。对于监管机构而言,如何在促进创新的同时确保适当的风险管控,将成为制定AI政策的关键考量。
随着技术的不断进步,AI行业与保险市场的互动将更加密切。只有通过持续的创新和合作,才能为AI技术的健康发展提供坚实的风险保障,确保这一变革性技术能够在造福社会的同时,将潜在负面影响控制在可接受范围内。