欧盟AI新规:科技巨头面临合规风暴,透明化与安全成核心挑战

1

在科技巨头眼中,欧盟即将实施的人工智能(AI)法规无疑是一场风暴。这项法规要求科技公司公开追踪其AI模型的运行状况和潜在问题,这对于那些长期以来在AI领域占据主导地位的公司来说,无疑是一项巨大的挑战。

欧盟委员会于7月发布了一项行为准则,旨在帮助科技巨头们更好地遵守即将生效的《人工智能法案》。该法案的核心在于提高AI领域的透明度,尤其是在版权保护、信息透明和公共安全方面。虽然这些规则在初期是自愿性质的,主要面向通用AI技术的头部企业,但预计将于2026年8月全面强制执行。欧盟委员会暗示,遵守这些规则的企业可能会在行政负担和法律确定性方面获得优势,而拒绝遵守的公司可能面临更高的时间和经济成本。

尽管AI行业在法案的起草过程中有所参与,但部分企业近期呼吁欧盟推迟法案的实施,理由是担心过于严格的限制可能会阻碍AI创新。这些公司认为,法规可能会扼杀欧洲在AI领域的竞争力,使其在全球市场上处于不利地位。

其中,最具争议的条款之一是禁止AI公司使用盗版材料进行AI训练。许多公司,包括Meta在内,都曾被指控使用盗版书籍数据集来训练AI。Meta甚至辩称,在AI训练中,单本书籍的价值微乎其微。然而,欧盟对此持不同意见,建议科技公司设立专门的员工和内部机制,以便在合理的时间内处理版权所有者的投诉,并允许他们选择将其作品排除在AI训练数据集之外。这一规定无疑将增加AI公司的合规成本,并可能限制其训练数据的来源。

AI快讯

欧盟的法规还要求AI公司采取其他一系列措施,其中最引人注目的是,它们需要分享关于训练数据的详细信息,包括模型设计的关键决策依据,以及训练数据的具体来源。这将有助于公众了解各公司的模型在多大程度上依赖于公共数据、用户数据、第三方数据、合成数据或其他新兴数据来源。透明度的提高将有助于建立公众对AI技术的信任,并促进行业的健康发展。

此外,该准则还明确了AI公司尊重付费墙和robots.txt指令的义务,这有助于解决AI爬虫过度抓取网站的问题。欧盟鼓励在线搜索巨头采纳Cloudflare提出的解决方案,允许内容创作者在不影响搜索索引的情况下,限制AI爬虫的访问,从而保护版权。这一举措旨在平衡AI发展和版权保护之间的关系,维护内容创作者的权益。

在能源消耗方面,欧盟要求AI公司披露训练和推理的总能耗,以便监测AI发展对环境的影响。随着AI技术的快速发展,其能源消耗问题日益突出,欧盟的这一举措旨在引导AI行业走向可持续发展。

更重要的是,该准则的安全指导方针提出了额外的危害监控要求。它建议检测和避免新型AI模型可能引发的“严重事故”,包括网络安全漏洞、关键基础设施中断、人身健康(包括精神和/或身体)严重损害,甚至人员死亡。该准则规定,公司必须在五到十天内向欧盟AI办公室报告严重事故,并要求公司跟踪所有事件,提供“足够水平”的网络安全保护,尽最大努力防止模型越狱,并对“系统风险缓解措施的任何失败或规避”做出合理解释。这些规定旨在确保AI技术的安全可靠,防止其被滥用。

面对这些新规,科技公司的反应不一。OpenAI、Meta和微软拒绝置评。谷歌的一位发言人表示,该公司正在审查该准则,该准则仍需获得欧盟委员会和欧盟成员国的批准。尽管面临行业的反对,欧盟似乎决心推进AI监管,以确保AI技术的发展符合欧洲的价值观和利益。

谷歌的发言人表示:“欧洲人应该能够在第一时间获得一流、安全的AI模型,并拥有一个能够促进创新和投资的环境。我们期待审查该准则,并与其他模型提供商和许多其他人分享我们的观点。”这表明,谷歌等公司正在积极参与到AI监管的讨论中,试图在创新和监管之间找到平衡。

这些规则只是《人工智能法案》的一部分,该法案将在未来一年或更长时间内分阶段生效。《纽约时报》报道称,违反该法案可能导致AI模型被撤下市场,或面临巨额罚款。彭博社指出,罚款金额可能高达公司年销售额的7%,或对开发先进AI模型的公司处以3%的罚款。这些严厉的处罚措施旨在确保AI公司认真对待合规义务,并采取必要的措施来降低风险。

总的来说,欧盟的AI法规旨在建立一个更加透明、安全和负责任的AI生态系统。虽然这些法规可能会给科技巨头带来一定的挑战,但从长远来看,它们有助于建立公众对AI技术的信任,促进行业的健康发展,并确保AI技术的发展符合社会整体利益。对于科技公司而言,积极应对这些挑战,将合规融入企业战略,将有助于在AI时代取得成功。