在科技日新月异的今天，人工智能（AI）已经渗透到我们生活的方方面面。近日，美国法院的一项裁决将OpenAI及其旗下明星产品ChatGPT推上了风口浪尖。这场由新闻机构提起的版权侵权诉讼，意外地引发了一场关于用户隐私权的激烈辩论。法官Ona Wang最初下令OpenAI“无限期”保留所有ChatGPT的日志，包括用户已删除的对话，这引起了广泛的用户恐慌和强烈反对。
两名用户试图介入此案，但均以失败告终。其中一位用户Aidan Hunt表示，他经常使用ChatGPT处理“高度敏感的个人和商业信息”。他认为，Wang法官的保留命令实际上 создало了一个“全国范围的大规模监控项目”，影响并可能损害“所有ChatGPT用户”，而这些用户事先并未得到任何警告，他们的已删除和匿名聊天记录 вдруг 被保留。Hunt警告说，限制保留ChatGPT输出内容的命令与包括用户输入内容具有相同的风险，因为输出内容“inherently reveal, and often explicitly restate, the input questions or topics input.”
Hunt声称，他是在一个在线论坛上偶然看到新闻后，才知道ChatGPT保留这些信息—尽管其政策明确表示不会这样做。他认为自己的第四修正案和正当程序权利受到了侵犯，因此试图影响法院的决定，并提议撤销该命令，该命令称Wang的“命令实际上要求被告实施一项影响所有ChatGPT用户的大规模监控计划”。
数字权利组织电子前沿基金会（EFF）的法律主管Corynne McSherry也表达了类似的担忧。她指出，这项命令不仅对用户隐私构成直接威胁，还可能为未来类似的诉讼开创危险的先例。她强调，AI聊天机器人正在成为企业监控的新途径，尤其是在用户无法有效控制其聊天记录的情况下。
Hunt进一步指出，Wang法官未能考虑豁免“匿名聊天”，而这些聊天内容往往包含用户最敏感和潜在危害的信息。他认为，将这些聊天记录纳入保留和披露范围“构成了一项过于宽泛和不合理的行动”。他敦促法官修改命令，将涉及医疗、财务、法律和个人话题的聊天记录排除在外，因为这些内容与原告新闻机构的利益“毫无关联”。
对于Hunt和其他许多因这项命令而感到措手不及的用户来说，风险显而易见。他认为，Wang法官应该允许他介入，因为此案涉及“关于人工智能使用相关的隐私权的重要且新颖的宪法问题—这是一个迅速发展的法律领域—以及地方法官通过民事案件中的 discovery order 设立全国范围大规模监控计划的能力”。
然而，Wang法官并不同意Hunt的观点。她在一份脚注中强调，她的命令不能被解释为允许大规模监控。“拟议的介入者没有解释法院的文件保留命令如何指示私人公司出于诉讼的有限目的保留、隔离和保留某些私人持有的数据，或者如何可能是一个‘全国范围的大规模监控计划’，”Wang写道。“事实并非如此。司法机构不是执法机构。”
尽管如此，McSherry警告说，“执法部门和私人诉讼当事人迟早会开始向OpenAI索取关于用户的聊天记录/记录，用于各种目的，就像他们已经对搜索历史、社交媒体帖子等做的那样。”她认为，Wang法官的命令可能成为通往未来的门户。
Wang法官驳回Hunt的动议，主要是因为“在本次诉讼过程中，OpenAI 例行删除的某些聊天输出日志数据的临时保留是否可能侵犯使用ChatGPT的 individual consumers 的所谓宪法和合同隐私权”被认为是“附带问题”，与版权侵权的核心问题没有直接关系。
Wang认为Hunt的介入不会“以任何方式”有助于“本案基本事实问题的发展”，因此裁定Hunt最终无权介入。
“拟议的介入者提出的任何所谓的‘新颖’问题都不是本次版权侵权诉讼中的问题，”Wang写道。“即使法院受理这些问题，它们也只会不适当地拖延实际问题的解决。”
OpenAI将于6月26日有机会为惊慌失措的用户辩护，届时Wang将听取关于ChatGPT制造商对 preservation order 的担忧的口头辩论。
Hunt在他的文件中解释说，他最担心的是，该命令不会被阻止，并且聊天数据将被披露给新闻原告，这些原告可能会受到公开传播已删除聊天的动机的驱使。
如果新闻机构发现他们认为可能包含用户尝试生成完整新闻文章的已删除聊天记录的证据，则可能会发生这种情况。Ars无法立即联系到版权诉讼首席原告《纽约时报》的发言人，以评论ChatGPT用户的这种 alleged privacy risk。
Wang表示，目前没有风险，因为尚未向新闻机构披露任何聊天数据。这可能意味着，如果OpenAI本周阻止该命令的斗争失败，ChatGPT用户可能会有更好的运气进行干预。但这可能无法安慰像Hunt这样的用户，他们担心OpenAI仅仅保留数据—即使从未与新闻机构共享—也可能造成严重和无法弥补的损害。
一些用户似乎正在质疑OpenAI会多么努力地战斗。Hunt特别担心，如果其他担忧—例如“案件的财务成本、快速解决的愿望以及避免声誉损害”—被认为更重要，OpenAI可能不会优先考虑捍卫用户的隐私，他的文件说。
OpenAI没有立即回应Ars的置评请求。该公司此前提供了受影响用户的细分，并誓言要反对该命令。
目前，ChatGPT用户必须等待他们最敏感的聊天日志的命运。介入的ChatGPT用户曾试图辩称，至少应要求OpenAI直接通知用户，他们的已删除和匿名聊天记录正在被保留。Hunt表示，这将阻止他更快地输入敏感数据。McSherry告诉Ars，随着法院继续处理影响聊天机器人用户案件，将需要更高的透明度。
McSherry说：“所有AI聊天应用程序都应采取措施，不仅要确保用户可以删除其记录并确保它们确实被删除，还要确保用户及时收到对其信息的需求通知。”“如果他们尚未这样做，他们还应承诺定期发布有关用户数据需求的透明度报告。”
总的来说，这场诉讼和随之而来的争议，不仅关乎OpenAI和新闻机构之间的版权纠纷，更触及了人工智能时代用户隐私权的深层问题。如何在技术发展和个人隐私之间取得平衡，将是未来法律和伦理面临的重要挑战。
