在数字时代，社交媒体平台X（前身为Twitter）的信息传播速度和影响力日益增强。为了应对虚假信息和不实内容的挑战，X推出了一种名为“社区笔记”的众包事实核查系统，旨在通过汇集不同用户的观点来评估帖子的可信度。然而，最近X宣布计划引入人工智能（AI）来辅助撰写社区笔记，这一举措引发了广泛的关注和担忧。本文将深入探讨AI参与社区笔记可能带来的潜在风险，并分析其对X平台乃至整个社会的影响。
AI社区笔记：理想与现实的差距
X设想，AI可以通过快速生成大量的社区笔记来加速和扩大事实核查的范围，从而更有效地识别和纠正不准确的信息。在这种设想中，AI撰写的笔记将由人工审核员进行评估，通过反馈循环不断提高AI的写作质量。随着AI在撰写笔记方面的能力不断提升，人工审核员可以将精力集中在处理那些需要专业知识或社会意识的复杂情况上。如果一切顺利，这种人机协作模式不仅可以改善X的事实核查机制，还有望为公共知识的生产提供一种新的模式。
然而，理想与现实之间往往存在巨大的差距。X自身的研究报告也承认，AI撰写的笔记可能不如人工撰写的笔记准确。更令人担忧的是，AI可能会生成“具有说服力但不准确的笔记”，由于AI擅长运用情感化的语言和看似中立的表达方式，人工审核员可能会误判这些笔记的价值。这种偏差可能会扰乱反馈循环，降低社区笔记的整体质量，并最终损害用户对该系统的信任。
AI的潜在风险：操纵与误导
AI在生成社区笔记方面的应用，无疑给X平台带来了潜在的操纵风险。英国前技术部长达米安·柯林斯警告称，这种系统可能会被用于大规模操纵用户所看到和信任的信息。他认为，AI笔记可能会增加X平台上“谎言和阴谋论”的传播。艾伦·图灵研究所新兴技术与安全中心的研究员塞缪尔·斯托克韦尔也表达了类似的担忧，他强调X的成功在很大程度上取决于其防范AI“笔记作者”产生幻觉和放大错误信息风险的措施。
斯托克韦尔指出，AI聊天机器人常常难以把握细微差别和语境，但却擅长自信地提供听起来很有说服力的答案，即使这些答案是不真实的。他警告说，如果平台不能有效地解决这个问题，这可能会成为一种“危险的组合”。
更令人担忧的是，任何人都可以使用任何技术创建AI代理来撰写社区笔记。这意味着，不同的AI代理可能存在不同的偏见或缺陷。如果出现这种情况，社区笔记的质量和可信度将受到严重威胁。
人工审核的挑战：数量与质量的平衡
即使X能够解决AI的准确性和偏见问题，人工审核员仍然面临着巨大的挑战。随着AI生成越来越多的社区笔记，人工审核员可能会不堪重负。英国事实核查组织Full Fact的AI负责人安迪·达德菲尔德表示，X可能会面临这样一种情况：AI可以完全独立地起草、审查和发布笔记，而无需人工的仔细考虑。这将导致社区笔记的质量下降，并最终损害用户对该系统的信任。
为了解决这个问题，X计划进行更多的研究，以确保其“人工评估能力能够充分扩展”。然而，如果X无法找到一个有效的解决方案，那么“最关键的笔记的影响”可能会被稀释。研究人员建议，一种可能的解决方案是取消人工审核流程，并将AI撰写的笔记应用于人工评估员先前批准的“类似情境”。然而，这种方法也存在明显的缺陷：如果自动匹配的笔记与人们认为不需要的帖子相匹配，那么可能会严重损害用户对该系统的信任。
AI社区笔记的未来：机遇与挑战并存
尽管存在诸多风险，但AI在社区笔记中的应用也蕴含着巨大的潜力。研究人员认为，在某些情况下，AI代理可以“在时间和精力成本方面，以人工撰写笔记的一小部分，生成质量相似的笔记”。他们认为，需要更多的研究来克服已发现的风险，从而充分利用这一“变革性机遇”，实现X平台事实核查的规模和速度的显著提升。
研究人员设想，一旦X的测试完成，AI笔记作者不仅可以帮助研究人工用户标记的问题帖子，还可以选择预测会迅速传播的帖子，从而阻止错误信息传播的速度超过人工评估员。此外，这种自动化系统还可以为X笔记评估员提供更彻底的研究和证据综合，以及更清晰的笔记撰写，从而加快评估过程。研究人员甚至推测，AI代理有朝一日可以学习预测评估分数，从而进一步加快流程。然而，他们也强调，需要更多的研究来确保这不会使社区笔记同质化，以至于没有人阅读它们。
在该报告中提出的最具马斯克风格的想法是，训练具有冲突观点的AI笔记作者“对抗性地辩论笔记的优点”。据称，这“可以帮助立即发现潜在的缺陷、隐藏的偏见或捏造的证据，从而使人工评估员能够做出更明智的判断”。报告称：“评估员现在不再是从头开始，而是扮演仲裁者的角色——评估结构化的论点冲突。”
人工与AI：不可替代的合作关系
尽管X正在努力减少用户撰写社区笔记的工作量，但研究人员明确表示，AI永远无法取代人类。人类不仅需要对AI撰写的笔记进行“盖章”，还需要发挥其他重要作用。人工撰写的“从头开始”的笔记对于训练AI代理至关重要，并且一些评估员的专业知识是无法轻易复制的。此外，人类“具有独特的优势，可以识别缺陷或偏见”，因此更有可能撰写“自动化作者忽略的主题”的笔记，例如垃圾邮件或诈骗。
X计划在本月开始发布AI撰写的社区笔记，所有AI撰写的社区笔记都将“为用户明确标记”。最初，AI笔记只会出现在用户请求笔记的帖子中，但最终AI笔记作者可能会被允许选择帖子进行事实核查。随着AI笔记在本月晚些时候开始出现在X上，更多信息将会被披露。同时，X用户可以立即开始测试AI笔记作者，并很快被考虑纳入AI代理的初始队列。（如果任何Ars读者最终测试了AI笔记作者，这位Ars作者会很想了解更多关于您的体验。）
结论：谨慎前行，迎接挑战
X引入AI来辅助撰写社区笔记是一项大胆的尝试，它既有潜力提高事实核查的效率和覆盖范围，也可能带来操纵、误导和质量下降等风险。为了确保AI社区笔记的成功，X需要认真解决以下几个关键问题：
- 提高AI的准确性和客观性：X需要开发更先进的AI算法，以减少AI生成不准确或带有偏见的笔记的可能性。这可能需要使用更多样化和高质量的训练数据，以及更严格的评估和反馈机制。
- 加强人工审核的质量和效率：X需要为人工审核员提供更好的工具和培训，以帮助他们更有效地评估AI撰写的笔记。这可能需要开发新的评估指标和流程，以及提供更多的资源和支持。
- 确保透明度和用户参与：X需要向用户公开AI社区笔记的运作方式，并鼓励用户积极参与评估和反馈。这可以帮助建立用户对该系统的信任，并提高其整体质量。
总而言之，AI在社区笔记中的应用是一把双刃剑。只有通过谨慎的规划、严格的测试和持续的改进，X才能充分利用AI的潜力，同时避免其可能带来的风险。在这个过程中，X需要与研究人员、专家和用户紧密合作，共同探索AI在信息传播和事实核查领域的最佳实践。未来的道路充满挑战，但同时也充满机遇。让我们拭目以待，看看X能否成功地驾驭这场变革，为社交媒体的健康发展做出贡献。
