在数字化时代，人工智能技术正以前所未有的速度渗透到各个领域，包括教育政策制定。然而，一项最新发现揭示了AI技术在政府文件应用中的潜在风险——一份重要的加拿大教育改革报告被发现包含至少15个虚假引用，这些引用很可能是AI生成的，尽管报告本身呼吁在学校中'负责任地使用AI'。这一事件引发了关于AI在学术和政府文件中可信度的深刻质疑。
虚假引用的发现
根据加拿大广播公司(CBC)的报道，这份名为《面向未来的愿景：转型和现代化教育》(A Vision for the Future: Transforming and Modernizing Education)的报告于8月28日发布，旨在作为纽芬兰和拉布拉多省未来10年公立学校和高等教育机构现代化的路线图。这份418页的文件由纪念大学教育学院的Anne Burke和Karen Goodnough教授以及教育部长Bernard Davis共同主持完成，历时18个月。
然而，Memorial大学助理教授Aaron Tucker在研究加拿大AI历史时，无法在报告中找到多个引用的来源，尽管他搜索了MUN图书馆、其他学术数据库和Google。Tucker向CBC表示：'伪造引用至少提出了一个问题：这是否来自生成式AI？我不知道这是否是AI，但伪造引用是人工智能的典型特征。'
具体案例：虚构的电影引用
其中一个虚假引用引用了一部名为《校园游戏》(Schoolyard Games)的2008年国家电影局(National Film Board)电影，但据该局发言人称，这部电影并不存在。实际上，这个确切引用出现在维多利亚大学的一个格式指南中，该指南教导学生如何使用虚构示例来格式化参考文献。该指南在其第一页就警告：'本指南中的许多引用是虚构的'，意思是它们只是用于演示正确格式的虚构示例。然而，有人(或某个AI聊天机器人)直接将这个虚假示例复制到教育协议报告中，仿佛它是一个真实来源。
AI生成引用的普遍问题
自AI语言模型问世以来，生成虚假引用一直是一个持续存在的问题。这种倾向于编造学术引用的行为在学术和法律领域尤其麻烦，因为伪造的引用可能轻易地通过粗略的人工审查，因为它们看起来格式正确且在上下文中合适。
像ChatGPT、Gemini和Claude等AI语言模型之所以能够产生这种可信的虚构内容，是因为它们首先产生的是看似合理的输出，而不是准确的输出。它们总是根据训练过程中吸收的模式生成统计近似值。当这些模式与现实情况不匹配时，结果就是听起来自信的错误信息。即使是能够搜索网络获取真实来源的AI模型也可能伪造引用、选择错误的引用或错误地描述它们。
伦理与讽刺的双重困境
这一事件中最具讽刺意味的是，报告中的110项建议之一明确指出，省政府应为'学习者和教育者提供必要的AI知识，包括伦理、数据隐私和负责任的技术使用'。
Memorial大学政治学教授Sarah Martin花了数天时间审阅该文件，发现了多个伪造的引用。她向CBC表示：'关于我找不到的引用，我想不出其他解释。你会想，'这一定是正确的，这不可能是错的。'这是一个非常重要的教育政策文件中的引用。'
官方回应与后续发展
当CBC联系时，共同主席Karen Goodnough拒绝接受采访，在电子邮件中写道：'我们正在调查和检查引用，所以我目前无法回应此事。'
教育和幼儿发展部发言人Lynn Robinson在给CBC的一份声明中承认，'注意到引用中存在少量潜在错误'。'我们理解这些问题正在得到解决，在线报告将在未来几天更新以纠正任何错误。'
AI可信度的更广泛问题
这一事件不仅仅是一个孤立的事件，而是反映了AI技术在需要高度准确性和可靠性的领域应用时面临的更广泛挑战。Josh Lepawsky，Memorial大学教师协会前主席（今年1月辞去报告咨询委员会职务）告诉CBC，伪造引用'从根本上摧毁了材料的可信度'，并指出这是一个'存在严重缺陷的过程'。
教育领域的AI应用反思
教育领域一直被视为AI技术有潜力带来重大变革的领域。然而，这一事件提醒我们，在拥抱AI技术的同时，必须保持批判性思维和严格的验证程序。教育工作者和政策制定者需要认识到，AI可以是一个强大的工具，但它不应替代人类的判断和专业知识。
平衡创新与责任
这一事件引发了一个关键问题：如何在教育领域平衡AI技术创新与责任？答案可能在于制定明确的指导方针，包括：
- 严格的引用验证：所有AI生成的内容，特别是用于政策文件的内容，必须经过严格的验证过程。
- 人类监督：AI辅助的工作应由人类专家进行最终审核，特别是在教育政策等关键领域。
- 透明度：明确指出哪些内容是由AI生成的，哪些是由人类创作的。
- 伦理培训：为使用AI的教育工作者提供关于AI局限性和伦理考量的培训。
结论：AI时代的学术诚信
加拿大教育报告中的虚假引用事件是一个警示，提醒我们在AI时代重新思考学术诚信和可靠性的定义。随着AI技术的不断发展，我们需要开发新的工具和方法来确保AI生成内容的准确性和可靠性。同时，这也强调了在依赖AI技术时保持人类监督和批判性思维的重要性。
在追求教育现代化的过程中，我们不应忽视对准确性和可靠性的基本要求。AI可以是一个强大的盟友，但它必须受到适当的监督和指导，以确保它真正服务于教育的最佳利益，而不是引入新的风险和挑战。
