事件概述：一场价值44万澳元的AI失误
2025年10月，全球知名咨询公司德勤澳大利亚分公司宣布将向澳大利亚政府退还部分费用，原因是一份价值近44万澳元（约29万美元）的政府咨询报告中充斥着由AI生成的虚假引用和不存在的研究资料。这份名为《目标合规框架保证审查》的报告本应评估澳大利亚就业与劳资关系部(DEWR)用于自动化福利系统处罚的技术框架。
报告于7月完成，8月由DEWR正式发布后不久，悉尼大学卫生法副主任Chris Rudge发现了多处问题引用，包括多篇不存在的论文和出版物。其中最引人注目的是，报告中多次引用了悉尼大学法学院教授Lisa Burton Crawford的多份不存在的报告。
幻觉报告的详细内容与问题
报告背景与价值
这份《目标合规框架保证审查》报告是德勤与澳大利亚政府合同的一部分，旨在评估该国福利系统中自动化处罚机制的技术框架。报告内容涉及复杂的法律、技术和政策分析，对政府决策具有重要参考价值。
发现的问题引用
- 虚构学术引用：报告中引用了多位学者的"研究"，但这些研究实际上并不存在
- 错误判例引用：报告中包含一段被错误归因于联邦法官Jennifer Davies的虚构引述（原文中名字被错误拼写为"Davis"）
- 虚假报告引用：报告中引用了多份不存在的"研究报告"
报告的修订与承认
在发现问题后，德勤与DEWR于10月初发布了修订版报告，在273页的第58页中，德勤终于承认使用了"基于生成式AI大语言模型（Azure OpenAI GPT-4o）的工具链
