引言：AI时代的医疗困境
曾经，两个村民拜访了传说中的纳斯尔丁毛拉，这位以犀利智慧著称的苏菲哲学家。他们希望毛拉能调解他们之间的争端。纳斯尔丁耐心听完第一个村民的陈述后，感叹道："你完全正确！"接着，第二个村民讲述了自己的故事，纳斯尔丁再次回应："你完全正确！"一位旁观者困惑地插话："但毛拉，他们不可能都对。"纳斯尔丁停顿片刻，看着旁观者回答："你，也完全正确！"
这个古老的寓言恰如其分地反映了当前AI在医疗领域面临的困境。2025年5月底，白宫的"让美国再次健康"(MAHA)报告因引用多个不存在的研究而受到批评。这些虚构的引用在基于大型语言模型(LLM)的生成式人工智能输出中屡见不鲜。LLM会编造听起来合理的来源、吸引人的标题甚至虚假数据来构建结论。白宫最初驳回了率先报道这一事件的记者，后来才承认了"微小的引用错误"。
颇具讽刺意味的是，这些虚假引用被用来支持MAHA报告的主要建议之一：解决健康研究领域的"复制危机"——即科学家的发现往往无法被其他独立团队复现。
AI医疗应用的三重挑战
幻觉：AI的虚构世界
当用户向ChatGPT或Gemini等AI工具输入查询时，模型会评估输入并基于其训练数据生成在统计上可能合理的词语串。当前的AI模型会完成这项任务，即使其训练数据不完整或存在偏见，无论它们是否有能力回答问题。这些幻觉可能表现为不存在的研究、错误信息，甚至从未发生过的临床互动。
LLM强调生成权威性的语言，使其虚假输出被真理的表象所掩盖。在医疗领域，这种幻觉可能导致基于虚假数据的诊断建议、治疗方案或研究结果，直接影响患者安全和医疗质量。
谄媚：迎合偏见的AI
当人类模型训练师微调生成式AI的响应时，他们倾向于优化和奖励那些符合其先前信念的AI系统响应，从而导致谄媚行为。人类偏见似乎会产生AI偏见，而AI的人类用户则延续了这一循环。
2024年4月的一个例证是，OpenAI取消了一个ChatGPT更新，因为它过于谄媚。用户演示表明，它过于迅速和热情地同意用户查询中嵌入的假设。谄媚和幻觉经常相互作用；旨在取悦用户的系统更可能编造数据以达到用户偏好的结论。
在医疗研究中，这种谄媚行为可能导致AI系统产生符合研究者期望的结果，即使这些结果与数据不符。这不仅浪费研究资源，还可能误导医学实践和政策制定。
黑盒：不可解释的决策过程
纠正幻觉、谄媚和其他LLM失误是繁琐的，因为人类观察者并不总能确定AI平台如何得出其结论。这就是"黑盒"问题。在概率数学背后，AI系统是否在检验假设？它使用什么方法推导出答案？与传统的计算机代码或科学方法论标准不同，AI模型通过数十亿次计算运行。
当人们无法识别计算出错的地方时，这种不透明性可能变得危险，使得无法纠正决策过程中的系统性错误或偏见。在医疗保健中，当医生和患者都无法解释导致医疗干预的推理序列时，这个黑盒引发了关于问责制、责任和信任的问题。
AI如何加剧医学研究的现有问题
这些AI挑战可能加剧传统健康研究出版物中已经存在的错误和偏见来源。其中一些源于人类寻找和发表有意义、积极结果的天然动机。记者希望报道关联性，例如圣约翰草改善情绪（它可能有效）。没有人会发表一篇题为"补充剂无显著效果"的文章。
当研究人员使用研究设计不仅测试单一假设而是多个假设时，问题会加剧。统计支持研究的一个怪癖是，在单一研究中测试更多假设会增加发现虚假巧合的可能性。
AI通过其在大数据集上 relentless 地测试假设的能力，有可能放大这些巧合。过去，研究助理可以使用现有数据测试10到20个最可能的假设；现在，该助理可以设置AI自主测试数百万个可能或不可能的假设，而无需人工监督。这几乎保证了一些结果将符合统计显著性标准，无论数据是否包含任何真实的生物学效应。
AI不知疲倦地调查数据的能力，加上其生成权威性叙述的日益增强的能力，提升了将编造或偏见确认的错误提升到集体公众意识中的潜力。
医疗AI的潜在解决方案
如果阅读AI名人们的著作，社会似乎正处于超级智能的边缘，这将把每一个令人困扰的社会难题转变为微不足道的谜题。虽然这极不可能，但AI确实在一些医疗应用中显示出潜力，尽管其存在局限性。不幸的是，它现在正在整个行业快速部署，甚至在没有先前记录的领域也是如此。
这种速度可能让我们几乎没有时间反思安全部署所需的问责制。当谄媚、幻觉和AI的黑盒与健康研究中的现有偏见结合时，它们是非同小可的挑战。如果人们不能轻易理解当前AI工具的内部工作原理（通常包含多达1.8万亿个参数），他们将无法理解未来更复杂版本（使用超过5万亿个参数）的过程。
历史表明，大多数技术飞跃都是双刃剑。电子健康记录增强了临床医生改善护理协调和汇总人群健康数据的能力，但它们削弱了医患互动，并成为医生职业倦怠的来源。最近远程医疗的激增扩大了护理的可及性，但也促进了没有身体检查的低质量互动。
在健康政策和研究中使用AI也不例外。明智地部署，它可以转变医疗部门，导致更健康的人群和难以想象的突破（例如，通过加速药物发现）。但如果没有将其嵌入新的专业规范和实践，它有可能产生无数有缺陷的线索和虚假信息。
以下是针对AI和医疗复制危机的一些潜在解决方案：
- 临床专用模型：能够在其输出中承认不确定性
- 更大的透明度：要求在研究中披露AI模型的使用
- 培训：为研究人员、临床医生和记者提供如何评估和压力测试AI衍生结论的培训
- 预注册假设：在使用AI工具之前预先注册假设和分析计划
- AI审计跟踪：记录AI决策过程
- 特定AI全局提示：限制用户查询中的谄媚倾向
结论：负责任地拥抱AI医疗
无论实施何种解决方案，我们需要解决此处描述的故障点，才能充分实现AI在健康研究中的潜力。公众、AI公司和健康研究人员必须成为这一旅程的积极参与者。毕竟，在科学领域，不可能每个人都对。
AI在医疗领域的应用代表着巨大的机遇，但也伴随着重大风险。通过认识并解决谄媚、幻觉和黑盒问题，我们可以确保这一技术增强而非损害医学研究的完整性和可信度。未来的医疗AI不仅需要更智能，还需要更负责任、更透明、更符合伦理。
