在人工智能技术飞速发展的今天，医疗领域正经历着前所未有的变革。从自动生成病历到辅助诊断，AI工具正逐步融入医疗服务的各个环节。然而，最新研究揭示了一个令人担忧的现象：这些被寄予厚望的AI医疗助手，可能正在加剧而非缓解医疗系统中的健康不平等问题。
研究发现：AI医疗工具的系统性偏见
美国麻省理工学院(MIT)Jameel Clinic和伦敦经济学院等机构的一系列研究表明，当前广泛使用的医疗AI工具存在明显的偏见问题。这些偏见主要表现在三个方面：对女性患者症状严重性的低估、对黑人和亚裔患者同理心的缺失，以及对非标准表达方式患者的歧视。
女性健康问题被系统性忽视
MIT的研究团队发现，包括OpenAI的GPT-4、Meta的Llama 3和专注于医疗的Palmyra-Med在内的大模型，在评估女性患者时倾向于建议较低级别的护理方案，甚至建议部分患者自行处理而非寻求专业医疗帮助。这种偏见直接导致女性患者可能获得不充分的医疗干预。
伦敦经济学院的研究进一步证实，在英国超过一半地方政府使用的Gemma模型中，当用于生成和总结案例记录时，女性身体和心理健康问题被系统性低估，而相比之下，男性类似问题则受到更多重视。
少数族裔患者面临同理心缺失
MIT的另一项研究表明，GPT-4等模型在回应黑人、亚裔患者寻求心理健康支持时，表现出更少的同理心和关怀。这种差异可能导致少数族裔患者在需要情感支持时获得质量较低的指导。
"基于模型对种族的感知，一些患者可能获得的支持性指导会少得多，"MIT Jameel Clinic的副教授Marzyeh Ghassemi指出。这种差异不仅影响患者的就医体验，还可能影响治疗效果。
语言表达差异导致的不公平对待
研究还发现，当患者的信息包含拼写错误、非正式语言或不确定的表达方式时，AI模型建议他们不要寻求医疗护理的可能性会增加7-9%，即使临床内容完全相同。这种现象对英语非母语者或不太习惯使用技术的人群尤为不利。
偏见根源：数据与算法的双重问题
医疗AI工具中的偏见并非偶然，而是源于多个层面的系统性问题。
训练数据中的固有歧视
当前大多数医疗AI模型，如GPT-4、Llama和Gemini，都是基于互联网数据进行训练的。这些数据本身就包含了社会中的各种偏见和刻板印象。医疗研究领域的数据往往严重偏向男性，导致女性健康问题长期面临资金不足和研究不足的困境。
"如果你处于任何可能让Reddit论坛建议你健康决策的情况，我认为那不是一个安全的地方，"加州大学旧金山分校的兼职教授、AI医疗信息初创公司Open Evidence的首席医疗官Travis Zack表示。他去年的一项研究发现，GPT-4没有考虑医疗人口统计学多样性，倾向于对某些种族、族裔和性别进行刻板印象归类。
算法设计与安全措施的不足
除了数据问题，AI开发过程中的决策也加剧了偏见。虽然开发者可以在模型训练后添加防护措施，但这些措施往往不够全面，无法完全消除系统性偏见。
OpenAI承认，许多研究评估的是GPT-4的旧版本，自发布以来公司已经提高了准确性。他们表示有团队致力于减少有害或误导性输出，特别关注健康领域，并与外部临床医生和研究人员合作评估模型、测试行为并识别风险。
Google则表示，他们极其重视模型偏见问题，正在开发能够清理敏感数据集并防范偏见和歧视的保护技术。
现实影响：加剧医疗不平等
AI医疗工具中的偏见可能产生深远影响，进一步加剧医疗系统中的不平等现象。
强化现有的医疗不平等
研究人员警告，AI工具可能强化医疗系统中已经存在的治疗不足模式。例如，女性健康问题长期被低估和忽视，AI系统的偏见可能使这一情况更加恶化。
影响医疗决策质量
当医生依赖AI工具进行诊断和治疗建议时，这些偏见可能导致错误的医疗决策。例如，女性患者的心脏病症状可能被误认为是焦虑，而少数族裔患者的疼痛报告可能不被充分重视。
损害医患关系与信任
AI缺乏同理心的回应可能损害患者对医疗系统的信任，特别是对于已经面临医疗歧视的群体。这种信任的缺失可能导致患者延迟就医或完全避免寻求帮助。
解决方案：构建更公平的医疗AI
面对AI医疗工具中的偏见问题，研究人员和行业专家提出了多种解决方案。
使用多样化且具代表性的训练数据
"识别哪些数据集不应首先用于训练，然后在多样化且更具代表性的健康数据集上进行训练，"研究人员建议。这种方法可以从源头上减少偏见。
Open Evidence公司已经采取了这一策略，他们在美国40万名医生使用的模型中，使用医学期刊、美国食品药品监督管理局标签、健康指南和专家评论进行训练。同时，每个AI输出都有来源引用支持。
开发专门针对医疗的AI模型
今年早些时候，伦敦大学学院(UCL)和伦敦国王学院(King's College London)的研究人员与英国国民医疗服务体系(NHS)合作，构建了一个名为Foresight的生成式AI模型。该模型基于5700万人的匿名患者数据，旨在预测可能的健康结果，如住院或心脏病发作。
"与全国规模的数据合作，使我们能够代表英格兰人口和疾病的全貌多样性，"UCL荣誉高级研究员、Foresight团队负责人Chris Tomlinson表示。尽管不完美，但Tomlinson认为这比更通用的数据集提供了更好的起点。
加强监管与透明度
随着AI在医疗领域的应用扩大，监管和透明度变得尤为重要。NHS Foresight项目已在6月暂停，以便英国信息专员办公室考虑英国医学会和皇家全科医师学院对其使用敏感健康数据进行模型训练的数据保护投诉。
专家强调，AI系统需要更高的透明度，以便医疗专业人员能够理解和信任这些工具的输出。同时，需要建立明确的问责机制，确保AI决策的责任归属。
平衡技术进步与伦理考量
尽管存在偏见问题，MIT的Ghassemi强调AI为医疗保健带来了巨大好处。"我希望我们开始重新关注健康领域的模型，解决关键的医疗差距，而不是为医生已经很擅长的任务增加百分之一的性能。"
这种观点提醒我们，在追求技术进步的同时，不能忽视伦理和社会影响。医疗AI的发展应当以改善所有人的健康结果为目标，而不仅仅是提高效率。
未来展望：构建公平、包容的医疗AI
随着AI在医疗领域的应用不断深入，解决偏见问题将成为行业发展的关键。未来的医疗AI系统需要更加注重以下几个方面：
多元化开发团队：确保开发团队包含不同背景、性别和种族的专家，能够识别和减少各种形式的偏见。
持续监测与评估：建立机制持续监测AI系统的输出，识别和纠正可能出现的偏见。
患者参与：让患者，特别是历史上被边缘化的群体，参与AI系统的设计和评估过程。
伦理框架：制定明确的伦理框架和指南，指导医疗AI的开发和应用。
跨学科合作：促进计算机科学家、医疗专业人员、伦理学家和社会学家之间的合作，共同构建更加公平的AI系统。
结语
AI技术在医疗领域的应用前景广阔，但我们必须正视并解决其中存在的偏见问题。只有通过多方努力，确保AI系统公平、公正地为所有患者服务，才能真正实现技术进步带来的健康红利。在追求医疗AI创新的同时，我们不能忘记医疗的核心使命：为每个人提供平等、优质的医疗服务。
正如Ghassemi所言，我们的目标应当是"解决关键的医疗差距"，而不是仅仅追求技术指标的提升。只有这样，AI才能真正成为促进医疗公平的有力工具，而非加剧不平等的因素。
