在人工智能技术飞速发展的今天，AI医疗工具正逐渐成为全球医疗体系的重要组成部分。从自动生成病历摘要到辅助诊断复杂疾病，大型语言模型(LLM)如Gemini和ChatGPT正在改变医疗实践的方式。然而，一系列最新研究揭示了一个令人担忧的现象：这些AI工具可能存在严重的性别和种族偏见，导致女性和少数族裔患者获得质量较低的医疗服务。这一发现不仅挑战了AI技术的中立性假设，更引发了关于医疗公平性的深刻思考。
研究揭示的AI医疗偏见现象
女性患者的症状被低估
麻省理工学院Jameel诊所的一项研究显示，OpenAI的GPT-4、Meta的Llama 3以及专注于医疗的Palmyra-Med等AI模型，在评估女性患者时倾向于建议较低级别的护理水平，甚至建议部分患者居家自我治疗而非寻求专业医疗帮助。这种偏见可能导致女性患者的健康状况被忽视，延误必要的治疗时机。
更令人担忧的是，这种偏见并非孤立现象。伦敦经济学院的研究发现，谷歌的Gemma模型——被英国超过一半的地方当局用于支持社会工作的工具——在生成和总结案例笔记时，会低估女性 compared to男性的身心健康问题。这种系统性偏见可能强化医疗体系中已存在的性别不平等。
少数族裔患者缺乏同理心
MIT团队的另一项研究表明，OpenAI的GPT-4等模型在回答黑人及亚裔患者关于心理健康问题的咨询时，表现出较少的同理心。这种差异可能导致少数族裔患者获得的情感支持和指导明显少于其他群体，影响治疗效果和患者体验。
"这表明，一些患者纯粹因为模型对其种族的认知，可能会得到少得多的支持性指导，"MIT Jameel诊所的副教授Marzyeh Ghassemi指出。这种基于种族的差异化对待，不仅违背医疗伦理原则，还可能加剧健康不平等。
语言表达差异导致的不公平
研究发现，AI模型对患者的语言表达方式也存在偏见。Ghassemi的团队发现，那些消息中包含拼写错误、非正式语言或不确定措辞的患者，其被AI模型建议不要寻求医疗护理的可能性，比那些沟通方式完美规范的患者高出7-9%，即使临床内容完全相同。
这种偏见可能对非英语母语者或技术使用能力较弱的人群造成不公平待遇，进一步扩大医疗获取的鸿沟。正如加州大学旧金山分校的兼职教授、AI医疗信息初创公司Open Evidence的首席医疗官Travis Zack所言："如果你处于任何可能让Reddit子论坛建议你健康决定的情况，我认为那不是一个安全的地方。"
AI医疗偏见的根源分析
训练数据中的既有偏见
AI医疗偏问题的根源部分在于用于训练LLM的数据。GPT-4、Llama和Gemini等通用模型使用来自互联网的数据进行训练，这些数据中存在的偏见因此被反映在AI的回应中。Zack及其团队在去年的一项研究中发现，GPT-4没有考虑医疗条件的人口统计学多样性，倾向于对某些种族、族裔和性别进行刻板印象化处理。
医疗研究数据本身也存在严重偏差。健康研究数据往往严重偏向男性，例如女性健康问题面临长期资金不足和研究不足的问题。这种数据偏差被AI系统学习后，会进一步强化医疗体系中已存在的治疗不足模式。
开发商的技术选择
AI开发者在模型训练后的安全措施设置也会影响偏见如何渗透到系统中。不同的开发团队对偏见问题的重视程度和解决方法各异，导致市场上不同AI医疗工具的偏见程度存在差异。
OpenAI表示，许多研究评估的是GPT-4的旧版本，自发布以来公司已经提高了准确性。他们有专门团队致力于减少有害或误导性输出，特别关注健康领域。OpenAI还与外部临床医生和研究人员合作评估其模型，进行压力测试以识别风险。
谷歌则表示，对模型偏见问题"极其重视"，正在开发能够净化敏感数据集并防范偏见和歧视的保护技术。
医疗领域的特殊性
医疗AI的偏见问题尤为严重，原因在于医疗决策直接关系到人的生命健康，且医疗领域本身存在复杂的专业知识和伦理考量。与其他应用场景相比，医疗AI的偏见可能导致更为严重的后果，包括延误治疗、误诊或不当治疗。
此外，医疗决策往往涉及不确定性和灰色地带，需要医生结合专业知识、临床经验和患者具体情况进行综合判断。AI系统如果无法准确理解这些细微差别，可能会做出有偏见的建议。
AI医疗偏见的影响与风险
加剧健康不平等
AI医疗偏见可能进一步加剧已存在的健康不平等。在西方社会，不同性别和种族群体在医疗获取、诊断准确性和治疗效果方面已存在显著差异。带有偏见的AI工具可能会强化这些不平等，形成恶性循环。
例如，女性患者的心脏病症状常被误认为是焦虑或其他非严重问题，这种模式如果被AI学习并放大，可能导致更多女性心脏病患者得不到及时诊断和治疗。同样，少数族裔患者的疼痛报告可能被低估，影响疼痛管理效果。
降低医疗系统信任度
当患者发现AI系统对自己的症状或健康状况存在偏见时，可能会对整个医疗系统产生不信任感。这种不信任可能导致患者回避必要的医疗咨询，或对AI辅助的医疗建议持怀疑态度，从而影响AI技术在医疗领域的推广和应用。
特别是在已经存在医疗信任问题的群体中，AI偏见可能进一步削弱医患关系，使原本脆弱的医疗信任雪上加霜。这对于需要长期医疗管理的慢性病患者和心理健康患者尤其重要。
法律与伦理风险
AI医疗偏见的法律和伦理风险不容忽视。如果患者因AI系统的偏见导致健康受损，医疗机构和AI开发商可能面临法律诉讼和赔偿责任。此外，从伦理角度看，允许带有偏见的AI系统参与医疗决策，违背了医疗公平和患者自主权的核心伦理原则。
随着各国加强对AI技术的监管，医疗AI的偏见问题可能成为监管重点。欧盟的《人工智能法案》等法规已经明确要求高风险AI系统（包括医疗AI）必须进行偏见评估和缓解，这增加了AI开发商合规的复杂性和成本。
解决AI医疗偏见的可能路径
改进训练数据与算法
解决AI医疗偏见的关键在于改进训练数据和算法设计。研究人员建议，首先应确定哪些数据集不应用于训练，然后在多样化且更具代表性的健康数据集上进行训练。
Open Evidence就是一个积极案例。该公司被美国40万医生用于总结患者病史和检索信息，其模型在医学期刊、美国食品药品监督管理局标签、健康指南和专家评论上进行训练。此外，每个AI输出都有来源引用作为支持，提高了建议的可信度和可追溯性。
开发专门医疗AI模型
与通用AI模型相比，专门为医疗领域设计的AI模型可能更少偏见。今年早些时候，伦敦大学学院和国王学院伦敦的研究人员与英国国家医疗服务体系(NHS)合作，构建了一个名为Foresight的生成式AI模型。
Foresight基于5700万人的匿名患者数据（如住院和COVID-19疫苗接种等医疗事件）进行训练，旨在预测可能的健康结果，如住院或心脏病发作。"与全国规模数据合作，使我们能够代表英格兰在人口统计和疾病方面的完整多样性，"UCL的名誉高级研究员、Foresight团队的首席研究员Chris Tomlinson表示。虽然不完美，但Tomlinson认为这比更通用的数据集提供了更好的起点。
加强监管与评估
加强监管和评估是解决AI医疗偏见的重要手段。政府和监管机构应制定明确的AI医疗工具评估标准，特别关注偏见和公平性指标。这些标准应包括对不同人口群体的测试要求，确保AI系统在各种情况下都能提供公平的建议。
医疗机构在采用AI工具前，应进行严格的偏见评估和验证，确保这些工具不会加剧现有的医疗不平等。此外，医疗机构应建立AI决策的监督机制，允许医生对AI的建议进行独立判断和干预。
提高AI系统的透明度
提高AI系统的透明度有助于识别和减轻偏见。AI开发商应公开其模型训练数据、评估方法和偏见缓解策略，接受独立专家和公众的审查。医疗机构也应向患者明确说明AI在医疗决策中的角色和局限性。
建立AI医疗建议的可追溯性系统也很重要。正如Open Evidence所做的那样，每个AI输出都应提供来源引用，使医生能够验证建议的依据。这不仅提高了AI系统的可信度，也便于发现和纠正潜在的偏见。
未来展望：构建公平的AI医疗未来
多方协作的解决方案
解决AI医疗偏见需要多方协作，包括AI开发者、医疗机构、监管机构、研究人员和患者代表。各方应共同努力，制定行业标准和最佳实践，推动AI医疗工具的公平性和包容性。
医疗机构可以与AI公司合作开发针对特定医疗场景的定制化解决方案，确保这些工具能够满足不同患者群体的需求。同时，医疗机构应培训医护人员了解AI系统的局限性和潜在偏见，提高他们批判性使用AI工具的能力。
技术创新的方向
未来的技术创新应重点关注以下几个方面：
去偏见算法：开发能够自动识别和减轻训练数据中偏见的算法，确保AI系统的输出不受输入数据中既有偏见的影响。
公平性评估工具：建立标准化的AI医疗工具公平性评估框架，包括对不同人口群体的测试基准和评估指标。
可解释AI：提高AI决策过程的透明度和可解释性，使医生和患者能够理解AI得出特定建议的原因，便于识别和纠正潜在偏见。
持续学习系统：开发能够从用户反馈中持续学习和改进的系统，及时发现和纠正在实际应用中出现的偏见问题。
患者中心的AI设计
未来的AI医疗工具应采用患者中心的设计理念，确保技术真正服务于所有患者的需求。这包括：
- 多样化参与：在AI工具的设计和开发过程中，邀请不同性别、种族和社会经济背景的患者代表参与，确保工具能够满足各种用户的需求。
- 文化敏感性：提高AI系统对不同文化背景患者的理解能力，避免文化刻板印象影响医疗建议。
- 语言包容性：增强AI系统对非标准语言表达的理解能力，确保语言表达差异不会影响医疗建议的质量。
正如MIT的Ghassemi所言，AI为医疗带来了巨大好处，"我希望我们能够开始重新关注健康领域的模型，解决关键的医疗差距，而不是为医生已经相当擅长的任务增加百分之一的性能。"这种以患者为中心、关注医疗公平的AI发展理念，才是医疗AI技术应该追求的方向。
结论
AI医疗工具的性别和种族偏见问题提醒我们，技术进步必须与公平性考量并行。在追求效率和准确性的同时，我们不能忽视AI系统可能带来的不平等影响。解决这一问题需要技术、监管、教育和多方面协作的综合努力。
未来，随着AI技术在医疗领域的深入应用，建立公平、透明、负责任的AI医疗生态系统将成为行业共识。只有确保AI医疗工具能够公平服务于所有患者，我们才能真正实现技术进步与医疗公平的双赢，为每个人提供更优质的医疗服务。
