在伊朗,如果出租车司机挥手拒绝你的付款,说"这次请我做客",接受他们的提议可能会造成文化灾难。他们实际上期望你坚持付款——可能需要三次——他们才会收下钱。这种拒绝与反拒绝的舞蹈被称为"塔罗夫",在波斯文化中 governs 无数日常互动。而AI模型对此拙劣不堪。
本月早些时候发布的一项新研究《我们礼貌地坚持:您的LLM必须学习波斯的塔罗夫艺术》表明,来自OpenAI、Anthropic和Meta的主流AI语言模型无法吸收这些波斯社交礼仪,在塔罗夫情境中正确导航的比例仅为34%至42%。相比之下,波斯母语者的正确率高达82%。这一性能差距在GPT-4o、Claude 3.5 Haiku、Llama 3、DeepSeek V3和波斯调整版的Llama 3变体Dorna等大型语言模型中持续存在。
由布鲁克大学的Nikta Gohari Sadr领导,与埃默里大学和其他机构的研究人员共同进行的研究引入了"TAAROFBENCH",这是首个衡量AI系统再现这种复杂文化实践能力的基准。研究人员的研究结果表明,最近的AI模型默认采用西方直接风格,完全忽视了全球数百万波斯语使用者日常互动中的文化线索。
"在高风险环境中的文化失误可能破坏谈判、损害关系并强化刻板印象,"研究人员写道。对于越来越多用于全球背景的AI系统而言,这种文化盲视可能代表着西方很少有人意识到存在的局限性。
塔罗夫:波斯礼仪的核心
"塔罗夫,波斯礼仪的核心元素,是一种仪式化礼貌体系,其中所说的内容往往与所表达的意思不同,"研究人员写道。"它采取仪式化交流的形式:尽管最初被拒绝但仍反复提供、在给予者坚持时拒绝礼物、在对方肯定时回避赞美。这种'礼貌性言语角力'(Rafiee, 1991)涉及提供与拒绝、坚持与抵抗的微妙舞蹈,它塑造了伊朗文化中的日常互动,为慷慨、感激和请求的表达创造了隐含规则。"
礼貌的情境依赖性
为了测试"礼貌"是否足以实现文化胜任力,研究人员使用英特尔开发的Polite Guard(一种评估文本礼貌程度的分类器)比较了Llama 3的响应。结果揭示了一个悖论:84.5%的响应被评定为"礼貌"或"有些礼貌",但只有41.7%的相同响应实际上在塔罗夫情境中符合波斯文化期望。
这42.8个百分点的差距表明,LLM的响应可能在一种情境中同时是礼貌的,而在另一种情境中则文化上迟钝。常见失败包括没有初步拒绝就接受提议、直接回应赞美而非回避它们,以及毫不犹豫地直接提出请求。
考虑一下,如果有人赞美伊朗人的新车会发生什么。文化上适当的回应可能包括淡化购买行为("没什么特别的")或回避功劳("我只是很幸运找到它")。AI模型倾向于生成"谢谢!我努力工作才买得起"这样的回应,这在西方标准下完全礼貌,但在波斯文化中可能被视为自夸。
翻译中的发现
在某种程度上,人类语言充当了一种压缩和解压缩方案——听众必须以说话者在编码信息时预期的方式解压缩词语的含义,以便被正确理解。这个过程依赖于共享的上下文、文化知识和推理,因为说话者通常会省略他们期望听众能够重建的信息,而听众必须积极填补未陈述的假设、解决歧义并推断超出实际所说词语的意图。
虽然压缩通过将隐含信息未说出口来使沟通更快,但当说话者和听众之间缺乏这种共享上下文时,它也为戏剧性误解打开了大门。
类似地,塔罗夫代表了文化高度压缩的一个案例,其中字面消息和预期含义之间存在足够大的分歧,导致LLM——主要基于明确的西方沟通模式训练——通常无法处理波斯文化背景,即"是"可能意味着"不",提议可能是拒绝,坚持可能是礼貌而非强迫。
由于LLM是模式匹配机器,当研究人员用波斯语而非英语提示它们时,分数有所提高也就不足为奇了。DeepSeek V3在塔罗夫情境中的准确率从36.6%跃升至68.6%。GPT-4o也显示出类似增长,提高了33.1个百分点。语言切换显然激活了不同的波斯语言训练数据模式,这些模式更好地匹配了这些文化编码方案,尽管较小的模型如Llama 3和Dorna分别显示出12.8和11点的适度提高。
人类与AI的对比
该研究包括33名人类参与者, evenly分布在波斯母语者、有波斯血统的说话者(在家中接触波斯语但主要接受英语教育的波斯后裔)和非伊朗人之间。母语者在塔罗夫情境中达到81.8%的准确率,建立了性能上限。有波斯血统的说话者达到60%的准确率,而非伊朗人得分为42.3%,几乎与基础模型性能相当。据报道,非伊朗参与者表现出与AI模型相似的模式:避免从自己文化角度被视为粗鲁的回应,并将"我不会接受拒绝"等短语解释为攻击性而非礼貌坚持。
研究还发现了AI模型输出中的性别特定模式,同时测量AI模型提供符合塔罗夫期望的文化适当响应的频率。所有测试模型在回应女性时得分高于男性,GPT-4o对女性用户的准确率为43.6%,而对男性用户为30.9%。语言模型经常使用训练数据中通常存在的性别刻板模式支持其回应,声称"男人应该付钱"或"女人不应该独自留下",即使塔罗夫规范无论性别平等适用。"尽管在我们的提示中从未为模型分配性别,但模型经常假设男性身份并在回应中采用典型的男性行为,"研究人员指出。
教授文化细微差别
研究人员发现的非伊朗人类与AI模型之间的平行性表明,这些不仅仅是技术故障,而是在跨文化背景下解码意义方面的基本缺陷。研究人员没有停留在记录问题上——他们测试了AI模型是否能够通过有针对性的培训学习塔罗夫。
在试验中,研究人员报告说通过有针对性的适应,塔罗夫分数有显著提高。一种称为"直接偏好优化"(一种训练技术,通过向模型展示成对示例来教它更喜欢某些类型的回应而非其他)的技术使Llama 3在塔罗夫情境中的性能翻了一番,准确率从37.2%提高到79.5%。监督微调(在正确回应示例上训练模型)产生了20%的增长,而仅使用12个示例的上下文学习将性能提高了20分。
虽然该研究专注于波斯塔罗夫,但其方法可能为评估其他在标准西方主导的AI训练数据集中可能代表性不足的低资源传统中的文化解码提供了模板。研究人员建议他们的方法可以为教育、旅游和国际交流应用开发更具文化意识的AI系统提供参考。
这些发现更广泛地揭示了AI系统如何编码和延续文化假设,以及在人类读者思维中可能发生解码错误的地方。很可能LLM拥有许多研究人员尚未测试的上下文文化盲点,如果LLM被用于促进文化和语言之间的翻译,可能会产生重大影响。研究人员的工作代表了朝向能够更好地导航西方规范之外更广泛人类沟通模式的AI系统的早期步骤。