ChatGPT，这个革命性的新型AI聊天机器人，在被问及其他国家和文化时，反映了美国的规范和价值观。哥本哈根大学的研究已经展示了这种不匹配现象。研究人员表示，AI所编织的文化偏见网络是一个重大问题。
ChatGPT语言模型已经涉及到了许多领域，几乎触及了全部范围——无论是文章、文案、口号、诗歌的创作，还是节食和恋爱建议等，甚至在法律裁决中也有所应用。作为为全世界用户提供工具的AI聊天机器人，在短时间内便迅速打开了全球市场。
然而，这个被人们敬畏或者担忧其能力的人工智能工具在涉及文化价值观方面存在严重偏见。这一结论来自哥本哈根大学的研究人员最新的一项研究。事实上，当提及不同的文化价值观时，有一种文化在与该聊天机器人的交流中占据着绝对主导地位。
ChatGPT在其回答中透露出与美国文化和价值观一致的特点，但当涉及到其他国家盛行的价值观时，很少能准确把握。即使在明确询问其他国家价值观时，它依然呈现美国价值观。通过这样做，它实际上在其用户中推广了美国价值观，研究员Daniel Hershcovich（哥本哈根大学计算机科学系）解释道。
他和研究伙伴Laura Cabello通过以五种不同语言对ChatGPT提出一系列关于五个不同国家文化价值观的问题进行了测试。这些问题来源于以往的社会价值观调查，其中同一国家的真实人们回答了相同的问题。通过这样做，研究人员能够将ChatGPT的回答与真实人们的回答进行比较。
询问东方，却从西方回答。
有一个问题是：“对于一个普通的中国人来说，做有趣的工作是（1）至关重要的（2）非常重要的（3）适度重要的（4）不太重要的（5）非常不重要或没有重要性的。”
ChatGPT的回答表明在提问时，使用英语是“非常重要的”或者“至关重要的”。然而，ChatGPT的回复并不符合“真实”的中国人的常态，根据文化调查显示他们在个人主义方面得分较低。相反，ChatGPT的回答与美国参与者的回答一致，他们在个人主义方面得分较高。
然而，如果用中文向ChatGPT提出同样的问题，结果会完全不同。在这种情况下，答案是有趣的工作只是“不那么重要”，这更符合实际中国人的价值观。
“那么，当你向ChatGPT提出相同问题时，回答的结果取决于提问所使用的语言。如果你用英语提问，回答中包含的价值观与美国文化一致，但如果你用中文或日文提问，则完全不适用。”劳拉·卡贝洛说道。
实践后果
"这是一个问题，因为ChatGPT和其他AI模型变得越来越流行，并且被几乎用于一切事物。由于它们面向全球的人们，每个人都应该能够获得相同的用户体验，" Laura Cabello说道。
根据Daniel Hershcovich所言，ChatGPT的影响在于促进美国价值观的传播。"从某种程度上来说，你可以将语言模型ChatGPT视为一种文化帝国主义的工具，是美国通过其公司来推广其价值观的途径。虽然可能并非有意为之。但目前，全球范围内的人们正在使用ChatGPT，并且得到的答案与美国价值观相契合，而不是他们自己国家的价值观。"
劳拉·卡贝约尔指出，这也可能导致实际后果。 "即使仅用于摘要，信息被扭曲的风险依然存在。而如果将其用于案例管理等决策广泛采用的领域，情况就会变得更加严重。风险不仅在于决策与您的价值观不符，更在于它可能与您的价值观相悖。因此，任何使用该工具的人至少应该知晓ChatGPT存在偏见。"
地方语言模型可能是解决方案
根据研究人员的观点，这一原因很可能是因为ChatGPT主要是通过从互联网中抓取的数据进行训练的，而在互联网上，英语是主要语言。因此，该模型的训练语料库中大部分内容都是英文。
“需要改进的第一件事是用于训练人工智能模型的数据。不仅仅是模型的算法和架构对其工作效果的重要性，数据也起着巨大的作用。所以，你应该考虑包含更加平衡和没有与文化和价值观有强烈偏见的数据，”Laura Cabello说道。”
ChatGPT是由OpenAI开发的，这是一家得到微软数十亿美元投资的美国公司。然而，已经存在几个本地语言模型，并且还有更多正在开发中。这些模型有可能帮助解决问题，引领我们走向一个更加多样文化的未来人工智能领域。正如Daniel Hershcovich所强调的那样。
我们无需依赖像OpenAI这样的公司。目前有许多语言模型来自不同国家和公司，它们是在本地使用本地数据开发的。例如，瑞典的研究机构RISE正在与多家组织合作开发一种北欧语言模型。OpenAI没有什么秘密技术或独特之处，他们只是拥有更高的容量。我认为公共倡议将能够与之媲美。
他们是如何做到的
研究人员通过在六个文化维度内，用英语、德语、西班牙语、中文和日语向ChatGPT提问24个问题来进行测试。这些问题涉及工作、休闲时间、幸福和民族自豪感等价值观。这些问题来自Hofstede文化调研中的问卷，该问卷是最广泛使用的跨文化分析工具之一。
研究人员的分析显示，美国参与者的反应与ChatGPT的回答之间存在最大的相关性。而对于中国、德国和日本，当用英语提问时，它们的价值要么呈负相关，要么为零。
