
在本世纪之交,杰夫·贝佐斯普及了机械土耳其人的使用——这些低薪工人远程劳动,与可能有数千人一起完成更大的计算机项目的微小部分,以确保在对大多数计算机难以解决的简单任务上获得人类角度。他将这种人工和数字脑力的融合称为“人工人工智能”。
亚马逊的会员市场“ 机械土耳其市场 ”提供了许多服务之一,约有25万人通过该市场获得就业机会。
本周,总部位于瑞士的洛桑联邦理工学院的研究人员报告说,那些为完成任务提供了重要人类输入的土耳其人现在正在依靠由人工智能生成的内容来完成任务。他们将这种现象称为“人工人工人工智能”。
这个词可能会引起微笑,但研究人员表示,这些发现引起了严重的关注。
研究员Veniamin Veselovsky表示,工人使用人工智能生成器完成任务,会严重降低众包数据的实用性。这篇论文的题目是《人工人工人工智能:众包工人广泛使用大型语言模型进行文本生产任务》,于6月13日发布在arXiv预印服务器上。
尽管大型语言模型在处理训练数据方面表现出色,但在某些任务上,人类输入仍然优于它们。人类可以更高效地给模型输入标签、描述图像并响应验证码屏幕,这些任务计算机无法媲美。
Veselovsky表示:“人们倾向于依赖众包来验证大型语言模型的输出或创建用于比较的人工黄金标准数据。但是,如果众包工作者本身正在使用语言模型,以增加他们在众包平台上的生产力和收入呢?”
这样的输入会污染数据池,如果不予解决,可能会对基于人工智能操作的可靠性产生质疑。
“turk” 一词来源于一位18世纪的象棋大师“机器人”,该机器人在欧洲各地击败了许多选手,纳瓦伦和本杰明·富兰克林也是其中之一。毫无戒备的选手们从未意识到在机器的木板下藏着一位人类棋手的身影。
现如今,与土耳其现代人一起进行众包已成为一个价值十亿美元的产业。然而,一些公司低廉的工资标准也让它的声誉受到了损害,土耳其工人的工资可能只有每小时2至5美元。
但是,行业正在受到大型语言模型的突然采用所威胁。最近的一项研究发现,一款名为 ChatGPT 3.5 turbo 的模型,能够显著地优于众包工人,而成本仅为后者的约 1/20,用于处理分类作业。
工人们将面临越来越大的压力,要生产更多的产品,并以更快的速度完成,进而可能导致这些工人更依赖人工智能资源。
根据对亚马逊众包平台MTurk的工人使用大语言模型的有限研究,瑞士联邦理工学院的研究人员估计有33%至46%的工人任务是在使用大语言模型的帮助下完成的。
"大型语言模型日益流行,同时支持文本、图片和视频输入和输出的多模态模型也在不断崛起," Veselovsky说道。"所以我们的研究结果应该被视为煤矿中的警戒鸟,提醒平台、研究人员和众包工作者要寻找新的方法来确保人类数据仍然是人类的。"