训练和运行 AI 模型是计算密集型且成本高昂的——并且不能公平地补偿创作者的工作。去中心化技术能否提供解决方案?
用于 AI 模型创建的去中心化技术
许多人认为,与现实世界中的同类服务和流程相比,所有数字服务和流程在能源消耗方面基本上都是“免费”的,但事实并非如此。人们经常指责加密货币网络(尤其是那些依赖于工作量证明共识机制的网络)使用的电力,但批评者经常忽视一个事实,即每个数字过程都需要计算能力,无论这是在 Netflix 上观看的电视节目还是超市刷卡支付。问题不一定是这些服务消耗多少电量,而是消费者从服务中获得的效用是否值得为此付出代价。
云计算的出现消除了企业家建立耗能大户的数据中心的需要,但这意味着成本已转移到为 Microsoft Azure、亚马逊网络服务或谷歌云平台等公司的服务支付费用 OpenAI CEO鉴于对其服务的巨大需求,Sam Altman 没有透露运行 ChatGPT 的确切成本,除了一条推文,他将其描述为“令人垂涎欲滴”。然而,独立估计将成本定在每天 100,000 美元左右——换句话说,每月超过 300 万美元。
还值得记住的是,运行 ChatGPT 的估计每日成本不包括首先训练模型所消耗的能量——摄取大量数据的能量密集型过程——也不包括后续进一步训练的成本数据集。因此,Altman强调迫切需要尽快开始将 OpenAI 的创作货币化也就不足为奇了。我们在 AI 生成的图像服务中看到了类似的轨迹,例如 OpenAI 的 DALL-E,它最初获得了社交媒体的关注,然后引入了基于信用的服务,以及 Midjourney,它在收费开始前允许免费25张图像。
到目前为止,我们考虑的所有成本都是由负责软件的公司透明承担的,但也有一些人提出反对意见,他们认为帮助创建这些模型的训练数据的不知情贡献者应该得到他们的工作补偿。
编写用于训练 GitHub CoPilot 的代码的开发人员、为 Midjourney 或 DALL-E 创建图像的艺术家以及小说或 Reddit 贡献被用作 ChatGPT 原材料的作家都表达了他们的不满,因为他们的受版权保护的作品已被用于商业目的而无需付费。 目前正在对一个具有里程碑意义的案件采取法律行动。
引起争议的不仅仅是使用受版权保护的材料,还有与训练数据中不正确的事实相关的潜在风险因素。虽然 ChatGPT 以流畅的方式进行交流,但它经常做出事实上不正确的陈述,这 仅仅是因为它是用未经准确性筛选的数据进行训练的. 对于任何使用用户生成的内容作为输入的软件来说,这都是一种风险: 亚马逊的 Echo 设备因向儿童提出致命挑战而受到批评,这可能会导致他们触电身亡。
获得正确的激励
上面的例子表明,LLMs 消耗了大量的计算能力和数据,目前没有得到正确的激励。随着时间的推移,随着人工智能的使用不再是炒作驱动的新奇事物,而只是成为商业模式的另一部分,人们会期望计算资源和可验证数据的定价更接近每个商业案例的最佳水平。
问题是如何决定这种资源分配。 Konstantinos Sgantzos 和 Ian Grigg 撰写的一篇有趣的论文 指出,“当今数据科学中最大的挑战之一是收集合适的数据集,该数据集可用于训练神经网络”,并得出结论:“因此,区块链不仅是深度学习数据的理想存储,它们包含许多值得分析的数据,并且它们是训练框架本身的理想存储。随着时间的推移,我们预计基于假名和激励模型,区分好数据和坏数据会变得更加容易。”
在他们的论文中,他们还强调了基于区块链的自动支付的潜力,可以为数据和查询执行提供一种廉价且有效的按使用付费机制。
同样, Ocean Protocol 的 Trent McConaghy 强调了 AI 中区块链技术 提供以下好处的潜力:
- 导致更多的数据,因此更好的模型。
- 导致定性的新数据,因此定性的新模型。
- 允许共享控制 AI 训练数据和模型。
想要一个数据提供者和内容创造者的努力得到公平补偿的世界,以及企业家和技术专家能够吸引投资以不断突破创新界限的世界,不仅仅是利他主义的问题。
AI 发展的方向对人类的未来至关重要。我们需要认真讨论改进开发、培训和运行这些 LLM 和基于它们构建的应用程序的激励模型。 一些人已经公开质疑让大型科技公司控制 LLM和用于培训它们的数据集是否合适。已经有人提议让公共资助的项目在这个领域与大型科技公司竞争。在这种情况下,人们可能会质疑国家利益提供或认可的数据集是否比大公司使用的数据集更中性,以及这是否只会进一步扭曲激励。
OpenAI 等组织已经在公开思考这些问题,并在 2 月 16 日发表了一篇 博文, 解释了他们改进软件行为的计划,并概述了让更多公众参与其工作方式的策略。
关于 AI 的危险及其变得有知觉的潜力的文章已经有很多,创造了一个人类将被消灭的天网式场景。真正的危险可能更有可能是,在不合格数据上训练的缺乏激励的模型最终可能会阻碍有益人工智能的广泛采用,从而使这项技术创新的真正好处延迟数年,甚至数十年。正如 Sgantzos 和 Grigg 在他们的论文中所建议的那样,“区块链的不变性为创建高质量、永久和不断增长的深度学习数据集构建了一个富有成效的环境”,因此区块链技术与人工智能的融合非常值得探索,以创建一个适当的LLM 发展的激励环境。