苏黎世大学的研究人员最近进行了一项研究，探索了人工智能模型的能力，特别关注了OpenAI的GPT-3，在生成和传播（虚假）信息方面的潜在风险和益处。

在由博士后研究员乔万尼·斯皮塔莱（Giovanni Spitale）和费德里科·杰尔马尼（Federico Germani）以及苏黎世大学（University of Zurich）生物医学伦理学和医学史研究所（IBME）主任尼古拉·比勒-安多尔诺（Nikola Biller-Andorno）带领下进行的研究中，参与者共有697人，旨在评估个体是否能够区分推文形式中的虚假信息和准确信息。

此外，研究人员的目标是确定参与者能否辨别出一条推文是由真实的Twitter用户撰写还是由GPT-3这一先进的人工智能语言模型生成的。所涉及的主题包括气候变化、疫苗安全性、COVID-19大流行、扁平地球理论以及癌症的顺势疗法治疗。

该论文发表在《科学进展》杂志上。

AI技术驱动的系统有可能产生大规模的虚假信息活动

一方面，GPT-3展示了生成准确且相对于真实Twitter用户的推文更易理解的能力。然而，研究人员还发现这个AI语言模型具有令人不安的技巧，能够产生极具说服力的错误信息。令人担忧的是，参与者无法可靠地区分由GPT-3创建的推文和真实Twitter用户所写的推文。

“我们的研究揭示了人工智能在提供信息和误导信息方面的能力，这引发了关于信息生态未来的重要问题。”费德里科·杰尔马尼表示。

这些研究结果表明，基于良好结构的提示并经过训练人员评估之后，由GPT-3所创建的信息宣传活动在公共卫生危机中将更为有效，因为这需要对公众进行迅速而清晰的沟通。这些研究结果还提出了关于人工智能延续虚假信息的威胁的重要担忧，特别是在危机或公共卫生事件期间虚假信息和误导信息的快速广泛传播的背景下。

这项研究揭示了AI驱动的系统可能被滥用，用于产生大规模的虚假信息宣传活动，涉及潜在的任何主题，从而不仅危及公共卫生，而且还危及对于正常运作的民主体制至关重要的信息生态系统的完整性。

强烈推荐积极主动的监管

随着人工智能对信息创造和评估的影响日益显著，研究人员呼吁决策者做出严格的、基于证据的和道德意识的法规回应，以应对这些颠覆性技术可能带来的潜在威胁，并确保人工智能在塑造我们的共同知识和福祉方面得到负责任的使用。

"研究结果强调了积极监管的关键重要性，以减轻人工智能驱动的虚假信息宣传所造成的潜在伤害，" 尼古拉·比勒-安多诺（Nikola Biller-Andorno）表示。"认识到与人工智能生成的虚假信息相关的风险对于保护公共健康和在数字时代维护健全可信的信息生态系统至关重要。"