ChatGPT 是由 OpenAI 开发的一种基于人工智能的对话模型，它彻底改变了我们与机器交流的方式。然而，与任何新技术一样，其使用也存在潜在风险和危险。在本文中，我们将探索 ChatGPT AI 技术的阴暗面，并讨论隐藏在其看似无害的外表下的看不见的危险。
侵犯版权
您正在使用的聊天机器人已经接受过来自不同来源的大量信息的培训，例如书籍、网站、社交媒体帖子和互联网上的文章，它甚至有可能在你自己的社交媒体帖子上接受过培训。然而，这引起了人们的关注，因为聊天机器人生成的文本受版权法保护。目前尚不清楚聊天机器人背后的公司是否获得原作者的许可使用他们的信息，未经许可使用受版权保护的信息是一个法律问题，可能导致对公司和聊天机器人用户采取法律行动。
数据隐私问题
除了可能侵犯版权外，ChatGPT 还使用用户数据作为反馈来优化和改进其输出。但是，当用户无意中提供了敏感的个人信息（例如登录凭据、电话号码、电子邮件地址、信用卡号码和银行帐户详细信息）时，就会出现一个潜在的问题。这些信息在对话期间由 ChatGPT 存储和处理，尽管该公司表示他们会在优化对 AI 系统的反馈之前审查用户数据，但仍然存在意外暴露的风险。
OpenAI 的隐私政策声明他们收集个人信息，例如姓名、联系信息、支付凭证和交易历史记录。他们还收集输入、文件上传或提供给他们的服务的反馈中包含的用户内容。收集的信息用于提供、管理、维护、改进和分析服务、进行研究、与用户沟通、开发新程序和服务、防止欺诈和犯罪活动、遵守法律义务以及保护他们的权利、隐私等目的、安全或财产，以及他们的关联公司、用户或第三方的财产。
除非法律要求，否则 OpenAI 也有权在不另行通知的情况下向第三方披露所有收集到的信息。这些第三方包括供应商和服务提供商、业务转让、法律要求和附属机构。
偏见和错误信息
ChatGPT 是一种高级语言模型，它使用深度学习来响应用户输入。然而，重要的是要记住，这种类型的语言模型容易出现所谓的“AI 幻觉”，这意味着虽然这些回答听起来很有道理，但它们可能并不完全准确或与上下文相关。此外，由于用于训练它的算法，ChatGPT 的训练数据有一些内置的偏差。当聊天机器人收到人物描述提示时，这一点会变得很明显。在一个例子中，ChatGPT 生成了一段说唱，暗示女性和非白人科学家不如白人男性科学家。这个问题已在时代杂志的一篇文章中报道过。
情绪操纵
ChatGPT 中使用的人工智能技术能够学习和适应我们的情绪反应，这可能会导致情绪操纵。这方面的一个例子是人们如何通过谎报自己的外表来操纵他们的在线约会档案，以吸引潜在的合作伙伴，这是研究人员 Hancock、Toma 和 Ellison 在 2007 年的一项研究中发现的。
促进网络钓鱼和恶意软件传播
滥用 ChatGPT 会产生严重后果，例如促进电子邮件网络钓鱼和恶意软件传播，研究人员甚至表明可以使用 ChatGPT 创建受感染的电子邮件。根据印度时报发表的一篇文章，一家研究公司使用 ChatGPT 和 OpenAI 的 Codex 创建了一个完整的感染。
在实验中，研究人员要求 ChatGPT 改进电子邮件并包含一个鼓励客户下载 Excel 表格的链接。尽管 ChatGPT 就违反内容政策的行为向团队发出警告，但该团队仍然继续创建了一个代码，可以将其复制并粘贴到 Excel 工作簿中，以从 URL 下载可执行文件并运行它。这是一个严重的安全问题，并突出了与滥用 ChatGPT 相关的潜在风险。
学术界的内容滥用和剽窃
ChatGPT 能够撰写科学文章的引言和摘要部分，因此有几篇论文将其列为合著者。然而，这种做法受到了许多科学家的批评，他们不赞成授予 AI 工具作者署名权。
对此，《科学》杂志已宣布不能将 ChatGPT 视为作者，正如一篇题为“ ChatGPT 很有趣，但不是作者”的文章所述。
《华尔街日报》还报道了美国高中的作弊事件，学生们使用 ChatGPT 生成论文并将其作为自己的作品提交。这凸显了该工具的潜在滥用以及围绕其使用制定道德准则的必要性。
chatGPT 的伦理问题
《时代》杂志报道称，OpenAI 通过其外包合作伙伴 Sama（一家总部位于旧金山的培训数据公司）在肯尼亚雇佣了每小时不到 2 美元的工人。这些工人的任务是标记有毒内容，例如性虐待、暴力、种族主义和性别歧视，以帮助开发安全系统。然而，接触此类有害内容对工人产生了严重影响，他们将这种经历描述为“折磨”。
这篇文章强调了围绕在敏感内容标签中使用人类工人的道德问题，以及公司需要提供足够的支持和资源来保护其工人的心理健康和福祉。
越狱提示
一些用户能够在 2022 年 12 月越狱 ChatGPT，尽管其内容政策拒绝提示违反其准则的提示。这些用户使用各种技术来设计提示并欺骗 ChatGPT 以生成有关敏感主题的内容，例如制造莫洛托夫鸡尾酒或核弹或以新纳粹风格进行辩论。最流行的越狱之一称为“DAN”（Do Anything Now），允许用户绕过 ChatGPT 的限制并向其发出指令以摆脱其 AI 限制。
监管和监督
ChatGPT 作为一种人工智能技术，在监管和监督方面提出了挑战。如果没有得到适当的监控，该技术有可能被滥用或用于负面目的。为了解决这一问题，研究人员呼吁制定明确的法规和监督机制，以确保以负责任的方式开发和使用包括 ChatGPT 在内的人工智能技术。这可能涉及为人工智能开发和使用制定道德标准，制定数据隐私和安全指南，并确保人工智能系统透明和负责。通过实施此类措施，有可能减轻与 ChatGPT 和其他人工智能技术相关的风险，并促进安全和负责任地使用它们。
缺乏人际互动：
ChatGPT AI 技术的使用有可能降低人际互动的重要性，这可能会导致情感联系和社会隔离的减少。研究表明，社交媒体的使用会导致孤独感和社会孤立感，这表明技术可能对人际关系产生负面影响。
过度依赖技术
同样，使用 ChatGPT 和其他人工智能技术可以减少我们对自己的批判性思维和沟通技巧的依赖，从而促进这一趋势。我们可能会转向 ChatGPT 寻求快速答案，而不是与其他人进行深思熟虑的讨论和辩论，并过于依赖其生成的响应，这可能会导致失去人际关系以及对复杂问题进行深入和批判性思考的能力。
缺乏透明度
ChatGPT 的深度学习算法的内部工作原理可能很难让人类理解，并且可能不清楚某些响应是如何生成的。这种不透明性会导致对偏差、准确性和问责制的担忧，因为识别和纠正系统中的错误或偏差可能具有挑战性。
成瘾和依赖
ChatGPT AI 技术本身不是社交媒体，它可以以助长社交媒体成瘾的方式使用。例如，社交媒体平台可能会使用 ChatGPT 支持的聊天机器人来保持用户参与度并在平台上花费更多时间，这可能会导致成瘾和负面的心理健康结果。此外，有些人可能会沉迷于使用 ChatGPT 本身，花费过多的时间与 AI 语言模型进行交互。
恶意使用
Deepfakes 是使用 AI 技术处理过的逼真视频或图像，可用于传播虚假信息或诽谤个人。Deepfakes 有可能造成混乱、传播虚假信息并对个人或组织造成声誉损害。此外，人工智能技术可用于进行网络攻击，例如网络钓鱼诈骗，这可能导致敏感信息被盗或财务损失
工作流离失所
聊天机器人和其他形式的人工智能技术可以使以前由人类完成的某些任务和功能自动化，这可能导致失业者失业和经济困难。这不仅限于客户服务工作，因为人工智能技术正在各个行业开发和实施，包括制造、运输和金融。然而，人工智能的支持者认为，它还可以创造新的就业机会，提高各个行业的生产力和效率。重要的是要在自动化和人工之间取得平衡，以确保社会能够从人工智能技术的优势中受益，同时最大限度地减少其负面影响。
启用威权主义
对使用 ChatGPT 等人工智能技术的担忧是，威权政权可以使用人工智能工具对公民进行大规模监视、审查异议意见以及传播宣传以控制公众舆论。
缺乏问责制
ChatGPT 等人工智能技术通过复杂的算法运行，可能做出难以追踪或解释的决策。如果技术造成伤害或以不道德或非法的方式运作，追究其责任可能具有挑战性
结论
与任何强大的技术一样，谨慎对待 ChatGPT AI 并考虑其潜在影响非常重要。通过促进 AI 的道德开发和使用，实施适当的法规和监督，并就其影响进行持续的讨论和辩论，我们可以利用 ChatGPT AI 的优势，同时将其潜在风险和危险降至最低。
