
目前人工智能(AI)的警告无处不在。它们包括有关AI可能导致人类灭绝的恐惧信息,引发了终结者电影的形象。英国首相理查德·杨(Rishi Sunak)甚至设立了一个峰会,讨论人工智能的安全问题。
然而,我们已经长时间使用人工智能工具——从用于推荐相关产品的算法,到带有识别交通标志和提供车道定位技术的汽车。人工智能是一种增加效率、处理和分类大量数据以及卸载决策的工具。
然而,所有这些工具都向每个人开放,包括罪犯在内。我们已经看到了罪犯们正在早期使用人工智能技术。例如,深度伪造技术已被用于生成报复色情内容。
科技提高了犯罪活动的效率。它使违法者能够更好地针对更多的人,并且帮助他们更加具有可信度。观察犯罪分子过去如何适应和采用科技进步,可以提供一些线索,了解他们可能如何运用人工智能。
1. 更好的网络钓鱼钩。
AI工具如ChatGPT和谷歌的巴德提供写作支持,使缺乏经验的作家能够有效地撰写营销信息。然而,这项技术也可能帮助罪犯在联系潜在受害者时听起来更可信。
想想所有那些拼写错误、容易被发现的垃圾邮件和钓鱼短信。如果要从受害者那里获取信息,让人信服是关键。
网络钓鱼是个数字游戏:据估计,每天会发送34亿封垃圾邮件。我自己的计算显示,如果犯罪分子能够改进他们的信息,让现在只有0.000005%的信息就能说服某人透露信息,那么每年就会有620万更多的网络钓鱼受害者。
2. 自动化互动
早期AI工具的其中一个用途是自动化文字、聊天消息和电话之间的客户与服务之间的互动。这使得对客户的回应更快速,同时优化了商业效率。在接触到人类之前,您可能首先与AI系统接触到一个组织。
翻译:"罪犯们可以利用同样的工具自动与大量潜在受害者进行交互,在规模上远远超过人工操作。他们可以冒充银行等合法服务,并通过电话和电子邮件等方式,试图获取可以窃取你的钱财的信息。"
3. Deepfakes的翻译:
深度伪造技术
人工智能真的很擅长生成数学模型,可以在大量真实世界数据的“训练”下,使这些模型在特定任务上更加出色。视频和音频合成技术深度伪造就是其中的一个例子。最近,一位名为Metaphysic的深度伪造用户展示了该技术的潜力,他们展示了一则视频,其中Simon Cowell在电视节目《美国达人秀》上演唱歌剧。
这项技术超出大多数罪犯的能力范围,但利用人工智能模仿人类对文本的反应、写电子邮件、留语音便条或打电话的能力是可以自由获取的。同样自由获取的是用于训练的数据,例如可以从社交媒体上的视频中收集取得。
社交媒体一直是罪犯挖掘潜在目标信息的丰富来源。现在,人工智能有可能被用来创建一个深度伪造的版本,而这个深度伪造版本可以被利用来与朋友和家人互动,说服他们透露关于你的信息给罪犯。了解你生活的更多细节可以更轻易地猜测密码或PIN码。
4. Brute forcing (暴力破解)
罪犯使用的另一种技术称为“暴力破解”,也可以从人工智能中受益。这是指依次尝试许多字符和符号的组合,看它们是否与您的密码匹配。
因此,长且复杂的密码更为安全;它们很难被这种方法猜测。暴力破解需要耗费大量资源,但如果您了解某人的信息,这会变得更容易。例如,这允许按照优先级排序潜在的密码列表,提高了过程的效率。比如,他们可以从与家庭成员或宠物的名字有关的组合开始。
使用您的数据进行训练的算法可以帮助更精确地构建这些优先列表,并一次性针对多人——从而需要更少的资源。也可以开发特定的人工智能工具,收集您的在线数据,然后分析这些数据以建立您的个人资料。
举例来说,如果你经常在社交媒体上发布与泰勒·斯威夫特相关的内容,手工检查你的帖子以寻找密码线索将是一项艰巨的工作。而自动化工具可以快速有效地完成此项任务。所有这些信息都将被用来生成你的个人资料,这样便更容易猜测你的密码和PIN码。
"Healthy skepticism"可以翻译为“健康的怀疑心”,意为保持着理性和独立思考的态度,对待事情持有谨慎而有建设性的质疑和思考。健康的怀疑心指的是不贪图轻信,也不轻易否定,可以保有一份平静而冷静的分析和判断能力。在进行决策或提出观点时,健康的怀疑心可以帮助我们更好地思考和做出合适的选择。
我们不应该害怕人工智能,因为它可以给社会带来真正的好处。但是,就像任何新技术一样,社会需要适应并理解它。尽管现在我们认为智能手机理所当然,但社会仍需要适应它们在我们生活中的存在。它们大多对我们有益,但仍存在不确定性,例如儿童使用屏幕时间过多的问题。
作为个体,我们应该积极主动地尝试理解人工智能,而不是满足于现状。我们应该制定自己的方法来应对它,保持一种健康的怀疑态度。我们需要考虑如何验证我们所阅读、听到或看到的信息的正确性。
这些简单的行为可以帮助社会从AI中获得好处,同时确保我们能够保护自己免受潜在的危害。