人工智能使辨别深度伪造变得更加困难

煤油灯科技2023-05-27 22:05

随着人工智能程序的不断发展和易于访问,越来越难将事实与虚假区分开来。就在本周,一张由人工智能生成的五角大楼附近爆炸的图像在网络上引起了轰动,甚至有些影响了股市,直到很快被证实是假新闻。

佛吉尼亚理工学院传媒学院的教授Cayce Myers一直在研究这种不断发展的技术,并分享了他对深度伪造技术未来和如何识别它们的看法。

Myers说:“识别虚假信息,特别是来自复杂人工智能的深度伪造技术,变得越来越困难。生成AI的成本壁垒也非常低,现在几乎每个有电脑和互联网的人都可以使用人工智能。”

Myers认为,由于这一点,我们将在未来几年看到更多的虚假信息,无论是视觉上的还是文字上的。他说:“发现这些虚假信息需要用户具备更多的媒体素养和识别任何声明真实性的技巧。”

虽然Photoshop程序已经使用多年,但迈尔斯称,使用人工智能创造虚假信息与使用Photoshop程序创造虚假信息的区别在于其复杂度和范围。 "Photoshop 允许制作虚假的图像,但人工智能可以制作非常引人入胜的视频。考虑到虚假信息现在已经成为网络内容的普遍来源,这种虚假新闻内容可以触达更广泛的受众,特别是如果这些内容在网络上疯传的话。 "

当涉及到打击虚假信息时,迈尔斯称有两个主要的来源——我们自己和人工智能公司。

"审查信息来源、了解虚假信息的预警信号,并在网上分享内容时保持谨慎,是打击虚假信息传播的一种个人方法," 他说。"然而,这不足以应对问题。生产人工智能内容的公司以及虚假信息传播的社交媒体公司需要制定某种程度的防护措施,防止虚假信息被广泛传播。"

迈尔斯解释说,人工智能技术发展得如此之快,以至于任何防止AI生成的虚假信息传播的机制都很可能不是完善的。

美国联邦、州乃至地方层面都在试图管制人工智能。立法者正在考虑各种问题,包括虚假信息、歧视、知识产权侵犯和隐私。

“问题在于,立法者不想在了解技术的前途之前就创立一项管理人工智能的新法规。过快地创建新法规可能会扼杀人工智能的发展和增长。而创建得过慢可能会为很多潜在问题打开大门。在这方面达成平衡将是一个挑战,”迈尔斯说道。

 

---煤油灯科技victorlamp.com编译整理---

你可能也喜欢这些文章

科技互联网,科技,资讯,动态,洞察,量子,计算,AI,人工智能,机器人,区块链,Web3,分布式,操作系统,OS,芯片,视频,深度,论文