人工智能新系统可阻止流氓麦克风 防止被监听

煤油灯科技2022-04-22 10:22

在当代高速发展的社会,很多时候,我们都会感觉手机是不是在监听我们的生活,刚和朋友谈某样东西,手机软件就开始推送相关产品。这种细思极恐的方式也提高了人们的警惕心,各种信息也很容易被获取,普通人应对的方法可能只有使环境声音变得嘈杂,防止被监听,但也会影响正常生活。如果你想阻止这种情况发生,你能怎么能做呢?

近日,哥伦比亚工程公司的研究人员开发了一个人工智能新系统,它可以产生一种低音,人们可以在任何房间、任何情况下播放,从而阻止智能设备的窥视。而且它很容易在电脑和智能手机等硬件上下载,使人们有能力保护自己的声音隐私。

虽然该团队在破坏自动语音识别系统方面的结果,在理论上,被认为可以在人工智能中使用一段时间,但以足够快的速度实现它们目的,但在实际应用中使用仍然是一个主要瓶颈。问题在于,在某个特定时刻,打断一个人的讲话的声音并不是一秒钟后会打断讲话的声音。当人们说话时,他们的声音不断变化,因为他们说不同的词并且说话速度非常快。这些变化使机器几乎不可能跟上人说话的快节奏。

计算机科学助理教授Carl Vondrick说:“实现这一目标的一个关键技术挑战是使其工作速度足够快。我们的算法能够以80%的效率阻止流氓麦克风听清对话。它甚至在我们对流氓麦克风一无所知的情况下也能发挥作用,比如它的位置,甚至它上面运行的计算机软件。”

研究人员需要设计一种可以实时破坏神经网络的算法,该算法可以在说话时连续生成,并适用于一种语言中的大多数词汇。虽然早期的工作已经成功地解决了这三个要求中的至少一个,但没有一个能够同时满足这三个要求。Chiquier 的新算法使用了她所谓的“预测性攻击”——一种可以破坏自动语音识别模型被训练转录的任何单词的信号。此外,当通过无线方式播放攻击声音时,它们需要足够大,以干扰任何可能很远的流氓“监听”麦克风。攻击声音需要与声音具有相同的距离。研究人员的方法通过预测对信号或单词未来的攻击,以两秒的输入语音为条件,实现了实时性能。该团队对攻击进行了优化,使其具有与正常背景噪音相似的音量,使房间内的人们能够自然地交谈,而不会被自动语音识别系统成功监控。该小组成功地证明了他们的方法适用于具有自然环境噪声和复杂场景几何形状的真实房间。

该研究的主要作者、冯德里克实验室的博士生Mia Chiquier说:“到目前为止,我们的方法对大多数英语词汇有效,我们计划将该算法应用于更多语言,最终使流氓麦克风完全无法察觉对话。”

“对于我们研究界的许多人来说,人工智能技术的伦理问题是一个必不可少的问题,但它似乎属于一个单独的思考过程。就像我们很高兴我们终于制造了一辆可以驾驶的汽车,但却忘记了设计一个方向盘和刹车,”宾夕法尼亚大学计算机和信息科学教授、机器学习领域的领先研究员Jianbo Shi说。“作为一个社区,我们需要‘有意识地’思考我们从最早的研究设计阶段开发的人工智能技术对人类和社会的影响。


原文链接:https://techxplore.com/news/2022-04-spying-ai-block-rogue-microphones.html

参考论文:https://arxiv.org/abs/2112.07076

你可能也喜欢这些文章