苹果 Siri 也许很容易受到亚音速命令的攻击

来源: OSCHINA
编辑: h4cd
2018-05-13

前几天 I/O 大会上,谷歌 Duplex 语音 AI 与商家的对话让人印象深刻,它展示了在复杂上下文的情境中帮助主人进行订餐与预约理发服务的操作,全程除了逻辑在线,语气也十分生动,与真人别无二致,赢得阵阵惊呼。甚至,据报道,谷歌母公司 Alphabet 董事长 John Hennessy 在事后接受采访时确认,Duplex 已经通过了图灵测试。

AI 的突破已经一次又一次为我们带来惊喜,AI 语音助手也在不断变得更加智能与逼真,然而,随之而来的各种安全问题也引发了人们的思考与恐慌,大到 AI 拥有自主意识后会给人类的命运带来怎么的变革,小到 AI 物联网产品的安全隐患。近日,一项新的研究就表示,谷歌语音助手和其它同类型基于语音命令的人工智能服务,如亚马逊 Alexa 和苹果 Siri,可能会很容易受到亚音速命令(subsonic command)的攻击。

该研究称,这些亚音速命令不能被人类听到,但是 Google Assistant、Siri 和 Alexa 等工具则可以检测到这些命令,也就是说如果这些指令可以容易地在不知情的情况下被下达给你的语音助手。

据纽约时报报道,这项研究由美国伯克利和普林斯顿大学的团队以及中国的浙江大学进行。他们目前已经创造了一种方法将 Google Assistant、Siri 和 Alexa 听到的声音替换为人耳无法听到的音频文件。虽然人耳听不到,但是这种音频却可以被机器学习软件听到并执行。

研究人员声称网络犯罪分子可以使用这些亚音速命令来造成各种破坏。他们可能会在 YouTube 视频或网站上放入音频,导致 Google Assistant 在未经用户同意的情况下在线订购产品,启动恶意网站等等。如果像 Google Home 这样的设备,这些隐形命令可能会让安全摄像头、显示灯熄灭关闭,而门会被解锁。

目前还没有相关信息表明这些亚音速命令被实际用作攻击手段使用,Google、苹果和亚马逊都声称已经采取了措施解决了该问题。

来源:androidauthority

展开阅读全文
4 收藏
分享
加载中
精彩评论
次声也可以叫亚音速???@红薯
2018-05-13 19:52
2
举报
其实解决方案也不麻烦,只要将人耳能听到的,频率在20到20000Hz的(高中知识)滤出来就行了,其他频率的,例如低于20Hz的低声波给滤掉,同样也要把高于2万Hz的超声波过滤掉,这样子就能保证人耳能听到就能执行;不能听到的,程序也不执行。

虽然我没有写过处理音频的程序,但是话说,滤波这么tivial的事情,正常情况下,程序不是应该先滤波嘛:把噪音平滑掉,把背景减去,等等这些操作完了之后,才是人声处理吗?所以说,如果出现上面的问题,也只能说是程序自身的bug吧。
2018-05-13 10:27
2
举报
最新评论 (4)
图灵测试是理想实验,那些说通过图灵测试的,明白图灵想要表达的是什么吗?
2018-05-14 10:11
0
回复
举报
次声也可以叫亚音速???@红薯
2018-05-13 19:52
2
回复
举报

引用来自“Leperca”的评论

其实解决方案也不麻烦,只要将人耳能听到的,频率在20到20000Hz的(高中知识)滤出来就行了,其他频率的,例如低于20Hz的低声波给滤掉,同样也要把高于2万Hz的超声波过滤掉,这样子就能保证人耳能听到就能执行;不能听到的,程序也不执行。

虽然我没有写过处理音频的程序,但是话说,滤波这么tivial的事情,正常情况下,程序不是应该先滤波嘛:把噪音平滑掉,把背景减去,等等这些操作完了之后,才是人声处理吗?所以说,如果出现上面的问题,也只能说是程序自身的bug吧。
@Leperca 那样识别率会降低吧……
2018-05-13 16:51
0
回复
举报
其实解决方案也不麻烦,只要将人耳能听到的,频率在20到20000Hz的(高中知识)滤出来就行了,其他频率的,例如低于20Hz的低声波给滤掉,同样也要把高于2万Hz的超声波过滤掉,这样子就能保证人耳能听到就能执行;不能听到的,程序也不执行。

虽然我没有写过处理音频的程序,但是话说,滤波这么tivial的事情,正常情况下,程序不是应该先滤波嘛:把噪音平滑掉,把背景减去,等等这些操作完了之后,才是人声处理吗?所以说,如果出现上面的问题,也只能说是程序自身的bug吧。
2018-05-13 10:27
2
回复
举报
更多评论
6 评论
4 收藏
分享
返回顶部
顶部