栗子、安妮发自凹非寺，量子位出品，公众号 QbitAI

　　触摸屏，也能出卖你的手机密码。

　　手机的内置麦克风，搭配 AI 算法，就能让输入的每一个字无处可逃。

　　你可能听不到，但手指每在屏幕上轻轻点一下，都会发出一个声波。离屏幕不到 1 厘米远的麦克风，轻轻松松就能记录下来。

　　剑桥大学的科学家们，开发了一只偷听触摸屏的 AI。它能从细微的声音中，还原出人类输入的信息。

　　45 名志愿者真人测试，数字、字母，都被 AI“偷”了出来。

　　声波出卖你

　　四顾无人时悄咪咪在触摸屏上解个锁，怎么就被声波泄露了密码呢？

　　“听到你的触摸”，这是论文的名字 (完整版：Hearing your touch: A new acoustic side channel on smartphones) 。在这里，研究人员揭秘了“作案思路”，其实并不难理解。

　　即使是在触摸屏上轻悄悄地操作，手指的每一次轻微的敲击都会产生声波。当戳击屏幕不同位置时，声波信息也会有相应的变化。

△ 触摸屏上按下“f”键时的声波震动形状

　　没错，关键信息就隐藏在这些形状不同的声波里。而这些信息，恰巧可以被手机内置的麦克风捕捉到。

　　研究人员反手开发了一个手机恶意应用程序，当这个程序被植入手机时，能够调动内置麦克风，让其秘密开始工作，记录下触摸时的声波信息。

　　△ 实验所用的恶意声波收集程序

　　他们收集了声波形状与触摸位置的对应信息，训练出了一个 AI 模型，还原输入内容。

　　至此，作案流程已经基本成型：

　　恶意程序悄悄启动→悄悄捕捉输入密码时的声波→AI 模型预测手指对应在屏幕的位置→还原输入的密码和信息。

　　AI 伙同麦克风，分工明确，里应外合，井然有序地就将你的隐私偷走了。

　　现场验证

　　这套程序的效果如何？研究人员找来了 45 位志愿者，开始了一系列测试。

　　整套测试的机型选用了 Google 旗下的 Nexus 5 手机以及 Nexus 9 平板。前者为 2013 年首发，屏幕大小为 4.95 英寸，后者为 2014 年发布，屏幕为 8.9 英寸。两款设备均内置 2 个麦克风。

　　△ 实验设备麦克风位置示意：左为 Nexus 5，右为 Nexus 9

　　为了模拟真实世界的环境，研究人员没有选择安静的实验室，而是选取了 3 种日常环境，测试在不同噪音环境下整个系统的准确度：

• 公共休息室：周围是聊天的人类，偶尔会出现煮咖啡时发出的较大噪音。

• 阅览室：电脑键盘声与小声说话声混合的环境。

• 图书馆：几乎没有说话声，但电脑键盘声环绕四周。

　　研究人员在这三个环境中，让 45 名志愿者分别进行了 4 组实验。

　　第一组志愿者需要随机输入数字1-9，每个数字各输入 10 次，第二组需要输入 200 组四位数字的密码，第三组随机输入字母，第四组需要输入 5 个字母组成的单词，这些单词均来自聊天语料库 NPS。

　　实验结果验证了这种攻击方法可行性。

　　在 20 次实验中，AI 能准确还原 150 个四位数字密码中的 91 个，还原准确率为 61%。

　　破解字母组成的暗号也不成问题。用 27 个单词密码测试时，只进行 10 次实验，模型在手机上破解了 7 个单词，在平板上成功还原出其中的 19 个。

　　就是这样，你毫无察觉，但密码不胫而走。

　　我有许多小 mimi，都在声波里

　　其实不用慌，因为 AI 想拿到手机密码，也不止这一种方法。

　　去年 9 月，英国兰卡斯特大学发表的研究，用手机扬声器里的声呐，窃取密码，特别是图形密码。

　　声呐的原理是，计算声波从发出到返回之间的时差，来确定物体的位置，以及物体有没有移动。这项研究里，AI 分析麦克风录下的回声，便可以追踪用户手指在智能手机屏幕上的移动轨迹了。

　　也是在你没有察觉的时候，一切就发生了。

　　当然，上面这些只是手机上的问题。

　　如今，从键盘到硬盘，哪一个听不到你的秘密？

　　(请注意，这是一句严肃的话，没有开车。)

　　就连家里的盆栽，可能也知道你说了什么。

　　所以，我们一个一个讲。

　　听一下键盘先

　　去年 12 月，就有个名叫Keytap的键盘窃听法术，简单有效，吸引了大片关注。

　　先用麦克风采集一下敲击各种按键的声波，比如每个键收集三次。

　　再搭个简单的预测模型，算出每个按键的平均波形：

　　把收集好的声波的峰值对齐，避免延时影响；再用相似度指标 (Similarity Metric) 精细地对齐波形；对齐之后，做个简单加权平均，就得到平均波形了。

　　最后，尽情敲键盘吧，只要和平均波形比对一下相似度，就能检测出是哪个按键了。

　　还有开源代码，大家可以直接玩耍。

　　硬盘偷听，麦克风也不用

　　这是密歇根大学和浙大学者脑洞的结晶。原原本本的机械硬盘，不加麦克风，不做任何硬件改动，就变成了窃听器，且音质不俗：

　　硬盘工作的时候，主轴高速运转带动盘片，上面的磁头会感应盘片上的磁场变化，通过改变磁场，来写入数据。

　　这个过程非常精细。只要受到外部的声波冲击，磁头就会发生偏移。硬盘的位置传感器，产生的电压信号里就会体现出这个偏移。

　　让 AI 去分析这细小的偏移，科学家们还原了人类说的话，又还原了高保真的音乐，Shazam 的听歌识曲也能答对歌名。

　　毕竟，硬盘的采样率超过 30,000 赫兹，几乎是 CD 级的录音质量。

　　薯片，不只是清脆

　　优雅的声音，可能是吃薯片最大的快感。

　　但偷听人类说话，科学家们不是靠薯片碎裂发出的声波，而是在视觉上动了心思。

　　MIT、微软和 Adobe 组成的混合团队，用高速相机透过隔音玻璃，拍摄出薯片袋的振动，算法便能判断说话的人是男是女，甚至还原讲话的内容。

　　研究人员说，声音传播时触碰到周围的物体，会在振动中形成一股微妙的视觉信号，肉眼不会发觉，但高速相机（每秒 2000~6000 帧）捕捉得到。AI 分析视觉信号，便能听出人类的谈话了。

　　而且，不止薯片袋，铝箔、水杯甚至植物盆栽，都可以用来偷听。这些物件在房间里出现，人类又丝毫不会觉得奇怪，真是得天独厚。

　　这项研究，中选了顶会 SIGGRAPH 2014。

　　如此说来，或许世间万物，都知道你的秘密。

　　不过还好，这些方法还在研究阶段。

　　传送门

　　这篇论文的研究人员共有四位，分别为剑桥大学的 Ilia Shumailov、Jeff Yan、Ross Anderson 及三星美国研究院 Laurent Simon。

　　论文 Hearing your touch: A new acoustic side channel on smartphones 地址：

　　https://arxiv.org/abs/1903.11137