微信扫一扫,关注公众号

  • 科技行者

  • 算力行者

见证连接与计算的「力量」

首页 警惕!“唇读”按键来窃取你的数据,AI太可怕了

警惕!“唇读”按键来窃取你的数据,AI太可怕了

2021-05-20 14:22
分享至:
----..---.-...-/--...-.-......./-...-....-..--../-............-.- ----..---.-...-/--...-.-......./-...-....-..--../-............-.- ----..---.-...-/--...-.-......./-...-....-..--../-............-.- ----..---.-...-/--...-.-......./-...-....-..--../-............-.-
2021-05-20 14:22 科技行者

依靠计算机即时发现坏人的踪迹当然很好,问题是AI系统的能耐远不止于此。如果AI能够观察我们在手机触控屏上的操作并正确推断出当前使用的具体应用乃至键入内容,又该怎么办?

警惕!“唇读”按键来窃取你的数据,AI太可怕了

此事绝非危言耸听,现代计算机视觉技术已然掌握了我们之前只在电影里见识过的卓越能力。我们完全可以将视频加载至AI系统当中,要求其具体观察低分辨率帧内的每个细节,并通过少量训练与强大的算法实现图像内容“增强”。如此神奇,又如此强大。

这事听起来似乎简单而美好,但除了自动驾驶功能、癌症检测乃至计算照片中的物体个数之外,这项技术还有可能带来我们难以预见的种种威胁。

聪明的人类总会脑洞大开,由他们训练出的AI系统也许很快就能学会如何根据按键操作或手拗移动推断出输入的文本。这事绝对细思极恐,稍后我们会深入做出解释。

首先需要强调的是,自2017年以来,计算机视觉技术已经取得了长足进步。AI系统已经从分不清乌龟与步枪,发展到如今仅借助少量数据即可做出令人难以置信的高精度推理。例如,研究人员证明计算机单靠AI接收到的生物识别信息即可对用户进行身份验证;心理学家甚至还利用按键分析数据开发出自动心理压力检测系统。

研究人员甚至在训练 AI模仿人类打字活动,借此开发出更强大的拼写、语法乃至其他交流工具。总而言之,我们正在指导AI系统获得绝大多数人类都不具备的能力——通过手指运动推断输入内容。

一旦AI掌握了这种能力,也就相当于我们人类学会了阅读“唇语”。而这样的AI产品尚不存在,并不代表它不可能实现。

那最糟糕的情况会是什么?

不久之前,就在互联网才刚刚普及的时候,我们面临的最大安全威胁还是“肩窥”——换句话说,最简单的密码窃取方式就是偷看他们的输入内容。

因此,大多数密码输入界面才会用通配符掩蔽掉我们的真实键入内容。毕竟我们永远不知道谁正躲在暗处偷看我们的操作。

但如果把屏幕遮上,大多数人其实看不出用户到底按下了哪些字母或者数字。而我们自己则能够占据主动,轻松流畅地把自己熟记于心的密码内容快速打上密码栏。

但人不行,可不代表AI不行。只要拥有充足的数据,AI世界中一切皆有可能。

从理论上讲,只要拥有充足的数据资源,开发者完全可以通过AI芯片(例如目前各类旗舰级智能手机上的芯片)或者云资源训练出具备超强推理能力的模型。

这样只要配合手机摄像头,几乎任何人都可以边拍摄窥探对象边获取其真实操作活动或者在屏幕上输入的内容。

也就是说,恶意人士完全可以借此窃取密码、银行卡密码甚至是完整的文档内容(只要能够拍摄下整个输入过程)。

而如果把这种能力跟云服务体系对接起来,各大科技企业乃至联邦政府也就快速建立起了全面的监控网络。无论是谷歌还是洛杉矶警察局,都能轻松把任何摄像机变成按键检测器。你在屏幕前的一举一动,都将逃不过他们的眼睛。

分享至
0赞

好文章,需要你的鼓励

推荐文章
  • 奖励设计:让AI学会智能使用工具的关键
    2025-04-23 17:39

    奖励设计:让AI学会智能使用工具的关键

    想象一下,你有一个非常聪明的朋友,他知道很多知识,但每当需要使用计算器、搜索引擎或查询最新天气时,却变得像个笨手笨脚的孩子。这正是当前大语言模型(简称LLMs,如ChatGPT这类AI系统)面临的尴尬处境。

  • ToolRL:奖励设计是工具学习所需的全部
    2025-04-23 17:34

    ToolRL:奖励设计是工具学习所需的全部

    想象一下,你拥有一个聪明的助手,它知道很多知识,但在面对需要使用计算器、搜索引擎或查询最新信息时却显得笨手笨脚。这正是当前大语言模型(LLMs)面临的困境。虽然这些模型已经通过监督微调(SFT)学会了使用工具的基本能力,但它们常常在面对复杂或不熟悉的场景时表现不佳。

  • X-Teaming:使用自适应多智能体进行多轮越狱攻击和防御
    2025-04-23 14:08

    X-Teaming:使用自适应多智能体进行多轮越狱攻击和防御

    想象你正在和一个智能助手聊天。如果你直接要求它提供有害信息,它很可能会礼貌拒绝。但如果你通过一系列看似无害的对话,逐步引导它走向你的真实目标呢?这就是当前AI安全领域面临的一个严峻挑战——多轮对话中的安全漏洞。

  • "思考操纵":用外部思考让大型推理模型更高效
    2025-04-22 16:43

    "思考操纵":用外部思考让大型推理模型更高效

    想象你在使用一个非常聪明的AI助手完成一项复杂任务,比如解决一道数学难题。你可能注意到这个助手会花很长时间"思考",一步一步写下大量推理过程,最后才给出答案。虽然这种详细的思考过程确实帮助AI做出了更准确的判断,但同时也带来了一个明显的问题:它太"啰嗦"了,消耗了大量的计算资源和时间。

----..---.-...-/--...-.-......./-...-....-..--../-............-.- ----..---.-...-/--...-.-......./-...-....-..--../-............-.- ----..---.-...-/--...-.-......./-...-....-..--../-............-.- ----..---.-...-/--...-.-......./-...-....-..--../-............-.-