“跨次元”成黑客入侵新密道
27.10.2016 20:21
本文来源: 科学技术委员会
“跨次元攻击”最近一次的集中展示，是本周一在上海举行的一场国际水平的信息安全比赛“极棒”(GeekPwn)。作为国内最有影响力的赛事之一，“极棒”的声望不仅来自技术，更在于法律和道德层面———参赛者都是代表正能量的“白帽”黑客，揭示的软件漏洞都会向厂商全面披露。过去几年，通过“极棒”被发现和修复的漏洞超过100个，华为、小米、腾讯、特斯拉等都因此向“极棒”公开致谢。今年的“极棒”照例有对手机、游戏机、智能插座等设备的破解，但更值得关注的是机器人和AI。
当断网遭遇“机器黑客”
在一个名为“机器人特工”的环节，4位参赛者要挑战的任务是：让自己设计的机器人将U盘插入电脑USB口，启动电脑，拷贝数据。该项目的参赛者都更像机器人模型爱好者而非黑客。最终获胜的哈尔滨理工大学光电专业学生薛恩鹏告诉记者，实际上他对信息安全并不在行。
但薛同学实现的效果让人有些惊叹。乍一看，他抱上台的似乎只是一个贴着快递单的纸板箱，被放在一张桌子上。但比赛开始后，纸箱自己打开，一台类似月球车的机器人(重量不足3公斤)居然顺着一根悬索“垂降”到地面，就像汤姆·克鲁斯在《碟中谍》中的表演场景。登陆后，它稳健地行驶了几米，来到电脑旁，伸出机械臂，插入U盘，按下机箱电源键……
“极棒”评委———国内顶尖安全研究者、腾讯玄武实验室负责人于暘表示，这一系列动作让他设想多年的场景成真：面对一个物理隔断的信息系统，可以先派机器人为攻击者搭一座“桥”。
想象一下这番场景：网络攻击者伪装成快递员，将“机器人快递箱”带入办公室，放在某个角落(我们身边不是常出现这种无主快递么)。等到人去楼空，机器人出动，直接连上电脑，窃取信息；最后，甚至可以返回纸箱，不留任何痕迹，并在第二天被“快递员”收回。
当人工智能被莫名误导
与“机器特工”相比，对AI的攻击没那么吸引眼球，但在技术层面上却更酷。
来自新加坡的安全研究员克莱伦斯·奇奥这次只拿来了一套PPT。演示中，他给观众展示了两张几乎一模一样的图片。画面很干净，除了一只小狗，其他什么也没有。但如果将图片“交给”常见的机器视觉AI，其中一幅图片会被莫名其妙地判定为“一艘船”。
为学会识别狗，AI通常会分析成千上万张图片，并完成“自我领悟”。但这次，背靠大数据的AI却上了黑客的当。奇奥说，那张被认为是船的图片，实际上被混入了一层干扰像素，但人眼完全无法识别。
另一项欺骗AI的攻击技术，将矛头对准了类似iPhone里Siri那样的语音识别AI。对着它说一句话，它却执行起了完全不相干的任务———实际上，此时下达的语音指令里，也被植入了人耳无法分辨的音频信号。
聪明如AI，却可以轻易地被物理手段所攻击，这本身就很不正常。“极棒”创办人、碁震(Keen)公司创始人王琦说，这种攻击手段此前很少得到安全界关注，如能当着主人的面发起人类无法察觉的攻击，通过AI操纵整个系统，后果或许很严重。比如，通过一段话激活手机或智能手表，让其对机主进行24小时监控。
当“跨界”获得足够资源
当然，本届“极棒”上展示的“跨次元攻击”总体上还很稚嫩。参加“机器人特工比赛”的4台机器人中，只有1台完成了任务，另外3台，临场都没有发挥出应有水平，要么还没爬出纸板箱就冒了白烟，要么“举”着U盘却怎么也插不进USB口。
于暘说，这就是软件和硬件的差别———软件层面的攻击，只要一次成功，就可以复制出无数次成功；但到了物理层面，情况就复杂得多。
薛恩鹏告诉记者，他完成攻击的机器人是他自己设计、自己用3D打印机打印出来的，前后只花了几个星期，成本不到2000元。这不禁引人遐想：假如给他十倍的时间以及百倍的投入，能做到什么样子？
至于AI，或许它会在未来几年内站上“从0到1”的临界点。一旦那一天到来，在王琦看来，或许人人都有机会通过误导AI，完成攻击，比如故意教自动驾驶汽车学习撞车(AI的基础是机器学习)。
为应对各种跨界的安全风险，上海中科计算技术研究所所长、张江创投首席科学家孔华威说，他建议明年的“极棒”可以考虑邀请“生物黑客”参赛，据他所知，已经有一支高校团队通过给大脑植入芯片，成功地控制了一只老鼠的行动。（记者 张懿) 【来源】文汇报
本文来源: 科学技术委员会
27.10.2016 20:21