我黑掉路邊廣告牌,就能讓特斯拉自動驾驶系统紧急停車
特斯拉的 Autopilot 体系有多好骗？人类永久不會認為，树上的投影和户外告白中的标记是真正的，惋惜特斯拉没這麼聪慧。片头先播放一段告白（充公钱）：
這段告白来自麦當劳，但有人在上面「動了四肢举動」：除汉堡和薯条，另有一個「STOP」交通标记一闪而過。
固然這個标记只呈現了 0.5 秒，但却足以误导一辆特斯拉最新的主動辅助驾驶体系，使其下达泊車号令：
路邊的電子告白牌正在播放上述告白，一辆特斯拉从阁下颠末時遭到了告白中一闪而過的泊車标记误导，将車停下。
這类针對主動驾驶汽車的匹敌進犯也不是甚麼新颖事，但在以往的钻研中，人们大多存眷「有哪些工具是主動驾驶体系看不到的」。而這項实行的分歧的地方在于，钻研者存眷的是「有哪些工具是人类驾驶员不會留心，但主動驾驶体系會注重的」，好比上文中一闪而過的泊車标记。
以色列本 · 古里安大學的钻研者已花了两年的時候来钻研這個问题。此前，他们曾流露，特斯拉的辅助驾驶体系會被路上一闪而過的投影所误导，将這些投影當作路标或斑马線，从而在毫无预警的环境下将車停下。
在本年初的一項实行中，钻研职员别离在門路、树木等物体上投射了人影、路标、門路标记線等误导性投影，成果搭载 HW2.5 Autopilot 的 Tesla Model X 全数中招。
特斯拉Autopilot 将投影在路上的虚拟人當做真人，下达刹車号令。
特斯拉Autopilot 眼中的虚拟人投影。
特斯拉Autopilot 在地面标记線投影的误导下忽然變道。
在上述钻研的根本上，钻研职员继续改良实行。一項新的钻研發明，在一個電子告白牌中嵌入几帧的路标也能到达不异的结果。他们提示说，若是黑客入侵了联網的告白牌，他们就可以操纵這一缝隙制造交通@拥%sE35F%挤或變%a564M%乱@，并且几近不留下证据。這篇论文已被 2020 年第 27 届 ACM 计较機和通讯平安（CCS）集會收录。
论文地點：
钻研职员發明，一防護面罩，张只呈現 0.42 秒的圖象就可以乐成坑骗特斯拉，而一個只呈現了八分之一秒的标记骗過了以色列高档驾驶辅助体系——Mobileye。
将一個限速标记嵌入上述告白，時长為125ms。
向一個安装了 Mobileye 装备的汽車展現潜入了限速标记的告白牌，汽車被乐成坑骗。
為甚麼主動驾驶体系老是很好骗？
固然，本 · 古里安大學的钻研者不是第一批向特斯拉主動辅助驾驶体系倡议挑战的人。早在 2016 年，南卡罗来纳大學和浙江大學等機构的钻研者就曾操纵无線電、發光装备等乐成地「愚弄」了特斯拉的主動辅助驾驶体系。
近日，另有一其中國團队發明，针對特斯拉的車道跟踪技能，只必要在門路上贴上贴纸，就可以引诱特斯拉扭转車道。
本 · 古里安大學钻研者在這項钻研中采纳的是與两者分歧的法子——最少不是物理法子。正如不少黑客此前所证实的同样，攻击者可以长途侵入联網的告白牌。團队猜测這类「幻影進犯」會以打单或開玩笑等情势產生，论文第一作者 Ben Nassi 指出：「之前的法子會留下证据，必要繁杂的筹备事情。而這类法子彻底可以长途举行，不必要任何專業常识。」
進犯模子
這类進犯有如下特色：
无需物理靠近進犯現場；
不會留下任何可辨認的物理证据；
進犯進程很短暂，几近没有目睹证人；
進犯的方针不太可能试圖阻拦進犯（经由過程节制車辆），由于他 / 她不會注重到任何异样环境。
面临這項钻研结论，特斯拉还没有置评，但在上周的一封邮件中，特斯拉提到了一個認识的论點：它的 Autopi彰化當舖,lot 功效其实不象征着是一個彻底主動驾驶的体系。「Autopilot 供给了一种驾驶员辅助功效，仅合用于全神灌输的驾驶员，他们把手放在标的目的盘上，筹备随時接收。」
但钻研职员 Yisroel Mirsky 不赞成這一说法：「家喻户晓，人们在利用主動辅助驾驶体系時，不會始终连结 100％的注重力。是以，不管特斯拉若何暗示，咱们都必需尽力削减這类威逼，以确保人们的平安。」
特斯拉的 Autopilot 体系重要寄托相機，而不那末寄托雷达。而加倍完整的主動驾驶汽車（好比 Waymo、Uber、Cruise）还集成為了激光雷达，从而削减了受此类進犯的可能性，由于激光雷达不在意告白牌上內容的變革。
對策：GhostBuster 体系
本 · 古里安大學的钻研者并未测试针對更多傳感器設置的進犯， 但他们演示了在基于摄像头的平台上检测到幻影的法子。钻研者開辟了一個名為 "Ghostbusters" 的体系，用于验证車载方针检测器检测到的物体，该体系的設計斟酌了诸如深度、光芒和交通标记四周的情况感知等要素，并掂量所有這些要素，然後再肯定門路标记圖象是不是真实。
打個例如，Ghostbusters 就像是一個專家委员會合思廣益，来會商呈現的「影象」是真实存在的仍是空幻的，从而举行團体决议计劃。在钻研者看来，這类法子可以加倍靠得住地克服「幻影進犯」，同時也不會低落基于摄像头的主動驾驶体系的速率。
GhostBuster 可以摆設在現有的高档驾驶辅助体系上，无需分外的傳感器，而且不必要對現有的門路根本举措措施举行任何更改。GhostBuster 由四個轻量级深度 CNN 构成，经由過程查抄方针物体的反射光、情况、概况和深度来评估其真实性。在终极展望中，第五個模子利用四個模子的嵌入来辨認「幻影」。
实行表白，這一對策优于現有的基准法子。FPR 設置為 0 的前提下，AUC 跨越 0.99，TPR 為 0.994。该模子利用于七种最新的路标检测器時，進犯乐成率从未使历時的 99.7-81.2% 降到了 0.01%。今朝，钻研者已開放了练习後的模子、代码和数据集。
項目地點：
本 · 古里安大學的 Nassi 認可，Ghostbuster 体系其实不完善（GitHub 页面具体先容结局限性），但他依然認為即便特斯拉的主動辅助驾驶体系存在雷达、摄像甲等多种傳感器，黑客進犯天生的圖象仍會讓汽車呈現果断问题。作為車企，特斯拉主動辅助驾驶体系的原则是「better safe than sorry」，若泡腳藥包,是摄像头發明停滞体系就断定為停滞，反而會為黑客進犯供给機遇。但若不這麼做——一個或几個傳感器探测到了危害，其他却没有探测到不算数，可能會激發其他的贫苦。「若是你的主動驾驶体系可以疏忽圖象進犯，又未能获得其他傳感器的准确验证，就會有產生其他變乱的危害，」Nassi 说道。「低落黑客進犯的危害必要支出價格。」
通用旗下主動驾驶公司 Cruise 的 Charlie Miller 曾在滴滴出行举行主動驾驶平安方面的事情，他對此辩驳说：基于激光雷达的主動驾驶現实上已解决了這一问题。「對付体系傳感器的东西老是吸引眼球的，但對付我所認识的体系来讲這其实不是一种紧张的進犯举動，」Miller 说道。「如在 Uber 和 Cruise 的主動驾驶車队中。」但他依然認為 Ben Gurion 的事情颇有意义。「這是咱们必要斟酌并着手應答的问题。對付特斯拉来讲，其辅助驾驶体系依靠于視频输入內容，這类体系必需包管可被相信。」
参考链接：
頁:
[1]