当前位置: 软件志 >资讯 > 无人驾驶汽车真的准确吗?杜克大学的研究人员说AI可以被愚弄

无人驾驶汽车真的准确吗?杜克大学的研究人员说AI可以被愚弄

更新时间:2022-03-16 11:22:27    浏览次数:95+次

无人驾驶汽车承诺在司机和乘客之间提供舒适和安全,但随着杜克大学研究人员的揭示,这可能会发生变化。根据该团队的说法,有一种攻击策略,犯罪分子可以欺骗自主车辆的传感器(摄像头的2D数据和LiDAR的3D数据的组合),使其感知到附近的物体比它们看起来更近或更远。这可能意味着问题和重大损失,特别是当用于军事场合时,一辆车就会变成一个有价值的目标。更重要的是,研究人员强调,黑客有可能找到一种方法,同时攻击不同的车辆。

无人驾驶汽车真的准确吗?杜克大学的研究人员说AI可以被愚弄图片

“我们的目标是了解现有系统的局限性,以便我们能够保护自己免受攻击,”杜克大学电气和计算机工程系迪金森家族副教授Miroslav Pajic说。”这项研究表明,在三维点云中仅仅增加几个数据点,在一个物体实际所在的前方或后方,就可以混淆这些系统,使其做出危险的决定。”

据研究人员称,当用激光枪射击激光雷达传感器时,系统的缺陷将开始出现。这将扭曲因增加虚假数据点而造成的汽车感知。根据Pajic的说法,如果数据点与汽车摄像头看到的有很大差异,系统就能发现这种攻击。然而,根据杜克大学的研究,当三维激光雷达数据点被精确地放置在摄像头的二维视场的某个区域内时,系统可以被欺骗。

无人驾驶汽车真的准确吗?杜克大学的研究人员说AI可以被愚弄图片1

在新的研究中,被证明容易受到攻击的区域在照相机镜头前延伸,形成一个果壳或一个尖端被切掉的三维金字塔形状。

这就形成了一个容易受到攻击的区域。它的形状是一个在摄像机镜头前伸展的地壳,或者是一个尖端被切掉的三维金字塔的形状。

“Pajic说:”这种所谓的地壳攻击可以欺骗自适应巡航控制,使其认为车辆正在减速或加速。”而当系统能够发现有问题的时候,如果不采取积极的机动措施,就没有办法避免撞上汽车,这可能会造成更大的问题。”

幸运的是,帕吉克和他的团队有一个可行的解决方案,通过增加冗余度,如视场重叠的立体摄像机来解决这一风险。据他们说,这些技术将一起工作,正确计算距离,并确定激光雷达数据和摄像机感知之间的误差。

“立体摄像机更有可能成为可靠的一致性检查,尽管对于如何确定激光雷达/立体摄像机数据是否一致,或者发现它们不一致时该如何处理,还没有充分的软件验证,”该研究的主要作者、帕吉克网络物理系统实验室的博士生斯宾塞-哈利伯顿说。”而且,要完美地保证整个车辆的安全,需要在其整个车身周围安装多套立体摄像机,以提供100%的覆盖。”

帕吉克还介绍了创建一个系统,让相互靠近的汽车共享数据。这项研究和该团队的建议将于8月10日至12日在2022年USENIX安全研讨会上公布。