影响全自动驾驶汽车发展的关键因素是车辆能否可靠地导航其周围环境并快速响应不可预见的事故。据外媒报道，德国马克斯·普朗克智能系统研究所的一个团队表明，基于深度神经网络的运动分析方法很可能用于未来的自动驾驶汽车；被“攻击”神经网络的小模式所混淆。

自动或半自动汽车通过传感器感知周围环境。为了分析场景，制造商使用光流，即视频帧之间像素的 2D 移动。

光流描述场景中的各种运动。开车或步行时，树木、房屋或塔等静态物体似乎朝相反方向移动。物体移动的速度可以让我们判断它的距离。例如，附近的一棵树很快就消失在其后面，而远处的物体（例如云或山）似乎是静止的。

为了分析各种运动，车载摄像头快速连续记录大量场景图像。计算机使用复杂的数学方法根据图像之间的差异来推断单个物体的运动。计算机计算每个像素的速度矢量，该矢量表示像素在图像中移动的速度和方向。重要的一点是，车辆的运动和周围物体的运动都会产生光流。因此，机载计算机必须能够将自身的运动与其他物体的运动区分开来，这是一项非常复杂的任务。

机器学习的最新进展带来了更快更好的计算这种运动的方法。该研究所的联合项目表明，这些方法很容易受到攻击。例如，简单、色彩鲜艳的图案可能会无意或有意地出现在图像数据中。即使图案不动，也会导致深度神经网络的计算错误，网络会突然计算出大部分场景都在朝错误的方向移动。有时五颜六色的图案甚至可以破坏整个系统，这是非常危险的。

目前市场上现有车辆受影响的风险较低。然而，作为预防措施，研究人员已告知一些开发自动驾驶模型的汽车制造商，光流网络可能容易受到攻击。该项目的目标是警告自动驾驶汽车制造商这种潜在威胁，并开发新的方法来应对这种攻击。

为此，研究人员构建了 5 个彩色瓷砖来攻击这些系统。事实证明，只需几个小时的计算就可以相对容易地构建这样的模式。在测试运行期间，研究人员通过将这些颜色图案放置在场景中的随机点，轻松破坏了所有神经网络。在测试中，即使是占整个图像不到 1% 的一小块颜色也会影响一半的图像区域，足以让系统感到困惑。色块面积越大，后果越严重。

研究人员使用这些色块来分析网络中正在发生的事情，并发现人们不知道的网络中的系统偏差。这些神经网络的灵感来自于人类大脑的工作方式，通过加权和简单计算在网络内分析输入数据。对系统权重进行训练，以便网络学习输出场景的正确运动，而网络误差类似于人眼的视觉错觉。

神经网络本身无法改变学习到的优先级，这可能会导致错误的判断。然而，人们可以接受再培训，使他们不再被幻象所愚弄。研究人员进行了简单的测试来证明神经网络仍然需要改进。他们向系统展示了两张相同的图像。虽然两者都没有任何动作或变化，但网络识别上却存在差异。这些问题表明光流网络对于自动驾驶汽车来说还不够成熟。

如果神经网络非常可靠，它们将使自动驾驶更加安全。一方面，汽车不仅使用摄像头，还使用其他传感器进行导航。另一方面，越来越多的自动驾驶车辆将相互通信，使车载计算机更容易分析街道场景。在这种情况下，汽车不仅依赖于自身的传感器信号，还接收其他车辆的位置和速度数据。尽管自动驾驶技术的弱点被披露，但研究人员仍然认为自动驾驶可以使道路更安全，因为90%的事故都是由人为失误造成的。