最近我常看到一种观点。说辅助驾驶状态下，驾驶员发现辅助驾驶系统没有对前方的人和障碍物做出响应，只能自己介入，但是车辆已经来不及响应了，结果后续发生了事故。有很多博主提出了这样的观点：是因为这个驾驶员主动刹车干预了辅助驾驶系统，所以干扰了辅助驾驶系统触发诸如AEB或AES的操作，所以，正确的做法，或者这些博主暗示的正确做法，是驾驶员不要动作。在我看来，这种说法是非常有害的。因为目前无论是哪一家的辅助驾驶系统，无论有多接近L3，都不是L3。车辆控制的责任人，依然是驾驶员。所以，哪怕辅助驾驶系统确如这些博主说的，有能力处理，那么也必须考虑人的第一决策性来实时。更不要说，这种所谓的能力在真实世界中根本不完美。那么，什么是考虑人的第一决策性呢？其实就是2点：1. 不要为了平顺性和体现技术先进，故意让系统决策激进化。2. 以充分的声光和物理振动手段，一方面确保驾驶员对路面的注意力，另一方面对于意外路况前置提醒。 特斯拉此前推送了一个有争议性的传播策略，它提到，一个疲劳或饮酒的驾驶员，他/她的驾驶风险非常高，而开启FSD，可以有效的减少驾驶风险。或许从技术逻辑来说，它是对的。但是这种鼓励滥用的策略是错误的。只要FSD不是L3，那么疲劳驾驶的唯一建议，就是定期休息一下再出发。FSD的作用仅仅是延长你进入下一轮疲劳期的时间，缓解你的驾驶强度。一味的夸张平顺性和无干预性，在高度内卷的竞争时代，很多人根本无法想象技术公司会做多大的恶。接下来，向大家介绍 Uber案：2018年3月18日星期日晚上9:58，在亚利桑那州马里科帕县的坦佩，一辆Uber Technologies基于改良的2017沃尔沃XC90并在计算机控制模式下使用自动驾驶系统运行的测试车，在米尔大街北行撞击了一位行人。优步测试车上有一位无人驾驶的监视安全员，一名44岁的女性。车上没有乘客。在撞车区域，米尔大街北行包括两个左转车道，两个直行车道和一个自行车道。事故发生在右转车道形成之前。存在道路照明。道路限速为45英里/小时。事故发生时，一名49岁的女性，沿着自行车道向东穿过米尔大街。当Uber测试车的右前侧撞到行人时，它就在右行车道上行驶（见图1）。撞车后，行人死亡。车辆驾驶员未受伤。Uber Technologies当时为了与Waymo公司竞争无人驾驶，为了显著降低公共测试中的安全员踏板次数，一种内部开发的称为Reflex故障安全功能的功能被关闭了。因为Uber的Advanced Technologies Group（ATG）的一些成员认为，当时软件的开发进度压力非常大，而这个功能触发了太多的制动事件，影响了Uber自动驾驶程序的表现。平稳行驶并不是工程师的目标。但是在Uber和其他地方，顺畅的驾驶感受给那些不熟悉自动驾驶开发的人以进步的感觉，向投资者展示提供顺畅的驾驶的能力就变得很重要。Uber的三个吹哨人都说，从任何意义上讲，这都是Uber选择舒适而不是安全的问题。在该系统的早期开发中，人们担心，在测试自动驾驶时经常发生的紧急制动事件可能导致人类驾驶员追尾测试车辆。为了减少这种可能性，Uber安装了一个名为“动作抑制”的功能，有时在内部称为“计划抑制”，该功能会将所有紧急制动延迟一秒钟，以减少不必要的制动风险。回到那个夜晚：一位49岁的美国妇女，驾驶自行车横穿一条限速45英里/72公里每小时的四车道公路。一辆Uber自动驾驶的汽车以70公里每小时的速度自南向北行驶。（行人并没有使用人行道，尽管人行道就在不远处。行人身着深色衣服，在当时的夜色下没有反光，她的自行车上有前后的反光标志，但是考虑到她是横穿马路，自行车的反光标志并不能被Uber司机所发现。简单的来说，即使有人驾驶车辆，这位行人首先违反了交通规则横穿了马路。此外，更重要的是，行人的事故后毒理学测试结果为甲基苯丙胺和大麻阳性。）44岁的安全监督员，根据对Uber面向驾驶员的摄像头的数据分析，多次低着头在查看汽车中控中央位置。她解释说自己是在看仪器，而不是在看手机。Uber在-5.3秒时发现这个移动的物体，但是它未能将其准确识别为行人。在-1.3秒到-5秒之间的某个时候，Uber的系统反复在行人、汽车、其他物体的判断中犹豫，并不断预测自己的规避路线，由于Reflex被移除，Uber不能启动潜在的刹车减速的机制。Uber在-1.3秒终于识别出前方是行人，必须要启动紧急刹车，但是Reflex被移除，“计划抑制”的程序又起了作用，Uber需要等待1秒。在Uber倒数到-0.3秒前，安全驾驶员终于意识过来前面有人，夺回了控制权。Uber的自动控制系统事实上没有起到作用，继续以63公里每小时的速度冲向行人自行车。在碰撞发生前，由于Uber自动驾驶系统覆盖了沃尔沃的主动安全所有配置，所有的碰撞安全措施都失灵了。直到沃尔沃撞上行人Elaine Herzberg之后1秒，人类安全监督员才踩下了制动刹车。NTSB 于 2019 年 11 月 19 日公布调查报告，认定事故主要原因是安全员分心，同时批评 Uber 的安全管理缺陷，未将责任归咎于行人违规行为。"事故的可能原因是车辆操作员未能监控驾驶环境和自动驾驶系统的运行，因为她在整个行程中被个人手机分散了注意力。促成事故的因素包括 Uber 先进技术集团的 (1) 不充分的安全风险评估程序，(2) 对车辆操作员的无效监督，以及 (3) 缺乏解决操作员自动化自满的充分机制 —— 所有这些都是其不充分的安全文化的后果。" -NTSB原文后续：Uber 与受害者家属达成庭外和解 (2018 年 3 月 28 日)永久改变测试程序：重新启用沃尔沃紧急制动系统、增加第二名安全员、实时监控操作员注意力监管部门加强自动驾驶监管，要求安全评估和风险管控
