特斯拉
引用自 https://www.ednchina.com/news/201908011041.html
以及中国邯郸发生的死亡案例 https://www.guancha.cn/society/2018_02_27_448303.shtml
智驾社 https://mp.weixin.qq.com/s/eN5fCg-dPh8-izm3mMtK7A
一辆特斯拉Model 3在高速公路行驶期间，连续撞上11个施工用的隔离桩桶，并最终停在了道路旁边。事故发生后，有一些评论和媒体认为这是又一个特斯拉Autopilot系统失灵或者失败的案例。但来自某国际Tier1、德系豪华车企和传感器技术供应商的多位技术专家却普遍认为，这场事故大概率不是特斯拉的错！
以视觉为核心的特斯拉Autopilot系统在车头装有一个前置77G毫米波雷达，一个3目摄像头，遍布四周的十几个超声波雷达。在正常驾驶前向探测中，主要是靠前视摄像头和毫米波雷达探测前方障碍物。
然而场景中的圆形桩桶为塑料材质，对毫米波雷达的反射弱，很难形成有效反射。”张慧这样告诉车东西。所以Model 3的毫米波雷达对这些塑料桶无能为力。
同时视觉采用深度学习方法因为没有针对锥桶等特殊物体做过训练，导致对这些未经过训练的物体不具有识别能力，引发撞击。
对于特斯拉来说，其主要依靠视觉来做自动驾驶技术（例如宝马等车企会给L2级车辆安装3个毫米波雷达，特斯拉只有1个），因此其最重要的是先识别车辆、路灯、路牌、行人等这些物体，对于非关键物体，其很难有精力去训练模型来做识别。
那么如果我不考虑成本，加入激光雷达辅助视觉检测障碍物是否可以使得系统冗余从而增加安全性呢？？？
通过uber的实例以及特斯拉事件相关专家评价，其实也能清楚，即使像激光雷达、毫米波雷达这类传感器检测到了前方有障碍物，由于无法确定障碍物的类型，必须要视觉对其检测才能确定是否是真正会影响驾驶的有害障碍物。那么，如果我们将系统中决策部分设计成这样：
1.必须保证视觉检测到障碍物的同时雷达也检测到障碍物，再采取相应的避障措施==》
那么显然该种决策方式依然无法解决视觉因为面对未训练的场景而检测失效的情况，即使此时雷达检测出前方有障碍物，该决策方式依旧无法执行，例如前方空中飘过一个袋子，或者地面上有一个石头等 ；
2.只要视觉检测到或者雷达识别到前方有障碍物，汽车就执行避障措施，实际上是一个或的关系，上面是与的关系，那该种决策方式实际上与只装激光雷达的物流运输小车非常相似==.》
该种方式表面上可以解决因为视觉算法上的不足带来的危险情况，但实际上却产生了一个更大的问题，
即系统有可能因为雷达的误识别导致汽车产生误制动，自动驾驶一般在高速情况下，如果因为频繁的误识别导致车辆走走停停会使得驾驶体验全无，即和低速的物流车类似，前方一出现障碍物就停止运动，等待障碍物离开或者进行避障。
所以，行业内为了保证驾驶的顺畅性，对于一些障碍物直接选择了忽略，而是以视觉为主要获取信息传感器，雷达等作为辅助提供其他距离等信息。
Uber
引用 https://www.iyiou.com/p/68314.html
https://tech.qq.com/a/20180508/002950.htm
2018年3月20日消息，据美国亚利桑那州警方称，美国时间本周日，一名亚利桑那州的女性在过马路时被一辆Uber自动驾驶SUV撞倒并身亡。对此，当地警方已经要求Uber紧急停止其自动驾驶汽车项目。
据当地警方透露，事发时乃是当日深夜，肇事的SUV正处于自动驾驶状态，车上坐着一名司机。当地警方表示，当时该车辆正向北行驶，一名女性在人行道外穿过一条4车道道路时被其撞倒。这位名叫Elaine Herzberg的女性现年49岁，被撞倒后送往医院，最终不治身亡。
根据公开资料的信息，Uber的自动驾驶测试车辆均搭载了多个低线及高线雷达、毫米波雷达、摄像头等多种环境传感设备。而根据事发地的录像显示，当时天气良好，道路环境并不复杂。但Uber SUV的右前方依旧与死者发生了碰撞。显然，这些价格不菲的传感器及算法并没有帮助车辆规避事故，拯救生命。可见，距离完全的无人驾驶，现阶段的技术还要取得长足进步。
但是实际上，Uber方面认为，事故发生时，Uber无人车已经检测识别到车头前的行人，但该车辆的决策系统最终却“决定”不采取任何闪避措施，保持继续行驶，最终酿成了撞上行人并致死的悲剧。
而造成这一决策的可能原因是，Uber的这套无人驾驶系统将对前方障碍进行躲避的值调的很低，以至于在系统即便检测到前方障碍物，但还没有触及系统的下限值时，系统将不会做出进行立即躲避的决策。
特斯拉历史发生事故：
邯郸（2016年1月20日）
2016年1月20日，中国邯郸的一辆特斯拉Model S汽车的驾驶员在与一辆停止的卡车的撞车事故中丧生。特斯拉在一条多车道高速公路的最左侧车道上跟随一辆汽车行驶；前车为避免与停在左边路肩的卡车相撞换道了，特斯拉车主的父亲认为自动驾驶系统在撞向停住的卡车前没有减速。根据仪表盘摄像头拍摄到的画面，高速公路左侧停住的清洁车部分延伸到了最左边的车道，但司机似乎没有对意外情况做出反应。
2016年9月，媒体报道了司机的家人在7月份对特斯拉经销商提起了诉讼。代理律师说，这起诉讼的目的是“让公众知道自动驾驶技术有一些缺陷。我们希望特斯拉在推销其产品时能更谨慎一些。不要仅仅把自动驾驶作为针对年轻人的卖点。”特斯拉方面说，由于车祸造成的损坏，无法远程检索到汽车的遥测数据，从而“无法知道自动驾驶系统在撞车时是否处于运行状态”。2018年，诉讼陷入僵局，因为遥测数据记录在SD卡中，无法提供给特斯拉，特斯拉向第三方提供了一个解码密钥以供独立审查。特斯拉表示，“虽然第三方评估尚未完成，我们没有理由认为自动驾驶系统在这辆车上曾经运行过”。据中国媒体后来报道，实际上车主的家人在等待特斯拉中国的声明的同时，把信息寄给了特斯拉美国，在接收到遥测数据后，特斯拉美国承认自动驾驶系统在事故发生前两分钟启动了。
佛罗里达州威利斯顿(2016年5月7日)
第一起公布的特斯拉自动驾驶模式的致命事故发生在2016年5月7日的威利斯顿。司机死于和一辆18轮的拖车挂车的撞车事故。2016年6月下旬，美国国家公路交通安全管理局（NHTSA）与佛罗里达州公路巡逻队（Florida Highway Patrol）合作，对这起致命的自动驾驶事故展开了正式调查。据美国国家公路交通安全管理局称，初步报告显示，事故发生在一条非限制公路上，当时这辆拖车挂车在2015款特斯拉model S型前面的一个十字路口左转，但特斯拉没有刹车。汽车从拖车挂车车底下穿过后继续前进。特斯拉的诊断日志显示，当它与拖车相撞并在拖车底下穿过时，它正以74英里/小时(119公里/小时)的速度行驶，而拖车没有配备侧面防护系统。这次碰撞使特斯拉的车窗、前挡风玻璃等完全脱落，腰线以上全部损坏，致使司机受到致命伤害**。在与拖车相撞后的大约9秒钟内，特斯拉汽车又行驶了886.5英尺(270.2米)，在与两根链条围栏和一根电线杆相撞后停了下来。**
美国国家公路交通安全管理局的初步评估已经公布，用以检查事故发生时正在使用的所有自动驾驶系统的设计和性能。2016年7月8日，美国国家公路交通安全管理局要求特斯拉公司向该机构提供有关其自动驾驶系统技术的设计、操作和测试的详细信息。该机构还要求提供自引入自动驾驶系统以来的所有设计变更和更新的细节，以及特斯拉计划在未来四个月内进行的更新。
据特斯拉所说：“无论是自动驾驶系统还是司机都没有注意到在明亮的天空下拖车的白色部分，所以没有刹车”。特斯拉试图在拖车底部全速行驶，“拖车底部撞上了Model S的挡风玻璃”。特斯拉还表示，这是特斯拉在超过1.3亿英里(2.08亿公里)驾驶里程中第一个已知的在自动驾驶系统启动状态下发生的与自动驾驶相关的死亡案例。据特斯拉所说，在美国所有车型中，每9400万英里(1.5亿公里)就有一起致命事故。据估计，如果特斯拉声称自动驾驶系统比人更安全的话，需要数十亿英里的具有统计显著性的数据支撑（如果特斯拉自动驾驶更危险，则用不到数十亿的行驶里程）。研究人员表示，特斯拉和其他公司需要发布更多关于自动驾驶系统的局限性和性能的数据，这样自动驾驶汽车才能变得安全，才能为大众市场所了解。
拖车司机告诉美联社，他听到车里在放哈利波特电影的声音，并说车开得太快了，“他飞快地穿过我的拖车，我没有看到他。”“他死的时候，电影还在放，四分之一英里外的电线杆也被撞断了。”据佛罗里达高速公路巡逻队说，他们在残骸中发现了一个便携式DVD播放器。Model S的触摸屏上不能观看视频。**车祸后的残骸中发现了一台笔记本电脑，前排乘客座椅的框架上安装了一个可调节的车载笔记本电脑安装支架。**美国国家公路交通安全管理局得出结论，笔记本电脑安装在支架上，撞车时司机可能分心了。
2016年7月，美国国家运输安全委员会（NTSB）宣布对这起致命事故展开正式调查。美国国家运输安全委员会是一个调查机构，但只有提出政策建议的权力。该机构的一位发言人说：“我们值得去了解情况，看能够从此次事件中学到什么，这样，我们也许可以用更安全的方式去广泛地应用它。”美国国家运输安全委员会每年开展约25至30项高速公路调查。2017年9月，美国国家运输安全委员会发布了一份报告，确定“威利斯顿撞车事故的可能原因是卡车司机没有给特斯拉汽车让路，再加上特斯拉车主由于过度依赖自动驾驶而疏忽大意，导致其对卡车的出现缺乏反应。造成汽车驾驶员过分依赖车辆自动驾驶的原因是车辆的操作设计，这使他能够长时间脱离驾驶任务，并以不符合制造商指导和警告的方式去使用自动驾驶系统。
2017年1月，美国国家公路交通安全管理局缺陷调查办公室(ODI)发布了一份初步评估报告，报告中指出事故中的司机有7秒钟的时间看到卡车，但没有发现自动驾驶系统存在缺陷；ODI还发现，特斯拉汽车在安装自动转向系统后，撞车事故下降了40% ，但是后来澄清说，该机构没有评估这项技术的有效性，也没有披露其是否参与了撞车事故率的对比。美国国家公路交通安全管理局特别事故调查组在2018年1月发布了一份报告。根据这份报告称，在事故发生前，司机启动了自动驾驶系统，持续了37分26秒，系统提供了13次“未检测到手”的警报，司机的平均反应时间是16秒。报告的结论是：“无论特斯拉ADAS技术的运行状况如何，司机都需要负责维持对车辆的最终控制。所有证据和数据都表明，由于司机的疏忽失去了对特斯拉的控制，从而导致了事故的发生”。
加利福尼亚州卡尔弗市（2018年1月22日）
2018年1月22日，一辆2014年的特斯拉Model S以超过50英里/小时(80公里/小时)的速度撞上了停在卡尔弗市I-405高速公路边的一辆消防车，司机没有受伤。司机告诉卡尔弗市消防局，他使用了特斯拉自动驾驶系统。消防车和一辆在斜对面405号高承载车道南行方向左侧紧急车道停着的加州公路巡逻车打着双闪灯封锁了事故现场。
根据事故后的采访，司机说他当时喝着咖啡，吃着百吉饼，一只手放在方向盘上，另一只手放在膝盖上。在66分钟的时间里，汽车行驶了30英里(48公里)，自动驾驶系统启动的时间略多于29分钟；在这29分钟里，手只在方向盘上放了78秒钟。在车祸发生前的近14分钟里，检测到手在方向盘上施加力矩的时间只有51秒钟。特斯拉一直以大约21英里/小时(34公里/小时)的速度跟随领头的车；当领头的车换到右侧车道以避开消防车后，在撞击前大约3到4秒的时间里，特斯拉的交通感应巡航控制系统开始将特斯拉加速到预设的80英里/小时(130公里/小时)。撞击发生时，特斯拉加速到31英里/小时(50公里/小时)。自动驾驶系统在撞击前半秒发出了前方碰撞预警，但没有启用自动紧急制动系统，驾驶员也没有通过制动或转向进行干预。由于自动驾驶系统需要雷达和视觉摄像头之间达成一致才能启动AEB，因此该系统受到了挑战，原因是存在特殊的情况（领头的车绕过一个静止的物体）而发出前方碰撞预警之后时间又有限。
一些新闻媒体开始报道，自动驾驶系统在高速公路行驶的速度下可能无法检测到停止的车辆，也无法检测到一些物体。在卡内基梅隆大学研究自动驾驶系统的Raj Rajkumar认为，自动驾驶系统使用的雷达是用来检测运动物体的，但是“在检测静止物体方面不是很好”。美国国家运输安全委员会和美国国家公路交通安全管理局都派出了小组调查这次事故。哥伦比亚大学创意机器实验室主任Hod Lipson指责责任分散的问题：“如果你把同样的责任交给两个人，他们都会觉得失职没有影响。没有人需要100%负责，这是一件危险的事情。”
2019年8月，美国国家运输安全委员会发布了事故简报。HAB-19-07的报告结论是：特斯拉的驾驶员由于“疏忽和过度依赖车辆的先进驾驶辅助系统”而犯了错误，事故同样与特斯拉自动驾驶系统“允许驾驶员脱离驾驶任务”的设计有关。在早些时候发生在威利斯顿的撞车事故之后，美国国家运输安全委员会发布了一项安全建议：“建议开发应用程序，以便更有效地感知司机的参与程度，在使用自动驾驶系统过程中，当司机缺少参与时提醒他”。此建议发给了一些制造商，只有特斯拉没有做出回应。
加利福尼亚州山景城（2018年3月23日）
2018年3月23日，美国第二起自动驾驶系统死亡事故发生在加利福尼亚的山景城。事故发生在上午9点30分前，美国101号公路南行方向，85号高速公路与101号公路左侧合用车道与其分离出口的混凝土护栏处。特斯拉Model X撞上狭窄的混凝土路障后，又被后面来的两辆车撞上，然后汽车起火了。
美国国家公路交通安全管理局和美国国家运输安全委员会都在调查2018年3月的事故。另一位ModelS的驾驶员在2018年4月证实了自动驾驶系统可能把美国道路标线搞混淆了。路障前方的三角是由分叉的实心白线(一个V形)组成的，Model S的自动转向功能似乎错误地把左侧的白线而不是右侧的白线当做最左侧车道的车道标记，如果驾驶员没有操控车辆的话，这会导致Model S撞上同一个混凝土路障。Ars Technica的结论是：“随着自动驾驶系统的不断改进，驾驶员可能会变得越来越自满，对道路的关注也会越来越少。”
在一篇企业博客中，特斯拉指出，从美国101号公路出口匝道寻找到的防撞缓冲护栏在3月23日Model X撞车事故发生之前已经被压碎，且没有更换。博客中还指出，事故发生时，自动驾驶系统处于工作状态，在事故发生前6秒钟，没有检测到驾驶员的手在操纵方向盘。车辆数据显示，司机只有5秒钟的时间和150米的距离(490英尺)“可以看到混凝土隔断，但是车辆记录显示司机没有采取任何行动。”美国国家运输安全委员会的调查一直集中在碰撞后损坏的防撞缓冲护栏和车辆起火上，但是在有报道说司机抱怨自动驾驶系统的功能之后，美国国家运输安全委员会宣布它也将调查“这次碰撞的所有方面，包括司机之前对自动驾驶系统的担忧。”
美国国家运输安全委员会的一位发言人说，该组织“对特斯拉公布的调查信息感到不满”。埃隆·马斯克驳斥了这种批评，他在推特上说美国国家运输安全委员会是“一个咨询机构”，“特斯拉会立即发布影响公共安全的关键碰撞数据，并将一直如此。否则就不安全。”作为回应，美国国家运输安全委员会于4月11日撤销了特斯拉的调查权限。
美国国家运输安全委员会于2018年6月7日发布了一份初步报告，其中提供了ModelX的遥测数据和其他事故细节。自动驾驶系统在事发前连续工作了将近19分钟，事故发生前一分钟，检测到司机的手只在方向盘上放了34秒,但是撞车事故前的6秒钟里，没有检测到他的手放在方向盘上过。事故前7秒里，特斯拉开始向左转弯，跟在一辆领头车后面；事故前4秒，特斯拉不再跟随领头的车；在撞车前3秒钟，特斯拉的速度增加到70.8英里/小时(113.9公里/小时)。司机系着安全带，在被火焰吞没之前被人从车里拉了出来。
防撞缓冲护栏在3月12日已经损坏，在特斯拉事故发生的时候还没有被更换。在3月12日的事故中，司机以超过75英里/小时(121公里/小时)的速度与防撞缓冲护栏相撞，受了轻伤。相比之下，特斯拉的司机则以更低的速度与防撞缓冲护栏相撞，最终死于钝挫伤。在3月12日的事故发生后，加州公路巡警没有按要求向加州交通局报告防撞缓冲护栏已损坏的问题。加州交通运输公司直到3月20日才知道损坏的情况，但因为没有备用的护栏，直到3月26日才更换了撞坏的防撞缓冲护栏。这种特殊的防撞缓冲护栏比湾区其他类型的防护栏更需要经常维修，维修记录表明，这种防撞缓冲护栏在损坏后被延误了长达三个月的时间。因此，美国国家运输安全委员会于2019年9月9日发布了一份安全建议报告，要求加州交通局制定并实施一项保证交通安全硬件及时维修的计划。
在2020年2月25日美国国家运输安全委员会举行的会议中，委员会得出结论，这起事故是由特斯拉自动驾驶系统的局限性、司机对自动驾驶系统的过度依赖以及司机可能因玩手机游戏而分心等因素共同导致的。该车对驾驶员参与情况的监控不力被认为是促成因素，而防撞缓冲护栏的损坏导致了驾驶员受伤。作为一个咨询机构，美国国家运输安全委员会没有监管权力；但是，美国国家运输安全委员会向两个监管机构提出了几项建议。美国国家运输安全委员会向美国国家公路交通安全管理局的建议包括：扩大新车评估范围，包括前方碰撞预警系统；判断“在预定操作设计范围以外操作配有自动驾驶系统的特斯拉的车辆是否会对安全构成不合理的风险”；以及制定驾驶员监控系统性能标准。美国国家运输安全委员会向职业安全与健康管理局提交了有关驾驶时分心的认识和监管方面的建议。此外，美国国家运输安全委员会向便携式电子设备的制造商发出建议：开发锁定机制，以防止司机分心；也向苹果公司发出建议：驾驶时，禁止在非紧急情况下使用便携式电子设备。
美国国家运输安全委员会之前向美国国家公路交通安全管理局、交通部和特斯拉提出的一些建议被重新归类为“开放——不可接受的回应”的建议。其中包括H-17-41（建议特斯拉将在设计范围内限制车辆自动控制系统的使用纳入系统保障措施）和H-17-42（建议特斯拉更有效地感知驾驶员的参与程度）。
犹他州南约旦（2018年5月11日）
2018年5月11日晚，一辆装有自动驾驶系统的2016年特斯拉Model S在犹他州南约旦市SR-154和SR-151交叉口的红灯处，撞上了一辆停在南行车道上的消防车的后部。据目击者称，特斯拉当时的车速估计有60英里/小时（97公里/小时），看起来既没有刹车，也没有试图避免撞击。特斯拉的司机幸免于难，只是脚部受伤，她承认在车祸发生前她正在看手机。美国国家公路交通安全管理局派遣了调查人员前往南约旦市。根据事故发生后恢复的遥测数据显示，司机一再地没有触碰方向盘，包括在事故发生前的80秒内都没有碰方向盘，只踩了刹车踏板一下。这名司机因“没有保持适当的警惕”而被警方传讯。事故前，特斯拉减速到55英里/小时(89公里/小时)跟随前车，在那辆车换道后，它在3.5秒内加速到60英里/小时(97公里/小时)。
特斯拉首席执行官埃隆·马斯克批评了有关南约旦撞车事故的新闻报道，他在推特上写道：“特斯拉撞车导致脚踝骨折是头版新闻，但仅去年一年美国就有大约4万人死于汽车事故，几乎没有报道”，他还指出“以那种速度撞车通常会导致严重受伤或死亡”，但后来又承认自动驾驶系统“肯定需要改进，我们每天都在努力改进”。2018年9月，特斯拉的司机起诉了制造商，**指责其安全设计宣称能“确保车辆在路上遇到障碍物时能够自行停下来……**实际上达不到广告它所宣传的效果。”根据司机的说法，特斯拉在撞车前未能提供声音或视频的警告。
佛罗里达州德尔雷比奇（2019年3月1日）
2019年3月1日早上，一辆特斯拉Model 3在德尔雷比奇的US 441/SR 7上向南行驶，撞上了一辆在佩罗家庭农场的私人车道上正在左转到SR 7北行方向的半挂货车；特斯拉从货车下穿过，撞击的力量剪断了Model 3的挡风玻璃，导致特斯拉司机死亡。特斯拉的司机在撞车前大约10秒钟启动了自动驾驶系统，初步的遥测数据显示，在撞车前的8秒钟，没有检测到司机把手放在方向盘上。半挂货车的司机没有被传讯。美国国家公路交通安全管理局和美国国家运输安全委员会都派出了调查人员前往现场。
2019年5月，美国国家运输安全委员会发布了一份初步报告，确定特斯拉的驾驶员和自动驾驶系统都没有采取规避操作。这次事故的情况类似于2016年特斯拉Model S在威利斯顿附近发生的致命的安全事故；在其2017年的报告中详细说明了那起撞车事故，美国国家运输安全委员会建议自动驾驶系统只能用于限制通行的道路（例如，高速公路），但特斯拉没有采用此项建议。
莫斯科（2019年8月10）
2019年8月10日晚，一辆特斯拉Model 3在莫斯科环路左侧行驶时，撞上了一辆路边停着的一部分伸进车道的拖车，随后起火了。据司机所说，当时自动驾驶系统已启动，车速限制在100公里/小时(62英里/小时)；他还声称自己的手放在方向盘上，但没有注意到撞车了。所有乘客都在车辆起火前下了车；他们被送往医院。司机的一条腿断了，他的孩子有些擦伤。
根据监控摄像头的记录，碰撞的力量足以把拖车推进中央隔离墙。路人还拍摄了几个事故发生后的火灾和爆炸的视频，这些视频都显示了拖车被特斯拉撞得移动了，这表明Model 3的爆炸是后来发生的。
台湾（2020年6月1日）
2020年6月1日，台湾的交通摄像头捕捉到了一辆特斯拉撞上一辆翻倒的货车的瞬间。司机没有受伤，他告诉紧急救援人员，汽车处于自动驾驶模式，但没有启动全自动驾驶功能。据报道，司机告诉当局，他看到了卡车，但是手动踩刹车太晚了，以至于无法避免撞车，很显然，从视频中轮胎冒出的白烟可以看出这一点。
