特斯拉FSD系统测评:开上电车轨道,认不出停车标志,且差点撞上行人

1054次阅读  |  发布于3年以前

当时,特斯拉表示,截至 1 月 27 日,它还没有收到任何与这次召回相关的保修索赔、撞车、受伤或死亡事件的消息。因此,特斯拉首席执行官埃隆 · 马斯克在推特上表示,该功能‘不存在安全问题’。

目前,特斯拉已经停用了 FSD 的‘rolling stop’功能,但关于此功能安全性的讨论仍在继续。与此同时,更多有关 FSD 的问题开始浮出水面。

在 2 月 10 号的一份报道中,《华盛顿邮报》提到,他们召集了一个专家小组对特斯拉车主上传的一些驾驶视频进行了逐帧分析,结果显示,特斯拉的 FSD 存在根本性的弱点。专家们表示,这些问题都是不容易解决的,修补一个问题可能会带来新的复杂性。

有的问题令人哭笑不得,比如一个右转之后,特斯拉直接驶入了电车轨道:

他们分析的这些视频来自 YouTube,FSD 出现的更多问题包括:

撞上护柱

在一个晴朗的日子里,一辆搭载了 FSD Beta 的特斯拉以每小时 15 英里的速度右转通过圣何塞的一个十字路口。一条自行车道位于道路内侧。然后,车就以每小时 11 英里的速度撞上了自行车道的保护柱。

‘这个问题既是制图问题,也是感知问题。作为永久性的护柱而不是临时的圆锥体,它们应该出现在地图上,’长期从事自动驾驶汽车开发的 Brad Templeton 说。

‘至于为什么 FSD 没有及时感知到这些护柱,也许是因为护柱的形状和颜色不太常见,所以系统在训练的时候没有见过它们,’特斯拉的一位车主兼粉丝 Templeton 表示。

特斯拉的超声波传感器有望探测到这些危险,但它们的位置(前保险杠等)可能是一个弱点。Templeton 说:‘它们可能看不到稀疏的、薄的东西,比如贴纸。’

差点撞上行人

第二个例子同样发生在圣何塞,在遇到绿灯照例右转之后,特斯拉险些撞上一位即将过斑马线的行人。行人看到特斯拉之后突然停了下来,特斯拉也出现了减速,但减速时已经走过了斑马线的大半部分。

在分析了这段视频和其他类似视频后,《华盛顿邮报》的专家小组表示,FSD 似乎并没有识别出人行道的标志,也没有预料到一个静止的行人可能会冒险穿越马路。亚利桑那州立大学风险创新实验室主任 Andrew Maynard 教授说:‘目前还不清楚汽车是否对行人的出现做出了反应,但显然司机受到了惊吓。’

激光雷达技术公司 AEye 首席研发官 Hod Finkelstein 表示,他不相信光是摄像头就足以在所有情况下检测到行人的意图,因为它们不擅长测量远处物体的距离,并且会被汽车前灯和太阳‘闪瞎’眼睛。传统的自动驾驶汽车制造商已经将摄像头、激光雷达、传统雷达甚至超声波传感器结合起来使用。

特斯拉的软件结合了机器学习软件和更简单的软件‘规则’,比如‘见到停车标志和红灯就要停。’但正如一位研究人员指出的那样,机器学习算法总是会学到不该学的东西。比如,如果软件被告知‘永远不要撞到行人’,它可能会错误地理解成:如果行人即将被撞到,他们自己会让开。

软件开发人员可以创建一个‘规则’,即汽车必须为行人减速或停车。但这样一来软件就会瘫痪,因为城里到处都是人。所以,这最终还是一个长尾问题。

远距离停车

在同一位司机 12 月初录制的另一段视频中,特斯拉会在人行横道外有行人过马路时停下来,并且是在行人距离很远时就开始停下来。此时,许多人类驾驶员会选择继续行驶。

该视频表明,如果行人向道路方向行进,特斯拉可能会被命令减速。但一位专家提出了另一种可能性:汽车可能是因为视觉错觉而停下来的。

在这个视频中,特斯拉和行人之间的红色标志与人行道上的一棵树重合在一起,创造了一个类似于停车标志的图像。今年 2 月上传的一段视频展示了同样的现象,表明停车标志错觉确实在欺骗汽车。

争夺方向盘的控制权

当然,这些视频中的特斯拉并没有造成真正的危险,因为大多数情况下车主会在系统做出错误选择时及时接管。特斯拉官网显示,在使用 Autopilot 和 FSD 时,驾驶员必须‘始终将手放在方向盘上’,并始终‘保持对汽车的控制和责任’。

但有时候,接管也会出现麻烦。在另一个例子中,同一辆特斯拉正在经过一辆停在狭窄街道上的卡车,同时两边都停着车辆。在不确定该怎么做时,汽车软件会提示驾驶员接管。但此时驾驶员难以控制车辆,因为方向盘在剧烈地左右摆动。

在这个案例中,计算机系统和人类都试图驾驶汽车通过一个狭窄的位置,几乎没有左右摆动的空间。在大多数情况下,司机通过向软件试图转向的相反方向猛拉方向盘来接管。但是,在这种情况下,这种运动是不可能的,因此不清楚是汽车还是人在控制。由于没有急转弯,驾驶员无法通过转动方向盘来重新获得控制权,因此情况变得棘手。

认不出只有字母的停车标志

还有一个严重的问题是,特斯拉的汽车没有对‘Stop here on red’(红灯在此停车)标志做出反应。密歇根州的一位司机 Chris 在 11 月发布了一段视频,在这个过程中,他被迫踩下了刹车。

一位自动驾驶研究者表示,这种在美国道路上随处可见的标志会给特斯拉工程师带来困扰。除非汽车摄像头能够识别出标志上的字母,否则计算机将不得不寻找其他线索,例如箭头标志或画在马路上的白线。但这可能会在其他情况下产生问题,导致汽车在看到道路上的线条或类似箭头标志时错误地停车。

特斯拉的许多竞争对手都使用高清地图来猜测停车和转弯的位置,但这种策略也会引发其他问题,比如任何地图都有可能跟不上持续变化的道路网络。

所以,在使用 FSD 大约一年后,Chris 认为汽车距离实现可靠的自动驾驶还需要十年时间。

除了自动驾驶,特斯拉最近还因为其他问题召回近 58 万辆汽车。

行人警告系统声音被掩盖,再次召回近 58 万辆汽车

2 月 10 日,美国监管机构表示,特斯拉正在美国召回 578607 辆汽车,因为行人可能无法听到汽车驶近时所发出的必要警报声,原因是该车的‘Boombox’功能会大声播放音乐或其他声音。

在过去的四个月里,特斯拉已经在美国发布了 10 起召回事件,其中就包括最近两周的 4 起。美国国家公路交通安全管理局 (NHTSA) 对这家总部位于德克萨斯州的公司进行了越来越严格的审查。特斯拉表示,目前还没有发现任何与引发最新召回的车辆警报问题有关的撞车事故、伤亡事故。

特斯拉在 2020 年 12 月推出了‘Boombox’,可以让驾驶员改变汽车喇叭音,车主可以定制其他声音来代替正常的汽车喇叭声,还可以通过外部扬声器播放车上的音乐,比如一边驾车一边在车外播放自己喜欢的歌曲。

‘Boombox’允许在车辆行驶时通过外置扬声器播放声音,这可能会掩盖所需的行人警告系统声音。美国国家公路交通安全管理局表示,他们没有遵守联邦机动车安全标准关于电动车辆最低音量的要求。因此,特斯拉正在召回 2020-2022 款 Model S、 Model X、 Model S 和 2017-2022 款 Model 3 车辆。

电动汽车在低速行驶时往往比汽油发动机更难及时‘听到’。根据美国国会的规定,汽车制造商必须在电动汽车以高达每小时 18.6 英里 (30 公里) 的速度行驶时,在电动汽车上添加声音播放,以防止行人、骑自行车者和盲人受伤。美国国家公路交通安全管理局表示,在更高的速度下,轮胎噪音、风阻和其他因素都会掩盖掉警报声。

软件更新后,特斯拉将在 D、N、R 三种模式时禁用 Boombox 功能。事实上,特斯拉最近的多次召回都是为了解决软件问题。在 NHTSA 对特斯拉汽车的特性和投诉提出质疑后不久,特斯拉就发生了几起召回事件。目前,监管机构正在调查特斯拉的驾驶辅助系统 Autopilot 和车载游戏功能。

在 NHTSA 的压力下,特斯拉在 2021 年 1 月同意召回 13.5 万辆触控屏可能出故障的车辆。在这种情况下,NHTSA 采取了非正常步骤正式要求召回。

特斯拉曾试图通过 OTA 更新解决这个问题,但 NHTSA 在 2021 年初表示,这些更新可能‘从程序上和实质上都不够充分’。

据特斯拉介绍,NHTSA 在 2021 年 1 月发出了信息请求,随后的几个月里,双方就这个问题召开了几次线上会议。

特斯拉表示,到了 2021 年 9 月,NHTSA 升级了对此事的调查。10 月,特斯拉为用于确定 Boombox 合规性的测试和基本原理进行了辩护,但在 12 月的会议后,特斯拉最终同意召回车辆。

推荐文章

刘强东夫妇:“移民美国”传言被驳斥

京东创始人刘强东和其妻子章泽天最近成为了互联网舆论关注的焦点。有关他们“移民美国”和在美国购买豪宅的传言在互联网上广泛传播。然而,京东官方通过微博发言人发布的消息澄清了这些传言,称这些言论纯属虚假信息和蓄意捏造。

博主曝三大运营商,将集体采购百万台华为Mate60系列

日前,据博主“@超能数码君老周”爆料,国内三大运营商中国移动、中国电信和中国联通预计将集体采购百万台规模的华为Mate60系列手机。

ASML CEO警告:出口管制不是可行做法,不要“逼迫中国大陆创新”

据报道,荷兰半导体设备公司ASML正看到美国对华遏制政策的负面影响。阿斯麦(ASML)CEO彼得·温宁克在一档电视节目中分享了他对中国大陆问题以及该公司面临的出口管制和保护主义的看法。彼得曾在多个场合表达了他对出口管制以及中荷经济关系的担忧。

抖音中长视频App青桃更名抖音精选,字节再发力对抗B站

今年早些时候,抖音悄然上线了一款名为“青桃”的 App,Slogan 为“看见你的热爱”,根据应用介绍可知,“青桃”是一个属于年轻人的兴趣知识视频平台,由抖音官方出品的中长视频关联版本,整体风格有些类似B站。

威马CDO:中国每百户家庭仅17户有车

日前,威马汽车首席数据官梅松林转发了一份“世界各国地区拥车率排行榜”,同时,他发文表示:中国汽车普及率低于非洲国家尼日利亚,每百户家庭仅17户有车。意大利世界排名第一,每十户中九户有车。

研究发现维生素 C 等抗氧化剂会刺激癌症生长和转移

近日,一项新的研究发现,维生素 C 和 E 等抗氧化剂会激活一种机制,刺激癌症肿瘤中新血管的生长,帮助它们生长和扩散。

苹果据称正引入3D打印技术,用以生产智能手表的钢质底盘

据媒体援引消息人士报道,苹果公司正在测试使用3D打印技术来生产其智能手表的钢质底盘。消息传出后,3D系统一度大涨超10%,不过截至周三收盘,该股涨幅回落至2%以内。

千万级抖音网红秀才账号被封禁

9月2日,坐拥千万粉丝的网红主播“秀才”账号被封禁,在社交媒体平台上引发热议。平台相关负责人表示,“秀才”账号违反平台相关规定,已封禁。据知情人士透露,秀才近期被举报存在违法行为,这可能是他被封禁的部分原因。据悉,“秀才”年龄39岁,是安徽省亳州市蒙城县人,抖音网红,粉丝数量超1200万。他曾被称为“中老年...

亚马逊股东起诉公司和贝索斯,称其在购买卫星发射服务时忽视了 SpaceX

9月3日消息,亚马逊的一些股东,包括持有该公司股票的一家养老基金,日前对亚马逊、其创始人贝索斯和其董事会提起诉讼,指控他们在为 Project Kuiper 卫星星座项目购买发射服务时“违反了信义义务”。

苹果上线AppsbyApple网站,以推广自家应用程序

据消息,为推广自家应用,苹果现推出了一个名为“Apps by Apple”的网站,展示了苹果为旗下产品(如 iPhone、iPad、Apple Watch、Mac 和 Apple TV)开发的各种应用程序。

特斯拉美国降价引发投资者不满:“这是短期麻醉剂”

特斯拉本周在美国大幅下调Model S和X售价,引发了该公司一些最坚定支持者的不满。知名特斯拉多头、未来基金(Future Fund)管理合伙人加里·布莱克发帖称,降价是一种“短期麻醉剂”,会让潜在客户等待进一步降价。

光刻机巨头阿斯麦:拿到许可,继续对华出口

据外媒9月2日报道,荷兰半导体设备制造商阿斯麦称,尽管荷兰政府颁布的半导体设备出口管制新规9月正式生效,但该公司已获得在2023年底以前向中国运送受限制芯片制造机器的许可。

马斯克与库克首次隔空合作:为苹果提供卫星服务

近日,根据美国证券交易委员会的文件显示,苹果卫星服务提供商 Globalstar 近期向马斯克旗下的 SpaceX 支付 6400 万美元(约 4.65 亿元人民币)。用于在 2023-2025 年期间,发射卫星,进一步扩展苹果 iPhone 系列的 SOS 卫星服务。

𝕏(推特)调整隐私政策,可拿用户发布的信息训练 AI 模型

据报道,马斯克旗下社交平台𝕏(推特)日前调整了隐私政策,允许 𝕏 使用用户发布的信息来训练其人工智能(AI)模型。新的隐私政策将于 9 月 29 日生效。新政策规定,𝕏可能会使用所收集到的平台信息和公开可用的信息,来帮助训练 𝕏 的机器学习或人工智能模型。

荣耀CEO谈华为手机回归:替老同事们高兴,对行业也是好事

9月2日,荣耀CEO赵明在采访中谈及华为手机回归时表示,替老同事们高兴,觉得手机行业,由于华为的回归,让竞争充满了更多的可能性和更多的魅力,对行业来说也是件好事。

AI操控无人机能力超越人类冠军

《自然》30日发表的一篇论文报道了一个名为Swift的人工智能(AI)系统,该系统驾驶无人机的能力可在真实世界中一对一冠军赛里战胜人类对手。

AI生成的蘑菇科普书存在可致命错误

近日,非营利组织纽约真菌学会(NYMS)发出警告,表示亚马逊为代表的电商平台上,充斥着各种AI生成的蘑菇觅食科普书籍,其中存在诸多错误。

社交媒体平台𝕏计划收集用户生物识别数据与工作教育经历

社交媒体平台𝕏(原推特)新隐私政策提到:“在您同意的情况下,我们可能出于安全、安保和身份识别目的收集和使用您的生物识别信息。”

国产扫地机器人热销欧洲,国产割草机器人抢占欧洲草坪

2023年德国柏林消费电子展上,各大企业都带来了最新的理念和产品,而高端化、本土化的中国产品正在不断吸引欧洲等国际市场的目光。

罗永浩吐槽iPhone15和14不会有区别,除了序列号变了

罗永浩日前在直播中吐槽苹果即将推出的 iPhone 新品,具体内容为:“以我对我‘子公司’的了解,我认为 iPhone 15 跟 iPhone 14 不会有什么区别的,除了序(列)号变了,这个‘不要脸’的东西,这个‘臭厨子’。

Copyright© 2013-2020

All Rights Reserved 京ICP备2023019179号-8