特斯拉AutoPilot完全自动驾驶的雄心计划,是技术引领还是人性博弈?
深陷舆论中的特斯拉隐私争议,带来监管机构的担忧与隐私调查。
(资料图片仅供参考)
科技,数据,用户,年轻化员工的蓬勃朝气与娱乐化,都是要特斯拉在飞速革新发展中要冷静思考小心平衡的关键问题。
01
特斯拉的麻烦:
自动驾驶及用户数据隐私
深陷舆论中的特斯拉?
特斯拉公司向数百万特斯拉车主保证,车主的隐私“对特斯拉公司一直是无比重要的”。特斯拉在其网站中指出,车辆中预装的摄像头是用来辅助驾驶,“完全是设计来保护隐私的。”
根据路透社与9名特斯拉前员工的采访,2019年至2022年间,许多特斯拉员工通过互联网通信系统私密分享顾客汽车摄像头拍摄的、高度侵入性的视频和图片。
特斯拉在其网站“客户隐私声明”中表示摄像头的录像一直是匿名的,不会关联到客户或客户的车辆。
特斯拉7名前员工告诉路透社,他们工作使用的电脑程序会显示摄像头录像的位置-这可能会透露特斯拉车主居住的位置。
1名前员工也表示,一些录像是在车辆停放或关闭之后拍摄的。几年前,如果车主同意,即使在关闭汽车情况下,特斯拉仍会收到车辆的录像记录。不过后来就不再这么做了。
另1名前员工说,“我们可能看到车主车库或者他们的私有财产。”
一些员工偶然发现并分享了停在车库的一辆限量版汽车。这辆昵称是“Wet Nellie”的“白色莲花Esprit 潜水车”曾出现在1977年詹姆斯・邦德的电影《007: 海底城》中。
特斯拉CEO埃隆・马斯克曾在2013年以96.8万美元竞拍下这辆限定款。 目前还不清楚马斯克是否意识到公司可能会分享其汽车录像视频。马斯克没有回答这个疑问。
特斯拉的隐私争议
为了报道这个事件,路透社联系了过去9年在特斯拉公司工作过并涉及自动驾驶系统研发的300多名员工。10多名员工在匿名的情况下同意回复这个问题。
大约从2016年起,特斯拉先后在非洲和美国聘请了几百人标记图片,来帮助他们的汽车识别行人、路标、工程车辆、车库门和出现在路上或客户家中的实物。因此数据标记员工获得了由汽车摄像头记录的成千上万的视频和图片,来查看或识别标记实物。
特斯拉已经加快了自动化处理这个过程,并在去年关闭了位于加州圣马特奥的数据标记中心。但他仍在纽约布法罗市聘请了数百名数据标记员工。特斯拉公司在二月表示,这里的员工在过去半年增长了54%,达到了675名。
2名前员工表示他们没有被分享的图片困扰,声称已经征得了客户的同意,或者很久以前这些客户已经同意公司保存他们的个人数据信息。然而另外3名前员工表示他们感到了麻烦。
1名前员工说,“说实话,这是侵犯隐私。看到了他们这样对待这么多的客户,我总是开玩笑说我不会买特斯拉汽车。”
另1名前员工说,“我感到厌烦,我不认为那些买车的客户知道他们的隐私如此不被尊重。。。我们可能会看到车主正在洗衣服或者做些亲密的事情。”
1名前员工说分享照片没有什么不对,但允许数据标记员工在谷歌地图中查看摄像头记录所在位置的功能是极大地对隐私的侵犯。
波士顿东北大学的网络安全和隐私研究所执行董事戴维・肖夫内斯(David Choffnes)称,特斯拉员工分享敏感视频和图片的行为应该在道德上受到谴责。他说,“任何正常人都会对此感到震惊。”
他指出传播敏感的个人内容,都应视为特斯拉对个人隐私数据的滥用-潜在地会引起美国联邦贸易委员会的介入调查,该委员会执行消费者隐私相关的联邦法律。
滥用隐私被调查
为了研发汽车自动驾驶技术,特斯拉收集了来自全球数百万汽车的庞大数据。在特斯拉公司收集车主汽车数据前,公司会请求车主在其汽车触摸屏上授予权限,特斯拉网站声明“你的数据是属于你的”。
特斯拉在其客户隐私声明中解释,如果消费者同意分享数据,“你的汽车可能会收集信息并为特斯拉公司使用和分析,这会帮助特斯拉改善其产品、功能和更快地诊断问题”。
特斯拉同时声明这些数据可能会包括“短视频或图片”,但不会关联到消费者账号或车辆识别码,“也不会识别个人身份”。
德国数据隐私律师卡洛・皮尔茨(Carlo Piltz) 告诉路透社,在欧盟数据保护和隐私法中,很难为汽车录像记录在内部传播找到合法的理由,它与“提供安全可靠的汽车或特斯拉的自动驾驶功能没有关系”。
近些年,特斯拉汽车摄像头一直备受争议。在中国一些政府大院或居民社区,已经由于对特斯拉摄像头的担忧而禁止特斯拉进入。作为回复,马斯克在2021年中国论坛视频会议中说:“如果特斯拉利用汽车在中国或其他地方进行间谍活动,我们将会被关闭。”
在有些地方,监管机构已经调查了特斯拉系统可能潜在的隐私侵犯行为。但隐私案例趋向于关注行人,他们在无意识情况下会被停放的特斯拉汽车拍摄到,而不是关注特斯拉车主的权利。
荷兰数据保护局(DPA)在二月份说,已经对特斯拉“哨兵模式”可能侵犯隐私的行为完成了调查,“哨兵模式”在汽车停放时会记录可疑的活动并提醒车主。
“在不知情的情况下,走过这些汽车的行人可能会被拍摄。而且特斯拉车主可以回放观看这些图片。”DPA董事会成员卡特亚・穆尔(Katja Mur)在一份声明中说,“如果车主把汽车停放在某个人的窗户前,他们可能会监视并看到窗户内这个人的所有活动。这是严重的隐私侵犯行为。”
监管机构判决称应该是特斯拉车主为他们的汽车摄像记录负有法律责任,而不是特斯拉公司。
该机构称特斯拉公司已经对哨兵模式做了一些更改,包括汽车大灯闪烁来提醒行人可能会被摄像,而后决定不会对特斯拉公司进行处罚。
02
特斯拉的阿克琉斯之踵:
自动驾驶的野望
特斯拉自动驾驶计划
特斯拉将其自动驾驶系统称为Autopilot。2015年推出的该系统包括一些先进的功能,允许驾驶员按下转向灯来改变车道,按指令平行停车。
为了使自动驾驶功能正常工作,特斯拉起初在挡风玻璃顶部安装了声纳传感器、雷达和一个前置摄像头。2016年推出的后续系统包含了全车8个摄像头,收集更多信息以便提供更多功能。
马斯克的未来愿景是提供可以代替驾驶员的完全自动驾驶模式。2020年10月,特斯拉开始正式推出这一模式的测试版本。虽然仍需要驾驶员握住方向盘,它目前还是实现了一些功能,例如在接近停车标志牌或红绿灯时,能够自动减速。
特斯拉2月份在美国召回了超过36.2万辆汽车来升级其自动驾驶软件。此前,美国国家公路交通安全管理局(NHTSA)表示,该软件可能使汽车在十字路口超速行驶并造成碰撞。
和许多人工智能项目一样,为了研发自动驾驶技术,特斯拉聘请了数据标记员工来识别图片或视频中物体,来训练系统在汽车行驶或停放时如何做出反应。
知情人士向路透社透露,特斯拉最初把数据标记外包给后来被称为Samasource的旧金山非营利组织。然而到2019年特斯拉对Samasource数据标记员工的工作感到不满。在2021年特斯拉人工智能日活动中,特斯拉AI高级总监Andrej Karpathy说:“不幸地,我们很快就发现与第三方合作处理如此重要的数据是行不通的。老实说效果也不是很出彩。”
特斯拉决定内部自行处理数据标记。Karpathy在2021年8月演讲中说:“一段时间以来,我们已经发展到1000人的数据标记(组织),都是与工程师工作非常紧密的专业标记员工。”
特斯拉自己的数据标记员工最初在旧金山湾区工作,包括在圣马特奥的办公室。前员工说,数据标记员工被分配给各种不同的任务,包括标记街道车道线或应急车辆等。
特斯拉的自动驾驶在倒出车库时有一点困难,并且当遇到影子或者花园软管等物体时会不知所措。所以一些数据标记员工被要求区分标记视频中记录的车库内物体。最终这个问题得到了解决。
03
特斯拉的年轻人与办公室的表情包
特斯拉在圣马特奥办公室的员工,大多是20多岁到30岁出头的年轻人,他们带来了一种重视娱乐表情包和病毒式线上传播的文化。前员工描述了聊天室里自由自在的氛围,员工们拿自己标记中看到的图片互相开玩笑。
根据几名前员工表示,一些标记员工在特斯拉内部通讯系统Mattermost的私人群聊里分享截图,有时是PS的修图。在这里他们会吸引来自其他员工或管理者的评论。
群聊的人也会添加他们自己的修图、玩笑或表情来继续聊天。几名前员工说一些表情是特意制作的,来提及办公室内部的玩笑。
1名前数据标记员工描述称分享图片是一种打破单调的方式。另1名前员工描述分享的内容如何获得同事的点赞。
一些分享的内容类似网络上的表情包,他们是宠物狗、有趣的汽车和特斯拉摄像头记录的人们绊倒或跌倒的视频。1名前员工说,也有一些令人心烦的内容,比如在违背某人意愿的情况下,这个人被拖进汽车里。
几名前员工说,涉及特斯拉事故的视频有时也被分享到Mattermost的聊天里,这些视频包括一些人的粗暴驾驶或者碰撞到骑自行车或摩托车的人-比如一个带孩子的人。一些标记员工会减速或慢动作播放这些视频。
特斯拉管理者时而会压制在Mattermost公共栏目里分享的、容易引起不适的图片,因为他们声称这行为违反公司政策。但一些前员工说那些截图和表情包仍然通过平台的私人聊天继续传播。
2名前员工表示,在圣马特奥工作的特斯拉数据标记员工的福利之一是,有机会获得奖励-使用公司的汽车一两天。
但一些幸运的获奖者在驾驶电动汽车时会变得多疑。
1名前员工说,“了解到汽车能够收集如此多数据之后,确实让人变得不安。”
结束语
1~2月份特斯拉在美国市场份额出现了大幅度下滑,而此刻的特斯拉又深陷隐私调查泥淖。隐私舆论的发酵会给特斯拉带来怎样的影响还不得而知,但无疑已经引起了监管机构的担忧和调查。
特斯拉完全自动驾驶计划的雄心,究竟是前瞻之举还是会成为阿喀琉斯之踵?年轻员工推动着特斯拉的研发创新,他们的娱乐文化却也引人有所担忧。能否处理好极为敏感重要的客户隐私问题,将是特斯拉面临的又一场“大考”。