Autopilot并非让人高枕无忧，人仍然是其有机的组成部分。
通常，宾州大学人机工程实验室的闲聊话题是讲座提醒和攀墙机器人的视频。但在今年春天发生首例特斯拉自动辅助驾驶系统Autopilot致死案后，下面的批判性评论成为主流：
助研：设计者的劣根性之一就是在产品完成之前，就已经宣布产品达到要求。
博士后研究员：在技术完善之前，这些失败不可避免。特斯拉汽车这样的技术先行者总是受到额外的关注。
研究生：如果司机能够专心一点的话，一辆拖车就不会被当作是交通告示牌了。这些讨论持续多日，各方的看法似乎都有其可取之处。所以笔者希望藉由这场不幸的事故，了解为何这场最大规模人机互动实验出现失败案例的原因。
根据事故记录，这辆由一位俄亥俄男性司机驾驶的Model S在佛罗里达州的27A高速公路上与一辆拖车相撞。当时汽车没能把高光的天空与白色涂装的卡车所区分，因此紧急制动系统没有启动。这是此次事故技术方面的成因。但是对汽车安全专家和特斯拉公司来说，更重要的原因是司机没能预判事故并踩下刹车。
在自动驾驶汽车已经上路的当下，正好让我们重新审视一些对智能机械和机器人的错误观念——很多人想象的是如电影《霹雳游侠》中的人工智能汽车伙伴KITT。虽然只是小说，但是人们偏见已成，甚至类似Roomba的自动清洁机器人以及已普遍使用的自动洗碗机也巩固了这一观点。
而Autopilot并非KITT那样智能，其操作手册中明确指出人必须是其组成部分之一（再智能的机器也至少要求我们阅读操作手册吧）。特斯拉汽车公开表示Autopilot软件仍然是尚待完善的beta版本，并警告司机保持警醒，不要将手离开方向盘。
但敏感之处是Autopilot的技术研发与市场推广脱节了。特斯拉汽车在2015年10月宣布软件系统更新时，其博文的标题是《自动驾驶来了》，让人感觉机器人司机可以驾车并接送乘客了。在该公司中文推广文案中，此功能被直接翻译为“无人驾驶”。因此，一位司机宣称其被误导而导致了一场擦挂事故。
早期Autopilot的使用者助长了对这项技术的误用。在YouTube中，时常可见人们双手离盘驾车的视频，甚至有人在行驶时玩跳棋和抽积木。在一个数十万人观看过的专业评测视频中，制作者也只是加上了一条简单的提醒——“免责申明：……本视频中的操作是特意而为的。安全是首要考量。看路驾驶，不要做蠢事”——也就是说，“不要做我们刚才所做的事”。
人们缺失的概念是，共享控制权是自动驾驶的基础。在战斗机飞行员培训中，这种共生关系很常见。从卡特总统时期以来，专业人员们就用一个笼统的术语——电传操作系统（fly-by-wire），来描述任何计算机辅助的飞行控制。正如Autopilot，电传操作系统只是一种辅助技术来加强，而非代替飞行员对飞机的控制。飞行员在掌控驾驶舱之前，通过多年的训练，清楚的了解计算机是怎么收集和处理信息的。他们也学到了即使在有辅助驾驶功能时，也需保持警惕性，随时准备接管飞行控制，而不是任由计算机掌控一切。
因为普通司机不可能像飞行员那样接受深度训练，所以车厂必须找到有效的解决方案。例如，在安装辅助驾驶软件时，初次使用者需要的不只是介绍软件如何使用的说明文档，而应该是短期培训课程来帮助司机了解自动驾驶是如何工作的，它被设计成可以处理和不能处理何种应用情况，以及为什么司机需要随时准备介入。
电传操作系统和人际交互专家，前任美国空军首席科学家Mica Endsley表示，Autopilot这类自动化技术遇见的问题是，当错误产生时，操作者一般在控制环路之外，延缓了问题的检测和修正。
除了司机的培训，自动驾驶软件也应该被设计成可以巩固培训成果。软件工程师和汽车工程师需要通过对人的行为和认知模式的了解，考虑其设计如何与使用者更好地沟通。目前学术界和汽车制造商也注意到这一新领域，已经在人际交互方面开始了越来越多的研究。例如，斯坦福大学的交互设计专家正在研究如何使自动驾驶汽车的摄像头、雷达和传感器所生成的评估与预判对使用者更透明。这些专家们表示，车厂应该采取语音提示 （“前方有障碍，正在刹车”）和物理提示（比如需要司机接管控制时，改变方向盘的倾角）等措施，让司机得知路况的变化（例如有卡车堵塞道路）或者避免司机因发呆而引发的事故。
在目前的产品设计中信号提示还尚待加强，比如Model S仅用音调变化和Autopilot控制面板色彩的改变来提醒司机需要接管控制了。凯迪拉克的SuperCruise系统和沃尔沃的Pilot Assist系统则通过座椅或方向盘轻柔地震动来提醒。车厂需要采用更进取的方式来协助司机，比如斯坦福大学所建议的多重感官方式，既用方向盘震动，又用语音和闪灯提示。
在这个即时通信软件、联网地图和手机交易大行于世的时代，没人想在新技术的应用方面落后于人。但是在使用自动驾驶汽车时，司机仍需要警醒和专注。这个新技术既需要培训人类，也需要训练智能警报系统。
今年5月的Autopilot致命事故也许只是一个最恶劣的情况，但是它却强调了人与机器如何共享汽车控制的重要性。