在这个问题上
《桥》:50周年特刊
2021年1月7日, 体积 50 问题 S
本期特刊以50篇展望未来50年工程创新的文章庆祝NAE旗舰季刊出版50周年. 工程学将如何在太空旅行等不同领域做出贡献, 时尚, 激光, 太阳能, 和平, 疫苗开发, 和股票? 不同的作者和话题给读者很多思考!

理解不确定性、语境和人类认知:安全自主的必要条件

2020年12月23日,星期三

作者: Srikanth Saripalli和James E. 哈伯德小.

自动驾驶汽车仍然会被错误驾驶等不可预测的人类行为“迷惑”, 急救车辆, 以及人工引导的交通改道. 然而,这种不可预测性使人们在未知或危险的情况下具有优势. 因此,这种车辆要在现实环境中安全有效地部署,就必须有人工远程监控和远程人工驾驶员的安全干预. 发展对自动驾驶汽车的人类监管将为快速有效部署这些车辆提供必要的保障.

自动驾驶穿梭于TAMU

在德州&M大学(TAMU)全球网赌十大排名-十大彩票排名-全球网站排行榜正在一个最先进的远程操作中心为自动驾驶车辆开发人类监督. 全球网赌十大排名-十大彩票排名-全球网站排行榜努力在布莱恩市开发自动驾驶巴士, TAMU正在部署和测试没有安全司机在方向盘后面(但总是有一个安全领航员在前排乘客座位)的自动驾驶飞机。. 全球网赌十大排名-十大彩票排名-全球网站排行榜为自动驾驶的航天飞机配备了远程操作系统.

全球网赌十大排名-十大彩票排名-全球网站排行榜的概念验证项目包括在联网自动驾驶航天飞机中整合遥操作硬件和软件. 全球网赌十大排名-十大彩票排名-全球网站排行榜特别感兴趣的是(i)量化人类远程操作者接管车辆的时间, (ii)开发更高层次的动作,让遥操作人员与车辆交互, (iii)量化此类高级别行动的行为.

部分自治的风险

随着研究人员和制造商迅速迈向完全自主, 人类操作员和乘客之间越来越脱节. 在一定程度上,自动驾驶汽车的态势感知能力会增强, 人工操作人员或乘客的安全系数降低, 这意味着,如果发生异常,它们不太可能在需要时有效地接管手动控制.

这种权衡被称为 自动化的难题; because the goal of full system autonomy is quite difficult, 在可预见的未来,大多数系统都将处于某种程度的半自主状态(Endsley 2017). 自动化难题可能是驾驶等安全关键系统实现完全自动驾驶的根本障碍.

随着自动化程度的提高,人类的表现不佳:
它导致了自动化的自满和过度依赖,
情境意识的丧失和技能的丧失.

虽然最近的系统自治努力开始利用人工智能和学习算法,使平台更好地适应意外和不断变化的情况, 很明显,需要设计和包含人类自主接口.

有很多研究表明,随着自动化程度的提高,人类的表现会变差:它会导致自动化自满, 过度依赖自动化, 失去态势感知和空间定位, 和技能损失. 这些都会导致人为失误、事故以及对自动化失去信任. 现代自治系统是, 并将继续, 依赖于开发人类自主团队的成功方法.

出于这些原因,一些公司已经开始致力于人工监管自动驾驶汽车. 这种监控包括简单的远程操作(当车辆不知道该做什么时), 一个远程驾驶员接管并驾驶)到远程监控(车辆得到高级指令,如“停车”,”“慢下来,或由远端司机“超车”). 人类的参与解决了一些问题, 如果远程驱动程序做出错误的决定,会发生什么? 谁负责? 如何处理向远程司机发送信息和远程司机向车辆发送命令的延迟?

自主的认知参与

人工监管自动驾驶汽车并不是一个新概念,但有几个领域需要发展. 人类非常擅长理解语境, 这是目前自动驾驶汽车所缺乏的能力, 远程驱动程序是否可以推断上下文仍然是一个悬而未决的问题.

增强/虚拟现实, 还有声音和触觉, 会对远程驱动理解上下文起到关键作用吗. 同样,理解人类情感也很重要. 乘客的情绪状态决定了他/她在自动驾驶汽车中的反应和行为.

当人类充当自动驾驶的被动监测器时, 因为他们的认知参与水平较低,所以他们很难完全理解发生了什么. 显然有必要了解影响成功监督所涉及的人类认知过程的特征, 干预, 以及与自动化系统的交互.

过渡可能无效, 甚至是危险, 如果自动化突然将控制权移交给人类操作员,而人类操作员在认知上可能还没有做好接管的准备. 这意味着除了对环境的态势感知, 该车辆需要乘客的态势感知. 这需要对人类认知进行实时评估, 解释了与人类干预相关的离散认知任务之间的差异, 偶尔需要更多有意识的注意, 连续手动控制, 在一段较长的时间内,通常需要较少的注意力.

模拟人类认知的量子概率

量子概率和人工智能的一般数学结构提供了一种工程方法,不仅适用于任何需要形式化不确定性和-概率的领域,而且可以形式化地应用于人类认知. 量子概率论提供了一种方法来一致地传达自治系统组件和操作环境之间的任何组合的上下文关系. 除了, 量子概率的数学可能与信任的上下文现象有关.

在将量子概率的结构良好的机制应用于人类认知时,全球网赌十大排名-十大彩票排名-全球网站排行榜不希望暗示人类的大脑和心理过程具有量子性质. 全球网赌十大排名-十大彩票排名-全球网站排行榜只是建议工程师可以采取类似量子的建模方法来评估人类认知:环境可以在很大程度上建模, 而量子概率可能更好地描述和解释人类的认知状态.

结论

自动驾驶汽车将拯救生命,改变人们的工作和生活方式. 但这些和其他自主系统要真正安全地成功, 他们需要“理解”他们所处的环境, 识别乘客的情绪, 并与其他车辆和人员一起安全工作. 没有这些,一个完全自主的系统永远不会安全有效.

参考

Endsley先生. 2017. 从这里到自治. 人为因素(1):59 5-27.                                                                                                         

 

关于作者:Srikanth Saripalli是机械工程和海湾石油公司的教授. Dietz职业发展二教授和小詹姆斯·哈伯德. (NAE)是奥斯卡S. 怀亚特小. 45年第1任教授,都在J. 迈克·沃克66年在德州A大学机械工程系&米大学.