资讯

美国国会推动人工智能汽车“终止开关”技术来控制驾驶员

翻译 2023-12-23 06:05 Richard W. Stevens

作者:理查德-W-史蒂文斯(Richard W. Stevens)是一名律师、作家,也是发现研究所沃尔特-布拉德利自然与人工智能中心的研究员。他撰写了大量关于代码和软件系统如何证明生物系统中的智能设计的文章。他以优异成绩获得圣地亚哥大学法学院法学博士学位和加州大学圣地亚哥分校计算机科学学位。理查德曾在加利福尼亚州和华盛顿特区从事民事和行政法诉讼,在乔治-华盛顿大学和乔治-梅森大学法学院教授法律研究和写作,现在专门撰写处置性动议和上诉辩护状。他已撰写或与人合著了四本书,还撰写了大量文章,并就法律写作、经济学、《权利法案》和基督教辩护学等主题发表过演讲。他的第五本书《调查辩护》即将出版。

美国联邦机构的权力准备延伸到您的一举一动。

接下来,当 Siri 或 Alexa 通知你时,你就可以坐在驾驶座上了:

"对不起,您不能开车。本车暂时禁用。请稍后再试。

没有超驰功能,也没有 "丢失密码 "功能来绕过锁定。不管你要去哪里,也不管你有多急需离开。人工智能系统都会判定你不适合驾驶。

这又是一个乌托邦式的幻想吗?当然不是。美国国会和总统颁布了第 117-58 号公法(2021 年 11 月 15 日),要求制定国家规则,要求乘用车 "配备先进的酒驾和醉驾预防技术"。这么一说,谁还会反对呢?毕竟,人工智能系统将拯救生命。

2023 年 11 月,美国国会在强烈反对声中批准继续拨款,这意味着 "先进的酒驾和醉驾预防技术 "最快将于 2026 年出现在汽车上。由人工智能驱动的系统将"(i)被动监测机动车驾驶员的表现,以准确识别该驾驶员是否可能受损;(ii)如果检测到受损,则防止或限制机动车操作"。

技术就在这里

驾驶员审批系统如何运行?CorrActions 开发了 "一种基于运动的纯软件驾驶员监控产品",它使用 "无意识的、不可控制的肌肉子运动来监控大脑活动"。输入来自方向盘或驾驶员的智能手机。

CorrActions 称,该系统 "可以检测到多种认知状态",如 "疲劳、注意力不集中、焦虑、酗酒/吸毒等"。据报道,驾驶员与智能手机应用程序的互动所提供的信息足以确定血液中的酒精含量(BAC),准确率高达 90%,而且绝不会误报高 BAC。

解决方案带来的问题

现在考虑一下:联邦政府机构使用人工智能来决定美国 3.5 亿多人中是否有人可以驾驶汽车。人工智能设计师建立了驾驶员审批系统。酒后驾车问题迎刃而解。联邦政府和人工智能都沉浸在英雄的荣耀中。

然而,我们必须面对大局问题和日常权衡。首先考虑一下驾驶员审批系统(DAS)所带来的日常实际问题。当你喝了几杯啤酒后,你的汽车根本无法行驶:

●你的妻子突然临产

●你的孩子生病、受伤或流血

●龙卷风肆虐您所在的城市

●您需要把车开离灌木丛火场

●你需要把车从热水器漏水的车库里开出来

不管喝了多少啤酒,没有哪个系统能永远完美运行。电池会耗尽,电线会磨损,驾驶员审批系统也会发生故障,无法使用任何车辆。它不会知道也不会关心你为什么要开车。

在任何情况下,驾驶员审批系统都无法评估您的情况是否紧急。安全管理局无法权衡您驾车的风险与收益。它不知道也不关心您的行程是在一条很少使用的道路上,或者医疗诊所离您只有两英里远。它只是一个联邦授权的机器人,执行着全国性的 "一刀切 "规则。

索赔, 诉讼, 事实, 观点, 真理, 正义

人们希望安全系统能够记录并保存每位驾驶员的 "认知状态 "数据。当然,警方调查人员和保险公司在考虑事故的 "过错方 "时会寻求这些数据。各部门是否会将 DAS 记录的驾驶员 "损伤"、"疲劳"、"焦虑 "或 "注意力不集中 "作为不容置疑的事实?

如果公平和正义仍然重要,那就不会。任何在法律案件中提供证据的设备都需要经过有效性和可靠性评估。要使用有关精神状态的驾驶员审批系统报告,就需要设计者提供确凿的证据,证明机器的准确性、最近的测试和校准情况,以及内部和外部有害因素是否会影响报告。驾驶员审批系统是否会受到电气或无线电干扰、干扰、数据损坏、人为黑客攻击或软件更新错误的影响?

深入挖掘:例如,如果驾驶员审批系统报告 "损伤"、"焦虑 "或 "注意力不集中",这些答案是否只有 "是 "或 "否"?报告是否会显示灰色阴影或严重程度?也许报告会用 0 到 9 的等级来表示情绪状态。这个等级从何而来?谁来决定焦虑=5,注意力不集中=6,就不能开车或让车停在路上?

没有任何东西能确保驾驶员审批系统以任何客观的方式 "正确"。就像测谎仪既不是 "测谎仪 "也不是 "测真仪 "一样,驾驶员审批系统也将受限于设计者在以下方面的选择:(1) 哪些数据是相关的;(2) 如何计算结果;(3) 如何呈现计算机对高度主观的人类生理和心理因素得出的结论。在所有车辆中安装驾驶员审批系统,要么会导致人工智能的绝对统治,要么会引发大量诉讼,在争议中寻求真相和人类的公平结果。

DAS 2.0:危险的仆人,渴望的主人

再从大处着眼:社会对政府如何决策、如何将权力强加于公民的心态。联邦驾驶员审批系统授权将这样一种观念正常化,即使用人工智能的政府机构可以而且应该 "解决 "健康、安全和财政问题。一个机构及其官僚可以 "听从 "他们认为是超级专家的人工智能系统的 "命令"。不再有 "人为错误"--人工智能成为超级智者。任何公民都不能合理地质疑这种智能的决定。专家与电脑的统治成为政府模式。

驾驶员审批系统概念本身实际上就是在乞求扩大政府权力。如今,驾驶员审批系统被称为与汽车驾驶员互动的 "被动监控 "系统。一旦强制并广泛安装驾驶员审批系统,聪明的想法就会层出不穷,例如,限制或阻止欠税的人、被指控违规的人、被认为是麻烦制造者的人、或 "碳足迹 "超过某个数字的人使用汽车。

技术将不断发展,将驾驶员审批系统与中央控制系统连接起来,以推进当下的官僚政策。就像今天的 Alexa 可以监听人们的谈话和用词一样,驾驶员审批系统 2.0 也可以检测私下讨论的语言和思想。

强制要求政府在私家车上使用监控技术,将使个人的行动、思想、言论和行为受到自上而下的控制。阿克顿勋爵可能会这样说权力使人腐化,而人工智能的权力使人成倍腐化。

0 0

网友评论

取消