Ep.2 - 如何「无人驾驶」,从科幻说起

00:00:00
/
01:11:04

November 16th, 2019

1 hr 11 mins 4 secs

Your Hosts
Tags

About this Episode

神经漫游意在漫游神经与认知科学之领域,揭示认知表象与内里之趣味,由此连接业余与大众的智慧。

我们强烈推荐你使用泛用型播客客户端收听我们的节目(如 iOS 系统中,苹果自带播客,Pocket Casts, Overcast, Castro, 或安卓系统中的 AntennaPod)因为这是第一时间听到我们的节目并得到每期完整背景资料的最佳方法。搜索「神经漫游」,你也可以在网易云音乐,喜马拉雅,荔枝 FM,哔哩哔哩和 Spotify 找到我们。

本期纲要

01:57 感官缺失的无人驾驶汽车不懂「做人」
06:68 要达到近人的判断力,机器不必拥有心智理论(ToM)?
18:46 像蚂蚁群落那样开车:群体智慧
28:25 可能最适合「无人驾驶」的道路
33:08 如何减少交通事故中的「人过」
37:32 深度学习不保证可靠性时,只得走人力的捷径
40:49 耗子都能「开车」了,AI 技术怎么回事
44:30 无人驾驶的电车难题无解?不仅是哲学问题
52:10 人与无人车共生于道路;流动空间重构公共生活
55:20 规避道德问题之难,譬如路权
58:20 科幻式反思:隐私 / 人脸识别 / 推荐算法 / 加密软件

科幻节选

片段1-王诺诺《全数据时代》
片段2-刘慈欣《地球大炮》
片段3-《星球大战前传》

延伸阅读

/神无量子提到/
/汉那提到/
/杨闰哲提到/
  • 计算机视觉(Computer Vision):用计算机代替人对图像中的目标进行感知、识别、分割和理解的人工智能技术。随着深度学习的在计算机视觉各任务上的成功,广泛应用于无人驾驶。有一些无人驾驶公司声称使用“纯视觉”技术,无需使用依赖昂贵的激光传感器。
  • 监督学习(Supervised Learning):一种机器学习范式,使用有标注的数据训练机器学习模型,以预测新数据的标签。大部分无人驾驶涉及的计算机视觉任务,如图像识别,语义分割,都在监督学习的范式下进行。
  • 强化学习(Reinforcement Learning):一种机器学习范式,让智能体在环境中试错,以期学会最大化的预期利益策略。相比监督学习,强化学习的监督信号更稀疏,具有回馈延时的特点。一般可应用于序列决策问题,比如无人车的控制。多智能体强化学习也是一个新兴的热门研究领域。
  • 分布式系统(Distributed Systems):分布式系统是一组计算机,透过网络相互传通信后并协调它们的行为而形成的系统。在未来,如果无人车普及,很可能出现相互协同无人车分布式系统。
    • 拜占庭将军问题与一致性(Byzantine Generals Problem and Consensus):不同的无人车通过通讯交换信息达成共识而按照同一套协作策略行动。如果不存在一个中心化的权威,无人车可能发送错误的信息,或者信息损坏,导致不同的成员关于全体协作的策略得出不同结论,从而破坏系统一致性。历史上Shostak把这个问题比作“拜占庭将军问题”:有一群将军必须共同进攻或者撤退。他们可以把自己的决策预先告诉他人,然后根据各自听到信息达成一致决定。如果7个将军中3个想进攻,3个想撤退,1个是叛徒,那么叛徒可以通过向两个群体发送不一致的消息让将军们产生无法产生一致行动。
  • 第五代通信技术(5G):目标传输速度高达2Gbit/s,延迟仅为1-4毫秒,可实现宽通道带宽和大容量多输入多输出系统(MIMO)。无人驾驶可以5G技术实现车联网,把摄像头和雷达传感器采集到的大量信息实时传到云端进行计算。
  • 本地计算与云计算(Local Computing v.s. Cloud Computing):云计算是一种基于互联网的计算方式,终端可以请求共享服务器的软硬件资源和数据,减少用户终端的处理负担。现在因为传输实时信息的时间成本,无人驾驶的计算是在大部分是在本地进行的,对无人车的算力有一定的要求,但在未来随着5G技术的普及,可以把计算转移到云端,从而减少单台无人车的芯片成本。
  • 信息聚合(Data aggregation / Data fusion):将多种不同源的数据进行整合,从而形成更加统一,精确的信息。信息聚合方法其实广泛引用于今天的地理信息系统,未来也可能应用到无人车系统中。
  • 局部规则与涌现论(Local Rules and Emergentism):简单的局部规则可能产生出非常复杂的整体。一个支持无人驾驶的交通系统可能是复杂的,但这样的复杂系统也许只需要简单的、局部定义的规则去维护。
  • Wolfram最爱的元细自动机(Cellular Automata)是一个从简单的、局部的规则中涌现复杂的例子。其中第110号规则已经被证明是图灵完备的。
  • 无人车与失业问题:美国超过350万卡车司机,同时卡车司机也是美国增速最快的职业。如果真的让无人卡车上路,如何应对失业率的陡升与妥善安置失业司机将成为一个不可忽视的经济和社会问题。当然,在无人车取代他们之前,先要通过工会这一关。
  • 决策边界(Decision Boundary):在机器学习的分类问题中,把输入空间分成两半的超平面。神经网络通过分类边界学习来极小化经验误差。对于无人车识别路况等任务,输入空间是像素和其他传感器采样组成的高维空间,决策边界非常复杂。
  • 对抗攻击(Adversarial Attack):一种通过构造对抗样本使得机器学习模型失效的攻击方法。在图像识别领域,研究发现我们通过对图片进行一些肉眼难以分辨的像素改变,或者添加特殊的标记,就能让深度学习模型识别出现严重错误。这对基于计算机视觉的无人驾驶技术来说,是一个重大的安全隐患。
  • 电车难题(Trolley Problem):一个著名的伦理学的思想实验。人们经常用这个思想实验来讨论以边沁(Jeremy Bentham)为代表的功利主义(utilitarianism)和以康德(Immanuel Kant)为代表的义务伦理学(deontological ethics)在道德选择上的冲突。如果十字路口的无人车必须要做出道德选择,它会如何应对这种道德两难?
  • MIT Media Lab进行过一个“道德机器实验”:他们设计了一系列场景,研究在不可避免的事故情况下,公众认为无人驾驶汽车如何应对道德两难。他们最终收集到的来自233个国家和地区的数百万人用10种语言做出的4000万项决定,三种强烈的偏好:优先保护人类、优先保护更多生命、优先保护年轻的生命。这或许能成为通用机器伦理的基石。
  • 差分隐私(Differential Privacy):是一种基于密码学的数据共享方法,它可以可证明地最大化所需数据的准确性,同时最大程度减少身份信息泄漏的可能性。机器学习所依赖的大量数据,可以通过差分隐私的方法进行加密,从而保护数据的隐私安全。

本期人物

神无量子:我叫神无量子,是一个热衷于写科幻小说的家伙,当然不是因为我小说写的特别好特别多,而是因为我为了写小说去做了很多乱七八糟的事情,学了很多奇奇怪怪的知识,了解的广度远大于深度。成为了新时代的斜杠青年的次生代谢产物—歪杠青年。
杨闰哲:普林斯顿大学计算机系与神经科学研究所在读博士,本科毕业于交大ACM班,研究兴趣主要包括人工智能与计算神经。个人主页:https://runzhe-yang.science
汉那:UCSD 认知科学本科在读。心灵哲学 / 语言认知 / 科技人文 / 后人类。写字,摄影,嗜咖啡。游荡者。书呆子。野心家。

剪辑 / 北方
后期 / 小葵花