三院士漫谈：希望机器人与人类宛如手足，但“亲兄弟”要明算帐

我们的愿望是和机器人成为兄弟，但是有没有可能成为兄弟，主要在于我们跟他会不会演变为互相伤害的关系。
整理 | 陈睿雅
头图来源｜视觉中国
从阿西莫夫提出机器人三定律已经过去70多年了。
现在，科技巨头试水机器人的新闻也密集起来。比如8月里，小米发布了全尺寸人形仿生机器人“CyberOne”，别号“铁蛋”。特斯拉宣布将在今年9月30日推出人形机器人Optimus（擎天柱）原型机（马斯克称其为特斯拉今年“最重要的产品”）。腾讯发布了一款能在梅花桩上旋转踏步、单桩跳跃、双轮站立的多模态四足机器人。
此外，Meta公司的聊天机器人Blender Bot 3语出惊人，称公司为赚钱而剥削人，而扎克伯格却满不在乎；还打趣道，他有这么多钱，却总穿同样的衣服……
8月19日，在2022世界机器人大会上，三位院士纵论了《未来机器人：目标、路径和挑战》这一宏大话题。整场对话由世界工程组织联合会前任主席、中国电子学会副理事长龚克担任主持，中国科学院院士、清华大学人工智能研究院名誉院长张钹，中国工程院院士、中科院沈阳自动化研究所机器人技术国家工程研究中心主任王天然，中国科学院院士、中国科学院自动化研究所研究员乔红担任对话嘉宾。
机器人的发展目标是什么？机器人和人工智能的关系是什么？机器人有伦理道德方面的问题吗？研究机器人的人应该怎么做？

　　来源：视频截图
以下为对话主要内容，有删减：
谈工作经历：
我们做的机器人一般是笛卡尔坐标的，
但人就是活生生的人
张钹：我从1978年开始在清华大学的人工智能智能控制教研组从事人工智能的研究和教学。那个时候，机器人跟人工智能还没有完全分家。我们自然也会去做机器人的工作。
1980年到1982年，我到美国伊利诺伊香槟分校访问，做的第一件事就跟机器人有关，是机器人运动规划。1984年，我在IEEE发表的第一篇文章，也是关于机器人的运动规划。
回国以后，1985年，我首先在清华大学建立了智能机器人实验室，那时候我主要从事视觉方面的工作。刚好实验室成立不久，国家成立了863计划，我参加了智能机器人主题专家组，从1986年到1994年参加了三届，主要负责人工智能方面的工作。
1991年，我们跟国防科技大及其他一些大学联合承担了国家任务——移动机器人的研制任务。像我们大家现在非常熟悉的自动驾驶车，这个工作一直延续到今天，我们还继续在做。我主要做的工作是智能控制、视觉机器人规划。
我只是在机器人领域里做了人工智能方面的工作，所以更加偏重于智能机器人。

　　张钹。来源：视频截图
王天然：我一直在中国科学院沈阳自动化研究所工作。上世纪70年代，我在我们老所长蒋新松院士领导下，开展机器方面的工作。
我的主要工作是在工业机器人领域，后来我们把工业机器人控制系统变成产品、让它产业化。在我们的共同努力下，我们建立了一家以工业机器人自研技术为主的企业，成为中国第一个上市的机器人公司。
中国科学院沈阳自动化研究所有机器人学国家重点实验室和机器人技术国家工程研究中心，我目前也是研究中心的主任。

　　
王天然。来源：视频截图
乔红：我自己最初是从事机器人偏机械的工作。我从西安交大毕业后就出国，2004年回国，察觉到模式识别非常热，可以成为机器人的眼睛，所以我开始对模式识别感兴趣。我们做的机器人一般是笛卡尔坐标的。但是人就是这样活生生的人。他们怎么能够成为朋友？后来我又对人的神经科学产生了兴趣。
现在我是多模态人工智能系统实验室的主任，这是一间新成立的全国重点实验室。我们想把人工智能和机器人结合起来。

　　乔红。来源：视频截图
谈机器人与人工智能的分野：
机器人让大家误解成他是一个人，
人工智能让大家以为人工智能是做智能的
乔红：人工智能和机器人智能有关系，但是机器人有硬件。机器人有本体，它启动之后本体一直在循环之中，而且行动目标不一样。它的本体意味着软硬件的充分结合，所以我认为人工智能和机器人是有交叉的。本体做不到的时候，人工智能和控制可以帮助硬件部分去实现目标。
王天然：不好说将来的机器人究竟什么样。因为有人已经提出分布式工业机器人。谁规定机器人胳膊都得连在一起？你要能分开，那就厉害了。所以将来会五花八门。
如果今天真的有人造肌肉可以代替钢铁机械臂，那么过去人们搞的动力学、运动学都要重写了。这将会是颠覆性的。
张钹：从现在的情况来看，机器人跟人工智能是完全独立的两个领域。这两个领域或者学科的目标是完全不同的。
人工智能的目标是什么？是用机器来模仿人类的智能行为，追求的是机器的行为跟人类的行为越相似越好，追求的是所谓的similarity（相似）。
但模拟人类的智能行为只是机器人的手段之一。它的目标是协助人类完成某种任务，这个任务原来是由人来完成的。它追求的目标是functionality（实用）。
机器人的研究内容大致可概括成三大方面：
第一，执行机构。机器人要在物理世界里去完成一定任务，它必须得有执行机构。执行机构可以是仿人、仿动物，也可以不仿。
从目前具体情况来看，很多机器人是建立在电机跟齿轮传动结构的基础上。
人工智能不一定要做执行机构。
第二，能源。对移动机器人来讲，要完成一定任务，高效的能源是一个关键问题，而人工智能不研究能源的问题。
第三是个“大口袋”问题，我们把它叫做智能控制。包括控制、人工智能、传感器、环境感知。机器人的第三个问题才跟人工智能有些重叠，这个重叠体现在智能机器人的一部分工作上。
总结来讲，机器人不是人，是机器。
机器人这个名字让大家误解成他是一个人。人工智能这个名字也不好，让大家以为人工智能是做智能的。
但其实我们现在对智能的了解非常非常少，我们没法去做智能，我们只能模仿智能的行为——智能的外部表现。所以请大家要注意这两个区别。至于它的前途，我认为会是多种多样的。
在机器人和人工智能里也有这方面的争论——通用的人工智能要不要弄？这件事的必要性和可能性都有可以争论的地方。有必要去做个机器来代替人吗？我们人还不够吗？如果我们需要人的话，我们自己多生一些人不就完了，非得造一个跟人完全一样的人？所以我认为必要性本身不是很大。
谈机器人与人类的关系：
我们和机器人有没有可能成为兄弟，
主要在于我们会不会演变为互相伤害的关系
王天然：有人说将来机器人统治人类了、很危险了，我认为这个东西是过于科幻。如果人造机器的话，它就不可能达到这个目标。
现在还有一种说法，造出机器人就是为了取代人。我认为，机器人可以在某些环境下代替人做艰苦的劳动，但他的目的不是要跟人争夺同样的岗位。
将机器人说成取代人，这是故意把人和机器的矛盾挑起来。其实不是这样的。
人和机器到底应该是什么关系是很重要的一件事情。将来最好的办法是他要能替你服务，最好是伙伴关系，最好是他宛如同类。
乔红：我们原来做了一个科技部的重点项目，这个项目里当时有机器人智能发育的题目。发育这个词，我觉得有点超前，但是是指南里面写到的。我们还是期望人和机能够更近一点。
我觉得咱们国家现在的科研确实特别的宽容。有的机器人研究是从功能倒推问题的——我需要这个功能，我要怎么办？
还有一种研究给了我们胡思乱想的机会。例如，人有这个特点，它的机理是什么、能不能复制到机器上。
我们当时是这样定义机器人的智能发育的，发育就是指，第一它可以自主学习，第二是越来越复杂，第三是lifelong永远地学习。
这三个要求实际上挺难做到。我认为，机器人和人之间特别大的一个区别是，人有意识、有情感、有自己目标，但机器人没有目标，也没有真实的情绪。
人有杏仁核和前额叶，导致人有理性和感性。这个部分要不要复制也是一个问题，目前并没有在机器人里产生真正的复制。
王天然：机器人现在可以手把手地施教。现在有人会租机器来使用。工业机器人、协作机器人现在仍然有一定的局限，但是它的发展目标是将来跟人的关系像师徒关系一样，我跟着师傅学，然后帮着师傅干活，人是师傅，它是徒弟。
还有一种像现在医疗上的外骨骼机器人，可以帮人解决残疾，可以助力。但是人身上背着一个钢铁的东西还是相当不舒服的，也不能很好地协调。未来最好是能实现，人怎么想，机器人都知道；机器人要怎么做，人也都能知道。
所以我给机器人定的发展目标是宛如手足，将来最好是能宛如同类。
张钹：master，slave，或者我们大家是brothers。我们的愿望是（和机器人）成为兄弟，但是有没有可能成为兄弟，主要在于我们跟他的关系会不会演变为互相伤害的关系。
这是现在人工智能治理提出来的问题。目前我们大家越来越认识到这个可能性是存在的。
当初包括阿西莫夫、霍金他们提出来这个观点时，认为这个问题在机器身上，如果机器发展到有意识，它的智能超过我们，我们就失去了对它的控制。因此人类对这样的机器人要加以限制、治理。
但随着人工智能发展起来以后，大家发现这个问题不完全是这样。
当机器人智能很低的时候，我们就处在危险的状态了。为什么？我们处于不可控的状态。比如说，现在用深度学习的方法来做一些事情，这个人工智能算法是非常危险、非常不鲁棒（注：是在异常和危险情况下系统生存的能力）、没有可靠性保障的。如果我们运用了人工智能的算法，它必然会带来对人类的伤害，所以它已经变成了一个现实问题。
所以我们提出来的第三代人工智能，就是要解决第二代人工智能算法不安全、不可靠、不可信、不可控的问题。
今天法国科学家、Verimag实验室创办人兼退休高级CNRS研究员、2007年图灵奖获得者Joseph Sifakis也讲到这个问题。他最后提出来的模型，是加上端对端的学习。实际上大家一样认识到，纯粹靠数据驱动的方法，必然是不鲁棒的，必然是不可解释的，必然是不可靠的。这个是必然性。
怎么来解决这样问题？唯一的可能性就加上知识。Joseph Sifakis说加上模型。
第一代人工智能主要方法是知识驱动。第二代人工智能最主要的方法是数据驱动。这两个办法都有片面性，必须把两个方法加起来，机器才有可能发展出来，成为可靠的、安全的、可信的人工智能，进而发展出可信的智能机器人。
谈机器人的伦理与道德：
外界关心的是机器人的伦理问题，
还是机器人设计者所掌握伦理的问题？
乔红：伦理在机器人领域的确讨论得比较早。
我自己的想法是，机器人成为我们主人这件事，肯定是不应该允许的。因为机器人当时的定义就是说不能伤害人类。所以我觉得建立法律还是很重要的。
对一个人的约束有两种。高端的是说你要有道德，所以你要有文化；低端的是说你如果干这件事，你该受罚了。
对于机器人，我们把它作为一个个体，我们可以很近，但是亲兄弟也要明算账。所以应该对它进行道德上的约束、法律约束。概念上，你又把它框在笼子里了。我们可以很近，但是我们得算清楚。
道德的约束我觉得比较难。比如说，车往前开会撞到谁，不往前开又会撞谁，对吧？对人尚且也有难度。但是我认为还是应该尽量对机器人提前约束，这样机器人发展到后面会是相对安全和健康的。
龚克：我理解自动驾驶汽车，也是行走的机器人。
我到好多实验室参观他们的自动驾驶，我做过一些小尝试，在自动驾驶汽车行驶过程中，我曾经尝试了一下人工踩油门、要加速去撞前面的目标。最早三年前，有的实验室的自动驾驶汽车它就不动了，有的实验室的车就撞上去了。
这两年我做过试验，几乎所有实验室的车都停下了。我想，这就是把一定的伦理植入到机器人的控制里面去了，甚至能防止人类杀手开着车去撞人。
张钹：伦理的问题，现在变得非常重要。大家对机器人的认识有两个阶段，第一个阶段是阿西莫夫认为，机器人如果智能超过我们，或者有意识以后，我们如何让机器人能够按照伦理的准则来行为？
第二个阶段，人类如何按照伦理的原则来设计和使用机器人？
其实这个问题非常不简单。为什么引起全世界的关注？这里遇到三大难题，第一个难题是标准和法规的问题。什么是道德，什么是不道德？这个本身就有非常大的争议。比如大家常常举这个例子，刹车失灵了，前面可能撞上5个人，你如果打舵的话，就会撞上另外1个人，你究竟打不打舵？
第二个问题，对机器来讲，假设道德规范有了，你不能撞人，那么他是不是一定不撞人？这就涉及到机器人的行为可控不可控。
你得给机器人一定的灵活性，他才能有创造性，他才能自主解决问题。（但）我们给他灵活性，给他创造性，给他自主性，必然要付出代价。
第三，对人类来讲，我们要求每个人在设计、使用机器人的时候，都要遵守伦理的原则。（但）有的人根本不遵守。
其实每一项技术、每一种机器都有不可预测性。非常明显的例子，深度学习，用模式识别来做，它的识别率提高非常多，但没有预计到这种办法实际上鲁棒性非常差，引起很大的安全问题，是人家没预计到的。每一个工作，即使你定了很严格的规律，很多东西你是预测不到的。
由于这三个困难，实际上造成人工智能或者智能机器人的治理会有非常大的困难。
王天然：我想问张老师一个问题。您认为，外界关心的是机器人的伦理问题，还是关心设计机器人的人所掌握伦理的问题？
张钹：实际上现在最主要关心两个方面，一方面你是不是会滥用或误用机器人，特别现在滥用人工智能非常严重，机器人将来肯定会被滥用，为什么？比如作战机器人、杀人机器人就是一种滥用。
另外，你在设计的过程中间要做好评估和预测，不能随随便便定一个规划。学术界更多是讨论机器人的问题，因为比较吸引人，大家（看得）比较长远一点。但是在我们看起来，我们基本算工程师，我们工程师是看眼前的。
王天然：机器人的感知、推理、行为，这些都在发展，不一定都是用人工智能的技术，有可能是用其他方法。其他方法仍然也会有伦理问题。你用了人工智能技术，有可能产生新的伦理问题。
伦理问题是人工智能技术带来的，还是机器人本身带来的？我有点想推脱责任（笑）。
张钹：（我认为）主要是我们（带来的）。
寄语年轻工作者
机器人是eater，啥技术都吃
年轻人应具备宏观力、执行力和开放度
张钹：因为这个是世界机器人大会，所以我认为我们刚才谈的那些问题都可以通过全世界团结起来，共同来发展，合作创新，能够让机器人健康发展，造福全人类。治理的问题有很多难题，但是从技术上，很多人提出有三方面的工作可以来解决治理问题。一方面的工作，要研究新的分析工具，主要是形式逻辑加上伦理推理或者伦理的分析。
第二方面，在那些道德与不道德很难做出定义的地方，我们可以给出样本。对那些没法定义的问题，可以通过标注数据来学习。
最后一个是模拟仿真。像无人车就是这样，你要大量的做实验，让他跑。通过实验、通过模拟来发现他的问题，逐步解决。
王天然：上世纪末，2000年以前，我们工作的重点都在工业机器人的精度，可靠性、控制多少轴，怎么用的好、灵巧性。相关的技术不断支持下，机器人的前途将非常灿烂。因此有人说，现在是机器人发展的黄金时代，各个学科的融合又会在机器人身上充分体现。
我记得当年好像有一个意大利学者就管机器人叫eater，它是啥的技术都吃。所以我想其实机器人研究需要全世界各地的人，包括我们中国青年，抓住这样的机会，去发现、创造出新的东西来。
乔红：我也讲三个很抽象的点。第一句话，我觉得年轻的学者首先还是要保持宏观力。这个宏观力就是宽容度，社会对你的需要，他人对你的期望，不同领域不同的声音，这还是需要的。如果没有这种flexibility，你就不能够接触社会对你的期望、社会对你的支持。
第二个部分还是要自强自立，就是执行力。怎么把这件事情一步一步的坚定地执行下去，需要逻辑力、执行力和坚定的意志。
一个是宏观的Flexiblility，一个是强硬的执行力。
第三个我觉得很重要是开放度。很多的年轻的学者本身很强，但是他不能够接纳其他的人进入他的小领域。这个就造成了他不能够学习和成长。所以我就送给大家这三个词，就是宏观力、执行力和开放度。

---