5月17日，由搜狐主办的2024搜狐科技年度论坛在北京盛大开幕。多位院士、科学家与产业界人士齐聚一堂，激发智慧的深度碰撞，奔赴科技的星辰大海。
本届论坛线上线下结合，开启全天的思想盛宴。在下午的现场环节，中国工程院院士、浙江大学求是特聘教授、博士生导师谭建荣院士发表了《如何“驯服”机器人?》的演讲。
谭建荣院士在现场分享了自己学习、研究、应用以及驯服机器人的经历。
谭建荣指出，学界学者预言有三项技术交叉融合汇聚将会产生真正的颠覆性变化，分别是生成式人工智能、元宇宙数字空间和拟人化机器人。
“颠覆到什么程度?有人预言将会产生人类2.0版本。”谭建荣表示，这一预言并非危言耸听，因为人类发展就是通过科学技术进步产生的。
而机器人一旦出现故障，故障将是灾难性的。谭建荣表示，“人工智能所有的安全风险在机器人当中都存在。为什么?机器人应用计算机人工智能控制，一旦控制失效，出现的故障将是灾难性的。”
但是，在颠覆性变化之外，人类可以“驯服”机器人。谭建荣表示，机器人学拥有三项原则，一是机器人不可以伤害人，二是机器人必须服从人，三是在第一二点不矛盾的前提下机器人可以自我保护。
谭建荣介绍，“驯服”机器人有三个路径，一是通过安全规范和法规进行人工智能风险防范;二是通过大样本训练使得机器人服从人的指挥;三是划出一些安全警戒线，使得机器人在外源时空条件下防范其“做坏事儿”。谭建荣表示，通过以上三条路径，可以实现机器人“驯服”。
谈及当下，谭建荣认为，目前控制机器人的程序算法还在人的控制之中。但他也提醒，“首先，人要坚守法律规定、技术规范、技术标准，把这些技术和法规融合起来。其次，法规也不是万能的，很多时候还需要伦理。”他表示，伦理、规范、技术融合起来，才能使得机器人造福于人类，造福于子孙后代。
中国工程院院士、浙江大学求是特聘教授、博士生导师谭建荣
以下为演讲全文：
各位领导、各位专家、各位来宾，很高兴参加搜狐科技年度论坛。搜狐对我来说是非常高深、非常新鲜的，我开始走向互联网的时候，搜狐也是我的引路人。我来自浙江大学，学历是浙江大学应用数学系博士，也是国家首届杰出青年基金的获得者。
黑格尔说过，同样的话，不同经历的人讲出来含义是不一样的，一个人讲话的含义是和经历相关的。下面我就按照大会的要求，谈一谈我学习、研究和应用机器人和驯服机器人的经历。
有学者预言有三项技术交叉融合汇聚，将产生真正的颠覆性变化。第一项就是生成式人工智能。
2022年10月份，美国OpenAI公司推出的生成式人工智能产品ChatGPT。“生成式”这三个字非常关键，可以生成文本、生成视频、生成解决方案，生成式人工智能一来使得人工智能产生了新的质的变化：过去我们搞了很多人工智能应用场景，但是大部分应用场景都通不过图灵测试，而生成式人工智能不仅能轻松通过图灵测试，写的文章也比一般人还好。
第二项技术就是元宇宙数字空间，元宇宙与一般虚拟现实技术有什么区别?用一句话来概括：以前我们登录互联网都是在互联网外面，而元宇宙技术使得每个登录者进入互联网里面。
第三项技术是拟人化技术，把机器人做的像人一样，不仅形状像人，而且神似，思想也跟人相近。
有人预言，这三项技术交叉融合汇聚将产生真正的颠覆性技术。颠覆到什么程度，有人预言将会产生人类2.0版本。是不是危言耸听?不是，因为人类的发展就是通过科学技术的进步产生的。
机器人是个老话题，是100多年前文学家提出来的，机器人的初心是“有感情、有温度、可交流、可交互”，这12个字就是机器人的初心。
过了30年，机器人还是搞文学的人在做，美国作家阿西莫夫在“robot”后加了三个字母“ice”，robotice翻译成中文叫“机器人学”。
机器人学提出三个原则，第一个原则机器人不可以伤害人，第二个是机器人必须服从人，第三条是在一和二不矛盾的前提下机器人可以自我保护。
我们如何驯服机器人?实际上是机器人的训练。我们现在做机器人，就要做机器人的大数据、大模型，首先在机器训练过程中把它驯服，大量的数据才能真正驯服它。
智能机器和跟普通机器人到底有什么区别?普通机器人的轨迹、位移、速度和加速度都需要事先编程编码，所以机器人应用的重点就是轨迹规划、运动规划;而智能机器人通过少量编程和大量的样本训练获得轨迹、位移、速度和加速度。
人工智能所有的安全风险在机器人当中都存在，因为机器人应用计算机人工智能控制它的，一旦控制失效，出现问题，出现故障将是灾难性的。
但是现在一要通过安全规范法规，来进行人工智能风险防范，引到机器人的驯服中;二是通过大样本的训练使得机器人规规矩矩，服从人的指挥;三是要划出一些安全警戒线，使得机器人在外源时空条件下防范它“干坏事”。通过这三条就能把机器人驯服得好。
当然目前来看我个人的看法，机器人还是一个辅助工具，人工智能也是个辅助工具。我相信控制机器人的程序算法还在人的控制之中。当然首先人要坚守法律规定、技术规范、技术标准，把这些技术和法规融合起来。其次，法规也不是万能的，很多时候还需要伦理，伦理、规范、技术融合起来，使得机器人造福于人类，造福于我们子孙后代。
除本篇外，搜狐科技还将通过多种方式全方位呈现此次论坛嘉宾，关于前沿科技发展的洞见和思考。更多精彩内容，请关注2024搜狐科技年度论坛专题报道。
专题链接：https://business.sohu.com/sptopic/2024517/
文章来源：顶端新闻
文章链接：https://static.dingxinwen.com/dd-sharepage/detail/index.html?id=6807675#/?categoryId=-2返回搜狐，查看更多
责任编辑：