评论

“AI教父”辛顿与马斯克公开绝交:这群推动AI发展的关键人物,也是AI潜在威胁

图灵奖得主、AI“教父” 杰弗里·辛顿

出品|搜狐科技

作者|郑松毅

编辑|杨锦

继杨立昆之后,又一位在AI界享有盛誉的学者,公开与马斯克决裂。

近日,图灵奖得主、AI“教父” 杰弗里·辛顿在接受《环球邮报》采访中透露,他拒绝了马斯克xAI顾问委员会成员职务的邀请,并表示与马斯克“友尽”了。

从辛顿的采访推测,二人的分歧点可能在于:AI现阶段是要先发展还是先监管。

辛顿是著名的计算机学家,被誉为“神经网络之父”和“深度学习鼻祖”。他在人工智能领域,尤其是在深度学习方面做出了巨大贡献。

这次的采访与以往有些不同,是辛顿主动联系的记者吃午餐。他点了一份羊奶酪和火腿三明治,迫切地想谈谈人工智能发展的未来,还有关于马斯克的“八卦”。

“AI很有可能接管人类”

“我们可能很快就会达到一个临界点,人工智能机器在功能上与人类没有什么不同。”

从2023年春天开始,辛顿真正开始意识到,正在构建的AI可能会成为比人类更智能的存在。

他说,“人工智能的发展速度比想象中快了许多,未来5-20年,AI有一半概率比人类聪明。当它们比人类更聪明时,我不知道我们被接管的可能性有多大,但在我看来很有可能。”

在辛顿看来,人类一直被看作是这个星球上最先进的生物,彼此之间可以通过语言分享自己的模型。但坦白来说,效果不是很好,效率也不高。

“人工智能是一种比人类更好的智能形式,因为人工智能可以更好地分享,他们可以拥有更多的经验。GPT-4 的工作效率比任何一个人高出数千倍,是因为它的经验比任何一个人可能拥有的经验多出一千倍。”

辛顿对人工智能的发展一直持有复杂且深思的态度。他既认识到人工智能带来的巨大潜力和积极影响,也对其可能带来的风险和挑战表示担忧。

他担心,“人类终有一死,但机器不会,现在的人工智能运行还依赖于人类制造机器,如果它们可以自己完成这件事时,我们就完蛋了。AI除了会取代人类工作,还有可能对人类文明构成威胁。”

这种潜在的威胁,让辛顿忧心不已,他急切地希望,把处在研发阶段的AI“封存”!

“必须要想办法阻止‘流氓人工智能’。如果不能停止开发,应对AI风险的主要方法就是管理AI数据。”

在他看来,使用网络上的一切来训练AI,是非常疯狂的事情。可能读了一本凶杀小说,就会学习暴力内容。

“除非大模型已经接受了一系列其他东西的训练,比如提前灌输了道德准则,让它在读到连环杀手情节时能意识到那是错的。”

辛顿表示,唯一能让马斯克、扎克伯格这些“AI训练师”保持克制的办法只有政府监管,这是唯一足够强大的手段。

不惜与马斯克绝交

辛顿自曝,这两天,马斯克给他打了通20多分钟的电话,目的是询问自己是否愿意担任xAI顾问委员会成员。

据辛顿描述,开始俩人聊的还不错,都对人工智能目前的极速扩张阶段抱有谨慎态度。但后来马斯克“开始胡言乱语,什么都说”。

最后辛顿实在听不下去了,以还有另外一个会为借口,挂掉了电话。

辛顿知道马斯克应该不太喜欢这样,因为他已经习惯了成为受关注的焦点。“我觉得他已经不再是我的朋友”,辛顿说。

辛顿和马斯克即使算不上挚友,也已是老友,两人都曾是AI保守派代表。

此前,马斯克和辛顿都签署了生命未来研究所发布的公开信,该信呼吁所有AI实验室暂停训练比GPT更强大的AI系统至少6个月。

马斯克还曾在社交媒体上对辛顿警告AI风险的立场表示支持,认为“辛顿知道自己在说什么”。

既然如此,这次辛顿婉拒马斯克的原因又是为何?

辛顿也不绕弯子,直言“马斯克还有小扎,这群推动AI发展的关键性人物,其实也是AI发展潜在威胁问题的一部分。

几日前,另一位AI大佬、图灵奖得主杨立昆,也曾就马斯克发布的xAI招聘信息发出嘲讽,引来3000万网友围观。

招聘文案称,“如果你认同我们探索宇宙奥秘的使命,并愿意加入xAI,我们欢迎你。我们的使命需要最大限度地严格追求真相,不受人气或政治正确性的干扰。”

杨立昆随即在帖子下嘲讽道,“如果你能忍受这样一位老板,那就加入xAI:这位老板声称,你正在做的事情将在明年由xAI替代;声称你正在做的事情会毁灭人类,必须停止或暂停;声称要对真理进行最严格的要求,但却在自己的社交平台上疯狂散步阴谋论。”

现在看来,马斯克在AI圈子中的人缘并没有那么好。

其实,无论是辛顿还是杨立昆,他们都对马斯克产生了不信任感。马斯克的一些言论和行为,经常前后矛盾,让人猜不透他所想。

在AI浪潮初期,呼吁暂停人工智能训练的是他,宣扬人工智能可能对人类构成威胁的是他,但后来疯狂囤卡的是他,成立xAI并不断融资和招人的也是他。

马斯克一直有着“科技狂人”的称号,在尚未找到驯服AI的手段之前,马斯克会不会为了xAI的发展、为了他的人工智能宏图愿景,激进地推动模型的训练,是辛顿、杨立昆这些学者们目前相当担心的事情。返回搜狐,查看更多

责任编辑:

平台声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
阅读 ()
推荐阅读