图灵奖得主、AI“教父” 杰弗里·辛顿
出品｜搜狐科技
作者｜郑松毅
编辑｜杨锦
继杨立昆之后，又一位在AI界享有盛誉的学者，公开与马斯克决裂。
近日，图灵奖得主、AI“教父” 杰弗里·辛顿在接受《环球邮报》采访中透露，他拒绝了马斯克xAI顾问委员会成员职务的邀请，并表示与马斯克“友尽”了。
从辛顿的采访推测，二人的分歧点可能在于：AI现阶段是要先发展还是先监管。
辛顿是著名的计算机学家，被誉为“神经 *** 之父”和“深度学习鼻祖”。他在人工智能领域，尤其是在深度学习方面做出了巨大贡献。
这次的采访与以往有些不同，是辛顿主动联系的记者吃午餐。他点了一份羊奶酪和火腿三明治，迫切地想谈谈人工智能发展的未来，还有关于马斯克的“八卦”。
“AI很有可能接管人类”
“我们可能很快就会达到一个临界点，人工智能机器在功能上与人类没有什么不同。”
从2023年春天开始，辛顿真正开始意识到，正在构建的AI可能会成为比人类更智能的存在。
他说，“人工智能的发展速度比想象中快了许多，未来5-20年，AI有一半概率比人类聪明。当它们比人类更聪明时，我不知道我们被接管的可能性有多大，但在我看来很有可能。”
在辛顿看来，人类一直被看作是这个星球上更先进的生物，彼此之间可以通过语言分享自己的模型。但坦白来说，效果不是很好，效率也不高。
“人工智能是一种比人类更好的智能形式，因为人工智能可以更好地分享，他们可以拥有更多的经验。GPT-4 的工作效率比任何一个人高出数千倍，是因为它的经验比任何一个人可能拥有的经验多出一千倍。”
辛顿对人工智能的发展一直持有复杂且深思的态度。他既认识到人工智能带来的巨大潜力和积极影响，也对其可能带来的风险和挑战表示担忧。
他担心，“人类终有一死，但机器不会，现在的人工智能运行还依赖于人类制造机器，如果它们可以自己完成这件事时，我们就完蛋了。AI除了会取代人类工作，还有可能对人类文明构成威胁。”
这种潜在的威胁，让辛顿忧心不已，他急切地希望，把处在研发阶段的AI“封存”！
“必须要想办法阻止‘流氓人工智能’。如果不能停止开发，应对AI风险的主要 *** 就是管理AI数据。”
在他看来，使用 *** 上的一切来训练AI，是非常疯狂的事情。可能读了一本凶杀小说，就会学习暴力内容。
“除非大模型已经接受了一系列其他东西的训练，比如提前灌输了道德准则，让它在读到连环杀手情节时能意识到那是错的。”
辛顿表示，唯一能让马斯克、扎克伯格这些“AI训练师”保持克制的办法只有 *** 监管，这是唯一足够强大的手段。
不惜与马斯克绝交
辛顿自曝，这两天，马斯克给他打了通20多分钟的 *** ，目的是询问自己是否愿意担任xAI顾问委员会成员。
据辛顿描述，开始俩人聊的还不错，都对人工智能目前的极速扩张阶段抱有谨慎态度。但后来马斯克“开始胡言乱语，什么都说”。
最后辛顿实在听不下去了，以还有另外一个会为借口，挂掉了 *** 。
辛顿知道马斯克应该不太喜欢这样，因为他已经习惯了成为受关注的焦点。“我觉得他已经不再是我的朋友”，辛顿说。
辛顿和马斯克即使算不上挚友，也已是老友，两人都曾是AI保守派代表。
此前，马斯克和辛顿都签署了生命未来研究所发布的 *** ，该信呼吁所有AI实验室暂停训练比GPT更强大的AI系统至少6个月。
马斯克还曾在社交媒体上对辛顿警告AI风险的立场表示支持，认为“辛顿知道自己在说什么”。
既然如此，这次辛顿婉拒马斯克的原因又是为何？
辛顿也不绕弯子，直言“马斯克还有小扎，这群推动AI发展的关键性人物，其实也是AI发展潜在威胁问题的一部分。”
几日前，另一位AI大佬、图灵奖得主杨立昆，也曾就马斯克发布的xAI *** 信息发出嘲讽，引来3000万网友围观。
*** 文案称，“如果你认同我们探索宇宙奥秘的使命，并愿意加入xAI，我们欢迎你。我们的使命需要更大限度地严格追求真相，不受人气或政治正确性的干扰。”
杨立昆随即在帖子下嘲讽道，“如果你能忍受这样一位老板，那就加入xAI：这位老板声称，你正在做的事情将在明年由xAI替代；声称你正在做的事情会毁灭人类，必须停止或暂停；声称要对真理进行最严格的要求，但却在自己的社交平台上疯狂散步阴谋论。”
现在看来，马斯克在AI圈子中的人缘并没有那么好。
其实，无论是辛顿还是杨立昆，他们都对马斯克产生了不信任感。马斯克的一些言论和行为，经常前后矛盾，让人猜不透他所想。
在AI浪潮初期，呼吁暂停人工智能训练的是他，宣扬人工智能可能对人类构成威胁的是他，但后来疯狂囤卡的是他，成立xAI并不断融资和招人的也是他。
马斯克一直有着“科技狂人”的称号，在尚未找到驯服AI的手段之前，马斯克会不会为了xAI的发展、为了他的人工智能宏图愿景，激进地推动模型的训练，是辛顿、杨立昆这些学者们目前相当担心的事情。
发表评论