WAIC2025：AI 肯定继续成长，避免变成“终极反派”是人类难题

01、狮子或者婴儿，都需要「看管」

即便徒子徒孙占据了硅谷AI科技圈的半壁江山，AI界的「一代宗师」杰弗里·辛顿却一直和业界同行唱反调，始终坚持「AI威胁论」。

7月26日的WAIC大会上，辛顿再次在演讲中重申了对于AI快速发展的担忧。

在简单描述了过去30年AI技术发展的历程到现在的大模型阶段时，辛顿认为现在的大模型理解语言的方式，和人类相同。

「人类有可能就是大语言模型，也会像大语言模型一样产生幻觉，创造出许多幻觉性语言。」辛顿得出的这个见解，不得不说非常符合当下社交媒体中所谓的「人机」梗了。

不过问题是，相比于人类的「碳基大脑」，AI配备的「硅基大脑」有着可存储、可复制、「秒传」的天生优势，这代表随着技术发展，业内一致认为出现比人类更聪明的AI只是时间问题。而作为一种存在，这些AI代表的「智能体」，肯定会要求「生存」和「控制」。

辛顿认为，现在的AI可能像「三岁的孩子」，还容易受人类操纵，但以后的情况就说不准。他还将当下的AI比做小狮子，而豢养狮子只有两种可能：「要么训练它不攻击你，或者消灭它」。

而从目前全球的AI进展来说，任何一个国家都无法真正用停止技术发展的方式，来真正「消灭AI」。剩下来的就只有一条路可走了：全球需要一个AI安全机构，来训练AI，让AI能够「向善」。

「如何训练一个不想统治人类的AI，这是人类面临的终极问题。」辛顿在结尾时说到。

02、有人求监管，有人在「松绑」

大师这样的发言，在WAIC上可谓发人深省，但是在辛顿所属的北美，目前就多少有些「不太有眼力劲」了。辛顿门下学生所在的OpenAI、Anthropic都已经是数千亿美元估值的公司，更别提近两年硅谷风投在AI创业公司上押下重注。

一个突出的体现是，随着AI公司在美国政界的游说费用的增加，美国监管层已经正式放开对于AI发展的控制。

同样在本周，美国当地时间7月23日，时任总统唐纳德·特朗普发布了人工智能路线图（The AI Action Plan）。在这份文件中，美国监管层确定了从数据、标准和人才等方面，确保AI在美国的领跑优势：

大幅增加联邦政府对AI基础和应用研究的长期投资，特别是在下一代AI、AI安全和可信赖AI等领域。

推动联邦政府拥有的海量数据集向AI研究人员和公众安全开放，为模型训练提供高质量的「燃料」。

由政府主导，联合工业界和学术界，制定全球AI技术的基准、标准和规范，确保AI系统是安全、可靠、可解释和公平的。

改革STEM教育，推动学徒制和再培训计划，吸引和留住全球顶尖AI人才，为AI经济储备人力资源。

与盟友和伙伴国家建立AI联盟，共同制定规则，对抗「威权主义国家」对AI的滥用，并促进开放和民主的AI应用。

加强对美国关键AI技术、算法和硬件（特别是半导体）的保护，通过出口管制和投资审查等手段，防止技术流向战略竞争对手。

可以看出，美国正在给AI技术的发展开绿灯，顺便用地缘问题阻止竞争对手和自己处于同一起跑线上。

03、机器人的「体验时代」来临

本届WAIC大会的会场中，人形机器人无疑是最吸引人的亮点，没有之一。

在主论坛环节，智元机器人的联合创始人「稚晖君」彭志辉，就带着智元的产品灵犀X2，在台上给大家来了一段「人机相声」。

相声讲究的是说学逗唱，机器人和人类，讲究的则是「理解万岁」。灵犀X2就在台上表示人类和机器人的协作，要建立在「共识」的基础上。但如何建立起机器人和人类的共识，并且突破人机协作的关键？稚晖君说这是公司要深耕的赛道，重要的是和更多同行者一起走。

所以，稚晖君也在现场发布了「智元灵渠OS」开源计划，希望和更多人一同推动当前机器人系统生态融合、具身智能新技术突破。

仿佛是为了给具身智能背书，通过视频连线方式参加了大会、2024年图灵奖得主、美国阿尔伯塔大学计算机科学系教授理查德·萨顿认为，目前用于训练大模型的数据已经近乎耗尽。但大家不用灰心，因为这代表AI的下一个时代——体验时代（the Era of Experience）即将来临。

和过去用「静止」的数据训练AI不同，接下来可以让AI像人类婴儿一样，通过「体验」外部环境和物品，来获得知识并且提升能力。虽然距离这个目标还稍微有些远，但目前大量机器人创业公司，确实在「物理世界」中不断进行训练和学习。

这也是为什么包括李飞飞在内的一种业界顶尖学者，已经从「AI」过渡到「物理AI」，强调人工智能要真正进入到现实世界，则必须从三维角度理解和学习整个世界。