对话赫拉利王小川：当历史学家试图按下AI暂停键

天真乐观的科学家和创业者们常低估人性的缺陷，而高谈阔论的历史和哲学家们，在描绘悲观问题时又很难提出解决方案。

——这是每一代技术浪潮来袭时，人类世界常常出现的争议形式。

在这一轮 AI 浪潮也不例外。

来自以色列的学者尤瓦尔 · 赫拉利坐在镜头前，一对标志性的精灵耳，无框眼镜背后，常露出深邃而忧虑的眼神。他是全球知名的畅销书作家，所著的“人类简史”系列畅销书被翻译成 65 种语言，使其对 AI 等技术伦理问题的深入思考传遍全球。

他的身边坐着王小川，2023 年大模型浪潮中最积极的中国创业者之一，他所创立的百川智能，致力于 AI 医疗的前沿实践——百川打造的第一批 AI 医生已经开始与人类医生联合上岗，今年内有望登陆更多医院。

4月，我在新浪新闻出品的节目《赛博对话》中，访谈主持了这两位顶尖头脑的跨界对话。

（从左至右依次为：王小川、尤瓦尔·赫拉利、卫诗婕）

分歧与碰撞，比想象中来得更早，也更为直接。

关于“什么是生命”的定义，两位有着截然不同的理解——从这个源头出发，通往的是不同的世界观，以及他们各自对于 AGI 到来之后，有关新文明的不同想象。

其实，正是乐观的科学家不断推动科学技术的发展与边界，也正是看似悲观的哲学家，积极地呼吁人类的人文主义反思，努力将技术应用框定在人性之恶的边界之外。

在当下高歌猛进中的 AI 浪潮中，世界需要这样多元的价值碰撞。

一、2016，一个特殊的年份      

2016 是个特殊的年份。

这一年，Alphago 在围棋对决中战胜了人类。

许多人将此视为人工智能革命的一个转折点。

此时，刚刚出版新书《未来简史（Homo Deus）》的赫拉利意识到，这场比赛的惊人之处并非在于机器击败了人类冠军——早在 1997 年，IBM 推出的超级计算机“深蓝”，就已经这么做了——在上个世纪的那场轰动全球的象棋比赛中，凭借暴力计算，“深蓝”击败了当时世界排名第一的象棋大师，卡斯帕罗夫。

“深蓝”并不能视作真正人工智能的胜利。而 Alphago 迈出了这一步。

令赫拉利真正惊讶的是，Alphago 下棋时的步步为营，展现了它超乎人类想象的策略——人类围棋 2000 余年的历史和招数，被人工智能突破了。

“有时我会把围棋的格局想象成一个星球，人类被困在这个星球的一个孤岛上，已经在此停滞了 2000 年，并认为这就是整个星球。

然后， Alphago 出现了。”

——赫拉利（节选自此次访谈）

即便和今天大模型所涌现的智能相比，AlphaGo 只能算初代的人工智能，但它也依然超越了人类的想象。

赫拉利认为，人的想象是“有机的”（它本质上受到生物化学的限制），而人工智能并非有机，它不受限制。

之后的六年里，他埋头创作《智人之上（Nexus）》，同时惊叹于 AI 2.0 的神速发展。“Amazement”，他用这个词总结 2022 年底以来，这场超乎所有人期待的大模型浪潮。

如果说 2016 年的 AlphaGo 曾经让这位历史学家开始严肃看待 AI 的能力，那么当下大模型中的 AI 能力，则令他有些担忧。

这是人类首次在历史中创造出一个并非工具的技术——从远古人类的石刀、到火药、枪支、原子弹……这些都是工具，为人所用。

但今天的 AI 不是工具，它已经可以自己做决策。

一旦人工智能掌握了语言，它就真正获得了进入我们所有机构的钥匙，从银行到寺庙再到政府机关，语言就是进入的钥匙。

——赫拉利（节选自此次访谈）

也因此，赫拉利眼中的 AI，不是 Artificial Intelligence（人工智能），而是 Alien Intelligence（“外星人”智能）——完全来自人类所未曾想象的、他者的智能与文明。

这令他忧心忡忡。

但坚定的技术乐观派，王小川，则早从 2016 年开始，就被新技术点燃了信心——他一早预言了 AlphaGo 将会战胜人类棋手，彼时，他所创立的搜狗也在积极地探索人工智能。

也正是在 2016 年，百度“魏则西事件”曝光，这深深触动了王小川，令他埋下一颗做科学医疗与探究生命科学的种子——当时的搜狗推出了“搜狗明医”，一个旨在提供权威医疗信息的搜索聚合平台。“明医”，意为“明明白白看医生”，

但王小川知道，这只是在当前技术里，妥协的做法。

当时我们也知道，靠用传统的互联网方法去连接医生，是不 work 的。

淘宝可以做连接，美团做连接，滴滴做连接，但医生无法靠连接，因为优质的医疗资源就有限——好的医生就那么多。

当时我就认为，只有到技术足够突破的时候，去“造医生”，而不是“找医生”，才能带来大的变化。

——王小川（节选自这次访谈）

起步晚于百度的搜狗，最终在 2021 年完成被腾讯的收购。

两年后，王小川积极投身于大模型浪潮，创立了百川智能——百川成立的第一天，就公布了做医疗大模型的愿景，两年后的今天，百川做出了“AI 医生”，它们已经开始与人类医生联合上岗，并于今年内有望登陆更多医院。

用他自己的话说，这一次，终于有机会做一件被世界需要的事。

一位难以乐观、总是提出深刻的人文主义思考、并对人类的未来始终怀有忧虑的历史学家、哲学家。

一位多次用技术推动社会边界、坚信 AGI 会为人类带来更大福祉的创业者、企业家。

当二者讨论起关于 AI 所将带来的未来图景，一定会存在异同和碰撞。

二、赫拉利：“我对人类的未来总是难以乐观”

即便作为当今世界最优秀的作家、公共知识分子，尤瓦尔 · 赫拉利本人也感受到 AI 的威胁。教授说，很可能在 10 年后，AI 就能写出像《智人之上》这样的书。

人工智能能够发明新的货币、新的宗教、新的意识形态，人类能用语言做到的一切，人工智能都能做到。

——赫拉利（摘自此次访谈）

我问教授，您害怕 AI 吗？

答案是肯定的。不过并非是怕被 AI 所替代，而是非常担心 AI 会失控。他多次提到了“失控”这个词。

不同于另一位知名科技作家凯文凯利的观点——要允许失控（凯文凯利认为，技术的自我演化和自组织趋势，无法完全由人类控制），人类可以在 AI 带来的“失控”中重建秩序。赫拉利担心，不再是工具、而具有自主决策能力的 AI ，如果人类在使用它时不加以谨慎，可能会酿成大的灾难。

人统治了猪、牛、羊。它们过着不幸福的生活，因为人类并不在意它们。

AI 很可能也并不在意人类。

我们可能会被奴役，甚至遭到实验、消灭。

（via 赫拉利，节选自此次访谈）

一些人认为赫拉利对于未来的预言，常带有“惊悚意味”。但其实，每个人看待未来的方式，都与他的过去相关。

赫拉利教授作为以色列人（一个饱受战争的国度），早期深入研究欧洲中世纪的历史——他将欧洲中世纪称为“一段黑暗的时期”，充斥着宗教战争、屠杀和迫害。这令他对人类的未来很难乐观。

他提到，技术的使用，往往偏离创造者的预期——就像诺贝尔发明了炸药，原本希望应用于建筑行业，却被用于战争。

我问起他与诸多企业家（例如扎克伯格）的对话，他说许多企业家都喜欢引用印刷术的例子——印刷术带来了科学革命，你瞧，技术总能带来人类社会的进步。

赫拉利却指出，这是他们不了解历史。

硅谷那些企业家们，总是喜欢将印刷革命视为他们心目中的理想模式。他们讲述这样一个故事：在 15 世纪，当印刷技术从中国传入欧洲时，这带来了繁荣景象。当时印刷出的书籍中包含了大量新信息，这促成了科学革命和启蒙运动的兴起。而且这一切确实改善了人们的生活。

实际情况并非如此。

印刷术于 15 世纪中叶（约在 1450 年）传入欧洲。然而，欧洲却用了整整 200 多年的时间，才经历了科学的繁荣发展。而这 200 年间，欧洲经历了最严重的宗教战争浪潮。当时，欧洲最畅销的书籍是那些极端的宗教文献、有关女巫的阴谋论、各种虚假新闻，而很少有人阅读科学类书籍。

所以，我们所设想的那种，通过发展更好的信息技术就能拥有科学与进步的景象，在当时并没能实现，我认为在今天也依然无法实现。

况且，真正引发科学革命的，并非是诸如印刷机这样的技术发明。而是诸如学术期刊、学术科学协会这类新机构的出现，它们承担起了区分可靠信息（这只是传播信息中极小的一部分）与不可靠信息（这是信息中绝大多数的部分）这一极其昂贵且复杂的工作。

——赫拉利（节选自此次访谈）

访谈中，我印象最深的观点，是赫拉利提出，作为历史学家，关于人类在工业革命以来的表现，他只能打分为C-（C minus），刚好及格。

“情况还算可以，但过程非常艰难。”

即便在 19 世纪工业革命完成以后，也没有人知道该如何构建一个工业社会——人们进行了各种尝试，其中许多尝试都出现了“严重的失败”，欧洲帝国主义是其中一次尝试，纳粹德国也是一次。

许多人将赫拉利视作悲观的人文学者，其实，教授毫不怀疑，技术进步将最终带来更多人类的受益。

但他强调，问题不在于最终的结果。而在于实现这一结果的过程。

那么，人工智能是否也处于类似的情况呢？

人工智能可以引领我们走向美好的未来，但我们却没有关于如何构建人工智能社会的模式。也许，我们又得经历那些新帝国的建立、战争等种种可怕的实验。

这一次，我们得做得比 C- 更好，因为，否则将会有数百万民众遭受巨大的痛苦。

——赫拉利（节选自此次访谈）

三、两个提问：“为什么不能慢下来？”& “你能相信 AI 吗？”

准备这场访谈时，我曾上网看过赫拉利与 Meta（原 Facebook）的 CEO 扎克伯格的对谈。

（视频访谈截图）

访谈中，赫拉利的问题都很尖锐，但二者并未真正产生交锋，许多思想都“擦肩而过”。这是跨界对话的常见状态——创业者与人文学者，天生关注的侧重点不同。

这场访谈发生时，赫拉利的新书《智人之上》还未面世。事实上，在《智人之上》里，赫拉利震撼地分析了罗兴尼亚种族屠杀与 Facebook 算法之间的关系：2017年，在缅甸国内产生了大量针对罗兴尼亚人（穆斯林群体）的种族仇恨言论后，缅甸军方及佛教徒们对罗兴尼亚人展开了系统的“暴力种族清洗”。赫拉利抛出一个尖锐的判断——是脸书算法激化了缅甸的罗兴尼亚人冲突，平台上的假新闻和仇恨内容，在算法的鼓励下被进一步传播，最终导致暴力升级。

简单来说，Facebook 从未鼓励缅甸人对于罗兴尼亚人的仇恨。它的管理者们只是向算法“下达”了一个任务：目标是提升用户参与度——但最终，算法“发现”了仇恨内容更能带来用户参与度的增长，便更进一步地鼓励这类内容的传播。最终酿造了算法与仇恨的无意识“合谋”。

这也是为什么，赫拉利一再强调，AI 不同于以往的工具，而这一轮技术变革，也无法等同于人类历史上的任何一次工业革命。

因为，AI 具有了主动性。

事实上，尽管赫拉利并非 AI 专业人士，他的身份本是一位历史学者，但在《未来简史》出版后，他开始有许多机会与各类科技企业的创始人、及各国政要对话。

诗婕：“教授，您觉得扎克伯格真的关心技术可能带来的负面影响吗？”

赫拉利：“是的，从我和他之间的那次谈话以及后来我所听到的种种情况来看都是如此。而且他比大多数人都更清楚，他所创造的那些机器算法所具有的巨大威力。

他正为该怎么做而感到困惑。而且不只是他一个人如此，大多数人都有同样的担忧。

大多数那些引领着这类新兴科技巨头的人，他们也感到担忧，但他们不知道该如何应对，也不知道该如何解决。”

在各国游历时，赫拉利常常会问人们两个问题：

第一个问题，既然你们如此担忧，却为什么行动如此迅速？

人们常告诉他，“我们知道存在巨大的风险。但我们不能放慢速度。如果我们放慢速度，但我们的竞争对手不会，那么这个世界将由最无情的人统治。因为我们无法信任他们，所以我们无法放慢速度。”

于是，赫拉利会问第二个问题，你不能信任你的竞争对手，那么你觉得你能信任你正在开发的那些超级人工智能吗？

那些刚刚告诉他不能信任人类的人，此时又向他“保证”，他们认为可以信任这些 AI。这令赫拉利觉得“荒谬至极”。

尽管人类自身存在诸多问题，但我们至少拥有数千年的与人类打交道的经验。相比之下，我们对人工智能却毫无经验。

我们根本无法预知，当数百万超级智能的 AI 与数百万人类彼此进行互动时，会发生什么。

如果你对人类怀有深深的疑虑，那么你居然会对一个我们毫无经验可言的、非有机的外星实体抱有如此大的信心，这实在令人费解。

——赫拉利（节选自此次访谈）

教授还提到，他所接触到的企业家和创业者们，人们在公开场合和私下场合所说的话，常常不一样。

私下里，（政治家和企业家）他们往往会表达更多担心和害怕，公开表达则不会，因为他们不想让公众受到过多惊吓。

——赫拉利（摘自此次访谈）

这些，都令他难以乐观。我请他给那些手握权力的人们一些建议，他说：

只要人类对其他人类的信任程度高于对人工智能的信任程度，我们就会没事的。

我的意思是，如果人工智能是人类共同努力的成果，那么它就会体现这种合作与协作的精神。如果人工智能是通过激烈的权力竞争产生的，那么这个人工智能就会具有争夺权力的价值观。

——赫拉利（摘自此次访谈）

具体来说：人们应当保持谨慎，“不要过于自信”，避免权力的集中化，并试图建立自纠正的技术与社会系统。

四、什么是生命？“最重要的仍是爱，是同情，是快乐，也是痛苦”

访谈随着赫拉利与王小川的分歧，而走向更深入的思辨。

关于什么是生命，他们有着截然不同的看法。

小川认为：系统能够自我复制，能在变化中维持自身的稳定性，即能复原，是生命的定义。

一个民族，一个国家，也是生命，都能看到他们活下去的一种欲望。

公司和组织也是生命。组织臃肿了，就需要精简、和自我修复。

（via 王小川，节选自本次访谈。）

但赫拉利并不同意。

国家、公司和文明都可被视为某种形式的生命。但它们无法承受痛苦。一个国家无法承受痛苦，如果一个国家在战争中失败，人类可能会承受痛苦，但这个国家却没有意识。它无法感受疼痛。无法感到悲伤。

当一家公司破产时，公司的经理或员工可能会感到悲伤。但公司无法感到悲伤。

人类和其他动物，它们都是有感知能力的生物。它们能够感受到疼痛和恐惧，当然，也能感到快乐、喜悦和爱意。

这就是所有伦理学的核心所在。

AI 可以假装感受到某些情感。它可以说“我爱你”，但我不确定，AI 真能感受到爱吗？

真正的关系必须是双向的。所以我认为，对于 AI 与人类共存的未来而言，首要的问题是：人工智能是否会发展出意识和情感？

——赫拉利（节选自本次访谈）

赫拉利认为，决定智能的不是智识，而是意识——是对痛苦的感知能力。

他说，“ AI 不会受苦，但人类会受苦”。

访谈最后，教授甚至给出了一个直接的判断：

人与 AI 之间，有关智力的竞赛，其实已经结束了。“凡是需要智力参与的活动，人工智能在不久的将来都会比我们做得更好。”

那么，人的不可替代性是什么？

回到最根本，只有人类和动物能够遭受痛苦并具有感知能力。所以，它们仍然是最重要的事物。

对我们而言重要的，是爱，是同情，是快乐，也是痛苦，还有不幸。

——赫拉利（节选自此次访谈）

回到开头所说的，2016 年 AlphaGo 与人类的那场对决，很少有人关注，AI 凭借其智能在比赛中赢得了人类，然后呢？

今天，围棋艺术仍然存在，人类依旧在 AI 的辅助下追求更高的棋艺，以及更重要的，协作、传承中的竞技精神，以及对于艺术的审美追求。

我在前不久参与一次线下活动时曾聊起这件事，分享过《人物》杂志对于棋手芮乃伟的报道，多年过去我始终记得其中所阐释的围棋之美：

棋如人生，无关乎输赢，只在于过程与感受。当人类师父教会徒弟胜过自己的那一刹，那种感性上的感受无法形容。

这也是在今天，面对令人疲惫的 AI 威胁论时，人类所还能找到的，最质朴的信仰。也许有一天， AI 会成为我们的师父，教会我们胜过它，也胜过人类自己。

五、写在最后：

这期播客的最后 12 分钟，是我与小川的单独对话。

2023 年，百川宣布起航时，当时在科技媒体任职的我也一路见证了这位明星创业者的再出发——从 day 1 起，小川就反复强调他的生命科学之梦从未放下，百川要做医疗大模型，将医疗 AI 真正落地。

两年过去，尽管资本世界沸沸扬扬，大模型的创业和竞争叙事也几经跌宕，但百川在扎实地兑现自己的路径—— 他们用大模型加持的“AI 医生”已经开始和人类医生共同上岗。

小川提到，以儿科医生为例，中国只有20万儿科医生，大约有100万的缺口——“AI 医生”一旦落地，将很大程度缓解医疗资源紧缺的现状。

另一方面，AI 擅长生产、并观测更多医疗数据，进而总结数据、设计实验，做科研、做解释。这也将极大推动医学领域前沿研究的进程。

当前大模型的思维链，已经可以可视化地进行医学推理。

“很多医生看到 AI 的推理过程，都觉得漂亮，（觉得 AI ）思考得非常严谨完整，对医生都有很大的启发。这是能够辅助医生的部分。”

我问他，所有与医疗相关的产品，关乎人们的健康，一旦产生失误，就会有特别大的舆情，你不担心吗？

他笑说，这不是什么勇敢，也不必去“赌”。早在2023年大模型能力抬头时，他已经如同 2016 年那样，看到了未来。

“我已经看到未来长的样子了。”

他坚信用 AI “造医生”会变得可行——因为“今天的环境已经变好了”。尽管他提到，公司内部并非所有人都能信仰这个未来，有人离开，有人动摇，但这些并不曾困扰他。

他说，这一次创业，他很幸福。

本文来自微信公众号：卫诗婕 商业漫谈，作者：卫诗婕