对话图灵奖得主Valiant：AI是伙伴，但人类必须掌控全局

访谈现场，左为Valiant|视频、图片由丘成桐数学科学中心独家授权

受访|Leslie Valiant

采访|邓小铁

翻译|周舒义

视频|王若水、牛芸、王一婷、余景浩

Valiant英文专访（字幕勘误：25:26处，“back learning”应为“PAC learning”；30:02处，“continued”应为“continuous”）

邓小铁：瓦利安特教授，您好，祝贺您获得2024年度理论计算机与信息科学领域的基础科学终身成就奖。

Valiant：谢谢。

从物理、数学到计算机科学

邓小铁：您最初是如何对数学产生兴趣的呢？

Valiant：早在十几岁，甚至可能更早，我就对科学产生了兴趣，特别是物理。我喜欢做一些物理小实验，后来又逐渐被数学深深吸引，因为它和物理在某种程度上相通，简单的数学方程可以刻画简单的物理定律，并给出答案。所以我想，我对数学的兴趣起源于它和现实世界的互动。

邓小铁：您和我们行内一些人的经历有相似之处：在英国长大并接受教育，也在英国教过书，后来移居到了美国。您觉得两国的教育体系有何不同？这些差异又对您在数学、理论计算机与信息科学（TCIS）等基础科学领域的研究有何影响？

Valiant：我认为差异其实主要不在地域，而在于时代不同。当我还是学生的时候，情况和现在大不相同，特别是计算机科学领域。英国和美国其实大同小异，所以与其说是国家文化之间的差异，不如说时代变迁的影响更大。

我在英国读博的经历有一个非常重要的背景：当时计算机科学这个领域还刚刚起步。我可能是我们系第一个拿到博士学位的学生。和现在不同，当时研究生的资助期限非常短。我差不多只剩两年资助期限，所以只能在两年内完成博士学业。而现在人们读博的时间要长得多——时代不同了。

邓小铁：是什么促使您从数学转向计算机科学？特别是转向以高效算法解释AI中可学习性（learnability）、可演化性（evolvability）和可教育性（educability）层次递进的可行性问题？

Valiant：这是个好问题。我在剑桥大学修读数学，其中一部分内容是偏向物理的应用数学。临近毕业我开始考虑未来打算，想要读博，不过方向还没定好。我在伦敦参加了一门为期一年的计算机科学方面的课程，在那之后才真正打定主意要转计算机。然后我去了图书馆，看看英国都有哪些团队在做偏理论的计算机科学研究。我读到一篇Mike Paterson的论文，他后来成了我的导师。他的博士研究聚焦于非常具体的可计算性问题，研究所谓的程序模式（program schemas）。让我十分着迷。这基本上就是图灵的可计算性理论（computability theory），但被应用到了一个非常具体的场景，结果让人难以置信——一个看起来如此简单、具体的问题竟然是不可计算的。（图灵的可计算性理论探讨哪些问题原则上可以通过算法解决，哪些则根本无法解决。最著名的例子是“停机问题”（Halting Problem），即不存在一个通用程序能够判断任意一个程序在给定输入下是会最终停止运行，还是会永远运行下去。那些无法通过算法解决的问题，就被称为“不可计算的”。——译者注）我意识到，这种图灵不可计算性实际上揭示了人类认知能力的根本边界，这和我以前在物理或数学中接触到的一切都截然不同。计算机科学关心的是智力的固有局限，这个想法令我耳目一新。我当时心想：没错，就研究这个吧。

邓小铁：这确实和数学不同。

在您1984年的论文《可学习性的理论》（A Theory of the Learnable）中，您提出了PAC模型，为人工智能（AI）领域中基于经验数据的学习范式奠定了数学基础。您当初是如何想出这个模型的？

Valiant：可能有好几个角度促成了这个想法。首先，在那之前的十年里，我主要从事计算复杂性（computational complexity）领域的研究，关注执行各种计算的固有难度，这很基础，也非常重要。我也意识到，既然这套理论如此强大，那么它肯定能为未解科学难题提供新的洞见——比如大脑在做什么、如何运作，以及AI方面的问题。所以我当时认为，复杂性理论应该是破解AI问题的钥匙。

不过接下来的问题是，什么是AI？当然，那时AI已经分成了不同的子领域，包括机器学习，还有基于逻辑的推理、自然语言处理等等。对于机器学习，当时人们的理解还很模糊，把机器学习视作一种泛化（generalization，指在少量特定数据样本的基础上，对新的、未曾见过的数据也能做出准确预测或判断的能力。——译者注）过程的理念还不成熟。主流观点更多是基于逻辑——甚至有一种方法叫“基于解释的学习”（explanation based learning）。其理念主要就是解释分析问题。比如你想出门，那就要推演并完成“出门”这个目标所需的一连串步骤。然后下次再遇到同样问题时，因为记住了上次的解决方案，你就能驾轻就熟。这是一套高度依赖逻辑的方法：靠寻找证明、进行搜索来解决问题，但缺乏泛化的观念。

所以大致上，我那时一直试图找到一个合理的“学习”概念。我认为显然有些东西是可学习的，有些则不是，而两者之间的区别肯定和某种计算复杂性有关。于是我想寻找一个类似于可计算性理论的框架，能区分哪些东西容易学，哪些难学——就像可计算性理论能区分可计算和不可计算一样。

邓小铁：如今回过头看，您如何看待这一理论的影响？特别是考虑到当初人们对机器学习方法的普遍怀疑？

Valiant：嗯，当然一开始，在数学界和计算机科学界，大家都对此非常怀疑。因为“学习”在当时不被看作研究对象，无法用科学方法研究——它被视为一种非常人文性质的活动。我很高兴看到，一些非常优秀的人才受PAC模型吸引，并立即进入了这个领域。所以我非常满意后续的进展。我认为从某种意义上说，“学习”确实揭示了认知中一个重要的部分。它解释了我们如何从世界获取信息、将其归纳推广并加以运用的一个重要方面。这并不是认知的全部，但我认为它是相当重要的一个部分。

邓小铁：确实，它量化了我们对学习的理解。

AI大潮下，独立研究去往何方

邓小铁：您的论文大部分是独立署名，这一点和此次同获基础科学终身成就奖的姚期智教授一样引人注目。在这个新领域，科研合作和独立研究分别扮演着什么样的角色？

Valiant：我认为这可能与个人风格有关，也与所研究的问题类型有关。有些人总是单独发表很多论文，也有人总是与他人合作。但我觉得除了个人偏好，这还取决于研究的问题类型。我认为，那种真正需要单枪匹马完成的科学研究总会有其存在的空间——在这种研究中，你会与自己的思想搏斗，努力找到一些清晰的思路。我知道现在有越来越多的论文有着越来越多的合作者，但我不确定这种趋势会走向何方。

邓小铁：但您和姚教授依然坚持独立进行研究。

Valiant：是的，你说得没错。

邓小铁：在这方面，您对新一代的理论计算机与信息科学家、教育工作者有什么建议？当下面对大型语言模型和各种AI加速器（例如英特尔的Gaudi3、谷歌的TPUv5p、英伟达的H100 GPU等）的迅猛发展，单打独斗式的科研还有多大价值？

Valiant：我不太确定该如何回答，这个问题涉及多个层面。从AI的层面讲，有人认为AI现在能替我们做研究了（这会不会改变单人研究者的角色与价值）；从人的层面讲，当我们使用这些系统做实验时，就需要一个庞大的团队（即进入“大科学”模式）。

显然，由于这些系统是全新的，人们对它们的行为机理知之甚少，尝试看看到底能把它们运用到什么程度，这是非常合理、必要的。从某种意义上说，如果要使用AI系统，就难免走向“大科学”式的团队合作。但我认为从长远来看，使用AI的门槛会越来越低，也许届时就不再需要那么庞大的团队了。所以我认为AI浪潮不会从根本上改变独立与合作科研的底层逻辑。不过就目前而言，用大型语言模型从事这方面工作还需要非常庞大的团队。

我还想补充我长期以来的一个判断：在AI领域，基础的学习、推理算法最终会趋于定型。到那时，将会有无穷无尽的工作留给人们去准备我称之为“教学材料”的东西。也就是说需要寻找和整理数据来训练这些模型。就像人类教育一样，把大量时间都花在为新课程准备教材上。所以我认为，将来会出现一门经久不衰的行业，专门负责搜集并持续更新信息来训练模型。这一点几乎是确定的，不过具体会发展成什么样还不得而知。当然，我认为也还会有做其他方向的理论研究者。

邓小铁：谢谢。另一方面，如今的大型语言模型和巨型计算机给算法设计带来了新的挑战，当二者结合时更是如此。您如何看待BSP（整体同步并行）算法设计原则在这个新时代再度兴起？此外我们还需要关注哪些新的关键因素？

Valiant：说实话，我目前并没有从事这方面的工作。不过我感觉问题可能还和以前一样，如果你要直接控制大量进程，那么BSP模型可以帮助你更好地理清思路、组织计算。这样一来，系统的行为是可预测的，你可以轻松地分析出其运行时间，而且能消除竞态条件（race conditions）。因此，当你要管理海量进程、复杂性几乎无穷时，BSP模型确实能提供诸多帮助。所以我猜测问题的本质不会改变，变化的可能只是应用场景。

邓小铁：我们回到最开始的话题，什么样的环境最能激发创造力？对于在招聘、终身教职评定和晋升决策中依赖各种排名（比如CS排名、CCF列表以及ICORE排名）的做法，您怎么看？

Valiant：这些都是非常粗略的衡量标准。爱看数据、关注排名是人之常情，但显然我们不应对此过分看重，过犹不及。我个人并不喜欢这些，但不可避免会有越来越多的量化指标。我们用这些数字来评估事物，大家热衷排名，因为它的确提供了一些信息。

但很显然，排名对创造力并没什么帮助。创造性的成果往往诞生在某个角落，诞生在远离喧嚣的安静环境中，远离那些光鲜的排行和指标。前提是我们要认识到，所有这些排名有其局限性，它们的意义非常有限。当然这很难做到，因为我们常常得向不懂专业细节的人证明自己工作的价值，然后他们就会看排名，对吧？所以这个问题很棘手，而且会长期存在。但我认为至关重要的是，确保科研人员能够安心开展自己的工作，而不必时时迎合某些排名。否则的话，我们可能会把科学给毁了。

邓小铁：下一个问题，不做研究的时候，您会如何度过空闲时间？

Valiant：很难说清时间都花在哪儿了。实际上，我花了不少时间去散步，特别是自从新冠疫情以来。我想散步可能是我花费时间最多的一件事了，而且在研究或思考问题之外，这是一件很好的事情。

邓小铁：散步对您的研究有帮助吗？

Valiant：嗯，散步可以让我得到休息。休息一下非常重要，想想别的事吧。

真正的融合发生在头脑之中

邓小铁：我们稍微离开计算机科学的话题。您将计算机科学的理论应用到了许多其他学科——也许不是亲力亲为，而是您的方法产生了影响。能分享一个您的工作在计算机科学之外产生重大影响的例子吗？

Valiant：我在“学习”方面的一些研究也许产生了间接影响。不过，你可能指的是我还曾涉足神经科学、生物演化等其他领域。我认为要让另一个领域接受外来理论需要很长时间。

例如在神经科学领域，大约30年前我写过一本书，里面提出了一些假设，关于大脑如何完成最基本的记忆和学习任务。同样，这里的问题也和复杂性有关：尽管我们拥有数量庞大的神经元，但数量终究有限，没有多到可以“为所欲为”的地步。大脑究竟是如何存储并检索回忆海量概念的？对这个问题，目前依然少有——甚至可以说，完全没有好的解释。尤其是在算法方面，要弄清楚大脑能否执行那些算法是很困难的，不过随着在记录大脑信号方面新技术的发展，我们或许正处在能够验证这一点的临界点。我正尝试和生物学家合作。但是，直接闯入另一个领域，对他们说“你们做错了，应该这样做”——以这种方式来影响其他领域，这是一个非常漫长的过程。

邓小铁：您说的是《思维的电路》（Circuits of the Mind）这本书吗？

Valiant：是的，没错。搞这些研究必须趁年轻开始，因为这会花费很长时间。

邓小铁：您是如何开展跨学科研究，并将不同领域的见解融入到自身工作的？

Valiant：这个问题很有意思。人们对跨学科研究津津乐道，但我想很多人心目中的理想场景是，让三五个不同学科的专家围坐一桌，一起合作和规划些什么。但那不是我的做法。我必须让这种学科间的对话在自己脑海中展开，必须对另一个领域有足够深入的了解，思考才能步入正轨。这意味着需要投入大量时间去理解另一个领域，达到能够提出一些见解的程度。

这并不意味着一定要时时和别人讨论——而是需要大量阅读。当然有时也得和专家交流，因为有些东西不会写在纸面上，很难靠阅读领会。以我的经验，真正需要的是一个人在脑海里吃透不同方面的问题。诚然在某些领域，不同学科的专家每周碰一次头，然后不知怎的就能碰撞出奇妙成果，这种理想化的模式可能行得通，但我反正是没见识过。

邓小铁：您在英国长大，接受的英式教育是否在这方面有所帮助，比如在阅读习惯方面？只是出于好奇，没有地域偏见的意思。

Valiant：我不知道。从某种意义上说，英国的大学教育比美国更加专门化。我本科在剑桥大学就读，数学专业只学数学课程——不学别的。没有通识课程要求，专业外的课程一概没有。

但不知怎的，我们依然被期待视野开阔、涉猎广泛。所以就需要主动学习，比如和其他专业的同学交流。

或许这种环境激发了学生的渴望和能力，让他们自行认真学习其他领域的知识，变得更加独立。反之，如果硬性布置若干门跨学科课程，你得到的只是填鸭式的灌输，是别人预先筛选好的知识。那你可能就无法领会有些门道只能靠自己摸索。自己摸索的过程也许很艰难，甚至可能做得一塌糊涂，但你必须亲力亲为。所以你的猜测可能有道理。

从理论到应用的惊险一跃

邓小铁：您的工作在理论和实际应用之间架起了桥梁。展望未来，您认为学术研究需要怎样的技术转化路径，使其能够赋能产业界，进而影响中国乃至全球的社会经济发展呢？

Valiant：这些问题非常复杂。因为如你所知，学术界就像一道无限延伸的光谱，上面分布着各种各样的学者：有非常理论的，也有稍微不那么理论的。而人们通常只和谱系非常邻近的同侪交流。在计算机科学领域，我们这些理论家可能会构想出某个算法，但接下来还需要更偏向实践的计算机科学家接手实现它。所以在我看来，想从纯理论算法直接跳到实际应用，是非常困难的。

所以就研究而言，我一直都清楚地意识到，我们是在努力解决世界上的重大问题，当然希望所做的工作能为他人奠基和助力。但在某种意义上，我们能做的只有将其发表，然后就再也无法掌控它的命运了，接下来只能寄希望于某个有能力应用它的人慧眼识珠。计算机科学领域的这个生态系统相当有趣。

但我认为美国有一个优势——我这么说是基于自己的切身感受——那就是对计算机科学的信心很强，美国的产业界始终看好计算领域。这带来的结果是，在美国，大学得以保持相当的纯粹性，不必在计算机科学领域一味追逐应用。他们可以研究算法，或者任何他们觉得有趣的东西。产业界会雇佣这些聪明的人才，然后由他们找到应用。所以在美国，产业界会放手让大学按自身的学术审美去做喜欢的研究。我认为这对美国非常有利。

邓小铁：学术界有两拨人：做理论的和做应用的。尽管存在鸿沟，但在某个节点上，他们就能以某种方式建立沟通，这种转化也确实在发生。这让我想到您关于“可演化性”的研究。理论到应用的演化过程和“可演化性”是否有相通之处？就好像如果没有一个动态的演化过程，理论到应用的突破就不会出现。

Valiant：我的可演化性理论主要关注的是达尔文式的、生物学意义上的演化，而非文化演化或技术演化。按照这一理论，生物演化在某种程度上可以被解释为一种受限的学习过程，类似于PAC学习的特例。

与生物演化相比，技术演进受到的限制要小得多。在生物学中，你能做的只是对DNA做一些随机变异，然后看看哪个行得通；但如果你想造一辆新车，你可以检视自己掌握的全部知识，进行推理、学习，为下一阶段做各种准备。因此，我认为要在技术语境中捕捉真正的演化是非常困难的。

邓小铁：接着刚才的话题，您谈到了“可教育性”，这个概念也可以有多种不同的方面：比如“计算机教育人类”、“人类教育计算机”，乃至最终可能出现“计算机教育计算机”的情况。您认为未来会出现这样的局面吗？

Valiant：是的，因为在我的理论框架中，有一个“被教育的实体”，还有一个“环境”，以及一套通用的原则。被教育的实体既可以是人类，也可以是计算机，环境亦然。所以，我认为应该将人类和计算机都视为在这一意义上具有相似能力的实体。

邓小铁：您在可演化性、可学习性和可教育性方面的研究，揭示了AI的几种不同路径。生物演化在某种程度上非常局限——当然在漫长的时间尺度上，它的效果很好；可学习性则更具普遍性；而可教育性又建立在这一基础之上，比可学习性还要普遍。这很有趣：一个实体可以通过许多不同的方式与世界互动，然后变得更好。

这次ICBS活动，我们汇聚了来自不同领域的科学家。您如何看待跨学科合作对于推进科学研究和促进创新的重要意义？

Valiant：我很喜欢这种方式。我的兴趣从物理到数学再到计算机科学，我觉得这些领域之间并没有严格的边界。把它们视作一个整体进行思考，这对我来说很有吸引力。尽管在极大尺度上做研究很困难，但由于这些领域相互关联，这样做仍然非常有益。因此，像ICBS这样敢于让不同领域的知识和专业交融碰撞的平台非常宝贵，也很罕见。

举例来说，我难得能和物理学家同台交流，但我对他们的研究很感兴趣。能让物理学家、数学家和计算机科学家同时聚到一起的会议并不多，物理与计算机科学的对话更是少之又少（除非在量子计算或者类似领域）。所以这样的活动是一种绝佳的方式——数理科学在某种程度上是相互交织、密不可分的。

邓小铁：其实我一直很好奇，您和姚期智教授一样，都学过物理。物理是如何影响您后来在计算机科学领域的研究的？这两者之间有什么联系？离散数学通过逻辑结构和传统计算机科学联系起来。而物理可能提供某种直觉，对未来的研究产生影响。或许在AI领域，我们也会像物理那样更多倚重连续数学（continuousmathematics）。也或许不是这样，能否谈谈您的直觉？

Valiant：就我而言，我想可以这样说：我对现象感兴趣。有人研究数学是因为纯粹热爱数学本身，那他也许就是一位纯数学家；但如果你还对世界上的各种现象感兴趣，比如物理现象，那就有些不同了。把这些现象同数学联系起来，是一件了不起的事。所以我想我感兴趣的是现象。

我认为计算方面也存在现象，比如不可计算性。有人觉得那只是数学，我却把它看作一种现象。我认为学习也是一种现象，因为动物会学习。可能我关心的是自然现象，关心数学如何帮助解释这些自然现象——数学的这种能力令人惊叹。为什么数学能够如此有效地解释自然现象？我想这就是我对自己研究的一个总结。

也有人认为，许多计算机科学家，比如计算机专业的学生，对自然现象缺乏兴趣，他们更关注人造的东西，比如电子游戏、工程制品等等。但我认为，也有一群计算机科学家喜欢自然现象，并关心数学如何在计算中发挥作用——不光是由机器执行的计算，还有生物学中的计算，它们本身是同一类现象。

邓小铁：谢谢。作为哈佛大学教授，您想对下一代计算机科学家说些什么？中国的计算机研究人员数量正迅速增长，为了在瞬息万变的社会中立于潮头，您有哪些建议可以向学子分享？

Valiant：很难给出具体的建议。我坚信每个人都要找到自己的路，一条适合自己时代的道路。每代人面对的时代都不同，兴趣也各异，因此要找到真正让你感兴趣的方向。做研究时绝大多数日子都会一无所获、一筹莫展，这很令人沮丧，只有保持强烈的动力才能坚持下来。所以要认识自己，明确兴趣所在，然后选择那些你认为能够做出贡献的问题——既不要太难，也不要太简单。

时代确实在变。如今像AI这样的领域，研究者多如过江之鲫，现在会碰到很多我年轻时未曾面临的挑战，那时研究人员数量还很少。所以每代人都得走出自己的路，可以从前辈那里汲取灵感，但他们的建议听听就好。

关键不是“谁更聪明”，而是“谁在掌控”

邓小铁：其实有一个问题摆在我们所有人面前：未来会发生什么？当AI开始塑造世界面貌，并推动科学进步时，世界会变成什么样？

Valiant：我对此不那么担心。我认为人工智能或许会成为我们的合作伙伴。

邓小铁：AI和人类合作。

Valiant：就拿我自己最近的例子来说，之前在机场买咖啡，我可以找售卖机器，也可以去人工柜台。机器收费更贵。这里面存在人的主动选择，人们看起来更喜欢光顾那个讨人喜欢的机器。也就是说，不管人工还是机器，需求是由人类决定的。就像这个场景一样，只是服务的提供者变多了：除了人之外，还有机器在售卖咖啡。我认为未来在所有其他领域都会是这样。

但我认为，关键问题是谁来掌控，而不是谁更聪明。很明显，我们人类应该保持对局面的控制。应该由我们自己来选择什么算是有趣的科学问题——我也相信未来会是这样。相反，如果是计算机来决定什么是“有趣”，而人们只会机械遵从，那就不好了。我认为人类需要始终保持控制。我预期人类会继续掌控大局，而计算机会来帮助我们。所以我对未来并不悲观。

邓小铁：还有一个问题，我们的观众非常想听听您的看法。展望未来，您认为AI领域哪些方向最有前途？特别是当我们把AI看作一个“受过教育的研究者”时，这和您刚才的回答有部分关联，但更侧重于教育层面。

Valiant：你是说计算机会帮助教育人类吗？的确，现在确实有些项目试图利用大语言模型或特定模型来创建课程，应用到大学教育。三天前有人问我，预计AI会率先在医疗还是教育领域落地？我立刻回答说医疗，因为在医疗领域，要做什么非常清楚，比如更好地分析数据等等。

但我认为教育（是个更复杂的问题），这也与我今天讲的有关。我们对教育的理解并不充分——并不真正清楚该教什么、如何去教。对于如何教育人类，我们还需要更多研究。

从某种意义上说，现在就用AI来教育人类有点为时过早，因为我们自己都不清楚自己想要什么，什么是最好的教育方式。如果我们自己做不到成竹在胸，恐怕AI不会是解决教育问题的灵丹妙药。

认为AI包治百病，这可能就陷入了误区。我确信，只有当我们人类先对“教什么”和“怎么教”这两个问题达成共识，AI才能在教育领域释放巨大价值。但我们还没到那一步。

邓小铁：不过有些环节是可以做的，对吧？就像您刚才说的，由人来决定什么重要，然后让AI来帮我们实现。

Valiant：是的。比如在教一些标准的数学课程的时候，在电脑上进行清晰的互动演示，能节约人类老师的大量工作，这显然是有用的。所以（AI能做的）是一些简单的事情。

邓小铁：但如果把芯片植入体内、接入大脑，目前还面临困难。

Valiant：即使真的能把知识直接装进脑子里，我们也绕不开如何教育人的问题。教育期望的目标是什么？花费20年时间教育一个人，我们期望他最终具备什么样的能力？我认为社会对此并没有共识，对吧？比如说，什么样的知识最有价值？大学里什么课程最重要？这些问题至今都是开放性的。

诚然，像数学这类学科有强大的历史传统，大家对什么是“基础”有约定俗成的共识。但我认为，还是必须回答那个根本问题：我们的目标究竟是什么？首先必须把目标定义清楚。