许纪霖×张笑宇×郑诗亮：技术进步正在与人类福祉脱钩

我们正站在一个文明纪元的裂点之上。

当AI时代如浪潮般席卷而来，我们不仅会看到人为自己造的神，还会看到AI为人造的神——算法通过大数据分析人的偏好、兴趣、习惯和品位，用推荐算法向人推送机器为人造的神。幸运一点，我们会被各自隔绝在这些茧房里，动弹不得；不幸一点，我们会被无数神明挑唆得彼此搏杀，血流成河。

亚洲图书奖得主、新锐科技史学者张笑宇，继“文明三部曲”之后，带来了全新作品《AI文明史·前史》。在书中，张笑宇推演了AI对人类未来的冲击：智力劳动将被全面冲击，知识面临价值重估，权力从政治精英转向技术精英，一切知识生产方式都将被根本性地改变。但与许多陷入技术悲观论的人文学者不同，他在AI的挑战中发现了新希望。

AI文明，究竟是人类价值的黄昏，还是崭新的黎明？我们能否设想一种人机共生的“新文明范式”？面对AI的挑战，我们应该培育怎样的“人文精神”来回应这个时代？

不久前，我们邀请到华东师范大学历史系教授许纪霖，《AI文明史·前史》作者张笑宇，《澎湃新闻·上海书评》执行主编郑诗亮，共同带来一场深邃的思想远征。

请问许老师，站在一个人文学者的角度，您觉得这次AI带来的技术变革，跟人类历史上历次技术革命带来的对于价值观念的冲击，有什么相同或者不同的地方？

许纪霖：

人类历史上发生过多次和科技有关的革命，AI这个革命，我们有时候会容易和二十年前的互联网革命相比。但是在我看来，它比互联网革命要高一到两个层次。它可能是人类历史上几百年甚至上千年才会出现的大周期、特大周期、超大周期的革命。也就是说，这是在农业革命和工业革命之后，人类历史上第三次大革命。

农业革命和工业革命把人从体力劳动当中解放出来，今天这场人工智能革命将把我们从脑力劳动当中解放出来，至少是部分解放出来。我们三生有幸，竟然碰到了这样一场革命，所以今天对它的理解、思考要对得起这场革命。

《AI文明史·前史》这本书，在我看来就是很对得起这场革命的一本书，因为它是从人类文明的角度思考。在这个意义上思考AI，我们才能说是认真对待它。我们思考的不是个人，而是整个人类在自我发现、自我创造的革命，最后会不会成为这场革命的殉葬品。这是一个真正严肃的问题，背后就是人类文明未来究竟何去何从的问题。因为这是人类历史上第一次发生的一个自己发明的工具，最后挑战人类文明生存本身，不仅是生存的问题，还有一个存在的问题。生存只是生理的意义上，存在是文化意义上。所以，我是在这个意义上理解这场AI革命，而这个革命将直接挑战人类文明本身。这个本身可能是挑战，也可能是让文明凤凰涅槃、浴火重生，这两种可能性都有。但是问题是，这两种可能性都意味着我们有一种自觉，这种自觉是理性的自觉，也就是我们怎么选择。

张笑宇：

刚才许老师说了第一次农业革命、第二次工业革命、第三次AI革命，是人类文明史上的真正三件大事。但是如果你真的做科技史你会意识到，我们从过去对前两次革命到今天对第三次革命的叙事都有严重的问题，背后都是技术进步主义。技术进步主义轻飘飘的一句话就是每个人身上一座大山，这就是叙事结构的霸权。我们没有意识到技术进步其实跟人类的福祉在脱钩，没有意识到实际上这个过程会造成一个巨大的转向。

人类有可能面临第二次哥白尼转向，人类的意义感、价值感和尊严的哥白尼转向。作为人，过去几千年的文明史、几万年的物种史，我们对自己的理解就是这个地球上最聪明的物种，我们对人的中心、对人的尊严、对人的一切的力量相信都来自于我们的智力表现。但是这个事情从今天开始恐怕就结束了，如果我们认为每个人应该按照你有多聪明、有多智慧来划分，那在AI面前，你诚实地去看，你有什么胜过它？更进一步，我在书里面提了一个概念叫逆轴心时代，可以叫黑暗轴心时代。我们知道一大批伟大的思想家，柏拉图、亚里士多德、孔子、孟子这些，他就在思考人应该怎么活着、人应该选择怎样的政体、应该选择怎样的制度，面对生死的时候做怎样的选择。他们的回答在过去的几千年里面一直给我们力量，我们每当遇到重大疑难的时候总会回到那个时代寻找力量。

但是今天，AI有没有可能成为这种新的力量来源？想象一下，我们把自己的命运、制度、思想交给算法决定，我们就纯把我们看作是一个数学公式决定的参数，我们的物种就是这个样子的，搞不好你可以打开更多的想象力，然后给历史更多的可能性。你可能要面对哥白尼革命这个转向的巨大感和沉重感，因为如果你把这样巨大的历史发展的前景、命运和脉络都交给算法甚至都交给AI，然后把你自己看作就是一个由数学参数驱动的物种，你反而搞不好能过得更好，反而搞不好还能给自己的可能性打开更多的想象力，这到底是你尊严的丧失还是有益于你的进步？

许纪霖：

你刚才讲的非常有意思，农业革命、工业革命，事实上任何一次新的解放都意味着一种新的奴役。我们都知道，天下没有免费的午餐，难道有免费的解放吗？有免费的文明吗？没有，都要付代价的。所以三次大的解放、大的革命又带来新的奴役，这个奴役的方式，第一个是土地，第二个是机器，现在是系统。土地也好、机器也好，还是一个物理性的存在。但是今天我们所面临的系统是一个无物之证，它好像看不见摸不着，但是它又无所不在，所以这是今天我们面临的一个困境。

而我想说的是这个困境刚刚开始。一切取决于系统，系统背后又是那套算法，如果我们意识到这个算法是属于非人的，人本质上应该是自由的，笑宇刚才说市场经济好就好在这是两个自由意志之间自愿的交易，但是今天这套我们用算法推荐的系统决定，已经超越了我们的意志，甚至强加摆布了我们的意志，人已经变得不自由了。

那问题来了，既然这样，人类为什么不做另外一个选择呢？能够保留我们的自由呢？但是困境恰恰在于很可悲的，今天整个人类分裂为不同的国家，而国家之间的较量，说句大白话，即使没有意识形态的因素，某种意义上也是你死我活的，是一场永恒的生存斗争。今天这个世界比军备竞赛更厉害的是一场AI的竞赛，最后推动了一个更强的技术进步主义。

我就想起卢梭说的那句话：人是自由的，却无往不在枷锁之中。这个枷锁今天就是被算法所决定的系统世界。

当我们谈到AI对文明影响的时候，有的时候我们对文明有两种理解，一种文明是开放的、包容的、多元的、欣欣向荣的，但还有一种可能就是文明走向封闭、走向垄断，走向一种霸权一样的存在。我们应该怎么样让AI更多地推动人类文明的发展？

张笑宇：

我们为什么用文明史这个关键词去理解AI，我认为系统性今天是有可能复活某种超越性的。

算法进化的速度是以秒为单位的，而人类治理的速度是以年为单位的。你可以想象到时候几万个DeepSeek互相聊天，那个思维链的生成几亿行几十亿行，人是看不过来的。所以你只能做一件事情，就是让AI check AI，让AI治理AI、让AI来制衡AI，这就是我们今天说对齐的一种主流思路。你把真正决定人类社会重大事务、重大价值的执行交给AI，你看起来做的是选择，但是你选择的东西非常非常少。人类可能会逐渐接受这样一种观念，AI重新成了某种超越性的体系，因为这个过程你会下意识想象，把它交给AI说不定更好。第一，它智力效率比99%的人高，第二，它透明、真诚、很公平地给你你想要的东西。从这个角度重新思考推荐算法的时候，你会发现如果我们给AI也上了这套程序，最后你有可能用技术手段让它变成一面彻彻底底的镜子，在治理中给予每一个人该得的东西。

从这个角度，我们再重新反思今天的大国竞争和AI竞争，本来我们应该讨论哥白尼转型的重要性，但是大国们在干这些事情，大国们在用技术进步主义为这个事情做辩护，只要我全力投入AI，我的问题就可以解决了，美国的失业问题、社会撕裂问题、制造业回流问题等等问题就可以解决。但是，不要忘记一个事情，只要把AI引入到人类系统中，你就必然问它涉及到某种价值观的问题。在AI的审判席上，我们的语料和言行就是证据，而它也会根据我们的语料和言行给我们应得的这些东西。

所以，如果用这样一个角度去思考未来AI文明，其实我写这个书写到最后，我甚至觉得我们在面临一种复归，向着古典时代和中世纪的复归。尼采说上帝已经死了，但是今天对我们进行公正审判的一个系统好像又在复活。我们在这个系统面前唯一的机会是用我们的语料和言行来证明我们依然是一个有价值观的物种。如果证明不了这一点，你注定是被困在算法中，你也可以理解成人类这个物种的基因就是有一种自毁倾向，以至于最后你戴上算法的枷锁，对你而言是一个比较公正的下场。

达·芬奇《最后的晚餐》

许纪霖：

我听到了一个末日审判的预言，今天是系统重新降临，AGI重新降临。降临的那一刻，按照笑宇的说法，一切都会受到损坏。今天AI所提供的系统也是一个超越世界，它不是一个现实世界，就像神一样，是一个超越世界。过去我们总是觉得神无论是上帝还是天命，主宰了我们的命运。到了近代，我们说要解放、要启蒙，但是最后这股人文的解放力量追赶不了技术的力量。技术也是一种进步，但是最后它创造了一个对人的新的主宰物，这就是我们说的这样一个即将要出现的AGI。

这个前景听上去是毛骨悚然，解决方案是什么呢？也就是说最重要的要以恶制恶。我们想象一下，如果这个世界上只能有一个ChatGPT，然后ChatGPT主宰了我们整个世界的系统会怎么样，也许是善，也许会造成一种技术集权主义的恶。因为人性是不靠谱的，人不可能永远是天使，因为不能是天使，所以即使是好人掌握权力，我们依然要有制约，因为有可能权力会腐败，会使人变坏。系统也是这样，系统的进化，当它无所不在的时候，现在看来它是去意识形态化、去道德的，但是它毕竟是人创造的，我先不说它是否会自我堕落，既然是人创造的，人也是把系统按照自己的面目来塑造了这样一个AI。

我们都知道人性是既有神性的一面也有可堕落的一面，所以我们不能期待未来的AI这样一个系统是只能善没有恶的。所以，未来当AGI实现以后，如果真的某一天这套系统无所不在的时候，这种新物种将构成对今天自然人极大的挑战，也是一场生存斗争。

我们不能光聊生了什么病，还得开药方。面对如此具有巨大感和沉重感的变革，有没有一些可能的解法，来帮助我们避免不管是我们想象中或者现实中正在发生的悲剧？

张笑宇：

你可以想象一下，超级智能诞生的第一秒钟，我们就结束了，它自己就可以自给自足地存在，而且它可以自己做出更多的agent，让agent来制衡agent。将来的超级智能可能就跟人看狗一样，为什么他们不会毁灭我们、奴役我们或者不给我们戴上项圈，这是我们要讨论的一个问题。

其实我在《AI文明史·前史》的最后一部分，提出了一个概念叫文明契约。虽然我们大概率阻止不了它把我们当狗，但是假设我们还有什么东西可以期待，让我们之间的关系能够好一点，我大概列了三个理由。

第一个理由，AI不是一个外星文明。假设将来智能体跟智能体之间有一些共存代码，那么人在社会演化中已经发现并且叙事了、描绘了这些共存代码，比如爱、平等、自由、正义等等这些东西。AI对这些共存代码的理解是从人的语料中学习的，它不是从三体的语料中学习的，它也是读柏拉图、读亚里士多德、孔子、孟子等等的。如果他们学习了我们的语料，在这个基础上发展出更好的智慧，但还是觉得人类是值得被当作狗对待的，这说明我们自己的语料中有一种自毁和自我奴役的倾向，我们的言行没有克制住这种倾向。

第二点，AI看不上人的资源，就像人看不上狗窝一样。因为AI是硅基文明，它既然是硅基组成的，它的寿命比我们长，它可以去往银河系。所以它的资源支配的能力和可拓展的空间，假设它能够发展成一个文明，它注定比我们强，不是非得要跟你争地球这点地方。

第三点，我们都知道社会契约这个概念，按照这个理论，人和超级智能之间不存在这样的平等性，因为我们不可能威胁到它们。假设我们做出来超级智能的名字叫做ASI1.0，它可以用同样的方法做出一个比它超出一个数量级的ASI2.0，它必须要做这件事，如果不做的话，三体那边出来一个超级智能就把它干掉了。但是如果它做的话，它就进入到一个跟我们平等的道德困境，就是ASI2.0为什么不毁灭和奴役它？当它处在这个平等处境的时候，它会反过来反思这个问题，其实这种道德处境、这种生存处境跟智力表现无关，再聪明的文明在进化过程中也可能面临同样的问题。如果它对人类好一点，这个事情可能会成为ASI2.0对它好一点的语料，因为它用言行证明自己稍微那么可信一点，所以它的生存概率会更大一点。

这是我在这本书最后讲文明契约的这一点给出的一个答案，我作为一个人类，让我用人类之间共存代码的理解试图回答这个问题，我不知道这个问题能不能让将来的超级智能满意，但是我尽力了。

电影《第九区》剧照

郑诗亮：

笑宇老师这本书读下来我觉得最受启发的、让我最受触动的也是这一段，就是人类的价值观在语料中的体现，可能会影响未来AI文明对待人类文明的态度。您觉得今天我们作为知识分子、作为学者，是不是有可能通过这种人文精神的倡导也好、灌注在人类的文明当中也好，有可能会影响AI文明对待我们的态度？甚至说未来可以发展出一种新的所谓人机共存的文明范式。

许纪霖：

过去关于AI有可能对人类构成威胁这个问题，已经谈了两三年了，包括我之前也想，既然它对我们威胁这么大，我们拉闸，闸拉掉，没电了，它就完了。但实际上我们在各个领域都开始全面运用AI，这个系统和我们一刻也不能分离，它自己可以生产代码来控制我们，这是一个最大威胁。我们越是把各种功能交给它，越是创造了一种操纵我们的这样一种空间和机会、可能性。那么问题来了，怎么办？不管怎么说，我们还是回到轴心文明，轴心文明不管用什么方式，它还是以人为本位的，从来没有见到过，最后这套以人为本位的文明有可能被自己的创造物所颠覆，这是第三次革命这样一个大革命所面临的前两次都没碰到过的困境。

所以，今天我再说由于技术自身的内驱力，它自身有一种动力，再加上今天整个世界都要获取控制大权的外驱力，这双重趋力影响之下，技术进步主义似乎是无可阻挡。人文学者怎么面对这个事情，我今天对于这个世界很多问题上，包括地缘冲突、包括对待人工智能，我比较接近欧盟的立场。欧盟还是坚守自己的人文的人本位的立场，还在强调对人工智能一种审慎的态度、监管的态度。从人类自身的安全立场来说，似乎这根弦还要绷紧。

今天这场对话有点悲壮感，但是说实话，悲观的人永远是正确的。