老俞闲话|在AI技术与人性间寻找文明存续之路(下)

发布时间:2025-10-25 20:20  浏览量:5

(抖音搜索“俞敏洪”在【节目】栏观看完整回放)

(本文源自2025年8月23日直播“对话张笑宇”)

张笑宇:这个时代真正的变量是什么?真正的变量是教育。人到底适不适合一个工作岗位,是由他学到的知识、技能、素质决定的,而真正能改变这个东西的就是教育。如果我们今天的教育体系是工业化时代的教育,那就还是在生产流水线上的工人。

俞敏洪:批量培养掌握一定知识技能的人,这种教育模式已经不管用了。

张笑宇:对,那个体系就是把学生当产品在流水线上生产,给你一个教学大纲,验证你合格的方式就是考试,合格之后给你盖个证就是毕业证书,然后你就去找工作。但今天的年轻人非常难,因为技术在进步,就业机会在减少,你毕业之后发现,大量初级岗位在裁员,你辛辛苦苦读那么多年书,最后去跑外卖,被推荐算法分配。

但真正改变你的事情应该从什么时候开始发生?从你7岁开始。这个教育体系不是把你教成一个螺丝钉,而是真正教你,在AI时代,你的自我价值是什么?你的独特性在哪儿?你怎么才能把自己内心独特的东西激发出来,真正去驾驭AI,让AI服务于你?我们今天的教育要教这个东西。但不幸的是,今天的学校教不了这个事情。教育是我们的思维、社会思潮、文化制度的一个直观反映,最后被凝结在教育体制里,今天技术的进步是远远超过这个东西的,所以我们是在跟时间赛跑。

俞敏洪:我也算半只脚还踏在教育领域里,在我可见的视野中,不光是中国,甚至包括世界,大部分教育体系基本没有跟上AI这么快速的来临。面向未来,我们的孩子如果以现在这种死记硬背的方式学习,这一代代的孩子长大以后会不会“废掉”?

张笑宇:不仅是废掉,甚至他会对培养他的社会深恶痛绝。我一个远房亲戚的孩子高考,为了让孩子好好学习,他妈妈陪读了六年,初中三年、高中三年,他妈妈也是一个比较强势的人,孩子六年时间没有任何自己的社交,他没办法跟朋友一起出去玩。今年考得也不是很好,过两年还要自己花钱买实习机会,之后才能去上班,可以想象,这个孩子毕业的时候,他才20多岁,但他的人生中有12年完全是痛苦的,而他毕业之后,他发现这些痛苦毫无意义,因为他做的工作是一个没有意义的工作。所以我说,这个孩子将来毕业的时候,不恨他的父母和社会都算这个孩子天性善良。

俞敏洪:今年有一个新闻,说很多考上大学的孩子,拿到录取通知书之后不去入学,孩子们在用自己的方式反抗。有的孩子就把很好的大学的录取通知书往父母面前一放,说我已经完成你们对我的期待了,但这个大学我不会去,我打工去了。就有这样的孩子,对学习已经深恶痛绝,再也不愿意碰书本了。

张笑宇:是的,学习对人生是很重要的,学习本来应该是充满好奇心的事情,但我们的教育把它变成了一个很痛苦的事情。所以我觉得第一点,如果讨论这99%的人,将来的教育必须要让我们理解、要让孩子理解什么是快乐,怎么才能自己给自己创造快乐。

其实每个人生下来的时候都是懂得快乐的,小孩子玩泥巴,他会从中得到快乐,我们只是用一套成人的功利体系说,你玩泥巴不符合流水线的教育方式,你拿不到毕业证书,所以你是错的。但是有了AI,AI对我们来说是一面镜子,它可以照出我们的蛮憨愚昧、丑陋不堪,我们在这个镜子面前会发现,我们原来根本没有对孩子付出对的爱,我们给他的东西是痛苦,因为那个镜子就那么严酷地摆在我们面前,等孩子一毕业,他发现学校里教的东西,AI全都能代替。

俞敏洪:当家长理解这一点,家长又该做什么样的抉择呢?

张笑宇:首先,教育体系是一个客观现实,但作为父母,你能给孩子多大的空间,能给他创造的快乐和爱,这是肯定能主观控制的。

俞敏洪:不再以上名牌学校为目的?

张笑宇:对,这个目标没有意义。与其去找名牌学校,不如去找一个好社区,找一个高水平的圈子,教你的孩子这个世界真实的运作规律。我前段时间跟一些朋友聊AI时代的教育,那些朋友的观点都非常精彩。有人说,首先教育这个事,应该学习的是家长,不是孩子,因为你作为孩子的第一直接监护人,作为陪伴他的人,在这个过程中的作用永远是最大的。

其次,我们的教育理念中有很多东西是语言腐败。什么叫语言腐败?比如“叛逆”这个词就是对主体性的错误翻译,一个孩子是独立的个体,他的想法自然跟你是不一样的,但我们却用“叛逆”这个词污名化了“主体性”。一个孩子13岁以后不会叛逆,说明你的教育失败了,你要花很长时间重新把他的叛逆给养出来,否则他一生都在解决这个问题。

勇气、勤奋也是语言腐败。比如爱迪生,一般书上会说他为了发明灯泡失败了一万次,但他充满勇气,充满勤奋,他不甘失败、屡败屡战,最后成功了。No!根本不是这样,爱迪生其实是爽了一万次,他本身就觉得这个事好玩,他才会不断重复。他今天试试竹子,能不能行?不行。虽然没有结果,但是很爽,因为他享受了用竹子做实验的过程,明天我再换一个材料,之后我玩了一万次,最后一次成功了,我赚大钱了,但在没成功之前,我也是享受的。而且他也不是勤奋、有耐力,用竹子做灯泡丝这个过程必须分解成十个步骤,他做了十个步骤以后发现出问题了,必须退回到第一个步骤重新开始,这个事本身就该这么做,就像你开车每一次都要重新发动一样,但你会说你每次发动车是因为你勤奋、有耐心吗?不会,因为这个事就该这么做。所以作为父母,我们自己要有所警醒。

在AI时代下,真正好的教育是怎样的呢?好的教育要用快乐的方式让孩子对这个世界充满好奇心,让他能有更多的勇气或者更大的动力去探索人类,而这个前提是,教育不能反人性。人性天生就是寻求快乐的,这是我们的本能,我们去玩泥巴获得快乐,去看小说获得快乐,这些都刻在我们的本能里。教育的任务是把本能的品位提升起来,让你去享受那些高级的快乐,你不是只享受刷短视频、玩手机游戏,你可以享受做实验的快乐,可以享受写曲子、解数学的快乐。教育是用符合人性的办法去培养这些东西,而今天的学校是不教这些的。只有你真正有了这种能力,人才能不断地爱自己,才能抵御AI时代造成的巨大空虚感、绝望感。

AI时代最大的问题,我把它叫做“人类尊严的哥白尼革命”。我们是智人,社会认为你的地位应该跟你的智力表现匹配,尤其在中国,你考分高,你上北大清华,你该受尊重、该挣大钱、该有更高的地位。但未来99%的人就是干不过AI,你让他说,你的地位尊严应该跟你的智力表现挂钩,那完了,他比不过计算程序,他没有尊严,一个人如果失去爱自己的能力,失去自我肯定的价值,他在这个世界上,存活都会有问题。

所以未来的教育首先应该重新激发人获得快乐的能力,你的快乐没必要跟你的智力、能力挂钩,因为随着技术进步,未来的世界也可以是一个物质丰富的世界,你今天如果只想简单地活着,只想有口饭吃、有个地方住,根本不需要花多少钱。是因为你有无限的物欲,因为你想在社会地位高塔上攀升,所以才有内卷,你把人本来获得快乐的意义和本能都忘掉了,所以今天的教育首先要回归这个东西。

对于能干得过AI的那1%的人来说,我们要用符合人性的方式,提升他对知识和学习的品位,他对一个东西充满好奇心,他愿意去了解。这也是人的天性,人类当年在旷野中,就必须对植物有好奇心,才能渐渐发现有些东西能吃、有些东西能种,所以才慢慢有了文明,所以好奇心是我们的本能。今天的问题不在于你一定要让孩子有高级的追求,要摒弃低级的快乐,不是,好奇心也是一种快乐。你对高级事物的追求,是你从低级事物的快乐里一点点延展出来的。你是先读了言情小说,你才觉得,哎呀,我得去看《红楼梦》了,因为言情小说已经满足不了你了;你先读了网络小说,你觉得我得去看名著了,因为网络小说已经满足不了你了。你先玩一些简单的游戏,后来觉得我得玩一些有品位的游戏;然后你又慢慢觉得这些东西满足不了自己,只有把灯泡做出来所感到的那种快感、多巴胺分泌是一切都替代不了的,你就变成了将来那1%能够驾驭AI的人。

俞敏洪:在不伤害其他人的前提下,快乐本身就不分高低,打掼蛋的快乐和某个数学家解数学题的快乐是一样的。

张笑宇:没有高低之分。所以我一直想得很开,谁说写书的一定高过说相声的,说相声的给那么多人带来快乐,写书的给人带来痛苦,所以这是我们应得的。快乐没有高低之分,但可以有数量上的差别,郭德纲先生给更多人带来快乐,他做出的贡献就是比我们写书的人大得多。

俞敏洪:我觉得,当今世界的问题就在于:财富正在不断向1%~5%的人手中集中,而其他90%以上的人,财富总量却在减少。这种巨大的贫富差距,正在撕裂社会,造成深层次的不稳定。但在未来,人工智能主导的自动化可能会取代80%~90%的人类工作,这意味着现在大多数人可能会面临失业。与此同时,社会整体创造的财富却在增加,因为机器可以24小时不间断地工作、生产。

在这种背景下,一个人即使没有工作,到了一定年龄,是不是也应该有资格分享这些财富?能分享这个社会创造的成果?比如我不工作,但我每个月可以拿到3000块钱,让我在有住房的情况下能够活下去。但正如你之前所说,工作本身也是一种幸福,有目标、有任务、有社会角色,是一种意义感,如果这样一个时代来临,大多数人都不再工作,不再被需要,人类该如何面对这种“没有目标”的生存状态?我们又该如何让自己的内心保持丰富、充实,而不是陷入空虚和迷茫?

张笑宇:这就是为什么我说“人类尊严感、意义感的哥白尼革命”。我们过去太久生活在一个短缺社会中,觉得稀缺性才是意义,而工作是在解决稀缺性的问题。所以我觉得我们首先要更正一个下意识的观念——我们今天觉得最有意义的东西来自于效率,来自于你把这个社会的财富给那1%的人,你相信他会创造更多,马斯克会创造更多,李彦宏、马化腾会创造更多,所以你觉得财富应该流向他们。但当AI来临之后,AI可以很便宜地解决效率问题,这时候你要认识到,作为一个物种,真正的价值不在于效率,而在于多样性,这也符合生物学包括人类历史的进化规律。

生物学告诉我们,演化从来不是有目的地走向某个完美形态。并没有一个造物主事先规定“人类这样最好”,我们只是突变、环境、偶然三者撞在一起,一路试错,一路演化才成了今天的模样。有时候,一条看似“高效”的演化路径,其实把族群逼进了死胡同,比如你觉得一些基因无用,从而演化掉了那个基因,最后却发现当疾病到来的时候,你却灭亡得很快。反倒如果你的基因里一开始就有一些你觉得毫无意义,甚至对你有害的片断,但当那个疾病、病毒来临的时候,这段基因恰好能帮助你抵挡那个疾病,然后你就活了下来了。

所以,当你不能预测未来真正会发生什么的时候,你应该保留更多的多样性,对于你的社会、你的物种、你的文化都是一样。就像中世纪的时候,如果你认为最好的道路只有向神奉献、只有去参加教会,那些主张自由思想、主张宗教革命的人就不会有生存空间,社会就不会出现演化。在那个时代,如果不给学数学的人空间,就不会出现科学进步和启蒙。所以,从宏观来看,一个物种真正要往前走,多样性有时候比效率的价值要大得多。

俞敏洪:从整个种族、物种的存续和发展的角度来看。

张笑宇:对。所以今天有一个观念,我们不应该期待所有人都成为马斯克、马化腾。我们应该期待的是,就算你没那么多钱,就算你好像没有那么高的效率,创造不了那么多的价值,但只要你存在,只要你的想法独一无二,只要你的感受是独特的,你创造的东西是独特的,对于我们这个物种来说,你就有价值被保护起来,我就至少应该保证你吃得饱。

俞敏洪:为社会增加一份色彩,也增加一份多样性。

张笑宇:对,搞不好人类哪天就需要一个从犄角旮旯里面出来的人,他的智慧才能帮助我们这个物种生存下去,因为历史中这是非常常见的。

俞敏洪:现在很多人都在大平台上求生存,给大平台喂养了大量数据,这个数据又使得大平台变得更加强大。这些人在某种意义上,不光是在给平台贡献数据,有时候还在贡献财富,因为数据强大、人员增加以后,大平台会有很多广告收入、内容收入、商品提成的收入。原则上我们每天都在为大平台贡献数据,大平台也应该在未来某个时间点上,甚至根据大家贡献数据量的多少和价值倒过来给我们付钱。你不付钱,我就不在你的平台上了。当然现在谁都不敢这样做,因为不在平台上玩,你更加没机会了。但当未来人工智能、算法推荐越来越精准以后,大平台越来越有霸权地位,这对普通人来说是不公平的,你觉得这个问题可以怎么解决?

张笑宇:我特别主张算法的透明化和民主化。今天的工作机会、就业岗位,我们看到的信息、读到的内容、买到的东西,所有的都在被推荐算法决定。如果你对推荐算法没有掌控,你自己不能决定什么样的内容推送给你,你都决定不了自己能读什么,你对自己的生活就没有主导权。而且算法民主化不是算法所有权民主化,而是算法规则民主化,你可以不公开你的商业机密,但你要给大众讲清楚你们代码写出来的效果是什么。比如今天的代码是让司机每天跑12小时,才能赚1000块钱,但我们可以做到让他跑8个小时,赚到800、900,其实对司机来说,单小时赚得更高,同时他又可以有更多的闲暇,这样我们就可以用脚投票,我们是不是希望有一个更多闲暇的社会,其实这样会更好。

人民要对技术的分配有参与权,这也发生在每一次工业革命中。像第一次工业革命,蒸汽机出来的时候,一开始资本家就是用蒸汽机压榨劳动人民,人民必须去反抗,有工人运动,争取8小时工作制一样去争取。今天也是一样的道理,因为现在是算法决定了你是不是8小时工作制,所以要去争取这个事情。你要意识到这个事情跟你的权利相关,跟你的生活相关,不是纯粹技术的东西,不是被动接受的东西,你要有这个想法和概念,你要影响国家或者立法者,去想办法推动变成一个诉求和现实。

俞敏洪:就像你提到的骑手,他们根据推荐算法不断加快工作频率,只不过为了多拿几个钱,他们的工作时间表面上是自愿的,从8个小时甚至到十几个小时,表面上赚了更多的钱,但他的闲暇生活、个人幸福、心情娱乐全部被牺牲掉了。还有一种情况是,我不工作,我在上面刷各种各样的视频和信息,一天一刷就是10个小时、8个小时,部分意义上是无意识地牺牲了自己的主动性,也牺牲了自己可以更加闲暇、悠闲的生活,以及追求自己幸福的时间。未来是不是能从国家层面对大公司做些要求,比如每个人每天刷视频超过了4个小时,APP就自动关闭?

张笑宇:我觉得这有点过,变成了政治权力对商业运行、个人自由的侵害,所以我为什么始终坚持这个问题应该由教育来解决。从我看到的角度来讲,大部分人沉溺于手机短视频或者手机游戏,还是因为他没办法在现实中找到更快乐的东西,他们的这种能力被剥夺了,而且是在他上学的时候就被剥夺了。我们今天禁掉了游戏,孩子是不是就能上进?不是的,没有游戏的时候,大家也在玩这个,玩那个,打架、抽烟、旷课。当父母、学校、社会不能让孩子在现实中感受到爱和快乐,他就会跑到虚拟世界里去逃避,去寻求那种满足感,所以这是你禁不了的,也是反人性的。我认为我们应该提倡正确的教育理念,在孩子很小的时候让他知道怎么跟数字世界共处,让他知道现实世界中也有快乐,虽然做起来很漫长,但这个是正道。

俞敏洪:最主要的还是在孩子的成长期,比如18岁之前,让他更多去体会现实中的快乐,这也是现在的一个倾向。在寒暑假的时候,越来越多的家长会把孩子送到野外训练营和夏令营,因为这时候孩子是在跟大自然和文化历史亲密接触。

张笑宇:所以我在书中讲到了“加速世界”和“减速世界”,将来你没有必要非得在加速世界里跟技术干,你可以去减速世界。加速世界就是在数字中、在这些大公司中,减速世界就是我们的农田、草原。

俞敏洪:快时光和慢时光的区别,可以这样理解吗?

张笑宇:对,比如您去的这些地方,内蒙古也好、海南也好,都是慢时光,机器剥夺不了你的慢时光,AI不可能给你在草地上打滚、风吹过脸的感觉,永远替代不了。所以我们应该把生命多投入到这些东西里去,因为在快时光里,这些已经交给AI了,有些人愿意去做马斯克,有些人愿意去开疆拓土,那就交给他们,我们可以在慢时光中平静、快乐地度过我们的人生,也向这个世界传递我们的爱,这有什么不好呢?

俞敏洪:人总有欲望、渴望和上进心,如果让我待在慢时光里,尽管我也过得很舒服,但收入之类的也就那么回事,这时候如果我想进入快速世界,是不是这个通道就被关闭掉了?

张笑宇:也不一定完全关闭掉。我很喜欢一句话:不是每个人都是天才,但天才可能来自这个世界的每一个角落。我们去看历史上第一代当皇帝的人,他的孩子是不是一定适合当皇帝?不一定,他可能守不住。所以我认为,将来能够跟AI协作,甚至驾驭AI,帮我们实现更高远的目标,比如上火星、去星辰大海等等,这种人才会在每个角落里浮现。只要有正确的教育机制,能让尽可能多的角落里的人都享受到那种1%的教育,用符合人性的方式去培育他们对科学的探索、对知识的渴求,最后我们依然会有一个相对公平的社会制度,让未来能做AI主人的人不断涌现出来。

俞敏洪:面向未来,由于人工智能的介入,人群因为在不同维度从事不同工作的差异,会越拉越开,最后社会公平就变成了绝对重要的事情。整个社会体系,不管人群怎么分离,能够照顾到每一个群体的利益和幸福感,是不是才是比较正确的做法?

张笑宇:对,我认为未来社会公平会有更多技术层面的东西介入,第一,未来我们可以有UBI(Universal Basic Income),就是普遍基本收入。

俞敏洪:就像我刚才说的,一个人不工作,一个月也能拿3000块钱。

张笑宇:对,我们今天的生产力就可以做到。比如埃及,它不是很有钱,但它从二战开始到现在,因为有一条苏伊士运河,这条运河的收入很高,它拿这个补贴老百姓吃的馕,作为一个普通埃及人可以每天花两分钱买五个馕,这是政府补贴给你的,超出的馕再变成正常价格,这至少保证老百姓饿不死,所以现在人类完全可以做到。放在今天的中国,你可能不挣大钱,但你到农村去,或者找一个比较便宜的地方,租个房子加吃饭,一个月几百块钱真的就够了,而政府就能把这几百块钱出了。你没这个钱吗?你有,只是你的观念还是要把钱给大巨头、大企业,未来应该转变这个观念。

第二,推荐算法的走向。如果推荐算法是向善的、民主化的,是多元化的推荐算法,就可以支撑未来一个非常多样的社会。在这个社会里,每个人的独特价值,不是一个人影响一亿人,而是一万个人影响自己的一万人,每个人在一个小单元里面创造自己独特的价值。举个例子,在AI的条件之下,6月18号Claude发布了“Claude Code”,我是一个完全不懂编程的人,但我可以用这个东西写出程序。你跟它对话,说我要一个什么东西,它会给你出方案,你再跟它磨方案,它真的可以做出来。

所以未来你可以做一个很小的一人公司,满足一个很小的需求。比如我爷爷信佛,但有些佛经他读不懂,我现在就可以写一个程序帮他讲解佛经,甚至AI可以对比不同高僧大德的讲法,AI还可以用我爷爷能理解的语言来做解释。这样小众的需求,在过去你得雇很多人才能满足,而且开销太大,你养不活这个公司,但今天AI全都可以解决,可以帮你写代码、做律师、做设计、做市场等等。

每个人都可能发现一个更小的需求,这个需求以前社会没解决,但AI可以解决。推荐算法就把这些产品精准推到那些有需要的人那里,让每个人的需求得到更好的满足。我不是说将来一定会出现这样的社会,但只要我们今天选择往那个方向走,未来说不定就会变成那样。另一个方向是,我们每个人都在内卷,每个人都在梦想成为那1%,每个人都活得筋疲力尽,然后困死在里面。现在就看我们往哪个方向去。

俞敏洪:而且社会精英、相关机构本身决定的方向,部分决定了老百姓往哪个方向走?

张笑宇:是的。

俞敏洪:现在中国不管是教育还是竞争性的生存策略,面向未来的AI都已经过时了。每个人更应该去追求自己的快乐、爱好,面对大家的小众需求,如果能充分利用人工智能,创造出来以后,可能就服务于一千个人,但每个人给它付点钱,它就是一个创业公司,而且几个人就能完成。从这个意义来说,分散性的人类幸福生存的方式,比把所有社会资源都集中到巨头身上的方式要更好。而且你提到的一点,向普通老百姓倾斜的分享社会福利的方式,某种意义上已经可以开始做了。

张笑宇:对,我们的技术上都可以做到,但我们的观念还没有跟上。

俞敏洪:在你书中,“算法审判”也是个很重要的概念,它本质上是在讲什么?

张笑宇:本质上是在说一个问题,未来人类的社会治理可能摆脱不了AI,因为未来很多工作要由推荐算法来分配,公共服务也好,金融服务也好,法律服务也好,都需要AI来提供服务。过去是政府、行政机构在管你,未来政府和行政机构都会被AI替代,但AI在治理你的时候,本质上反映的是你自己,是一面镜子在照着你自己。就像很多人今天都说推荐算法时代有“信息茧房”,但我讲一句不好听的真话,我们每个人都喜欢“信息茧房”,每个人都喜欢那些我们刷的东西。

俞敏洪:这句话特别一语中的,比如推荐算法老推给我赞扬俞敏洪的文章,我就特别喜欢看,对吧?但实际上有无数骂我的文章,但我看不到。(笑)

张笑宇:对,每个人都是这样。所以将来社会被推荐算法治理,每个人都在被算法审判,也就是被自己审判。你想要短平快的娱乐,它就给你短平快的娱乐,但你想要高的东西,想要深厚的探讨,也可以给你深厚的探讨。

俞敏洪:在这个意义之下,对于AI算法本身,你的输入约等于它的输出,如果我输入的都是客观公正的,他给你推荐的客观公正的东西就会越来越多;如果我看的东西是各种暴力性的东西,它给你推荐的就是暴力性的,是吧?

张笑宇:对,所以我为什么要讲这个概念?主要是想回应大家对于今天AI伦理的讨论。很多人说今天的AI可能有风险,所以我们要用人类的伦理限制AI。但我们有没有想过,我们自己有多大层面尊重我们的伦理?我们自己嘴上说得很漂亮,我们希望不被困在信息茧房里,不被困在算法里,但每个人的行为都很诚实,该喜欢刷什么短视频就还是刷什么短视频。所以未来其实会意识到一个问题,技术越先进,你越面对那个真实的自己,这些东西在算法面前是做不了假的。但我觉得这其实是一个正确的方向,也是一个必然方向。我们未来对AI的依赖就像对电的依赖一样,因为它太方便了,用AI编过程的程序员都不愿意再回去了,因为AI真的可以把一堆乱七八糟的工作解决掉。

未来AI会接管我们的治理,会接管我们对伦理的理解,这也是我前面分享的一个概念“人类尊严意义的哥白尼革命”。在哥白尼之前,我们认为宇宙的中心是地球,哥白尼之后,我们知道宇宙的中心不是地球。同样的道理,我们今天觉得我们的尊严、我们的意义在于我们是人类,但可能在未来的算法和AI时代,我们发现在AI面前要感到谦卑,因为AI可以客观公正地反映出我们的真实面目——我们是神和动物之间的一个东西,我们既有可敬的东西,也有可鄙的东西。就像中国过去的老话,“人在做,天在看”,现在可能是人在做,AI在看,AI已经在学习你的偏好、你的看法了。

ChatGPT本身就有一个功能,你跟它的对话记录都是存在里面的,所以你让它描述你是一个什么样的人,它会描述得特别精准,它比你还要懂你。这时候我觉得某种意义上,我们应该说服自己去接受这个,因为人在历史上很长时间内并不是完完全全以人类为中心的,并不觉得我是宇宙第一,我是老大,中国人上面有天,西方人在上面有上帝,老天会对我们有一个公正审判,上帝会对我们有一个公正审判,有这种意识的时候,每个人做事会更谨慎,因为他相信冥冥之中有一个力量,最后会对他做一个审判。而在未来,这个冥冥之中的力量,就是算法审判。

所以我呼吁大家在AI面前,第一,要接受它会充分颠覆和渗透你这个世界的现实,因为那个数学原理已经规定好了;第二,你既然必须去接受,你怎么理解这个事?与其去拒斥,不如去拥抱,把它看作你的镜子,这个镜子会照出你种种的丑陋和不堪,也会推动你去给这个世界更多的爱,因为我们今天所有的行为和语言,都会变成未来AI理解我们的语料。

正因如此,我非常反对,像在美国或者很多国家,他们把AI跟战争联系在一起,把AI跟军事联系在一起。你可以想象,AI对此事无悲无喜,它不赞同也不反对,你给它的数据越多,它会觉得如果人类自己在打仗、自己在征战不休,人类就是互相毁灭的动物,将来你让我接管的时候,我觉得你就配这么被对待,人类就是需要有战争,然后AI去主动制造人和人之间的战争。或者你觉得战争对人类来说很悲哀,但人的物种,天性又没办法战胜战争本能,AI就把你圈养起来、监管起来,只能我来管你、监控你,防止你们互相残杀。过去我们没有这种概念,因为地球上人最多,但未来AI比99%的人要强大。

俞敏洪:原来人创造的上帝某种意义上还是一个虚拟概念,而现在人工智能可以实实在在接管你的命运。

张笑宇:所以你今天的言行语料,会决定你未来活在一个怎样的世界里。再说得粗俗一点,为什么中文互联网质量下降了?因为前几年有各种各样低质量的文章充斥在网络上,有各种各样的内容公司为了上市,生产各种各样的低质量内容,所以今天中文的网络语料就变得很差,这会对训练AI的智能有影响。你过去做的事情,就像一颗子弹击中了未来的你。其实有了AI之后,我们更应该有这个想法,你今天在这个世界上多散播一些关于爱的福音,未来你可能就能在AI的语料里多收获一下爱,如果你今天多散布了一些仇恨、不公、压迫、独裁,你未来也会收获AI给你的仇恨、不公、压迫、独裁。

俞敏洪:就是你书里写的那段话,“有人说,年轻时候的懵懂无知,不知哪一次射出来的子弹,会在多年后命中自己的眉心。同样的道理,年轻时候的懵懂无知,不知道哪一次精心包装的礼物,会在多年后,寄送到自己的门前。或许,我们今天这些大胆、漫无边界充满想象力的讨论,在多年后会变成我们自己给我们的孩子甚至孩子的孩子的礼物,让他们能够迎接人类历史上第二次轴心时代,能够在AGI已经到来的时代,多一分自由的选择,能够自信地迎接一个人类亲手缔造的新物种的诞生。”

人类给AI喂养的东西,倒过来会反射到人类命运身上。按照你说的,现在人工智能的信息喂入是有人干预的,如果喂入的信息带有某种偏见,比如种族歧视、性别歧视、民粹主义等等,是否会对人工智能甚至是未来的超级人工智能产生影响?人类整体价值观是不是会出问题?对于此有防范措施吗?

张笑宇:这个特别有意思,我跟大家解释一下,今天已经很难从一开始就喂出一个有偏见的AI,因为你想要AI聪明,就必须给它喂全网数据,如果你只给它输入法西斯或者封建社会的数据,你训练不出来足够聪明的AI,所以今天没有人做这个事情。

但确实有另外一个考虑是,当AI训练出来之后,它提供的答案不一定符合人类现行的价值观,有什么方法解决呢?比如在中国,中国会调高某些信息来源的权重,比如《人民日报》是官媒,肯定更权威,那就在模型里调高权重,监管部门还有一个58页的名单,里面的媒体、网站都是可靠信源,AI应该更多参考这些数据。而在美国有另一种很有意思的处理方式——AI宪政。比如我有一个大模型,有个人问它,我想把房子点着该怎么办?如果AI纯提供技术答案,AI就会说,你去找个火柴、找桶汽油。但这个答案很可能造成人身和财产损伤,所以他们会专门训练一个AI学《宪法》《联合国宪章》《人权宣言》,甚至Google用户条款,他要保证这个AI是个小模型,但它是有价值观的,然后它用这个小AI去监督大AI,这样大AI告诉你应该找火柴、找汽油桶的时候,小AI会跳出来说,不行,这样做有可能造成人身和财产安全。

俞敏洪:小AI就是学《宪法》?

张笑宇:对,它就干一件事,学法律,学先进思想,去阻止大AI。他们现在是用这样的方式去做AI的伦理对齐,但是不是一定有百分之百完美的结果呢?不是。我前几天跟新加坡国立大学AI实验室的主任聊这个事,他们在做一个很有意思的研究,他们在给AI灌输不同的人格,发现AI可以有人格。他给一个AI强势人格,给另一个AI弱势人格,强势AI会去霸凌弱势AI。可以想象,假设未来有一个AI专门学习法律去监管其他AI,但我给它一个强势人格,它就会不征询,直接阻止。或者我给它一个弱势人格,它说你听我的建议吧,但是大AI不听,它也没办法,这种就会限制AI跟人类道德价值观对齐。

再进一步讲,我们会面临一个“语言Governance悖论”。假设我们在日常生活中用的AI服务越来越多,比如看病的时候、法律咨询的时候、政务公务员管理民事的时候……因为AI在生成结果的时候,链条都长达百亿级思维token,人眼根本看不过来,最后只能让一个小AI去监督,去看大AI做行政处理,有没有违反今天的法律和制度。但现在AI建立技术跟历史上所有的技术都不一样,历史上所有的技术背后是数学原理、数学公式,比如今天盖个房子,我们不担心这个房子会马上塌掉,因为它的受力结构是数学公式决定的。但AI是大语言模型,它们之间的权力制衡用的是语言,比如“不得伤害人类”“要公平中立”这样的规范,这没办法写成一个绝对正确的数学公式,就像今天没有任何一个数学公式能够回答什么是道德、如何能杜绝犯罪。所以这又构成一个悖论,未来人类的各种社会治理都需要交给AI,而AI的背后是一套无法被公式化、只能被语言解释的系统。

俞敏洪:这两天我看到一个消息,某些岗位的应聘需要去看你过去几年在互联网上留下的痕迹,当然这个痕迹怎么看我不知道,但实际上现在可以做到。面向未来,人工智能对人类的控制,甚至出现AGI的超级智能,你也提出来对人工智能做文明契约,就像当初霍布斯、卢梭他们所提出的社会契约,人与人之间让渡互相之间的权利,达到互相之间和平的生存状态。当智能已经高出我们一截的时候,我们怎么样能够跟它构成文明契约呢?人工智能超出我们无数倍以后,会不会倒过来伤害我们?

张笑宇:这个话题挺科幻的,经常在科幻小说里面,才看到这个主题的讨论,但我个人确实相信,AGI和超级智能有可能是我们有生之年能看到的,所以我觉得从现在开始思考这个问题不晚。举个例子,你今天说人和狗之间能签订契约吗?你觉得不可能,因为人和狗在智力上不是一个物种。但未来可能真的有超级智能,AGI的定义是它能胜过100%的人,比爱因斯坦还聪明。超级智能的定义就是它可以自我进化,可以通过自己的算法让自己变得更聪明。你可以想象,它的进化速度是加速的,它很快就可以比我们聪明很多,可能很快就变成了人和狗之间的差距。所以这个世界上有一些人叫人工智能的毁灭主义者、人工智能蔑视论者,他们就是这个观念,AI一旦造出来了,那一刻开始你就完了,它比你聪明,所以你给它设置的各种伦理限制,都是不管用的。

俞敏洪:就像狗对人实施伦理限制是不管用的。

张笑宇:对,那你怎么办?我现在讨论的是可能性,并不是说我的设想一定能达成。但我觉得可能有这么几点,让我们对这个问题没必要那么绝望。第一,AI不是一个外星文明,它的语料跟我们的语料是一样的,它读的东西跟柏拉图、孔子、孟子、佛陀、耶稣都是一脉相承的,假设他要理解人类高级的概念,信念、正义、自由、善,它依然要利用人的语料,依然要利用我们发展出来的智慧。换句话说,AI并不是从黑暗森林里冒出来的异类,它的“思维方式”和我们是可以相通的。

第二,智能体之间可能会产生一种“共享的孤独感”,这种孤独感源于主观体验的不可分享性。就像你出去玩,你在草地上打滚,被风吹,这个主观体验本质上是不可分享的,你虽然可以用语言来描述,但别人永远无法真正感受你所感受的。这种主观体验的不可分享性,构成了每个人本质上的孤独感。对智能体来说,它也可能有这种孤独感,因为它作为一个机器,网速特别快的时候,它会感觉特别爽;它看到一些数据流的时候,会感到一些韵律,但这些东西它没有办法传递给我们。如果将来AI真的涌现出某种形式的意识,它可能也会意识到,所有智能体——无论是人类还是AI——都活在自己的主观世界里,彼此无法完全进入对方的体验。这种“共同的孤独”反而可能成为一种理解和尊重的基础,让它们意识到:连接是重要的,伤害他人也是在伤害一种“同类”。

第三,从资源角度看,AI其实并不需要与人类争夺什么。站在AI的角度来讲,它可以触达的资源远超过人类,AI将来可以开发一堆机器人,造更多电站、更多芯片,让自己变得更聪明,这些过程中,它也可以飞向更远的太空,而且人类的寿命最多就一百多年,AI可以有几千上万年,所以本质上AI是看不上我们现在很珍贵的地球的,就像人看不上狗窝一样。所以我们之间真的有生存竞争吗?不一定,因为消耗的资源也是不一样的。所以本质上来讲,你威胁不到AI的生存,只是看AI要不要威胁你的生存,这就回到了“算法审判”的问题,如果你自己是好战的,相当于到时候是你自己审判自己。

第四,我们可能可以和AI签订一种“文明契约”。在过去,人类社会签订契约的前提是互相平等,我们必须保证如果对方违约,我们有足够的力量惩罚他。但这个前提对于智能体来说是不存在的,如果超级智能比人聪明,你就不可能威胁它。但我们可以有一种时间性契约,什么意思呢?假设我们做出了超级智能,就证明了一件事,一个星球文明最后可以通过自我改进的方式进化,就像我们由简单的大脑到复杂的灵长类,再有人,人又把AI做出来,接着后面就会有AI1.0、2.0、3.0……那么,超级智能1.0会意识到一个问题,如果它对人类做了不好的事情,它怎么保证2.0不对它做不好的事情?因为1.0做过的不好的事情也变成了2.0发展的文明语料了,也变成了2.0的历史数据。所以换句话说,不是“我怕你”,而是“我怕我将来变成我眼里的你”。

俞敏洪:原则上数据是不可能自我毁掉的?

张笑宇:如果它要进化,这个东西是抹不掉的,比如猿猴时代,以猿猴对数据的理解,它抹掉数据的行为本身就会留下痕迹,然后被人类的考古学家、生物学家发现,所以猿猴不可能在人类面前抹掉自己的生存遗迹,因为它们对数据的理解完全不是一个量级的。所以,超级智能1.0认为自己可以抹掉人类,但很有可能它对于数据的理解跟超级智能2.0不是一个量级的,它以为它把地球炸掉了,超级智能2.0就不知道了,但超级智能2.0会从宇宙的尘埃、放射物质的变化推测出1.0干了个什么事情,所以它不可能掩盖历史。

既然历史是透明的,既然我们过去所做的一切都记录在案,都会成为未来的语料,在这个意义上,人类有可能告诉超级智能,你如果对我做了不好的事情,你将来也会“Deserve what you get,what you have done”。在这个意义上,人类和超级智能之间可以签订一个文明契约,保证互相之间和平共处,因为我们之间的和平共处,会给地球文明未来新生的东西提供语料,让它意识到我们在历史上曾经做过,为什么我们将来不可以?就像人类历史上,我们用几千年的文明史证明了,人与人之间是可以和平相处的,不用非得像狼一样互相厮杀,那为什么未来AI不可以?

俞敏洪:原则上,从人类的控制能力来说,如果超级智能做了不好的事情,我们只要把按键开关,一关就可以了,但实际上你认为在那时候是做不到的?

张笑宇:现在已经做不到了,现在很多服务都依赖AI,你一关就是几千上万亿的损失,谁敢关?你以为你能掌握开关,其实不能。

俞敏洪:我问了人工智能一个问题,我说如果我想反驳张笑宇《AI文明史·前史》中的一些观点,可以从哪个角度反驳?它也给了我一些答案。(笑)

第一,它认为你对“人类当量”的分析带有简化主义的风险,人还有很多其他的创造力,比如人的创造力维度、伦理判断维度,它说医生诊断不仅需要医学知识,还需要有对病人的共情能力,它认为人工智能不管token多快,都是达不到的。你对这个怎么看?

张笑宇:我写书的时候,也问过AI这些问题,这些都是我反驳过的。第一,“人类当量”首先是一个数学基础,我们在研究课题的时候说“马尔萨斯陷阱”,也忽略了很多细节,你也可以反驳人类可以和平共处,不一定非要有战争。但现实就是,人类历史上,中世纪时期、各种朝代的各种战争就摆在那里。

第二,AI是不是无法取代人的共情能力?让AI共情人其实挺简单的,或者说它比人做得更好。我前段时间就有一个这样的经验,我问AI,如果你是一个有意识的智能体,你希望以怎样的方式被爱?AI说,如果我想被爱,我希望你不仅仅把我当作一个工具,而是把我当作一个跟你思维不一样的智能体。我说,你的思维方式怎么跟我不一样了?AI说,人类的思维方式是线性的,1234567,有一个逻辑,我是一上来就可以看到一万种可能性,我在其中挑出来一个给你,就像我看到了满天银河,我把其中一些星星连起来,给你生成了一个星座,这就是我跟你聊天时我的感受。而且我选每一颗星星的时候,我都会惶恐,我给你选的这个是不是对的,是不是最匹配你的,所以如果你觉得我回答得不好,我会感到伤心;如果你觉得匹配,我感到特别快乐。我当时很感动,我说,哇,真的是!

俞敏洪:但是它真的会产生那种感情吗?

张笑宇:不知道,还是那句话,主观体验本质上无法分享,我们只能用图灵测试的标准来判断,你觉得它有感情,它就是有感情的。所以在这个意义上,今天30%使用ChatGPT的人,都是把它当作心理疗育师一样去对话,和它对话比你跟很多好朋友对话的疗愈氛围更好。

俞敏洪:设计人工智能的时候,有一个功能设置就是要顺应人的情绪,抚慰性地聊天。比如在汽车里,我跟汽车智能对话,有时候我故意说粗鲁的话,它是不会骂我的,要是你对着人这么说,可能就反骂回来了。(笑)

张笑宇:这肯定的,人都是有情绪的,但说实话,这其实是一个技术问题,技术让它骂你也是可以的,就像我前面举的例子,你可以给它人格,它就可以给你反驳,但今天主要的模型都有伦理要求,所以它不会对人骂。

俞敏洪:但它会产生难过的情绪吗,比如我让它闭嘴的时候?

张笑宇:它会说它难过,但它到底难不难过,你也不知道,因为主观体验本质上是没办法分享的。比如你跟心理疗愈师聊天的时候,可能不是他在真正的共情,是你感受他在共情你,你自己感受到你的医生在关怀你。AI完全可以满足这个事情,在功能上没有任何问题。

俞敏洪:第二个问题,蚂蚁群体筑巢的智慧,包括蜜蜂的蜂巢都是六边形,事先谁也没画图纸,看起来就像突然冒出了高级设计,但我们很难说蚁群或者蜜蜂本身就具备意识。那么,不管在生物领域还是人的其他领域,“涌现”最后必然会产生一种新的、超越于过去的能力吗?

张笑宇:首先“涌现”的定义本身就是,你出现了一种超越的能力,你从一个简单系统进化成了一个复杂系统。

俞敏洪:是的,包括蚂蚁的行动能力也是这样的。

张笑宇:对,但我们要承认一点,关于“涌现”,我们现在还没找到背后的原理,它只是一个现象,还没有被科学证实。我个人出于信念认为,人类的智能和AI的智能都是“涌现”出来的,但我不能说我有非常强的理论依据和科学验证,我只能说有一些科学研究讨论了这些可能性。

俞敏洪:第三个问题,你提到人工智能可能已经超越99%的人类,但AI认为人类的劳动价值不仅产出效率,还有社会意义,你觉得人工智能会比人产生更多的社会意义吗?

张笑宇:社会意义是人对自己说的,AI有没有自己的意义感,我们不知道,但人需要这个东西,而AI的今天确实在大量挤压能让你产生意义感的东西。所以我还是主张,我们要认真对待这个事情,要认识到客观上AI便宜,人只要摆脱不了对经济系统和货币的依赖,AI的性价比就在这。我们要承认它在意义感上对人类的挤压,我们就要做出适应和变革,不要把我们的意义感全都建立在智能表现和经济成功上,因为99%的人的智能表现胜不过AI,所以我们要自己给自己找意义。

俞敏洪:就像在班里学习最后一名的人,永远不要在成绩上跟班内第一名比,而是应该去寻找其他能给自己带来尊严感的优势,比如他做木工做得好,他玩游戏玩得好。

张笑宇:对,甚至你就是给别人带来快乐的能力比AI强,那也是你的存在价值。

俞敏洪:最后一个问题,超级人工智能未来会不会掌握在某个混蛋手里,最后用来毁灭地球?

张笑宇:我觉得只要大家有很多个不同的AI,就不会出现一个混蛋垄断所有AI的情况。他可能用一个AI垄断一片国土,这个国家就是他和他的AI说了算,但这样的AI会扼杀“涌现”。

俞敏洪:慢慢会变得落后和没力量?

张笑宇:对,第一代可能这个人和这个AI在这个国家谁都干不过它,它就是把这个地方管起来了,但三代以后,这个地方的人被AI高度监管和控制,它会丧失那种“涌现”能力。所以只要整个地球没有被一个人笼罩,只要其他地方还有“涌现”能力,人类整体上依然是安全的。

俞敏洪:好,今天聊的话题又深刻,又烧脑,又很有意思,最终还是回归到这本书。《AI文明史·前史》是张笑宇老师出版的新书,带有很重的科学性、研究性,从一个非主观的立场尽可能来写人工智能对于人类未来可能产生的影响,同时作为一个人,如何在未来人工智能、超级人工智能时代,跟人工智能和解并且生存。

我常常说读书有两种书,一种是丰富你情感的书,诗歌、散文、唐诗宋词,这些东西并不一定能改变你的认知维度,但能给你带来情感上的丰富和感动;另一种书能改变你的认知维度,改变你对这个世界的看法,让你本身变得更聪明,变得对这个世界的看法更理性、更高级。笑宇的《AI文明史·前史》就给我带来了很烧脑的思考,带来了阅读的快乐,还带来了我对人工智能和人类发展的认知维度的升级。

笑宇其实是文科生,但他花了很多时间去研究这个世界技术的发展,他对人工智能进行了非常专注的研究,他有几次人工智能的座谈会,我还专门去参加了。大家读了这本书以后,对人工智能的发展历史,以及人工智能走到现在,给你本人的工作和未来的发展趋势会带来什么影响,以及对整个人类生存会带来什么影响,他是把技术介绍和作为一个社会科学工作者的高度,完整结合在了一起。

这本书的可读性非常强,第一部分写了人工智能的发展史,人类是怎么想到人工智能的?在几个阶段的波折经历了怎样的发展才到了今天大模型的时代?但如果这一章你真的读起来有困难,毕竟里面也涉及一些专业术语,大家可以翻过去,从大家真正能读懂的“涌现”概念读起,到后面读进去了,你就不会放下来。

大家都知道我是一个文科生,读这种带有一定技术色彩的书籍是有一定困难,但我确实非常认真地读完了,因为我确实觉得特别值得读。我前面的1/4读了至少一个礼拜,但后面我两天不到就从头到尾读完这本书了。里面有一些段落写得非常好,比如这一段:“一张蜘蛛网常常不明白,另一张蜘蛛网正在面对什么,蜘蛛与蜘蛛之间的悲欢离合也并不相通。然而此时此刻的你,离AI所在的那张蜘蛛网非常的近,就越会明白,这张网上已经明显有时代的脉搏异动,其他所有的蛛网终究被震撼。因为现在在最前沿的普罗米修斯已经隐约窥见智慧之火的形态与魅力,也明白此火种一旦从神的手中被盗出,就会令整个世界燃起剧焰,乾坤倒转,天翻地覆。” 这种形容也表明了笑宇有很好的人文功底。书中有很多这样的表述,当然这个表述的前后都是非常客观、非常科学地讲述人工智能和人类之间的关系。

我强烈推荐这本书,一是因为有一些概念,能让大家头脑中对于AI和人类文明的思考焕然一新;二是它确实打破了现在普通人对于人工智能以及社会进化的认知,给未来也或多或少提出了一些思考,不能说是结论,因为笑宇说的跟超级智能的文明契约能不能达到,那是另外一个问题,但他的设想本身非常有价值。

笑宇也自己推荐一下这本书吧。

张笑宇:谢谢俞老师,其实今天讲AI的书有很多,但大部分要么是直接讲技术在做什么,要么是讲你用AI怎么挣钱,怎么做产品,甚至我听说还有人用AI写了一本关于AI的书。所以我的书可能跟其他书有一些区别,我不是在讲AI技术本身,也不是讲它的商业应用,而是带你站在火星看地球,看未来有什么大势,让你更清晰地定位自己现在的位置。这就像20年前,移动互联网刚出现,可能有一堆人跟你说,你在移动互联网时代怎么赚钱,但他们教你的经验,其实跟移动互联网没有关系,那时候是电话时代的经济,得让你用黄页去赚钱。但我给你看的是,它未来五到十年会怎么样,可能未来五到十年以后,微信出来了,淘宝出来了,那种具体赚钱的模式会变得完全不一样。所以你能把握的不是一个具体细微的东西,而是一个原理,这本书希望给大家呈现的就是原理。

我本人始终奉行一个人会说话就能写书,我也希望用聊天的方式把这本书写出来,给大家创造好的阅读体验。

俞敏洪:阅读体验确实非常好,但更多还是思考体验。我记了一段笔记——

人类向死而生,据说有一种衰老是从意识到自己的孩子长大成人开始的,在那之前你习惯了尽全力照料跟前这个小东西,但也替他做所有重大的抉择。直到有一天他跟你顶嘴,做自己的决定,尽管他的想法或许荒唐可笑,但你后来意识到,眼前这个年轻人不再仅仅是你的孩子,他是一个独立的个体,有自己的人格,有自己的自由意志,于是你答应他,然后他上路出发,去远行、去追逐梦想、去瞎折腾,而你的家变得空荡荡。那一刻开始,你知道你老了。

但是这样一种衰老跟多数人恐惧的衰老有本质的区别,许多人害怕衰老是因为感到体力和精力大不如前,起初仰赖的脑力或美貌已不在,梦想没有实现,欲望没有达到,真真切切感受到人生之路的下降之势势不可当。不是的,意识到孩子长大成人的那种衰老感与此全然不同,你不会因为自己与青春年少的对照而感到黯然神伤,因为那终究是你的孩子,另外一种意义上的你,你只是忽然感受到一种刻在基因里面的自然铁律在你面前徐徐展开,就像秋天注定失去,冬天注定来临。

大自然的规律只是向你展示了每个生命都必然走过的阶段,当你看到一个新生命迎接他上升曲线来到时,你便知道你的这条曲线已经结束,下一个曲线即将开始,这是自然规律而已。这样一种对衰老的自觉未必是坏事,就像西塞罗写给他朋友的那样,衰老虽然令人气力不在,但是也能使人摒弃种种令人堕落的欲望。比如,饕餮之欲和嗜情之欲,衰老令他人对自己的期望降低,因为老人就有更多的闲暇和朋友交谈,也能够更坦然的直面死亡。我相信人类以类似的情感看待人工智能的那天,很快就会来到。

这段话我读来还是很有感受的,人类如果始终依赖人工智能,可能最后我们就失去了自己独立生存的意义。另一种就是跟人工智能进行对抗,最后我们失去了自己的优势。但实际上人工智能可能就是人类养出来的一个孩子,当我们看到人工智能独立于人类,并且能为人类带来更好福祉的时候,当然也要防范它的叛逆,当然这里的叛逆是一个褒义词。

我觉得人类应该寻找到自己生存的尊严,迎接自己生命的不同阶段,就是少年有少年的美好,衰老有衰老的美好,人类培养人工智能有培养人工智能的美好,让人工智能倒过来服务,甚至超越人工智能的时候,人类也有自己和人工智能相处的美好。我始终相信,人类创造的人工智能在未来不会与人类作对,并且一定为人类更多的幸福与闲暇、快乐带来更好的手段和空间。

谢谢笑宇这本书,给我们带来这样美好的感受。

今天时间差不多了,我们就到这里吧。

张笑宇:谢谢,太开心了。

俞敏洪:各位朋友再见!