通往“人本超智能”之路

作者：穆斯塔法·苏莱曼 | 微软AI首席执行官

“如何保证日渐强大的AI技术不会在今后某个时刻失控？对席卷全球的AI技术创新而言，比拼速度更紧要，还是加以限制更紧要？人类应以何种模式与越来越聪明的机器相处？

Mustafa提出的“人本超智能”构想于业内首次对AI发展守则与人机关系做出了实用化界定。在我看来，这一理念以“人本”为基石，强调须在确保“人类至上”的基础上，再加速AI科技创新。我认同这种先立基准、再谋突破的创新思维，它为偏向无序演进的技术设计了文明的底色与基座，描绘了有边界、有温度、“与人为善”的全新智能体系蓝图。”

张祺博士

微软全球资深副总裁、微软AI亚太总裁

以下为《通往“人本超智能”之路》全文：

01 一个以人为本的未来

一个值得深思却常被忽视的问题：世界真正需要的是什么样的人工智能？我认为，这或许是这个时代最为重要的问题。

过去数年间，AI进展之速令人惊叹。我们轻松跨越了一座座里程碑。图灵测试——这一指引行业逾七十年的标志性挑战，几乎是在无人喝彩且鲜有觉察者的状态下被悄然突破。随着具备思考与推理能力的模型出现，我们已抵达迈向“超智能”的关键拐点。如果说“通用人工智能”（AGI）意为机器可在所有任务表现上与人类比肩，那么“超智能”则意味着，AI将远远超越人类的能力。

与其无休止地争论“能力”或“时间”，不如认真思考技术的目的：我们希望它带来什么，它的边界在哪里，以及如何确保它自始至终都能造福全人类。

在微软AI，我们致力于实现“人本超智能”（Humanist Superintelligence, HSI）：一种始终服务于人与社会、以人为本的先进智能能力。它不是不受限制、完全自主的实体，而是经过严谨校准、具备明确边界、面向具体问题的系统。我们的目标是在不断探索并优先打造前沿AI形态的同时，确保人类全程掌握主导权，进而加速解决全球最紧迫的挑战。

为此，我们组建了由我领导的微软AI超智能团队，以打造全球首屈一指的AI研究与开发中心为己任。我提出“人本超智能”概念的原因，是为明确表达：我们所追求的，不是漫无目的的技术目标，不是脱离使命的挑战，更不是那种“为了攀越而攀越”的峰峦，而是为切实解决现实问题，确保技术可掌控、可验证、可治理。我们并非要构建一个模糊抽象、虚无缥缈的“超智能”，而是要探索一种能够以清晰、明确的方式服务人类的实用技术。在此过程中，我们拒绝“AGI竞赛”的叙事，而是将之视为一项更广阔、更深刻的人类事业，旨在改变我们的生活与未来图景；我们也拒绝AGI会带来“繁荣或毁灭”的二元论，而是会以长期责任感，推动AI为数十亿人带来切实、具体且安全的福祉。我们深知肩负的责任重大，必须确保这项工作万无一失。

人本主义的历史贯穿着对教条、极权与悲观的抗争，它守护了人类尊严与理性思考的自由，推动了道德进步。秉持这一精神，我们确信，“人本超智能”路径能够帮助人类释放AI的巨大潜能，同时规避极端风险。

02 攀登指数曲线

今年，似乎AI领域的每个人都在谈论“超智能的曙光”——这样的系统将具备“学习如何学习”的开放式能力，堪称“终极元技能”（The Ultimate Meta Skill）。因此，它可能会持续提升自我，在所有可想象的活动中远远超越人类表现，展现出无可估量的价值。

但问题是：意义何在？

答案是，人类将获得巨大的回报。无论生活水准，还是科研效率，都将飞速提升——一个为新艺术、新文化、新增长提供养分的时代。这是一项真正鼓舞人心的使命，数十年来激励我前行。我们应拥抱并加速科技发展，因为它一直是人类历史上最伟大的进步引擎。我们亟需更多、更快的创新。

过去 250 年里，人类智慧推动了科学发现与商业应用的美好进程，将人类平均寿命从30岁提高至75岁。正是我们的智慧与发明创造，为这一时期由10亿增至80亿的人口提供了食物、光明、住所、医疗保健、娱乐消遣与知识传承。

技术让我们能够环游世界，用抗生素治愈感染，凝望宇宙深空，与千千万万陌生人分享一张猫咪表情。走进任何一所现代超市、医院、学校或办公室，目之所及都是人类智慧的结晶。AI是这一旅程的下一段——一次变革性的加速，也构成了萨提亚（Satya Nadella）所说的“将全球GDP增长率提升到10%”的内涵。作为“支撑平台的平台”（As a platform of platforms），AI是微软使命的核心，让每个人都能在全球范围内进行创造和发明。

因此，当你听到AI时，请记住这一点：它是让我们共同成为“最优秀的自己”的途径——助所有人获得更好的医疗保障；推动社会形态升级、摆脱日益加剧的零和博弈；促进经济增长，让财富更广泛地惠及全社会，实现整体生活水平提升。换言之，如果没有AI，未来几十年，跨越将更难实现——AI将帮助我们不断突破想象与行动的边界，例如发现新的能源形态、创造新的娱乐模式。

人工智能——特别是“人本超智能”，是重构人类繁荣的关键。

03 安全与约束

承认超智能价值的同时，我们必须扪心自问：如何约束（确保其安全与受控）并对齐（让它足够在意人类、不至于伤害我们）一个从设计之初就旨在不断超越人类智能的系统？我们根本无法预知，一个可自主运作、持续演化、日益完善并了解我们科学与社会全貌的系统，最终会演变什么状态。

况且，由于类似的超智能系统能够不断自我进化，因此我们需要持续对它进行约束与对齐，这不是一次性的挑战，而是永无止境的任务。

04 技术的使命

技术的使命是推动人类文明进步，让每个人生活得更幸福、更健康，创造一个人与环境共同繁荣的未来。爱因斯坦曾说：“对人类及其命运的关注，必须始终是所有技术努力的首要考量……只有如此，我们心智的创造才能成为有益人类的福祉，而非带来灾祸的诅咒。”

任何无法实现这一使命的技术，都是失败的。

05 “人本超智能”的愿景

我认为，我们技术工作者需要去设想一种绝大多数人都愿真正生活其中的未来。

“人本超智能”提供了一种替代性愿景——它以不可妥协的人本主义为基石，同时承诺加速技术创新……但顺序至关重要。先保障不伤害，再推进加速，这一先后顺序是关键。它并非被设计成在所有任务上打败人类、支配一切。相反地，它以应对具体社会挑战为出发点，以提升人类福祉为目标。

例如，我们在医疗诊断领域的研究正迈向“医疗超智能”，这将带来革命性变革，同时，我们将之设计为一系列聚焦于特定领域的超智能系统，因此约束与对齐的挑战相对较小。

“人本超智能”的目标很简单：获取科学与创新的全部益处，避免不可控风险。它是一种常识性的路径，确保AI始终站在人类一边，支持并增强人类角色，而非取代；让我们更聪明，而非更脆弱；让地球更健康、更丰饶，保护自然环境。

06 应用场景：三大方向

人人皆享的AI伙伴：每个人都将拥有一位懂你、助你、激发你的AI伙伴，不仅帮你学习、完成任务、保持高效，更会在你心力交瘁时给予陪伴和支持。AI伙伴将深刻改变教学方式——它了解每个人的优势与短板，可以和教师携手，为释放学生潜能、激发其求知欲提供支持，这意味着因人而异的学习方法、动态适配的课程体系及高度个性化的练习与反馈。

医疗超智能：专家级诊断与临床预测，顶级医疗资源全球共享，降低成本，提升效率。

清洁能源突破：AI驱动新能源研发、碳负排材料、轻量电池、核聚变探索，重塑能源格局。

这些突破将从极深层次改善人类文明，造福数十亿人，让未来十年成为人类历史上生产力最为强劲的时期。

07 安全边界与全球协作

我们必须明确：对超智能的开发不能无边界、无规则。行业、政府、社会需要协调一致，制定规范，确保技术始终服务人类。

这是我们发布这篇文章的原因之一：开启对话，表明我们不会不计代价追求超智能。

08 人类至上

最终，“人本超智能”所需要的，是整个行业思维方式的转变：构建AI的人，是在为更强大的AI优化，还是在为人类优化？又由谁来判定呢？在微软AI，我们的信念简单而坚定：人类永远比AI更重要。我们希望打造可深刻诠释微软使命的智能技术——予力全球每一人、每一组织，成就不凡。

“人本超智能”始终将人置于中心。它是一种站在人类一边的智能，是受掌控、可约束、以人为先的AI，一个不会、也无法打开潘多拉魔盒的系统。受限、对齐、安全，这些只是底线。“人本超智能”要确保的，是人类始终掌握方向盘。

超智能可能会成为人类有史以来最伟大的创造，但前提是它必须把人类利益置于一切之上，必须服务于人类。这种以人为本的超智能是世界需要的，也是我们希望构建的。

微软AI超智能团队正在为一个“人本超智能”成真的美好未来而努力。

加入我们，共建未来。