1. 一个词的换血从AI到超级智能是怎么发生的最近半年我有个非常直观的感受在各种行业会议、技术社区、基金路演甚至产品发布会上“AI”这个词正在慢慢被“超级智能”替代。不只是中文语境英文世界的AGI、ASI同样频繁出现在头部公司的战略文档里。这显然不是单纯的换称呼而是一场围绕技术方向、商业叙事和风险坐标的重新定义。这篇文章我打算把两件事聊透一是AI为什么会被改名为超级智能二是巨头们排队签署的责任协议到底能发挥多大实际效力。你可以把它当成一篇行业观察也可以当成某种角度的投资参考但最核心的是帮大家理清这两件事背后的真实逻辑。1.1 从“模型”到“智能体”能力形态在变化先看最底层的技术变化。过去我们谈AI多数时候指的是“模型”给它一段文字它回一段文字或者帮你在图片里画个框。这种系统的能力边界相对清晰你训练它识别猫它就不会自己跑去订机票。可现在很多AI产品已经变成了“智能体”形态它能自己拆解目标调用搜索引擎、编程工具、订票接口再把结果串成完整的任务流程。你留给它一句“帮我规划下周的旅行”它能自己查航班、比价格、排行程中间还会根据天气变化临时调整方案。这种从“会聊天”到“会干活”的跃迁让不少从业者觉得原来的词已经不够用了。另一个变化在能力上限。以前我们说AI比人强基本还局限在某个单项上下棋、翻译、识别图片都算。现在则在写代码、做设计、策划营销方案这些综合性任务上AI能做到接近甚至超越不少初级从业者的水平。当系统开始展现出“在未知环境里自己定目标、自己找路径”的特质时用一个偏指单项任务工具的概念去称呼它确实有点谦虚。于是学术圈和产业界不约而同开始寻找新的表达“超级智能”自然就被捞了上来。还有一个细节值得注意这次改名不是自上而下的官方定义而是自下而上的集体选择。没有哪个权威机构发布公告说“从今天起AI叫超级智能”但你会发现战略报告里这么写融资PPT里这么写招聘广告里也这么写。语言本身就是产业的映射当一个词的代表性和解释力超过旧词时替换就发生了。这种过程往往比一次正式改名更有决定性因为它意味着整个群体已经默认了新的认知框架。1.2 舆论和资本如何放大“超级智能”这个词但说实话技术变化是土壤真正把“超级智能”浇成热词的还是资本和舆论的合力。这一轮AI浪潮已经走了好几年投资人需要更性感的叙事来维持估值想象力。“AI”这个概念讲得快透支了AGI也不算新鲜而“超级智能”这种自带科幻感的提法正好能把公众对强人工智能的想象拉到一个新维度。这样的剧本我们见过很多次。很多年前“云计算”一夜之间替代了“服务器托管”这个提法并不是说底层技术突变而是整个产业链需要一个新的共识来吸引资金和人才。现在几乎同样的事情正在重演模型演示视频刷屏时标题里带“超级智能”比带“AI”更有冲击力初创公司写商业计划书时说明自己“构建通往超级智能的基建”和说明自己“做一个AI助手”拿到的关注度完全不在一个量级。更关键的是这个概念还承担着风险沟通功能。把AI叫成AI公众容易低估潜在影响把它叫成超级智能又容易过度恐慌。于是我们看到的现象是一边用超级智能描述风险一边用责任协议安抚预期。两者配合着出现才构成完整的叙事。到这里改名背后的三条逻辑线已经呼之欲出我展开说一下。2. 改名不是拍脑袋背后有三条同时推进的逻辑线2.1 技术逻辑智能系统从“会答”走向“会干”要理解改名得先理解这波技术到底变了什么。传统AI分两类弱AI和强AI。弱AI只能执行预设任务输入稍有偏差就罢工强AI才具备通用智能能像人一样迁移知识、自主学习。过去十年里市面上大部分产品都还停留在弱AI阶段用“人工智能”这个词勉强贴切。大模型的出现打破了这种平衡。模型不再是人工编写的规则代码而是从海量数据里涌现出来的统计系统你没法用预定义逻辑穷尽它的行为。再往后当智能体框架接入工具调用能力系统开始具备执行闭环设定目标、拆解任务、调用工具、验证结果、自我修正。这个阶段你更容易听到的变成了“AI Agent怎么扛并发”这类工程化问题而不是“模型能否理解人话”这种理论问题。从“会答”到“会干”这种行动力上的跳跃是改名最扎实的根因。多智能体协作进一步放大了这种观感。以前一个模型是孤军奋战现在不同角色的智能体可以形成工作流一个负责规划一个负责搜索一个负责校验最后再由一个汇总生成。对外界来说这种“一组AI协作完成项目”的画面已经接近人类团队的协作模式。当围观者看到这种场景时他心里冒出来的词大概率不是“人工智能”而是“某种更接近智慧主体的东西”。技术形态的改变实实在在改变了语言的受体。2.2 商业逻辑新概念是最好的估值工具资本层面其实没那么多弯弯绕。资本市场对新概念是永远饥饿的。AI概念讲了三年估值框架已经成熟业绩增长的期望也被透支得差不多了。想讲下一个三年必须换一副更锋利的表达。“超级智能”恰好补上这个位置它把目标从“做出更好的工具”抬升到“创造新物种”想象空间瞬间放大一个数量级。放在大公司身上尤其明显。你把自己定义成AI公司就得跟同行拼落地场景、拼转化率这都是很辛苦的生意但你把自己定位成超级智能研究机构就切换到了“人类文明级”的叙事维度人才招聘、政府沟通、合作谈判都会跟着换一套语境。改名在很大意义上就是赛道的重新划分。这里要插一句容易混淆的点改名的并非产品本身而是公司对外沟通时所采用的战略框架。大家熟悉的助手类产品在用户界面里未必叫超级智能该叫AI助手还是AI助手。但翻开公司年报、技术白皮书、创始人公开信你已经能明显感觉到产业的自我定位正在从“工具提供方”变成“通用智能探索者”。这种微妙的分层恰恰说明改名更多服务于企业价值叙事而不是产品功能列表。2.3 治理逻辑我们需要一个更强的风险坐标系第三条线和AI治理直接相关。我接触过一些做AI政策研究的朋友大家有个共识现有的软件风险标准很难直接套在超级智能类系统上。传统软件的风险来自代码缺陷补丁一打问题就解决而超级智能类系统的风险来自能力不可预期性和失控可能。你用“功能是否正常”来验收一个聊天机器人没问题但验收一个能自主行动、自我学习的系统就必须回答“目标是否对齐”“行为是否可监督”这些新问题。所以你会看到一个有趣的现象同一批公司一边高调谈超级智能一边主动签署责任协议。很多人觉得这是自相矛盾我反而觉得这非常自洽。用高预期吸引资源和关注用责任协议对冲安全风险、安抚公众和监管两边同时做叙事才完整。这也解释了为什么“改名”和“签约”总是前后脚出现。顺着这个话题我们该具体看看那些责任协议到底写了什么。3. 盘点那些被巨头们签下的责任协议到底签了什么目前大家讨论得比较多的“责任协议”其实装着好几类东西各自的约束力差别很大。一类是法律性监管框架以欧盟的AI法案为代表它按风险分级来限制AI应用场景对高风险系统提出透明度、人类监督、审计等要求另一类是企业自愿型的安全承诺例如几家前沿模型公司发布前做安全评估、设定风险阈值、必要时暂停部署还有一类是研究机构提的原则性倡议包括红队测试指南、可追溯性要求等等最后是联合国框架下的全球性决议更多是在定调子、促协作。把这几类混在一起谈“协议效果”很容易得出片面的结论。责任协议/框架类型核心承诺主要短板欧盟AI法案法律监管按风险分级限制应用场景高风险AI须满足透明度、人工监督、审计要求落地周期长对开源模型与通用大模型的有效监管仍在探索前沿AI安全承诺行业自愿发布前安全评估、设置风险阈值、必要时暂停部署缺乏独立监督触发条件由企业自行判断超级对齐研究计划研究机构承诺投入可观算力研究“如何让超级智能服从人类意图”验证周期长短期内难以落地为工程规范全球性AI治理决议国际共识呼吁各国推动可信、安全、合乎伦理的人工智能发展不具强制力更多是指明协作方向读这些协议条文出现频率最高的几个词基本固定透明性、人类监督、风险阈值、红队测试、可追溯性。听起来很美但最大的问题是几乎没有哪份协议给出过量化的验证方法。就拿红队测试来说有的公司组织几百名专家连续做几个月对抗测试有的公司只是拿几千条攻击提示词跑一晚上就算交差。两份文件上都写着“完成红队测试”实际含金量差着十万八千里。3.1 从签署到生效链条上有哪些薄弱节点要判断协议到底有没有用可以先看一份协议从纸面到现实要经过多少环节。最理想的情况下至少要有五个节点定义风险、独立审计、发现问题、施加处罚、整改闭环。目前大多数责任协议其实只完整做完了第一个节点它会很详细地告诉你哪些场景算高风险、哪些行为不可接受但后面的审计与处罚基本全靠企业自律。独立审计这一段是重灾区。AI模型不是普通代码很难靠外部黑盒测试判断它是否存在重大风险。大模型的行为是概率性的同一个问题它这次回答没问题换个语境就跑偏。真正可靠的审计得让审计人员理解权重、训练数据和系统架构几乎等于要求企业把核心技术底牌交出来。现实里大多数第三方审计只能停留在抽查对话记录、跑一组基准测试的层面这种深度远远不够发现系统性风险。再往后是“发现与处罚”的衔接。几乎所有协议都会写“违反承诺将承担责任”但对“由谁认定违反、按什么标准认定、罚什么”统统语焉不详。有些协议甚至没有违约后的补救和整改条款。这导致一个很现实的结果签署环节的完备程度和落地执行环节的完备程度完全不是一个层级。看到这里你大概能明白为什么很多人会质疑协议只是公关行为——因为在很多细枝末节上它确实还停留在公关层面。4. 责任协议的实际作用超出“有”和“没有”的简单二分法有人非黑即白地说协议纯属摆设我觉得这个判断太偷懒了。哪怕是约束力最弱的非强制倡议也至少干成了三件实事。4.1 协议至少干了这几件实事第一件定义什么是危险。这句话听起来像废话但在风险治理里定义本身就是最大的进展。没有协议之前各方连“什么算高风险AI系统”都达不成共识安全讨论经常变成各说各话。有了白纸黑字的定义大家至少有了一个共同的靶子后续谈立法、拨预算、定技术路线才有了抓手。第二件设定行业底线。在安全标准极度不统一的当下哪怕是一份自愿型承诺也相当于给行业画了一条存在但很低的“地板线”。现在的实际情况是只要某家大公司公开承诺了要做发布前评估业内同行多半会跟着搭一套类似的流程。这套流程可能抄来抄去论深度很一般但至少让行业从“完全没有体系”变成了“有基础体系”这本身就是边际进步。第三件为正式立法提供素材。我观察到监管机构起草AI相关法案时会大量参考企业自愿协议里的条款措辞。自愿协议某种程度上是在替立法者做政策预演。所以你可以说协议眼下的约束力不强但它已经进入了规则演化的原材料池这层价值容易被外界忽略。我个人习惯把一家公司的安全能力分成三个级别发新闻稿的安全、走流程的安全、可审计的安全。绝大多数公司目前只做到前两级而协议真正要推动的应该是第三级。4.2 但它确实也覆盖不了这几类高危场景局限也要摆到台面上说。第一种局限是竞技压力下的半推半就。很多签署方之间本身就是商业对手市场份额争得头破血流。当竞争对手抢跑发布一个能力更强但安全评估不充分的模型时其他公司很容易陷入“如果我不发用户就跑对面去了”的焦虑。这样的局面里纸面承诺很容易在发布前一刻被商务逻辑压过去。第二种局限是开源生态和“场外玩家”。责任协议的签署主体通常是有组织的大公司但前沿模型权重一旦开源任何人都能拿去微调、融合、部署。协议约束得住签字的法人主体约束不住散布在全球的个人开发者和灰色市场。这个结构性盲区不是靠几家公司关起门来签字能够补上的。第三种局限最隐蔽也最值得关注模型能力的自我进化。AI系统一旦接入自主学习机制可能自己组合出新的技能而这些技能组合完全不会出现在训练阶段的风险评估表里。协议里的风险阈值是针对签署时点的模型状态定的可几个月之后模型可能已经长出了协议里压根没提到的能力。这意味着协议必须是一份活的文档要能频繁更新风险定义。现实里能做到这一点的协议我目前一份都没看到。把这两节放在一起看我觉得对责任协议最公允的说法是它不是保险箱但它是早期护栏。你不能指望它拦住所有风险可完全不设置它情况大概率会更差。真正的问题不是“要不要签”而是“签完之后有没有把条款喂给审计和执法”。5. 我的判断与其盯着称呼和签字不如盯住这几个硬指标聊到这里可以给一个偏个人色彩的判断了。改名“超级智能”值得认真对待但不值得恐慌签署责任协议值得鼓励但不必神化。真正决定安全和可信度的藏在几项可验证的机制里。第一个可考察的指标是企业内部有没有独立于业务线的安全团队并且这支团队有没有叫停发布的实权。很多公司都有安全部门但它们往往服务于“项目能不能上线”。一旦安全评估拖慢发布节奏话语权经常是不够的。如果安全团队能在高层会议上一票否决哪怕只是暂缓三个月意义也远远超过几页纸的签字。第二个硬指标是有没有公开且可复核的评估报告。一家公司愿意定期公布模型安全评估结果包括失败案例、内部校验流程、具体的量化指标那它比只发新闻稿的公司可信得多。哪怕评估方法还很初级“愿意公开”这个动作本身就在传递信号。第三个硬指标是事故披露渠道是否真实存在。协议里几乎都会写“发现风险应及时通报”但真正出问题时有没有一个外部对象能接收并验证通报有没有一个流程确保整改闭环才是检验协议成色的关键。见过太多协议签完之后连对外联络邮箱都是摆设这种文本签得再多也没有意义。第四个硬指标是安全承诺有没有绑定资源。算力是AI研发里最硬的资源一家公司如果愿意把固定比例的算力拨给安全研究那比任何原则性表态都值钱。类似的如果安全预算能占到大模型研发预算的明确份额这个公司谈“负责任AI”才算有点底气。所以我的结论非常朴素一个词能不能立住一纸协议有没有用不看签约仪式上的排场而是看未来一两年内当AI开始真正展现出接近“超级智能”的能力、或者出现第一起真实的安全事故时这些名字是否还在名单上这些机制是否真的被启动过。我倾向于认为协议最终要被更硬的东西取代比如标准的审计体系、强制的事故报告、真正的独立监督以及把它们串起来的敬畏之心。而“超级智能”这个称呼如果只停留在营销层面它迟早会像很多热词一样褪色但如果它真的促使整个行业像对待核设施一样对待大模型的能力边界那这个词和这一排签名就算超额完成任务了。目前来看它至少把足够多的人推到了讨论桌前这就是我观察到的最大价值。