最近一场争论让我看得很有意思一批数学家公开发声批评 OpenAI 的封闭研究方式言辞相当辛辣甚至用了“反科学”这种词没过多久一批物理学家就站出来回怼说数学家的要求“既不现实也不符合科学传统”。我原以为只是两个圈子在社交网络上隔空吵架但认真读完双方论点之后发现这其实就是两种科学世界观的一次正面碰撞而且碰撞出的问题直接影响我们如何评估大模型、如何定义“可信AI”甚至影响我们怎么写技术博客、怎么做实验、怎么判断一个系统到底能不能用。这篇文章不站队我只想拆开看数学家到底在担心什么物理学家为什么觉得那种担心跑偏了以及这种分歧背后有没有一个更值得所有人学会的方法论。无论你是做AI研究、写代码还是只想搞懂行业里为什么总在吵“开源/闭源”“可解释/黑盒”这篇内容都值得看下去。1. 这场争论到底发生了什么1.1 数学家的公开声明说了什么事情大致是这样的一批以理论数学、逻辑学为背景的研究者联署了一份公开发表针对 OpenAI 的态度很明确核心诉求有三条。第一要求 OpenAI 公开训练数据、模型架构、损失函数设计以及完整的训练日志理由是“没有这些信息外部研究者无法对模型的行为做任何数学上的分析和验证”。在他们看来一个连内部原理都不让看的系统就像一篇没有推导过程、直接给结论的论文学术共同体应该拒绝承认它的“科学地位”。第二主张模型的可信度必须建立在形式化验证的基础上。他们强调如果系统在关键场景比如医疗、司法、金融决策中出现错误我们不能只靠“统计上看起来不错”来搪塞而是要能证明它在定义域内不会出现某些类型的错误。数学模型的好处是有清晰边界坏处也是——一旦边界越了代价往往是灾难性的。第三警告“黑盒模型的大规模部署”会带来无法预估的系统性风险。他们类比历史上一些因为“过度自信于经验技术”而招致的失败事故呼吁业界在充分理解模型机制之前不要继续放大模型的权力。这段话的逻辑本身是自洽的数学训练出来的思维方式就是“先证明再使用”。如果你是一位数学家看到全世界都在用一堆你无法分析内部结构的模型做决策你会焦虑是很正常的。这种焦虑不是出于保守而是因为在他们眼里一个没有经过逻辑检验的系统本质上和赌场里的转盘没有区别。1.2 物理学家为什么看不下去物理学家回应得也很快。他们的反驳思路不是去逐条验证数学家的数学推导而是直接质疑对方的前提。物理学家说你们把AI模型当成数学论文来审要求看完整证明、要求形式化验证可是这个世界上的绝大多数可靠系统从来都不是靠“先证明再落地”做出来的。给你们举几个例子天气预报的物理模型从来没有被形式化证明过“明天下午三点一定下雨”但没人说天气预报反科学。飞机发动机的流体力学仿真也没有人能给出全工况下的解析证明但适航认证靠的是大量地面试车、飞行测试和统计外推。量子力学本身到现在还有关于波函数坍缩、测量问题的解释争议也没阻止人类造出芯片和MRI机器。物理学家觉得数学家想要的那种“完整透明”和“严格证明”在真实物理世界中根本就是伪命题。因为现实系统太复杂、噪声太多、环境不可控我们能够追求的最高标准不是“证明它绝对正确”而是“用足够充分的实验证据说明它在可接受范围内可靠”。这就是物理学的认知传统实验高于推导可观测性高于完备性。所以物理学家反过来说OpenAI 再封闭只要它能提供稳定的 API、公开可复用的评估基准、发布可重复的实验结果那么它本质上就是一个可以被“黑盒检验”的复杂系统——和粒子对撞机、和一颗GPS卫星没有本质区别。你可以用外部实验去测量它的能力和缺陷不需要它把所有内部参数都摊开给你看。1.3 两个群体的核心分歧点把两边的发言放在一起看分歧不是谁更聪明而是“信任机制”不同。维度数学家的默认标准物理学家的默认标准信任的基础逻辑证明、形式化推导实验验证、可重复观测系统的本质可以被完全描述的符号系统具有不可还原复杂度的物理系统错误处理试图消除错误的前提条件把错误当成概率事件来管理可接受的风险极小追求完备性可计量追求可用性对黑盒的态度拒绝接受接受但必须通过行为测试知识获取方式从第一性原理推出来从数据、实验和模型中归纳出来数学家要的是“为什么这个模型是对的”物理学家要的是“这个模型在多大范围内可用”。这两个问题都合理但尴尬之处在于今天的大模型恰好处于一个“能用理论解释的部分太少用实验测量部分相对充分”的状态这让数学家的方法论几乎完全失效而物理学家的方法论天然占了优势。但这不意味着物理学家就该嘲笑数学家因为后者提出的每一个质疑都在提醒我们别把实验能力当成万能药。2. 两种科学文化的碰撞2.1 数学家的世界观证明优先、严谨第一我身边真正做纯数学的朋友思维方式确实和普通人不太一样。他们对一个论断的第一反应永远是“这个命题成立吗边界条件是什么能不能举一个反例”而不是“这个结论有用吗”这种思维在AI面前很容易受挫。因为大模型给出的答案经常不是稳定命题而是概率分布上的一个采样。你问同一道题十次可能得到十种不同说法。对数学家来说这简直是一场灾难一个无法复现、无法确定真假、无法在逻辑框架内收敛的系统凭什么被当成知识工具来用。更让他们不能接受的是很多AI公司对外宣传的时候动不动就用“超出预期”“智能涌现”这种含糊表述。这不是科学家语言像是广告文案。数学家讨厌的就是这种不可操作的概念。他们要的是定义什么叫“能力”用什么指标误差界在哪里如果这些没有严格定义那么所有关于“AI很强大”的论断都是无根之木。我必须说这种质问很有价值。过去几年太多AI项目靠指标好看和demo惊艳撑起来上线后才发现根本经不起“反例测试”。数学家那种“拿一把刀不断挑毛病”的劲头如果用在模型评估上能帮我们找出大量被数据平均值掩盖的问题。2.2 物理学家的世界观实验说了算、实用压倒完美物理学家的成长路径却完全不同。从大学第一门实验课开始你就要接受一个事实世界是有噪声的测量是有误差的仪器是有分辨率极限的。你不会想着去证明一个完美的理论模型而是学会在噪声中找到信号在误差带里做判断。这种训练导致物理学家对“不完备”的容忍度比数学家高得多。面对一个大模型他们不会要求“证明它在所有情况下正确”而是设计一组实验它在基准测试中表现如何它在分布偏移下退化多快它对对抗样本的鲁棒性怎样如果这些实验都通过了那就够了。我还记得一位做实验物理出身的朋友跟我说过一句话模型是不是“真的懂”我们不关心我们关心的是它的输出分布能不能被我们掌握。你把它当成一台有零点漂移的仪器你要做的是校准它而不是拆开它。这句话基本概括了物理学家眼中的AI能用就行关键是要知道它的误差在哪。2.3 修桥与盖楼一个更接地气的类比为了让我自己彻底想明白这件事我试着用一个生活化的类比去解释。想象你是一个桥梁工程师。你的桥需要能承载十吨重车。数学家式的方法是对材料建立精确的力学模型把每一根梁的应力都算得清清楚楚最好画出一套完美推导证明在最恶劣情况下桥也不会坏。但问题是现实中的混凝土不均匀、钢筋有微裂纹、焊接有气孔、天气会变化你根本不可能建立真正完美的模型。物理学家式的方法是先把桥建出来或者建一个缩尺模型装上几千个传感器用十吨车来回跑看实际变形量。然后不断加载到十一吨、十二吨直到桥出现预期中的非线性响应。做完这些你就可以拍板说在一定条件下它能用。数学家会说你没有证明它在地震时的安全性。物理学家会说我们已经测了十种地震波工况的响应而且保险系数留了百分之二十。你觉得哪个方案更靠谱我年轻时一定会选数学家的方案觉得那才叫严谨。现在我会说两个方案缺一不可但如果只能选一个先做我一定先学物理学家去做实验。因为没有哪个现实项目、哪家公司、哪个监管机构能等你把AI所有理论问题彻底解决了再上线。3. 从OpenAI声明之争看AI研究的实际问题3.1 透明度与可复现性的博弈数学家要求OpenAI公开一切本质上是在追求“可复现性”。但我发现很多人在讨论“可复现性”这一概念时把它错当成了“源代码公开”的同义词。物理学的可复现性从来不是这样的。你真的去复现一次粒子物理实验不可能有什么“标准答案”更不可能要求对方把几十TB的原始噪声数据全部发给你。你需要的是实验条件描述够不够详细数据处理流程够不够透明误差分析有没有把系统效应写清楚。做到这几点别人就可以用另一套设备、另一个团队、另一种软件去重复你的实验看看结论是否一致。放在大模型上这意味着OpenAI即使完全不公开训练代码和权重只要它做到以下几条物理学家也会认为它是“科学可复现的”给出明确的模型版本、评估集、评测条件发布足够数量的模型输出样本和失败样例允许外部研究者通过API进行独立测试公布评测接口和数据处理的细节保证别的实验室能构造近似测试环境。很多数学家听到这个方案会觉得不过瘾没有拿到权重怎么知道不是你们偷偷改了评测接口外部测试是不是还能被“驯化”这些担心都真实存在但物理学家会告诉你任何实验都有被操纵的可能所以你才需要外部审计、多方复现、盲测设计。透明不是非黑即白而是一条连续的光谱。3.2 黑盒系统能否被信任一个看起来“很封闭”的模型是否可以被信任我的结论是可以但必须满足两个条件它有稳定的行为边界而且你可以持续观测它。这里我特别想举民航的例子。飞机是一个极其复杂的黑盒系统航电软件的源代码不是完全公开的发动机内部的控制逻辑也不是每个乘客都能审查的。但为什么全球每年还有几十亿人敢放心坐飞机因为行业建立了一整套基于观测和审计的信任体系适航审定、制造质量体系、运行监控、事故调查、飞行员训练。这套体系不要求你理解飞控系统每一行代码只要求它能被反复测试、能暴露风险、能在出错时被定位和纠正。大模型也应该走同样的路。我甚至觉得比起“强制开源”更有价值的做法是建立一个类似“适航档案”的东西记录这个模型从训练到部署的每一个关键决策、每一次微调、每一轮评估、每一个已知缺陷、每一次事故复盘。这个档案不需要对外公开全部细节但需要接受一个有资质的独立审计机构检查。这才是“黑盒”和“白盒”之间最务实的中间态。提示“开源权重”不等于“可信AI”。一个系统性存在偏见、却因为代码开放而被奉为“透明”的模型可能比一个闭源但严格接受行为审计的模型更危险。别被源代码表面的透明感欺骗。3.3 科学共同体该如何评估一个大模型既然“全公开”和“彻底黑盒”两个极端都不现实那比较靠谱的做法是组合一套跨学科评估流程。我自己在评估一个真实可用的大模型时会从六个维度入手功能边界定义模型宣称能做什么不能做什么。不是靠想象而是靠测试集界定分布外测试在训练数据分布之外构造压力样本观察模型何时崩溃失败模式编目把已知的错误类型做成清单而不是只晒平均成绩回归测试机制模型更新后确认旧能力没有被悄悄破坏随机性与稳定性固定随机种子重复采样计算输出的分布差异人机交互闭环用户反馈能不能被系统吸收错误流向上游的速度有多快。这套评估方案不要求理解模型内部机制但比一个单纯的准确率数字要有说服力得多。物理学家喜欢这种设计因为每一环节都是一个实验。数学家也不会完全反对因为至少这些环节都可以被形式化地定义和审计。4. 实操心得我在AI项目里学到的五条跨学科方法论说到这我想分享一些实际做AI项目时的体会。这几年我参与过大模型落地、推荐系统优化、搜索排序之类的事情虽然不在实验室里但每天都在和“理论派”与“工程派”的分歧打交道。踩了一些坑之后我总结出五条方法论都在这次“数学家vs物理学家”的争论里得到了验证。4.1 别用纯数学的标准要求工程系统我早期做过一个文本分类模型团队里有位同事对模型错误率盯得特别死非要我们证明“在某种数据分布下错误率一定小于5%”。我们花了三周时间做理论边界分析结果新一批线上数据一到这个边界立刻失守。因为真实数据根本不是我们假设的那种平稳分布。后来换成另一种思路不再追求证明而是做一个持续监控系统实时统计预测置信度只要某类样本的置信度低于阈值就自动转人工审核。一眼看上去不如“证明错误率”高大上但效果立竿见影客诉降低误判减少而且任何一个没有见过的新分布进来我们都能第一时间发现。这件事给我的冲击挺大数学家想找一个绝对安全的公式但工程世界根本没有公式只有“观测-干预-再观测”的回路。4.2 实验设计比公理推导重要在大模型提示词调优上我也吃过不少亏。早期我每次改提示词都凭感觉改一两句然后看有没有变好。结果经常是今天有效明天无效根本不知道是内容变化带来的还是模型随机性带来的。正是“物理学家式”的实验设计救了我固定住随机种子采用AB对照做多轮重复验证用统计显著性判断差异。我甚至给提示词实验做了“消融测试”每次只改一个词或一个约束条件记录变化。这方法听起来笨但能帮你避免把随机噪声当成模型能力提升。后来我把这套思路也用在模型选型上。遇到新模型我不会只看官方榜单分数而是自己写一套“压力测试集”里面塞满边界问题、反常识问答、长尾格式。这个测试集恰恰不是从数学理论推导出来的而是从业务日志、用户投诉、失败案例里统计出来的。它不完美但实用。4.3 经验曲线与理论直觉互相校准物理学家相信理论直觉吗其实很信但他们不会盲信。他们的做法是先猜一个有效理论模型再设计实验去验证然后用结果反过来修正理论。把这个模式套进AI项目里特别合适。我经常在模型表现好的时候问自己“为什么好”然后写一个临时假设比如“因为数据里包含更多专业术语所以模型学到了更准确的实体边界”。接着我会通过删掉那部分数据再做一次实验验证假设是否成立。这个过程和物理学家做控制变量实验没有本质区别。有一次我用一个复杂的集成模型提升了3个点准确率团队里没有人能解释清楚为什么。按照数学家的观点“不能解释的提升都是可疑的”。但我没有立刻推翻模型而是先把它上线同时保留日志花了两周时间分析它和单模型的差异样本最后才找到一个可解释的规律。这正是物理学家式的务实你可以率先接受一个暂时无法解释但被实验支持的结果但后续必须补上解释工作。4.4 面对无法完全解释的系统学会风险管理如果你默认系统可以被完全解释那么你一遇到大模型幻觉问题就会崩溃——因为幻觉本质上就是无法完全消除的。科学家迟早要接受这个现实转变为一个风险管理者。我的做法很简单设计流程时默认模型会犯错。在关键业务环节加入人审非关键环节加入自动回退。比如让模型生成草稿之前先跑一遍敏感词扫描用户意图识别置信度低于一定阈值就转人工。这套做法不解决“模型为什么犯错”但能解决“犯错后怎么办”。物理学家在处理仪器噪声时也是这么干的你不能消除噪声但你可以估计噪声幅度然后给它留出误差带。风险管理不等于放弃严谨恰恰是把严谨用到了正确的地方。4.5 保留代码审查式的严谨我更想强调的是物理学家不等于不严谨。相反好的物理学家在实验记录上极其偏执哪台机器跑的哪个版本代码哪个随机种子谁写的脚本记录得清清楚楚。这么做的原因很简单——你永远不知道什么时候需要回溯一个结果是怎么来的。我在AI项目里也严格执行这一条每次实验必须生成完整的配置文件和输出日志不能直接复现的结果一律视为不存在。这和数学家的“证明过程不可缺失”逻辑如出一辙只不过对象从“公理系统”变成了“工程实验记录”。跨学科方法论说白了就是用数学家的挑剔设计问题用物理学家的实验检验问题最后用工程师的手段把结果固化下来。三者缺一不可。5. 常见误区与避坑指南5.1 误区反对过度封闭支持全面开源很多人在看这场争论时会自动站到“物理学家反对数学家”的立场然后推出一个结论物理学家认为AI应该完全闭源。这是错的。物理学家批评的只是“要求证明和公开一切细节”的傲慢他们并不是说OpenAI应该把所有东西都锁进保险箱。事实上很多物理学家自己就是大科学仪器数据共享的坚定支持者。他们真正反感的是数学家把所有评价标准压在一根单一逻辑轴上而不给实验验证留位置。正确的做法是分层讨论训练数据能不能开放模型权重能不能开放API接口能不能开放安全审计报告要不要公开每一层都有不同的风险、不同的受益者和不同的成本混在一起谈只会让争论变成情绪对立。5.2 误区工程系统不需要理论反过来也有一批人因为物理学家骂得爽就把理论彻底扔到一边觉得“跑个实验就完事了”。这是另一个坑。没有理论直觉的实验设计经常是在低水平上重复试错。面对大模型你需要一些来自信息论、统计学、复杂度理论的基本判断才知道该测什么、不该测什么、哪些结果可能是噪声。物理学家虽然嘲笑“证明一切”的执念但他们自己学习理论物理的刻苦程度一点也不亚于数学家。理论是路标实验是油门只踩油门不看路标迟早翻车。5.3 避坑如何在公开争论中保持专业如果你也想参与公共技术讨论避免两个典型错误一是不要把“某个数学家的观点”等同于“所有数学家的观点”也不要把“某个物理学家的回应”当成标准答案。公开信或站队文章天然会放大极端声音沉默的大多数往往观点更温和。你看到的激烈对抗可能只是少数人的扩音器。二是不要用身份标签代替论证。你不需要因为某句话出自“物理学家”就点头也不要因为其他话出自“数学家”就摇头。关键是看他有没有给出可验证的论据有没有指出具体的漏洞或可行的替代方案。身份是叙事包装论证才是干货。5.4 判断一份公开声明值不值得签名这几年各种联署公开信特别多从“暂停AI训练”到“拒绝使用某框架”每隔几个月就有一波。踩过几次坑之后我总结了一个五问清单任何人发给我让签名我都先过一遍声明里的事实依据是否可查证有没有夸大或选择性引用诉求是否可执行还是只是“喊话对方必须改变”的无头方案声明者本人是否愿意参与建设比如开源数据集、参与审计还是只站在岸上指挥是否提出了替代方案如果没有那和骂街有什么区别如果声明产生了实际影响公众是受益还是受损用这五问再回看那份“数学家反OpenAI声明”你会发现它提出的警告有价值但给出的解决方案确实太单薄而物理学家虽然指出了问题但多少有些缺乏建设性。这也是为什么这场争论很难有结论——两边都擅长发现问题却很少有人愿意躬身入局去解决同一个问题。6. 这场争论给AI行业留下的思考方向6.1 建立跨学科的AI评估小组我不看好两个纯理论阵营互相指责能带来什么结果。更现实的做法是让不同学科背景的人坐进同一个评审委员会。我建议任何大型AI项目在发布前都组建一个跨学科评估小组数学家负责设计边界条件和反例测试物理学家负责设计实验流程和统计方案工程师负责评估方案的可行性伦理和法务人员负责落地方案的风险约束。甚至应该引入一线操作员他们知道真实环境里哪些功能会卡壳。这种组合的好处不是让各方吵得更热闹而是让每一个专业盲区都被其他人的经验补上。数学家能逼你定义清楚术语物理学家能逼你接受现实约束工程师能逼你把方案变成代码。6.2 从“零信任”到“可观测性”从“公开声明”看数学家们的终极诉求是“要么全透明要么零信任”。这种非黑即白的思维是时候进化了。现代工程给我最大的启示是“零信任”已经升级成了“持续验证”。我们不假设系统可信但我们也不仅仅因为不可全信就拒绝使用。相反我们在关键路径上埋下大量观测点、审计日志、异常检测器。对AI系统来说这就是“可观测性”的价值你不需要看见模型内部每一颗齿轮但你需要看见它的行为何时偏离了预期并且能快速追溯偏离的来源。6.3 给决策者的三个务实建议如果你是AI公司管理层、机构采购方或政策研究者这场争论可以给你三个落地方向第一投资建设可复现的基准设施。与其浪费口水要求别人开源权重不如先支持建立一个中立的、可审计的评测平台让不同模型能在同样的压力测试下被评估。第二把“独立审计”和“强制开源”分开看待。开源是手段不是目的审计才是目的。一家公司完全可以保留自身的商业化秘密但必须接受外部安全审计的行为约束。第三资助跨学科方法论研究。给数学家项目钱去研究形式化验证也给药理学家钱去研究更严谨的实验设计但明确要求他们最后要产出能在真实场景落地的工具而不是互相驳斥的论文。最后再说几句我在前面提到过自己这些年越来越认可物理学家“先实验后解释”的路线但我也必须承认每次翻车后复盘原因最终都能追溯到一些数学家式的“定义不清”或“边界不明”。所以我现在对待这类争论的心态是两边的声音我都听但落到自己的项目里我既不会等着哪天形式化证明成熟了才落地也不会因为实验结果看似可靠就放弃追问原理。这场针对OpenAI的公开声明之争短期内不会平息长期看也不太可能有一个简单结论。但如果它能让我们学会区分“证明”和“验证”明白“绝对透明”与“可观测性”之间的差别那么这场架就没有白吵。下次再有类似的公开信出现在时间线上我建议你先别急着转发——先问一句写这封信的人打算贡献什么答案