Wolfram《Can AI Solve Science?》解读：计算不可约性划出的边界，以及它没有回答的问题

对 Stephen Wolfram《Can AI Solve Science?》的独立解读：计算不可约性真正否证了什么、“不存在无模型的模型”为何是全文最强命题、把单个神经网络的实验失败当作理论不可能的论证滑移，以及 AI 作为新型“测量仪器”这一被低估的贡献。

分析对象：Stephen Wolfram，Can AI Solve Science?（2024 年 3 月 5 日发布）

分析基准日：2026 年 7 月 26 日（新加坡时间）

阅读说明：本文是对该长文的解读与评价，判断为独立观点，不代表 Wolfram 立场。原文同时承担科学哲学论证与 Wolfram 计算范式的生态定位两重功能，本文对这一点单独讨论（见第十五节第 6 点）。与本站既有分析（大厂前沿研究图景与九篇技术论文的逐篇拆解）互补：本文是关于「AI 能否解决科学」的理论论证，其中 AI Co-Scientist 一章提供了同一问题的工程对照——一个真实的多智能体科研系统，及其优化的究竟是科学真理还是评审偏好。

核心结论

Stephen Wolfram 的《Can AI Solve Science?》并不是一篇普通的“AI 能否帮助科研”评论，而是一篇由四部分交织而成的长篇论证：

对机器学习能力边界的理论判断；
对科学活动本质的哲学分析；
对 Wolfram“计算宇宙—计算不可约性—ruliad”体系的集中阐释；
对“神经网络 + Wolfram Language + 形式计算”混合科研范式的主张。

文章最核心的结论是：

AI 可以大幅度改变科学工作的方式，但不可能把整个科学“彻底解决”。

如果“解决科学”是指：找到一个能够绕过所有计算过程、准确回答全部科学问题、预见所有未来发现的通用机制，那么 Wolfram 的否定答案基本成立。因为某些系统的结果只能通过实际执行相应计算才能得到，不存在普遍有效的捷径。

但文章并没有充分证明“AI 不会成为主要的科学发现主体”。它真正证明或有力说明的是：

任何主体——人类、AI 或其他计算系统——都无法普遍绕过不可约计算。

这与“AI 能否自主发现新理论、设计实验、提出概念或远超人类科研效率”并不是同一个问题。文章在这两层问题之间有时存在滑移。

一、文章的完整论证结构

文章将“做科学”拆解为若干不同任务，而不是把科学简单等同于预测：

科学任务	文章讨论的问题	Wolfram 的判断
预测	根据已有观察预测未来行为	AI 可近似，但受训练分布和不可约性限制
建模	找到简洁公式、规律或低维表示	AI 可发现局部规律，但未必可解释
求解	从方程或规则推出具体结果	AI 可作为近似器，不能普遍替代计算
搜索	从大量系统、证明或路径中寻找目标	AI 可提供启发式剪枝，但不能保证成功
解释	把结果转换为人类可理解的叙事	LLM 有优势，但解释受人类概念体系约束
发现	找到此前未知的现象或结构	系统枚举和不可约计算可能比模式学习更根本
选题	判断什么值得研究	最终依赖人类价值、历史与社会选择
测量	将非结构化现象变成可操作变量	AI 可能创造全新的“测量仪器”

这一拆分是文章最有价值的地方。它揭示了一个经常被忽视的事实：

“AI 会不会做科学”不是一个单一问题。AI 可能擅长其中五个环节，却在另外三个环节存在根本限制。

二、理论支柱：计算不可约性

1. 什么是计算不可约性

计算不可约性可以用一个简单例子理解。

假设某个系统按照规则连续运行一百万步。我们想知道第一百万步的状态。某些系统可以通过公式直接得到答案，例如：

x_t = x_0 + v · t

但另一些系统不存在这样的普遍捷径。要知道第 t 步发生什么，就必须在某种意义上实际执行接近 t 步的计算。

Wolfram 将这一点提升为科学能力的终极边界：

自然系统在“计算”自身的演化；
科学家或 AI 也通过计算来预测自然系统；
如果目标系统本身具有通用计算能力或类似复杂性；
预测者就不能普遍地比目标系统更快地完成所有相关计算。

因此，无论 AI 多么强大，都不能对所有系统做到“一眼看穿未来”。

2. “可约性口袋”

如果自然界普遍存在不可约性，科学为什么仍然有效？

Wolfram 的回答是：复杂系统中仍然存在局部的、可压缩的结构，即所谓：

pockets of computational reducibility，计算可约性的口袋。

例如：

宏观气体可用温度和压力描述，而无需跟踪每个分子；
行星运动在一定条件下可用轨道方程近似；
流体虽然底层极其复杂，但某些尺度上可用连续方程描述；
蛋白质可能存在反复出现的 α-螺旋、β-折叠等结构模式。

科学实际上是在寻找这些可约部分：不必记录全部细节，只需找到少量变量、规律或不变量。

在 Wolfram 的框架中，AI 的主要科学价值不是“消灭不可约性”，而是：

更高效地发现此前没有被人类识别的可约结构。

这是一个重要且有解释力的观点。

三、文章最强的命题：“不存在无模型的模型”

文章通过神经网络外推正弦曲线的例子说明：即使模型看起来完全“从数据学习”，它也不可能没有先验假设。

神经网络的以下因素都构成隐含模型：

网络架构；
激活函数；
损失函数；
训练数据分布；
参数初始化；
优化算法；
正则化方法；
输入和输出表示。

因此，不同激活函数可能对相同观测数据产生完全不同的未来外推。

这说明：

数据不能自行决定数据之外发生什么。任何外推都依赖归纳偏置。

这一判断在认识论上是正确的。有限数据通常可以由无限多个函数完全拟合。例如，看到 1, 2, 3, 4，最自然的下一项可能是 5，但也可以构造一个函数，使下一项是 100。选择 5，是因为我们偏好简单、连续或已有模式，而不是因为有限数据逻辑上强制产生 5。

所以，AI 并不是一个“纯粹听从数据”的无偏观察者。它只是拥有比传统模型更复杂、更隐蔽的先验。

这一命题的重要性在于：

AI 的科学预测是否可靠，不能只看训练误差或样本内拟合，还必须问：

模型学习了什么结构？
这种结构为什么可以外推？
训练分布与目标环境是否一致？
哪些不变量或因果机制支持预测？
模型在分布外环境中是否仍然成立？

四、AI 预测能力：文章说对了什么

Wolfram 分别使用了正弦曲线、元胞自动机、三体问题和天气预测等例子。

文章观察到一种典型模式：

在行为简单、重复、平滑或接近训练样本时，神经网络表现较好；
当系统进入复杂区域时，预测开始偏离；
一旦递归预测中出现小误差，误差会逐步累积；
模型往往能够生成“看起来大致合理”的结果，却无法复现精确细节。

这对应了机器学习中几个基本问题：

1. 插值强，外推弱

神经网络通常擅长在训练数据覆盖范围内插值，但不天然擅长超出训练分布进行结构性外推。

2. 局部误差会演变为轨迹误差

动态系统中，即使单步误差很小，多步滚动预测也可能快速偏离真实轨迹。

3. 统计相似不等于动力学正确

生成结果可能具有正确的视觉纹理、频率分布或宏观形态，却不满足底层演化规则。

4. 近似可用不等于科学求解

一个天气模型可能给出有用的概率预测，但这不意味着它“解决了”流体方程或掌握了完整的大气动力学。

文章因此区分：

看起来像正确结果；
统计上有用的结果；
满足形式约束的结果；
精确推出的结果。

这是非常必要的区分。

五、但文章对 AI 预测的批评也有明显局限

文章经常从“某个特定神经网络无法准确完成任务”进一步推向“神经网络受计算不可约性限制”。后者可能正确，但前者并不足以直接证明后者。

失败可能来自多种原因：

架构不合适；
训练目标不合适；
表示方式不合适；
数据不足；
模型容量不足；
没有嵌入物理约束；
没有使用外部求解器；
没有采用多步验证或搜索机制。

例如，一个端到端神经网络无法直接预测三体轨迹，并不单独构成三体问题计算不可约性的证明。它只能表明：

该模型没有从该训练设置中学到足够可靠的全局求解结构。

真正的理论结论应更谨慎：

对于存在不可约性的系统，不可能存在对所有输入均有效、能够显著绕过必要计算的通用预测器。

但这不排除：

对特定输入分布建立快速代理模型；
发现守恒量和对称性；
提高数值求解效率；
预测统计分布而不是精确轨迹；
在特定时间尺度上实现有效近似；
自动选择更合适的数值算法。

因此，计算不可约性限制的是普遍、精确、无成本的跳跃式预测，而不是所有形式的效率提升。

六、AI 发现科学规律：潜在价值比文章表面结论更大

文章使用自编码器和特征空间说明，AI 可以把复杂数据压缩成低维表示，并自动识别不同类型的元胞自动机行为。

其底层逻辑是：

发现规律 ≈ 找到更短的表示

如果一张复杂图像可以由少量潜变量重构，就说明数据中存在某种压缩结构。

这接近科学哲学中的若干经典思想：

奥卡姆剃刀；
最小描述长度；
信息压缩；
充分统计量；
状态空间降维；
隐变量模型；
有效理论和粗粒化。

文章正确地指出，AI 可能发现人类尚未命名的潜在变量。例如，一个模型可能发现某种蛋白质“元结构”、材料形态特征或生物演化模式，但我们暂时不知道这些潜变量如何用自然语言解释。

这里存在三个不同阶段：

模型发现稳定潜变量；
研究者验证潜变量具有预测或因果意义；
科学共同体为潜变量建立概念、名称和理论。

传统科学常常从第三步回看前两步，好像科学概念从一开始就清晰可解释。但实际上，许多科学量最初也只是重复出现的经验测量。

因此，AI 的黑箱表示未必意味着“没有科学意义”。更准确的判断是：

黑箱潜变量尚未完成从统计结构到公共科学概念的转化。

七、“非人类世界中的 AI”是文章最有前瞻性的部分

Wolfram 提出了一个关键问题：

神经网络之所以擅长图像和语言，是不是因为它们的结构接近人脑，而不是因为它们天然适合描述自然界？

这一区分非常重要。

人类大脑接受的训练数据主要是：

日常视觉；
语言；
声音；
身体运动；
社会互动。

但科学数据可能来自完全不同的空间：

分子构象空间；
基因表达空间；
材料结构空间；
粒子碰撞空间；
数学证明空间；
化学反应网络；
高维天文观测。

AI 可以直接在这些非人类感官空间中“成长”。它不必先把分子或数学对象转换成人类熟悉的语言，再进行学习。

这意味着 AI 可能形成一种人类没有的“科学直觉”。

例如，人类凭视觉可以迅速判断：

物体形状；
运动趋势；
面孔相似度。

而经过特定科学数据训练的模型，可能同样迅速判断：

某个分子是否可能稳定；
某条证明路径是否有希望；
某种材料是否接近相变；
某个实验配置是否产生异常结果。

文章对此既认可又保持怀疑：AI 可能发现新的可约结构，但这些结构未必容易映射到人类概念。

更深层的含义是：

未来科学可能出现“机器可理解、可重复、可预测，但人类只能部分理解”的理论形式。

这不是传统意义上的公式理论，也不是纯粹的黑箱预测，而可能是一种机器原生的科学表征。

八、对蛋白质折叠的讨论：有启发性，但明显简化

文章认为，神经网络在蛋白质结构预测上的成功，可能部分来自：

识别训练集中反复出现的结构片段；
将这些片段以合理方式拼接；
捕捉未知的局部可约性；
只需满足人类关心的宏观形状，而不需要预测每个原子的精确位置。

这一解释抓住了“任务成功标准是经过选择的”这一点。我们所谓“解决蛋白质折叠”，通常并非要求重建所有分子的完整量子和热力学轨迹。

但其分析过于倾向“模式拼接”叙事，低估了：

序列共演化信息；
结构约束；
几何等变性；
物理和化学先验；
训练数据中蕴含的长期进化筛选结果；
模型对全局关系的学习。

更准确的说法不是“模型只是记忆片段”，而是：

模型通过大规模结构和进化数据，学习到一组无法轻易写成显式公式的统计—几何约束。

这些约束未必等同于第一性原理物理，但也不只是表面相似度。

九、AI 求解方程：文章建立了正确的分工原则

文章认为：

对一个明确方程要求高精度解，传统数值方法或符号计算通常更可靠；
面对庞大、高维、复杂耦合系统，神经网络可能提供快速近似；
神经网络适合跨越较大的行为窗口；
但无法保证在不可约区域中精确“跳步”。

这个分工原则基本合理。

未来更可能有效的体系不是「AI 替代求解器」，而是：

AI 选择方法 + 形式系统约束 + 数值求解器执行 + 验证器检查

例如 AI 可以：

选择坐标变换；
发现近似对称性；
建议边界条件；
生成候选解析形式；
选择数值算法；
提供初始值；
构造代理模型；
检测异常解；
调用形式验证器进行确认。

所以，“神经网络能否一次性输出精确答案”并不是最重要的问题。更实际的问题是：

AI 是否能组织和调度一整套科学计算工具，显著减少解决问题所需的人类认知劳动？

文章虽然主张混合模式，但其许多实验仍以孤立神经网络为中心，因此低估了系统级 AI 的能力。

十、多计算、证明搜索与科学路径规划

Wolfram 将以下问题归为“多计算”：

棋局搜索；
谜题求解；
数学证明；
化学合成路径；
从大量可能实验中寻找目标方案。

这些问题不是沿着单一轨迹计算，而是在一个巨大分支图中寻找路径。

文章提出两种 AI 方法：

让语言模型直接生成完整路径；
让模型估计当前位置到目标的距离，作为启发式函数。

第二种更可靠，因为每一步仍由规则系统保证有效，AI 只负责优先级排序。

这事实上给出了一个非常重要的 AI 系统设计原则：

让 AI 决定“往哪里搜索”，让确定性系统决定“这一步是否合法”。

它适用于：

自动定理证明；
化学反应规划；
软件生成；
实验设计；
工程优化；
科学假设验证。

文章同时指出，AI 启发式可能：

进入死路；
错估距离；
找到非最优路径；
需要回溯；
无法绕过整个搜索空间的最坏情况复杂度。

这是合理的。AI 可以显著改变平均搜索成本，但不必然改变最坏情况的计算复杂性。

十一、“科学是叙事”——文章最重要的哲学洞见之一

Wolfram 认为，科学不仅需要结果正确，还要把结果组织成适合人类理解的叙事。

例如，自动定理证明器可能产生一条完全正确但极长、极陌生的证明。机器可以验证每一步，却不代表人类能理解“为什么定理成立”。

科学解释需要完成某种概念压缩：

大量微观步骤 → 少量熟悉概念 → 人类可理解的因果或逻辑结构

LLM 在这里可能发挥明显作用，因为它学习了人类如何：

命名现象；
使用类比；
组织因果关系；
省略常规步骤；
强调关键转折；
形成论文式叙述。

但文章同时指出，模型内部的表示未必与人类概念对齐。神经网络可能确实发现了一个能够区分猫和狗的内部特征，但该特征不一定对应“耳朵”“眼睛”或任何已有概念。

所以可解释性问题并不只是：

模型能否输出一段解释文字？

而是：

模型内部使用的有效变量，是否能够可靠映射到人类共享的科学概念？

LLM 可以生成流畅叙事，但流畅叙事未必是模型真正运作机制的忠实描述。这是文章隐含但没有充分展开的重要风险。

十二、“什么是有趣的”——文章最具争议的部分

Wolfram 主张，不存在脱离观察者和文明历史的绝对“有趣性”。

一个科学发现之所以重要，可能因为：

它与已有问题相连；
能产生技术应用；
改变某个理论框架；
被科学共同体关注；
与人类目标相关；
历史偶然性使其进入主流。

AI 可以根据既有文献学习什么通常被认为“有趣”，但这样做容易产生保守性：

偏好主流问题；
偏好已有范式；
偏好容易发表的结果；
忽视与现有概念距离较远的异常现象。

文章将这种机制类比为自动化的同行评审：模型可能更善于接受“合理的新颖”，而不是根本性的新颖。

这一批评很有力量。生成式模型天然倾向高概率区域，因此可能强化既有知识范式。

但文章把“有趣性完全取决于人类选择”说得过强。科学中仍然存在一些可操作的客观或准客观标准：

预测误差显著下降；
描述长度显著缩短；
解释更多现象；
发现新的因果干预能力；
揭示异常或反例；
统一此前分离的理论；
产生重大技术效用；
改变实验可达范围。

AI 不能自行决定人类文明的终极目标，但可以根据明确的认识论指标搜索高价值发现。

因此应区分：

终极价值选择：为什么研究衰老、宇宙或意识；
局部科学价值判断：某个理论是否更简洁、预测力更强、解释范围更广。

前者确实离不开人类价值；后者可以在相当程度上形式化并由 AI 优化。

十三、“AI 测量”可能是文章最被低估的贡献

文章提出，在生物学、人文和社会科学中，AI 可以把过去只能用散文描述的问题转化为可重复测量：

两幅艺术作品有多相似？
两种生物形态距离多大？
两套神话结构有哪些共同模式？
一段文本的情绪、风格或叙事结构是什么？

传统物理仪器测量温度、长度和质量。AI 编码器则可能成为一种新型测量仪器，将复杂的非结构化对象映射为数值向量：

x → f_θ(x) ∈ R^n

这些数字可能暂时没有明确解释，但具有：

可重复性；
可比较性；
可用于聚类；
可用于预测；
可与其他变量建立关系。

这可能推动某些“软科学”向更形式化的研究方式发展。

但这种 AI 测量存在严格的方法论风险：

测量结果依赖具体模型；
模型训练数据包含文化偏差；
不同编码器可能产生不同空间结构；
潜变量稳定不代表具有因果意义；
相似度可能反映表面模式，而不是研究对象的本质；
模型版本变化可能破坏纵向可比性。

因此，AI 测量必须像传统测量仪器一样进行：

校准；
重测信度评估；
构念效度验证；
模型间一致性测试；
敏感性分析；
版本控制；
不确定性报告。

十四、文章的五个主要优点

1. 正确拆分“科学”

它没有把科学简化为文本生成或预测，而是区分预测、求解、解释、搜索、发现和选题。

2. 识别了外推的认识论问题

“无模型的模型不存在”是对数据主义和黑箱经验主义的有效纠正。

3. 把 AI 放入计算复杂性框架

它提醒人们：更大的模型不等于能够绕过不可判定性、组合爆炸和不可约计算。

4. 强调 AI 与形式计算的互补

神经网络适合模式、语义和启发式；形式系统适合精确执行、验证和累积推理。

5. 讨论了科学目标的价值依赖

AI 可以优化给定目标，但“什么值得研究”不能完全从历史数据中推导出来。

十五、文章的六个主要问题

1. 对 AI 的定义过窄

文章主要把 AI 定义为“从示例训练的神经网络”。但现实中的科学 AI 系统可以包含：

LLM；
搜索算法；
定理证明器；
符号计算；
数值模拟；
数据库；
机器人实验平台；
主动学习；
验证器；
多智能体协作。

如果分析单位从“单个神经网络”转为“自主科学系统”，结论会明显不同。

2. 将实验性失败与理论性不可能混合

某个网络无法预测元胞自动机或三体轨迹，并不自动证明任务不可约。理论边界需要来自可计算性和复杂性论证，而不是模型性能图。

3. 对 AI 的“近似性”描述过于单一

文章把 AI 概括为适合“80% 正确”的任务。但混合 AI 系统可以通过：

约束解码；
形式验证；
工具调用；
搜索；
重采样；
反例检查；

获得高度精确的结果。近似生成可以只是候选产生阶段，而不是最终答案。

4. 低估了 AI 改变问题表示的能力

AI 不只是预测现有变量，还可能发明新的状态表示、观测量、实验接口和问题分解方式。改变表示本身有时就等于取得理论突破。

5. Gödel、不可判定性与计算不可约性之间的关系被过度简化

三者相关，但并非同一概念：

Gödel 不完备性讨论形式系统中不可证明的真命题；
停机问题讨论不存在通用判定算法；
计算不可约性讨论预测某些过程需要执行相应计算。

将计算不可约性称为 Gödel 定理的“强化”具有 Wolfram 自身理论体系的色彩，不是没有争议的标准结论。

6. 产品和理论主张交织

文章多次将 Wolfram Language 描述为 AI 与形式计算结合的关键载体。这并不使论证失效，但读者应意识到，文章同时承担了：

科学哲学论证；
Wolfram 计算范式宣传；
产品生态定位。

十六、应如何重新表述文章的结论

比“AI 能否解决科学”更精确的提问应分为五层。

层次	问题	判断
本体层	所有自然现象是否存在简洁、可提前求出的答案？	否，至少不存在普遍保证
方法层	AI 能否绕过所有不可约计算？	否
工作流层	AI 能否自动化科学活动的大部分环节？	很可能可以
主体层	AI 能否产生人类此前没有的科学发现？	可以，且不受文章核心论证否定
价值层	AI 能否自行决定文明最终应研究什么？	不能从计算能力本身推出

文章对前两层的否定相当有力，但有时把这种否定延伸到了后三层。

十七、真正有前景的科研范式

文章最终主张 AI 与形式计算结合。这一方向是合理的，但应进一步扩展为：

生成式 AI
  + 符号与数值计算
  + 搜索与规划
  + 实验执行
  + 形式验证
  + 人类目标设定

不同组件承担不同职责：

LLM：理解文献、提出假设、跨领域类比、组织叙事；
机器学习模型：识别模式、构建代理模型、发现潜变量；
符号系统：表达定义、规则和理论；
数值求解器：执行高精度计算；
搜索系统：探索证明、分子和实验空间；
验证器：排除不合法或错误结果；
实验机器人：获得新证据；
人类：设定价值、接受风险、决定哪些发现进入文明知识体系。

这一体系不会消除计算不可约性，却可能把不可约计算组织得更有效。

最终评价

这篇文章的最佳理解不是“Wolfram 认为 AI 做不了科学”，而是：

AI 不是一台能够把宇宙全部压缩成即时答案的机器。它是一种新的规律提取、表示学习、启发式搜索和人类叙事工具。

文章最强的贡献，是明确指出：

预测不等于理解；
拟合不等于外推；
近似不等于求解；
生成不等于发现；
新颖不等于有趣；
计算能力不等于能够绕过计算本身。

但文章最弱的地方，是把“神经网络不能普遍跳过不可约计算”与“AI 的根本科学发现潜力有限”联系得过紧。

更平衡的结论是：

AI 不会终结科学，因为现实不存在一个可被完全压缩和提前计算的最终答案集合；但 AI 很可能终结大量目前由人类手工完成的科学工作，并形成部分机器原生、超出人类直接直觉的科学知识。

因此，AI 不会“解决完科学”。它更可能使科学变得：

更自动化；
更高维；
更快速；
更依赖机器表征；
更依赖形式验证；
同时也更需要人类明确什么才算理解、证据和价值。

参考资料

Stephen Wolfram, Can AI Solve Science?（2024 年 3 月 5 日，本文主要分析对象，全文所引例子与判断均出自该文）
文中提及的相关概念框架：计算等价性原理与计算不可约性（Wolfram, A New Kind of Science）、Gödel 不完备性与停机问题（第十五节第 5 点区分三者）、最小描述长度与奥卡姆剃刀（第六节“发现规律 ≈ 找到更短的表示”的依据）
本站相关阅读：OpenAI 长时程模型安全披露解读（同样涉及“AI 组织长链条计算与搜索”的能力边界与控制问题）