在当今时代，我们常常将科学研究交给 AI。然而，随之而来的一个疑问是，好奇心会被算法替换吗？AI 凭借其强大的计算能力和海量的数据，能够快速处理和分析信息，为科学研究提供诸多便利。但它终究只是工具，无法真正拥有人类的好奇心。好奇心是人类探索未知的原动力，驱使着我们不断提问、尝试和创新。而算法只是按照既定的规则运行，缺乏对未知的渴望和探索精神。尽管 AI 能辅助科学研究，但真正的好奇心仍属于人类，它是推动科学进步的关键力量，不会被算法所替代。

近年来，AI的迅猛发展也使科研范式发生了根本性变革。谷歌基于Gemini 2.0的多智能体系统“co-scientist”在48小时内便独立复现并扩展了人类研究者历时十年才确立的超级细菌耐药机制假设，甚至提出了额外且合理的全新理论；而DeepMind的AlphaEvolve则在半个世纪无人突破的4×4矩阵乘法问题上，将乘法次数从经典Strassen算法的49次进一步压缩至48次，并已通过开源代码验证其正确性与数值稳定性。

前者展示了AI生成并筛选科研假设的惊人效率，后者证明了AI能在数学难题上实现前所未有的算法飞跃。二者共同昭示，人工智能正从“辅助工具”跃升为能够主动推动知识前沿的“共研伙伴”，重塑科学发现的速度与边界。

当代科学本质上是计算科学。若没有模型、模拟、统计分析、数据存储等工具，人类对世界的认知进程将变得异常迟缓。几十年来，我们根深蒂固的好奇心一部分已经通过硅基芯片与软件得以满足。

一、“混合场景”阶段：计算机的引入让人类的科研地位边缘化

已故哲学家保罗·汉弗莱斯（Paul Humphreys）将科研过程的某些环节被外包给计算机系统的现象称为科学的“混合场景”（hybrid scenario）。他同时预见到这种模式可能会发生的改变。

尽管其相关论述始于生成式人工智能崛起的十多年前，汉弗莱斯依然凭借先见之明认识到人类主导科学过程的日子可能时日无多。他预见到科学发展的下一阶段，并称之为“自动化场景”（automated scenario），届时计算机将完全接管科研工作。在这种未来中，计算机在科学推理、数据处理、模型构建与理论建构方面的能力将全面超越人类，直至我们完全退出科研领域。届时，这些智能系统将继承人类开创的科研事业，将既有理论推向我们难以企及的新高度。

多项研究指出，人类在科学领域的认知主导权的终结已经初现端倪。一项对人工智能研究者的最新调查显示，未来百年内AI有50%的可能性可以全面取代人类工作岗位（尽管我们仍愿为人类保留一些工作，如陪审员）。无论您是否认同这种未来，或是觉得它不会这么快来临，此刻不妨先暂时搁置质疑，而是设想，若这种超级人工智能终将成为现实，其发展将意味着人类可将科学事业托付给认知能力远超自身的“人工智能后裔”，它们将以超越人类想象的速度与质量完成科研工作。

这无疑将会是一个奇怪的图景。首先，AI可能会选择探索人类科学家缺乏动力或动机的研究方向，从而开辟前所未有的发现路径。它们甚至可能获取超越人类认知极限的宇宙知识。这将置我们人类于何种境地？我们又该如何应对？我认为我们需要现在就开始提出这些问题，因为在数十年内，我们所知的科学就可能发生深刻转变。

汉弗莱斯提出的科学自动化情景虽然听起来像科幻小说的内容，实则延续着数百年的历史进程。人类从未真正独立开展过科学研究。长久以来我们倚赖显微镜、望远镜、标准化量具与烧杯等工具延伸我们对于世界的观测。此外，还有许多物理现象，如果没有温度计、盖革计数器、示波器、量热计等仪器，我们就无法直接精确地观测到它们。

计算机的引入标志着人类在科学研究中的地位的进一步边缘化，这正是汉弗莱斯定义的“混合场景”阶段。玛戈特·李·谢特利（Margot Lee Shetterly）在著作《隐藏人物》（Hidden Figures，2016）及其改编电影中记载了一个标志性案例。早期美国航天飞行依赖凯瑟琳·约翰逊（Katherine Johnson）等人类数学家完成轨道计算。但当时间推进至登月计划时期，不到十年光景，这些计算工作的主体已移交计算机系统。

随后数十年间，计算处理能力呈指数级增长，计算成本随之呈现反向关联性下降。当前的科学研究或处在“高级混合场景”，对计算系统的依赖愈加显著。以希格斯玻色子的发现为例，哲学家玛格丽特·莫里森（Margaret Morrison）在其著作中阐释了计算模拟技术的关键作用，这些系统不仅指导科学家锁定观测目标，更承担着从海量高能对撞数据中筛选有效信息的重任。

二、现实世界：人类仍然掌握科学发展核心决策权

如今，AI已开始对科学研究产生重大影响。以AlphaFold系统为例，这款AI系统专门用于预测特定化学结构下蛋白质的三维折叠形态。尽管研究者可以不借助该系统独立完成此类工作，但其过程耗时费力且成本高昂。AlphaFold的研发团队Google DeepMind宣称，该系统已为全球科研界节省了“数亿年的研究时间”。类似的技术红利正辐射至各个科学领域，包括天文学与基因组学的海量数据分析，数学领域新证明方法的开发，气象预测，新药研发等等。

当计算型人工智能（computational AI）的科研贡献开始以“数亿年”为计量单位衡量时，人类仿佛成为了科研合作中效率低下的参与者。我们是否已身处“自动化场景”之中？但实际上，我们尚未达到这个阶段。人类对科学发展的核心作用依然不可替代，我们依然掌握着核心决策权：从科研方向的提出、研究结果的阐释，到科学进程的把控，每个关键环节仍由人类主导。

若循着汉弗莱斯的理论推演，人类将科研中知识宝座的完全让渡将发生于更后期的阶段。届时，超级AI不仅能执行人类设定的任务，还将具备自主设定科研议程的能力，它能依据其独立确立的理论价值标准，自主开展研究规划、数据采集、模型构建与理论创新，形成完全自主的科学体系。

让我们先停下来思考一下，摆脱了人类生理与认知桎梏的超级人工智能，在科研领域将展现出何等令人惊叹的可能性。诸多科学问题因没有资金支持或纯粹因为人类不感兴趣，始终不会受到科学界的研究。

在我写下这段文字时，我正凝视着庭院中一片半朽的落叶——超级AI或许会有兴趣于构建一个预测模型，以秒级精度，依据树种、叶面积、微生物接触史、光照与湿度条件等参数解析特定叶片的衰变过程与速率。这就是一个极其复杂，且其细节对人类而言缺乏显性价值的问题。

又或者超级人工智能或许能建立数学模型解答我儿子曾提出的疑问，精确预测他遗落山间的雪球中的水分子何时会随发源山间的河流流经我们的家门。此类预测需构建涵盖流域结构、流体动力学、气候特征等要素的极端复杂与详尽的模型，而人类并不会花费精力去解决这样“没有意义”的问题。

人类也并非永远无法解答此类问题。若投入足够的研究精力与资金支持，科学家们完全有可能为这些深奥现象构建有效的预测模型。但现实是，我们不会付诸实践。无论利弊，当代科学的发展轨迹始终受制于强烈的现实因素，这些因素包括经济价值、政治优先性、职业前景、文化潮流、以及形形色色的人类认知偏见与信仰等。试想当所有这些桎梏被彻底破除时，科学将呈现何种面貌？

“自动化场景”的深远影响不仅限于对人类无法或不愿涉足的科研项目进行高效探索。尽管超级AI可能暂时沿袭既有理论范式，但它们完全可能另起炉灶，构建全新的世界理论。同理，即便能沿用人类科学家熟悉的数学符号体系，它们将迅速突破传统方式的束缚，创建出全新的数学语言与表达系统。

三、“自动化场景”阶段：人类或许无法阻止超级AI自行发展

在我看来，鉴于这类AI很可能迅速抛下人类认知框架的包袱，我们或许需要遵循维特根斯坦式哲学思辨，将“自动化场景”视作其开创独立科学语言的起点。

路德维希·维特根斯坦在《哲学研究》（Philosophical Investigations，1953）中提出著名论断：“若雄狮能言，人类亦难明其意。”这个看似矛盾的命题揭示着语言意义其实是深深根植于人类的内在经验网络的。科学语言亦遵循此理。当超级AI开始自主制定并执行研究计划时，其科研成果将因人类缺失必要的内在认知视角而变得不可解读。在我们看来，这些研究将成为目标未知、意图难测、诠释方式无从把握的科学。

人类认知能力很可能存在固有边界，包括无数永远无法被理解的数学体系，以及超越三维体验的多维概念。其他物种的智力局限，比如尝试向最聪明的黑猩猩解释广义相对论的实验，已为我们敲响警钟，那就是人类的认知可能同样存在局限，无法理解过于复杂的概念。

即便假设我们的认识能力不存在局限，仍然存在这样一个问题，超级AI的推理在实践中可能超出我们的能力。要理解“自动化场景”下的科学成果，可能需要同时考量数百个复杂模型，每个模型包含数百个参数，且均无法对应人类熟悉的概念。即便我们能够逐个理解参数，甚至理解单个模型，也终究无法实现所有要素的同步整合。

根据你对技术、AI以及奇点（singularity）的偏好差异，上述内容可能会让你觉得极度悲观，抑或格外振奋。如果你和我一样，那就只会觉得这纯属奇闻。既然完全“自动化场景”的结果可能超出我们的理解范围，那么我们为什么要投入经济资源和智力去推动它的发展？尽管这个问题经常被那种“未来终将到来，不管我们愿不愿意”的简单论断所掩盖，我仍然认为，在我们开始有意放弃科学这一知识宝座之前，依然值得花时间厘清自己支持这种未来的理由。

支持“自动化场景”的理由之一，在于我们认为积极进展将随之而来。超级AI可能不时创造出新技术、新资源或解决问题的新方法。鉴于本文的推测篇幅已远超预设，笔者暂不限定这些产物的具体形态，仅希望指出超级智能或能不时推送其判定对人类有益之的研究成果。届时，人类工程师（假设尚未被取代）或将接手这些技术并探寻其应用场景，即便他们无法透彻理解其运作机理。

这种情形类似于，虽不了解显示器显示图像或文字处理器运行的具体原理，却不妨碍利用显示器撰写此文。此类科研活动将失去当代科学与工程学的特质，更近似于单纯的发现，如同原始人认识到藤蔓可以有效捆扎三根树枝以搭建庇护所，亦如同人类偶然发现煤炭、青霉素等物资的实用价值。另一种科学形态或将伴随而生，即通过对AI的成果进行逆向工程，推动并修正人类既有的理论认知体系。

推动超级AI科学发展的另一理由可能源于审美维度。就个人而言，当我思考社会对科学的资助机制时，审美考量会构成一个强烈的驱动力。尽管我无力亦无暇通晓所有科学领域，但目睹众多杰出科学家执着于追寻人类特有的好奇心，即便这些探索未必能给我的生活或世界观带来正向影响，仍能让我感到美好。

这种知晓世界正被认知、研究与理解的过程本身，就蕴含着令人愉悦的审美体验。这种审美价值能否延伸至非人类科学家？或许难以一蹴而就。但那些已学会与AI共生的未来世代，或将把支持这种超人类认知的意愿视为一种良性社会的标志。

另一种可能性是，人类可能出于对超级AI的善意推动“自动化场景”的实现，这种看法认为我们会相信，让超级AI自主发展科学具有积极意义。尽管我们可能会因为超级人工智能掌握了我们所不了解的知识而感到沮丧，甚至会心生不安，但我们仍会出于对这些人造“后裔”的道德责任感或善意，继续推进这一进程。

此外，某些动因也可能在无意间催生“自动化场景”。例如，人类或许会将在宇宙中散播知识视为自身的道德责任或天命所归。如果这种智慧在星际旅途中恰好开展自动化科学探索，那便顺其自然。

同样存在诸多支持人类放弃推进自动化情景。比如有人认为超级AI的发现可能催生新型恶性武器。或者，由于它们需要具备自主且不受约束的智能体（agency），出现世界末日的风险将会增加，例如人类将被奴役或灭绝。也有观点只是担心，某些超级AI或将以危险、有悖伦理或违背人类共同价值的方式进行实验。

然而，尽管存在诸多担忧，一旦在技术上可行，我们恐怕仍无力阻止其发展。最具说服力的原因或许是，资本力量与竞争机制的裹挟终将使我们步入“自动化场景”。而这种未来可能在没有深思熟虑的情况下悄然降临，仅仅因为技术可行，或有人想捷足先登，到那时，无论我们是否经过理性抉择，未来或终将降临。

敏锐的读者会注意到，在发展“自动化场景”的诸多潜在动因中，唯独缺失了当前驱动科学发展的动机。我们不会为了增进对世界的认知与理解、提升对现象解释力或增强对自然的干预力量而追求“自动化场景”，这些动机注定与“自动化场景”的本质相悖。“自动化科学”将抢走人类的认知宝座，将我们排除在新发现的内在认知视角之外，而这些发现很可能复杂到超越我们的理解能力。因此，“自动化科学”无法满足人类对理解、阐释、知识与控制的基本诉求。

或许随着时间推移，人类能学会放弃这些诉求，进化为兴致缺缺、没有好奇心的物种。但我对此深表怀疑。正如未来终将到来，这些渴求也必将持续存在，无论我们是否情愿。

四、总结

那么人类将何去何从？在汉弗莱斯的原始论述中，“自动化场景”将取代人类科学。对此笔者持不同见解。只要人类对理解、阐释、知识与控制的根本渴求持续存在，我们就必然通过科学实践来满足这些渴求。正如人类始终存在创造美的渴求，并在友谊与爱情中追寻人际联结，在生命历程中探寻与建构意义，驱动科学探索的原始动机同样根植于人性深处。我们注定无法摆脱理解与解释周遭自然世界的好奇本能。

若“自动化场景”终将实现，其更可能作为某种新型的、替代性的次要路径存在，更类似于补充而不是取代。两个物种将肩并肩开展科学研究，各自秉持不同的动机、兴趣、框架与理论体系。而某些科研领域，例如人类对自身思维机制、决策过程、社会关系与身体健康的求索，将难以引发超级AI的研究兴趣。

诚然，若我们仍希望保持人类本性（这恰是笔者衷心所愿），就必须持续投身科学事业。试问：若失去对美的追寻、对友情的缔造、对意义的建构，以及那份与生俱来的无尽好奇，人类还剩下什么？或许是我想象力的局限，使我难以勾勒出人类主动摒弃这些基本诉求的未来图景。虽然，诸多超人类主义者或持不同见解。但我并不认为，洞察美、爱、意义及科学中的善，是缺乏创造力的表现。正相反，就我而言，人类这无可救药的好奇心恰是希望所在。

原文链接：https://aeon.co/essays/when-ais-do-science-it-will-be-strange-and-incomprehensible

参考文献：

http://github-phialsbasement/AlphaEvolve-MatrixMul-Verification:VerificationofGoogleDeepMind'sAlphaE

https://www.wired.com/story/google-deepminds-ai-agent-dreams-up-algorithms-beyond-human-expertise/

https://www.newser.com/story/364628/google-ai-tool-catches-up-to-years-of-research-in-48-hours.html

https://research.google/blog/accelerating-scientific-breakthroughs-with-an-ai-co-scientist/

https://arxiv.org/html/2401.02843v1

https://global.oup.com/academic/product/reconstructing-reality-9780199380275?cc=gb〈=en&

https://aeon.co/videos/for-ludwig-wittgenstein-language-is-a-game-but-not-a-frivolous-one