>科学范式和科学革命
我先给你介绍科学哲学史上的一个重要人物——托马斯·库恩（Thomas Kuhn, 1922—1996）。大约 60 多年前，美国人库恩提出了一个重要的科学哲学概念，可以简称为科学范式和科学革命。
库恩发现科学与其他学问，比如文学、艺术、宗教、哲学、道德、法律、政治等有一个很大的不同。科学的特殊之处就在于：全世界做科研的人都用数学语言做桥梁，采用同样的一套标准来做研究或者判定理论的好坏，而且这套标准随着时间的推移，越是接近现代，就越趋同。这就是所谓的科学范式。
托马斯·库恩（Thomas Kuhn, 1922—1996）
'Thomas-kuhn-portrait' by Davi.trip is licensed under CC BY-SA 4.0.
库恩还发现，科学的发展并不是一种平滑的线性发展模式，而是会像走台阶一样，隔一个阶段上一个台阶，这种情况就被库恩叫做“范式转换”。后来，他写书的时候，就用了一个更加有冲击力的词——科学革命。他想表达的是，科学的发展每隔一个时期，就会迎来一场革命，很多旧有的范式会被新的范式所取代，每当革命之后，科学又会取得新一轮突飞猛进的发展。
说实话，以前我对库恩的这套理论并不是十分认同。我认为，总结过去，不代表就能预测未来。现代的科研活动已经发展得相当成熟，科学方法也差不多都定型，我实在想不出还能有什么可以取代现代科学方法，简言之就是“理论推理+系统实验”这一套方法。
> 未来范式或将引领科学革命 <
但是最近这一年以来，看到 GPT 这个人工智能模型的快速迭代发展，我突然发现，库恩所说的科学革命，很可能就在不远的将来，再次到来。人类社会又将迎来一次史无前例的深刻变革，这场变革的剧烈程度，很可能不亚于工业革命对社会的冲击。
为了让你感受到最近一段时间我内心受到的那种冲击和震撼，我需要一层层展开跟你讲。为了叙述的方便，我把目前最成熟的科学研究范式称为“现代范式”，而这一场科学革命后的范式称为“未来范式”。
现代范式遵循这样的过程：不论我们做什么样的科研项目，总是先要找到一套指导性的理论，这个理论未必成熟，也不一定完全正确，但总是先要有理论。然后，根据这套理论做出一些假设或者猜想，然后再设计实验来证实或者证伪，如此循环往复，直到找到满意的答案为止。
我举个例子。用现代范式来研发一款靶向新药，科学家们要怎么做呢？大概可以分成这样几个步骤：
【 第一步：发现新靶点 】
所谓的靶点，即药物会攻击的点，比如癌细胞的某个位置。怎么找到它们呢？就要通过现有的理论，比如生物信息学、分子生物学等，找出可能与某种疾病相关的蛋白质分子上的靶点。
【 第二步：药物设计 】
在现有理论的指导下，设计出一种有可能成功攻击靶点的分子结构。
【 第三步：合成 】
通过化学方法合成出想要的分子结构。
【 第四步：实验 】
包括动物实验、临床试验等。
实验有可能成功也有可能失败，如果失败就跳回第一步，如此循环往复，花上个十多年找到一款新药就已经非常幸运了。但是，当 AI 出现后，尤其是用神经网络构建的机器学习模型出现后，这种现代范式开始面临挑战。
第一个让科学界感到震惊的例子出现在 2020 年，当时麻省理工学院的科研团队研发出了一种新的抗生素，叫 Halicin。稍微了解一些抗生素研发历史的人都知道，要找到一种新型的有效的抗生素是极其困难的。但是，令科学界震惊的并不是这种抗生素的效果，它的效果当然也很不错，真正令科学家们震惊的是 Halicin 的研发过程，可以说，它已经半跳出了现代范式。
Halicin（第一行）阻止了大肠杆菌中抗生素的耐药性，而环丙沙星（第二行）则没有。
Image: courtesy of the Collins Lab at MIT
我们来看一下这次研究人员是怎么做的。
【 第一步：AI 学习 】
他们先让 AI 去学习大约 2000 个分子结构，这些分子结构和作用都是已知的，它们有的无效，有的有效。
【 第二步：总结规律 】
通过神经网络深度学习，AI 自己会去总结这些分子结构是不是有效的规律。
但是请你注意，AI 总结出来的规律是无法用我们人类现有的自然语言描述的。AI 并不会总结出一套我们人可以读懂的公式，只要套用这个公式就会知道，哪个分子结构有效，哪个无效。AI 有它自己的一套连开发者也搞不懂到底是怎么运作的判定规则。对于人类来说，AI 就是个黑盒，我们只知道，给它一个输入值，它能返回一个输出值，至于过程是怎样的，对不起，人类语言无法描述。
【 第三步：打分 】
有了这个 AI 之后，研究者把另外 61000 个已知的可能会有效的分子结构一个个输进去，让 AI 按照有效性、副作用等，对这些分子结构进行打分，得分最高的那个分子就是 Halicin。
【 第四步：实验 】
最后，研究者们再用 Halicin 做动物实验和人体临床试验，发现它的效果果然非常好。一款新的抗生素就这样被研发出来。
你发现没，这是一种非常不同于现代范式的研究方法。假如按照现代范式，我们只能老老实实地做实验去测试这 61000 种分子结构，就好像屠呦呦当年寻找有效的抗疟药物一样，这需要花费的时间和金钱成本都极其巨大。
听完这个例子，我不知道你有什么样的感想，但我受到的震撼是巨大的。它让我突然意识到，AI 可以发现人不能理解的规律，但那又的的确确是一种规律，因为它真的在 61000 种分子中找到了唯一一个有效的分子，这肯定不能用运气来解释。
> 人脑已无法理解黑盒化的 AI <
黄金时代的科学家们有一种理想，用数学模型去总结或者模拟这个世界上的所有规律。但是，现在 AI 告诉我们，至少它们掌握了一种不是用一个或一组数学公式，而是用一套通用的算法加海量的参数来描绘的自然规律。换句话说，我们人类理解自然规律是一一对应的，一个规则对应一个数学模型，而 AI 则是以不变应万变。它只有一个数学模型（假如神经网络算法也看成是一个数学模型的话），这个数学模型似乎可以描述所有的自然规律。但人类却无法理解它到底是怎么找到答案的。这套算法只有 AI 能用，人脑用不了。
现在用户量已经突破 1 亿、人人都在谈论的 ChatGPT，其实只是 GPT-3.5 这个 AI 模型的一个应用而已。它的参数已经突破 1750 亿个，相当于银河系中恒星的数量。它是一个人类的大脑永远也无法真正理解的“小宇宙”。
刚才说的 Halicin 只是用 AI 做新药研发的一个例子。AI 能做的科研还远远不止这些。比如说，还可以用 AI 来预测新材料的性能，用 AI 来解读基因的功能等等。
“生根发芽”的 AI 应用
所有这些 AI 做科研的模式，都已经不再是现代范式，至少不完全是现代范式了。它们的一个共同特征就是：AI 相对于人类科学家来说，是一个黑盒，我们无法理解黑盒内的原理，或者说，黑盒内的原理是一种只有 AI 能理解的形式。人类大脑的生理结构决定了，这种形式我们无法真正理解。这并不是我的过度夸张，事实上，OpenAI 和 ChatGPT 的开发者也搞不清 ChatGPT 为什么能表现成现在这样子。
是不是有些细思极恐？说实话，讲到这里，我的背脊已经有一丝丝凉意。但这还没有完，更令我感到震惊的还在后面。
> OpenAI 的终极目标 <
2023 年 2 月 24 日，ChatGPT 的开发公司 OpenAI 在官网上发布了一则声明，英文标题是Planning for AGI and Beyond。你可能不知道 AGI 是什么意思，它是 Artificial General Intelligence 的首字母缩写，翻译成中文就是“通用型人工智能”或者“强人工智能”。所以，那则声明的标题可以翻译为《强人工智能及超人工智能的路线图》。我们可以这么理解 AGI ：只要是人类用智力能完成的任务，AGI 就能完成。过去，我们的 AI 都是专用型的，翻译的管翻译，画图的管画图，人脸识别的管人脸识别。但AGI 将是通用型的，它什么都能干，一个算法加上几千亿个参数，就能完成一切通过智力能完成的任务，甚至是超越人类智力的任务。
这则声明写得很长。说实话，当我读完这则声明全文，我产生了一种强烈的不真实感。我要揉揉眼睛才敢相信这真的是 OpenAI 的官方声明，而不是某个科幻小说中的选段。这则几千字的声明分成两部分，第一部分叫“短期来看”，这部分内容可以总结为一句话：
'随着系统越来越接近 AGI，我们对模型的创建和部署也越来越谨慎。'
第二部分叫“长远来看”，让我擦汗和产生不真实感的正是这一部分，我给你选读其中的几段，你来体会一下：
我们认为，人类的未来应该由人类自己决定，与公众分享有关 AI 进步的信息至关重要。所有建立 AGI 的尝试都应该受到严格审查，这方面的重大决策应当接受公众咨询。
第一个 AGI 不过是人工智能连续发展过程中的一个点。我们认为，AGI 依然会继续进化，速度与过去十年相同。如果真如所料，世界可能会变得截然不同，这其中也隐藏着巨大的风险。因为一个立场错位的超级智能可能会对世界造成严重的伤害，想象一下一个果敢的超级智能领导的独裁政权带来的后果吧。
人工智能加速科学进步的能力是一个值得深思的特例，它的影响力或许超过其他所有事物之和。AGI 有足够的能力来加速自己的进程，这可能导致世界以惊人的速度发生重大变化（即使转变并没有如预料的那么快，但我们预计它会在最后阶段迅速发生）。我们认为，开始得慢一些更容易守护住安全，并且通过协调，努力让 AGI 在关键时刻减速发展也很重要。即使我们的世界不需要就它的定位去解决技术问题，慢速发展也很重要，因为需要留给社会足够的时间去适应。
成功过渡到一个拥有超级智能的世界，可能是人类历史上最重要、最有前途、同时也是最可怕的项目。成功绝非一蹴而就，赌注，即天堂还是地狱，有望将我们所有人团结起来。
一个人类繁荣到我们都无法想象的世界，或许不再是天方夜谭，因为我们为世界提供了一个与之匹配的 AGI。
不知你看完后什么感觉？OpenAI 竟然要刻意减慢强人工智能的研发速度。这可能是历史上第一次有科技公司认为自己的研发进度太快了，需要人为减慢，否则人类社会将猝不及防。
> 你必须学会与 AGI 沟通 <
我不知道你有没有看过或者听过我 2020 年写的一部科幻小说《哪》。在那部小说中，我描写了一个在云中觉醒的人工智能。写小说的时候，我认为这是一个远未来的科幻小说。哪里想的到，仅仅过去了3 年，这就已经不再是科幻，而是正在发生中的事实了。就像崔健在一首歌中唱的：不是我不明白，这世界变化快。
有消息说，OpenAI 的下一代模型 GPT-4 已经训练完成，现在正在训练的是 GPT-5，它或许就是人类历史上的第一个 AGI，即第一个真正意义上能通过图灵测试的 AI。我的天哪，未来真的已来。
现在，我们已经几乎可以肯定，一个智力远胜于人类的超级智能体在技术上已经不再是障碍，它唯一的障碍是法律和伦理。
超级智能体的诞生已不再遥远
在不远的未来，科学的现代范式将成为低效的代名词。未来范式的科研将会变成什么样子？我的想法是，一个材料科学家的研发过程很可能变成这样：第一步，科学家向 AGI 详细描述自己需要的材料的各种性质，比如密度、导电性、导热性、是否透明等等。这种描述本身也需要专业知识，否则很可能你描述的材料要么已经存在，要么根本不可能制造出来。第二步，AGI 会告诉你什么样的分子结构或者混合物能达成目标。第三步，科学家与 AGI 进一步探讨制造工艺，不断地修正需求，降低制造成本。第四步，AGI 设计出最优化的量产方案。第五步，科学家按照 AGI 给出的方案去找工厂实现。
在这个过程中，科学家更像是一个魔法师，科研的过程有点像是一种文字游戏。网上现在把 AI 画师就称为“魔法师”，把输入的过程叫做“念咒”，说实话，还挺形象的。我现在不知道什么样的人可以更好地掌握未来范式，我只知道，问出一个好问题或者说掌握与 AGI 沟通的能力，才是最重要的。这将是一场摧枯拉朽式的科学革命。
> AI 给你的最大惊喜是什么？<
当这场革命来临时，世界的科技、政治、经济格局很可能面临重新洗牌。举个例子，人类目前所能制造的最复杂的机器是用来生产芯片的光刻机。一台荷兰 ASML 公司生产的最先进的极紫外光刻机，有几十万个零部件，依赖全球 300 多个供应商提供零部件。这个世界上没有任何一个国家能完全靠自己制造出一台光刻机，因为它实在是太复杂了。
ASML 最先进的极紫外光刻机
Source: IMEC
但未来有一天，你对着 AGI 说一句话：请帮我设计一台极紫外光刻机，要用尽可能少的零部件，而且你需要写出每一个零部件的详细制造工艺，画出所有用于生产零部件的机器的设计图。几天之后，AGI 真的设计出了一台全新原理的极紫外光刻机。所需要的零部件是人类设计的光刻机的十分之一，并且每一个零部件的详细制造工艺都写得清清楚楚，并且它还告诉你，这台机器生产出的芯片的所有的性能指标，都将超过现有最好的芯片。
像这样的超人工智能一旦出现，我难以想象人类的社会形态将发生怎样的巨变。这意味着，AI 真的可以完成从软件到硬件的自我进化，成为神一样的存在。第一个拥有这种超级人工智能的组织，会迅速获得别人无法匹敌，可以用降维打击来形容的能力。而从 OpenAI 的这则最新声明来看，超人工智能的技术障碍似乎已经被扫清了。
听到这里，我很想知道你对强人工智能和超人工智能的看法。我想请你注意一点，你要思考的已经不再是不知道能不能实现的科幻，而是正在向我们走来的未来。
最后再说点儿题外话，这是我第一次尝试在 ChatGPT 的帮助下来完成的文稿。在我动笔前，我只是看到这样一句话：2020 年，麻省理工的科研团队利用人工智能研发出了一种新的抗生素 Halicin。
然后，我开始连续向 ChatGPT 提问：
上面这些问题并不是我全部的提问，只是我选取的最重要的几个。我基本上用中英文双语都问了一遍，很有意思的是，有些问题的中英文回答甚至是截然相反的。比如某一种抗癌新药，中文版说这是通过 AI 研发出的，但英文版说不是。ChatGPT 目前一本正经胡说八道的本事是非常强悍的，尤其是用中文回答时。现在，我还不能相信它给出的任何一个答案，只能把它看成是一个参考和线索。真正要写进文章中，还得通过传统方法去核实。但即便这样，它依然大大提高了我的写作效率。这篇 5000 字左右的文章，我差不多只用了一个晚上就完成，而在过去，同样的选题，我大概需要 1 天 1 夜的时间才能完成。ChatGPT 带给我的惊喜和震撼已经足够大。
联系客服
