>科学范式和科学革命
我先给你介绍科学哲学史上的一个重要人物——托马斯·库恩(Thomas Kuhn, 1922—1996)。大约 60 多年前,美国人库恩提出了一个重要的科学哲学概念,可以简称为科学范式和科学革命。
库恩发现科学与其他学问,比如文学、艺术、宗教、哲学、道德、法律、政治等有一个很大的不同。科学的特殊之处就在于:全世界做科研的人都用数学语言做桥梁,采用同样的一套标准来做研究或者判定理论的好坏,而且这套标准随着时间的推移,越是接近现代,就越趋同。这就是所谓的科学范式。
托马斯·库恩(Thomas Kuhn, 1922—1996)
'Thomas-kuhn-portrait' by Davi.trip is licensed under CC BY-SA 4.0.
库恩还发现,科学的发展并不是一种平滑的线性发展模式,而是会像走台阶一样,隔一个阶段上一个台阶,这种情况就被库恩叫做“范式转换”。后来,他写书的时候,就用了一个更加有冲击力的词——科学革命。他想表达的是,科学的发展每隔一个时期,就会迎来一场革命,很多旧有的范式会被新的范式所取代,每当革命之后,科学又会取得新一轮突飞猛进的发展。
说实话,以前我对库恩的这套理论并不是十分认同。我认为,总结过去,不代表就能预测未来。现代的科研活动已经发展得相当成熟,科学方法也差不多都定型,我实在想不出还能有什么可以取代现代科学方法,简言之就是“理论推理+系统实验”这一套方法。
> 未来范式或将引领科学革命 <
但是最近这一年以来,看到 GPT 这个人工智能模型的快速迭代发展,我突然发现,库恩所说的科学革命,很可能就在不远的将来,再次到来。人类社会又将迎来一次史无前例的深刻变革,这场变革的剧烈程度,很可能不亚于工业革命对社会的冲击。
为了让你感受到最近一段时间我内心受到的那种冲击和震撼,我需要一层层展开跟你讲。为了叙述的方便,我把目前最成熟的科学研究范式称为“现代范式”,而这一场科学革命后的范式称为“未来范式”。
现代范式遵循这样的过程:不论我们做什么样的科研项目,总是先要找到一套指导性的理论,这个理论未必成熟,也不一定完全正确,但总是先要有理论。然后,根据这套理论做出一些假设或者猜想,然后再设计实验来证实或者证伪,如此循环往复,直到找到满意的答案为止。
我举个例子。用现代范式来研发一款靶向新药,科学家们要怎么做呢?大概可以分成这样几个步骤:
【 第一步:发现新靶点 】
所谓的靶点,即药物会攻击的点,比如癌细胞的某个位置。怎么找到它们呢?就要通过现有的理论,比如生物信息学、分子生物学等,找出可能与某种疾病相关的蛋白质分子上的靶点。
【 第二步:药物设计 】
在现有理论的指导下,设计出一种有可能成功攻击靶点的分子结构。
【 第三步:合成 】
通过化学方法合成出想要的分子结构。
【 第四步:实验 】
包括动物实验、临床试验等。
实验有可能成功也有可能失败,如果失败就跳回第一步,如此循环往复,花上个十多年找到一款新药就已经非常幸运了。但是,当 AI 出现后,尤其是用神经网络构建的机器学习模型出现后,这种现代范式开始面临挑战。
第一个让科学界感到震惊的例子出现在 2020 年,当时麻省理工学院的科研团队研发出了一种新的抗生素,叫 Halicin。稍微了解一些抗生素研发历史的人都知道,要找到一种新型的有效的抗生素是极其困难的。但是,令科学界震惊的并不是这种抗生素的效果,它的效果当然也很不错,真正令科学家们震惊的是 Halicin 的研发过程,可以说,它已经半跳出了现代范式。
Halicin(第一行)阻止了大肠杆菌中抗生素的耐药性,而环丙沙星(第二行)则没有。
Image: courtesy of the Collins Lab at MIT
我们来看一下这次研究人员是怎么做的。
【 第一步:AI 学习 】
他们先让 AI 去学习大约 2000 个分子结构,这些分子结构和作用都是已知的,它们有的无效,有的有效。
【 第二步:总结规律 】
通过神经网络深度学习,AI 自己会去总结这些分子结构是不是有效的规律。
但是请你注意,AI 总结出来的规律是无法用我们人类现有的自然语言描述的。AI 并不会总结出一套我们人可以读懂的公式,只要套用这个公式就会知道,哪个分子结构有效,哪个无效。AI 有它自己的一套连开发者也搞不懂到底是怎么运作的判定规则。对于人类来说,AI 就是个黑盒,我们只知道,给它一个输入值,它能返回一个输出值,至于过程是怎样的,对不起,人类语言无法描述。
【 第三步:打分 】
有了这个 AI 之后,研究者把另外 61000 个已知的可能会有效的分子结构一个个输进去,让 AI 按照有效性、副作用等,对这些分子结构进行打分,得分最高的那个分子就是 Halicin。
【 第四步:实验 】
最后,研究者们再用 Halicin 做动物实验和人体临床试验,发现它的效果果然非常好。一款新的抗生素就这样被研发出来。
你发现没,这是一种非常不同于现代范式的研究方法。假如按照现代范式,我们只能老老实实地做实验去测试这 61000 种分子结构,就好像屠呦呦当年寻找有效的抗疟药物一样,这需要花费的时间和金钱成本都极其巨大。
听完这个例子,我不知道你有什么样的感想,但我受到的震撼是巨大的。它让我突然意识到,AI 可以发现人不能理解的规律,但那又的的确确是一种规律,因为它真的在 61000 种分子中找到了唯一一个有效的分子,这肯定不能用运气来解释。
> 人脑已无法理解黑盒化的 AI <
黄金时代的科学家们有一种理想,用数学模型去总结或者模拟这个世界上的所有规律。但是,现在 AI 告诉我们,至少它们掌握了一种不是用一个或一组数学公式,而是用一套通用的算法加海量的参数来描绘的自然规律。换句话说,我们人类理解自然规律是一一对应的,一个规则对应一个数学模型,而 AI 则是以不变应万变。它只有一个数学模型(假如神经网络算法也看成是一个数学模型的话),这个数学模型似乎可以描述所有的自然规律。但人类却无法理解它到底是怎么找到答案的。这套算法只有 AI 能用,人脑用不了。
现在用户量已经突破 1 亿、人人都在谈论的 ChatGPT,其实只是 GPT-3.5 这个 AI 模型的一个应用而已。它的参数已经突破 1750 亿个,相当于银河系中恒星的数量。它是一个人类的大脑永远也无法真正理解的“小宇宙”。
刚才说的 Halicin 只是用 AI 做新药研发的一个例子。AI 能做的科研还远远不止这些。比如说,还可以用 AI 来预测新材料的性能,用 AI 来解读基因的功能等等。
“生根发芽”的 AI 应用
所有这些 AI 做科研的模式,都已经不再是现代范式,至少不完全是现代范式了。它们的一个共同特征就是:AI 相对于人类科学家来说,是一个黑盒,我们无法理解黑盒内的原理,或者说,黑盒内的原理是一种只有 AI 能理解的形式。人类大脑的生理结构决定了,这种形式我们无法真正理解。这并不是我的过度夸张,事实上,OpenAI 和 ChatGPT 的开发者也搞不清 ChatGPT 为什么能表现成现在这样子。
是不是有些细思极恐?说实话,讲到这里,我的背脊已经有一丝丝凉意。但这还没有完,更令我感到震惊的还在后面。
> OpenAI 的终极目标 <
2023 年 2 月 24 日,ChatGPT 的开发公司 OpenAI 在官网上发布了一则声明,英文标题是Planning for AGI and Beyond。你可能不知道 AGI 是什么意思,它是 Artificial General Intelligence 的首字母缩写,翻译成中文就是“通用型人工智能”或者“强人工智能”。所以,那则声明的标题可以翻译为《强人工智能及超人工智能的路线图》。我们可以这么理解 AGI :只要是人类用智力能完成的任务,AGI 就能完成。过去,我们的 AI 都是专用型的,翻译的管翻译,画图的管画图,人脸识别的管人脸识别。但AGI 将是通用型的,它什么都能干,一个算法加上几千亿个参数,就能完成一切通过智力能完成的任务,甚至是超越人类智力的任务。
这则声明写得很长。说实话,当我读完这则声明全文,我产生了一种强烈的不真实感。我要揉揉眼睛才敢相信这真的是 OpenAI 的官方声明,而不是某个科幻小说中的选段。这则几千字的声明分成两部分,第一部分叫“短期来看”,这部分内容可以总结为一句话:
'随着系统越来越接近 AGI,我们对模型的创建和部署也越来越谨慎。'
第二部分叫“长远来看”,让我擦汗和产生不真实感的正是这一部分,我给你选读其中的几段,你来体会一下:
我们认为,人类的未来应该由人类自己决定,与公众分享有关 AI 进步的信息至关重要。所有建立 AGI 的尝试都应该受到严格审查,这方面的重大决策应当接受公众咨询。
第一个 AGI 不过是人工智能连续发展过程中的一个点。我们认为,AGI 依然会继续进化,速度与过去十年相同。如果真如所料,世界可能会变得截然不同,这其中也隐藏着巨大的风险。因为一个立场错位的超级智能可能会对世界造成严重的伤害,想象一下一个果敢的超级智能领导的独裁政权带来的后果吧。
人工智能加速科学进步的能力是一个值得深思的特例,它的影响力或许超过其他所有事物之和。AGI 有足够的能力来加速自己的进程,这可能导致世界以惊人的速度发生重大变化(即使转变并没有如预料的那么快,但我们预计它会在最后阶段迅速发生)。我们认为,开始得慢一些更容易守护住安全,并且通过协调,努力让 AGI 在关键时刻减速发展也很重要。即使我们的世界不需要就它的定位去解决技术问题,慢速发展也很重要,因为需要留给社会足够的时间去适应。
成功过渡到一个拥有超级智能的世界,可能是人类历史上最重要、最有前途、同时也是最可怕的项目。成功绝非一蹴而就,赌注,即天堂还是地狱,有望将我们所有人团结起来。
一个人类繁荣到我们都无法想象的世界,或许不再是天方夜谭,因为我们为世界提供了一个与之匹配的 AGI。
不知你看完后什么感觉?OpenAI 竟然要刻意减慢强人工智能的研发速度。这可能是历史上第一次有科技公司认为自己的研发进度太快了,需要人为减慢,否则人类社会将猝不及防。
> 你必须学会与 AGI 沟通 <
我不知道你有没有看过或者听过我 2020 年写的一部科幻小说《哪》。在那部小说中,我描写了一个在云中觉醒的人工智能。写小说的时候,我认为这是一个远未来的科幻小说。哪里想的到,仅仅过去了3 年,这就已经不再是科幻,而是正在发生中的事实了。就像崔健在一首歌中唱的:不是我不明白,这世界变化快。
有消息说,OpenAI 的下一代模型 GPT-4 已经训练完成,现在正在训练的是 GPT-5,它或许就是人类历史上的第一个 AGI,即第一个真正意义上能通过图灵测试的 AI。我的天哪,未来真的已来。
现在,我们已经几乎可以肯定,一个智力远胜于人类的超级智能体在技术上已经不再是障碍,它唯一的障碍是法律和伦理。
超级智能体的诞生已不再遥远
在不远的未来,科学的现代范式将成为低效的代名词。未来范式的科研将会变成什么样子?我的想法是,一个材料科学家的研发过程很可能变成这样:第一步,科学家向 AGI 详细描述自己需要的材料的各种性质,比如密度、导电性、导热性、是否透明等等。这种描述本身也需要专业知识,否则很可能你描述的材料要么已经存在,要么根本不可能制造出来。第二步,AGI 会告诉你什么样的分子结构或者混合物能达成目标。第三步,科学家与 AGI 进一步探讨制造工艺,不断地修正需求,降低制造成本。第四步,AGI 设计出最优化的量产方案。第五步,科学家按照 AGI 给出的方案去找工厂实现。
在这个过程中,科学家更像是一个魔法师,科研的过程有点像是一种文字游戏。网上现在把 AI 画师就称为“魔法师”,把输入的过程叫做“念咒”,说实话,还挺形象的。我现在不知道什么样的人可以更好地掌握未来范式,我只知道,问出一个好问题或者说掌握与 AGI 沟通的能力,才是最重要的。这将是一场摧枯拉朽式的科学革命。
> AI 给你的最大惊喜是什么?<
当这场革命来临时,世界的科技、政治、经济格局很可能面临重新洗牌。举个例子,人类目前所能制造的最复杂的机器是用来生产芯片的光刻机。一台荷兰 ASML 公司生产的最先进的极紫外光刻机,有几十万个零部件,依赖全球 300 多个供应商提供零部件。这个世界上没有任何一个国家能完全靠自己制造出一台光刻机,因为它实在是太复杂了。
ASML 最先进的极紫外光刻机
Source: IMEC
但未来有一天,你对着 AGI 说一句话:请帮我设计一台极紫外光刻机,要用尽可能少的零部件,而且你需要写出每一个零部件的详细制造工艺,画出所有用于生产零部件的机器的设计图。几天之后,AGI 真的设计出了一台全新原理的极紫外光刻机。所需要的零部件是人类设计的光刻机的十分之一,并且每一个零部件的详细制造工艺都写得清清楚楚,并且它还告诉你,这台机器生产出的芯片的所有的性能指标,都将超过现有最好的芯片。
像这样的超人工智能一旦出现,我难以想象人类的社会形态将发生怎样的巨变。这意味着,AI 真的可以完成从软件到硬件的自我进化,成为神一样的存在。第一个拥有这种超级人工智能的组织,会迅速获得别人无法匹敌,可以用降维打击来形容的能力。而从 OpenAI 的这则最新声明来看,超人工智能的技术障碍似乎已经被扫清了。
听到这里,我很想知道你对强人工智能和超人工智能的看法。我想请你注意一点,你要思考的已经不再是不知道能不能实现的科幻,而是正在向我们走来的未来。
最后再说点儿题外话,这是我第一次尝试在 ChatGPT 的帮助下来完成的文稿。在我动笔前,我只是看到这样一句话:2020 年,麻省理工的科研团队利用人工智能研发出了一种新的抗生素 Halicin。
然后,我开始连续向 ChatGPT 提问:
上面这些问题并不是我全部的提问,只是我选取的最重要的几个。我基本上用中英文双语都问了一遍,很有意思的是,有些问题的中英文回答甚至是截然相反的。比如某一种抗癌新药,中文版说这是通过 AI 研发出的,但英文版说不是。ChatGPT 目前一本正经胡说八道的本事是非常强悍的,尤其是用中文回答时。现在,我还不能相信它给出的任何一个答案,只能把它看成是一个参考和线索。真正要写进文章中,还得通过传统方法去核实。但即便这样,它依然大大提高了我的写作效率。这篇 5000 字左右的文章,我差不多只用了一个晚上就完成,而在过去,同样的选题,我大概需要 1 天 1 夜的时间才能完成。ChatGPT 带给我的惊喜和震撼已经足够大。
联系客服