无需发展出意识，AI就能威胁人类文明。
——尤瓦尔·赫拉利
ChatGPT横空出世，让人工智能成为全世界关注的热点。不少人乐观地认为，人工智能技术的进展将帮助人类跨越科技奇点，但在著名历史学者、《人类简史》《未来简史》《今日简史》的作者尤瓦尔·赫拉利看来，情况可能并没有那么乐观。
4月29日在Frontiers论坛上，赫拉利发表了关于人工智能与人类的未来主题演讲，提出了他的看法。
配图与本次演讲无关
赫拉利在演讲中指出，人工智能是当前生态危机的一部分，它既可以帮助解决问题，也可能加剧危机。人工智能威胁人类文明并不一定需要意识或在物理世界中移动的能力。在此意义上，赫拉利将人工智能比喻为入侵对人类文明的操作系统的入侵，以此强调人工智能对文明的影响。
赫拉利所担忧的，不仅是人工智能工具可能被用于制造政治宣言、假新闻和创造新的宗教圣经，更在于人工智能还可以与人建立亲密关系，并利用这种亲密关系来影响人们的观点。它不需要直接控制人类大脑，而是通过掌握人类语言在虚拟世界中存续并影响人类。赫拉利提醒人们，为了确保人工智能被用于善而非恶，需要认真监管和限制其公共部署。政府应禁止在确保安全之前将更具革命性的人工智能工具发布到公众领域，以避免可能带来的负面影响。他进一步强调，放慢人工智能竞赛的速度是为了更好地了解和监管这项强大技术，以避免陷入幻觉和破坏民主的危险。为了遏制人工智能的失控，我们需要采取行动。对此，赫拉利的一项建议是强制人工智能披露自身身份。
与赫拉利的观点相类似的是，在另一位著名批判学者乔纳森·克拉里看来，人工智能和量子计算、5G等技术所彰显的“进步意义”只是科学乐观主义下的一种幻觉，其背后的代价将让人类陷入灾难性的境地。在新书《焦土故事》里，他言辞犀利地提出了自己的批判。
【美】乔纳森·克拉里 著
人工智能（AI）和量子计算（quantum computing）新功能的开发和部署，让银行和金融业、安保和情报机构以及军方成为最大的受益者。这些领域都需要处理大量数据，而且对处理数据的速度和风险分析、自动化决策的能力有很高的要求，因为它们在这些领域的成功和全球主导地位至关重要。5G 网络的建设可以帮助军方实现“全谱优势”（full spectrum dominance）的目标，军方将所有陆、海、空和卫星上的网络连接成一个巨大的通信组合。这说明安德斯所判的无须人类的科技未来是能够实现的。以后企业家们无须雇用劳动力便可创造巨大财富；军方也可以策划电子战争，无须投入真人士兵；社交媒体使用的机器人在数量上远超在后台操作的真人。这些工具主要用于掠夺和窃取社会财富和自然资源，绝不会为社会公共利益服务。当然，如果一毫秒内就能下载完数小时长的视频，姑且把这算作大众服务吧。
在此基础上，克拉里进一步揭示了其对人类生活方式和社会运转规则的不可逆破坏性影响。但另一方面，他更想强调的是，数字工具整合形成的控制体系是资本主义逻辑的化身，技术层面的问题根源并不在技术上，互联网复合体更是一架庞大的资本机器，其内部的运作机制也将必然符合资本主义内部的矛盾运动规律。
有人担心，人工智能、5G 网络和物联网独具的功能会整合成一个平稳运行的全方位体系，它可以控制整个社会。但这种事情是不会发生的。实际上这些系统以后会是相互掣肘、互不兼容的，它们被硬拼在一起，最终只能导致运行不畅、宕机和效率低下。另外，资本主义的逻辑是，通过周期性淘汰、不断更新的技术、成本削减和系统升级，不断打破原有的秩序，这与专制社会维持社会有效运转所需的稳定背道而驰。对数字监控和监管的全面化未来的恐惧预期不仅被夸大了，而且生活在恐惧中的我们很难认识到，在这样的情况下，我们完全有自由拒绝那些巨头的指令，并选择另一种生活方式。
根据20世纪中期技术派未来主义者的说法，如今的人类应该是在流光溢彩、没有贫困的城市里幸福地生活，城市间有高铁互通，有自动化的工厂为人们提供丰富的物质，还可以去火星上度假。但眼前的现实是，我们生活在一片衰败之中，各种年久失修的设施存在着安全隐患：减配导致喷气式客机坠毁、供水系统被污染、电网故障、石化厂爆炸、海平面上升威胁到核反应堆等。不可回收的废旧太阳能电池板和风力涡轮机堆积如山、无人驾驶汽车因系统故障撞死行人，还有热那亚的莫兰迪大桥和迈阿密公寓等老化建筑的倒塌，预示着其他数以万计的混凝土建筑，也将随着内部钢结构的腐蚀而倒塌。用艺术家罗伯特·史密森（Robert Smithson）的话说：“人类制造了一个个系统，希望却一个个破灭。”
这样的例子在我们身边比比皆是。工业资本主义建造的世界正在迅速衰落，如今的互联网复合体又增加了物联网，它们在竭力掩饰自己对这个资本主义世界的依赖——一个正在垮掉的工业资本主义世界。和所有宏伟的提案所描述的情况正相反，那些在 20 世纪建立起来的早已破败不堪的基础设施，永远不会有重大的修复或替换。
克拉里进一步指出，整个现代“科学至上”观念需要重新被审视，作为更大的背景性架设，现代科学体制在占据绝对话语权威的情况下，结构性地忽视了许多问题。科学成为一种新的宗教，科学话语成为一种教条。克拉里借用了卡马特、利奥塔、怀特黑德等人的观点，继续把质疑的矛头指向了资本-科学共同体。
阿尔弗雷德·诺斯·怀特黑德，图片来自Wellcome Images
任何对后资本主义物质文化的有效想象，都必须面对现代技术与现代科学制度构成的不可分割的关系。目前，大家对“科学”和权威无可置疑的“科学家们”都致以崇高的敬意，因为我们认为将来要靠他们把我们从气候危机中解救出来。科学是生物圈遭到破坏（包括全球变暖）的主要因素之一，现在它却被如此神圣化。这种荒谬，虽然大家都心知肚明，但却不能公开承认。科学，享有极高的地位，如今又成了探索真理的主要途径，凌驾于经济利益或社会决策之上，不受历史或意识形态评价的影响。全球的资本借科学之名获得合法性，并以科学为由头，继续对地球进行掠夺和破坏。
与许多左翼人士不同，法国理论家雅克·卡马特（Jacques Camatte）在20世纪70年代初就了解了“科学”的本质。
在他眼中，“科学”既是资本主义的仆人，也是资本主义的神。他明白，科学已经完全变了样，它现在的目的就是“要研究一种适应机制，将人类和自然吸纳到资本主义的生产活动之中”。第二次世界大战后，军方和企业全面掌控了科学研究，抹掉了科学和技术之间的重要区别。让 - 弗朗索瓦·利奥塔（Jean-François Lyotard）观察到，资本主义的技术科学是对现代解放运动的否定，不再幻想人类理性中还存有仁慈。一直以来，科学的方法依赖于通过技术制造人工的、脱离外部环境的孤立对象来从事科学研究。自然和人类被简化并同质化为技术科学的抽象概念。事实上，早在 17世纪，西方科学就为种族主义、厌女症，以及起源于欧洲后来蔓延至北美的种族灭绝殖民计划提供了理论依据。
阿尔弗雷德·诺思·怀特黑德（Alfred North Whitehead）详细阐述了技术科学崛起的一些历史条件。他指出，在 19世纪，曾经公认的科学在本质上发生了改变。当时人们认为，科学研究要想有意义或有价值，它就必须具有制造某种应用、产品或实用技术的潜力。“19 世纪最伟大的发明，”他犀利地写道，“是发明方法的发明。科学不是通过原则来定义自己，而是通过结果来定义。科学已经成为一个各种实用主义的点子仓库”，实用主义指向非常明确，就是那些商业的、能够挣钱的应用。怀特黑德注意到，19 世纪后期科学家们已经能够将抽象的知识、技术和源源不断的创新结合在一起。
他特别指出，德国是第一个实现“技术进步无限可能”的国家。1925 年，怀特黑德在哈佛大学的洛厄尔讲座（Lowell Lectures）中提出了这些观点，但他太过温和，没有指出那个显而易见却没人道出的事实：这一“技术进步”，与工业资本主义的崛起及其贪婪的需求是分不开的。现代国家资本主义（state-capitalism）对科学的要求（怀特黑德、马克斯·韦伯、赫尔穆特·普勒斯纳等人在 20 世纪 20 年代就已经做出界定），和一波又一波的“应用”潮，已经把我们带到了灾难的边缘。目前，对“科学”进行歌颂，就是一种混淆视听的手段。目的是不让人认识到，西方科学和资本主义是紧密结合的。这是一种灾难性的结合，同时给人们一种错觉：“科学”将把我们从“科学”自己制造的灾难性成就中拯救出来，当前不断瓦解的地球系统就是它突出的灾难性成就。
当科学成为一种科学主义，其中势必将被植入科学之外的诸内容。如果放到更宽广的历史背景中去看，几乎文艺复兴后期以来的所有科学成果，无一不具有迅速资本化的倾向，这已经成为一种典型的科学-资本共同体的运行方式。被人奉为创新天堂的硅谷就是一个典型的例子。资本不可能投向一项无用的技术，也不可能投向一项从根本上来说无法使其增殖的技术。因此，这种“技术之用”本质上就是“资本之用”。
受到现代观念的影响，我们很难从科学主义的锁链里挣脱出来——这不仅是因为我们已经无法脱离技术而生活，更是因为其背后的资本早已接管了一切。但这或许还不是根本的问题，更重要的问题是我们非但无法看到因资源枯竭、环境恶化、人的创造力与想象力被剥夺而焦土化的世界图景，甚至还认为自己将前往辽阔的梦想之地。
END
联系客服
