尽管目前已有对科技风险的大量研究，但仍然存在误区。中国科学院自然科学史研究所研究员、博士生导师刘益东通过提出“致毁知识”概念和“致毁知识研究模式”，突破流行的思维定式与研究范式，提出新问题和新思路。
误区一：“科技是双刃剑”把科技的使用者看成决定性因素
问：当说起科技风险和科技负面作用时，惯常的说法是“科技是把双刃剑”。您是搞科技战略研究的，如何看这个问题？
刘益东：所谓“科技是双刃剑”是一个很大的误区。它把科技的使用者看成决定性因素。这种分析是错误的。几百年来，人的修养和教育水平在提高，但道德水平变化不大。随着尖端科技的发展，即使多数人提高了道德水平，只要少数人，甚至个别人利用尖端科技为非作歹，照样可以造成毁灭性灾难。所以依靠提高人的道德水平来解决科技风险问题的思路是错误的。
问：最近热播的纪录片《互联网时代》认为技术是中性的：以枪为例，枪是中性的，枪没有错误，关键是扣动扳机的人。用枪可以去打劫，也可以用来保卫。您怎么看？
刘益东：这个思维定式根深蒂固地存在于人们头脑中。通过枪还引申到各种技术。比如他们认为互联网这个技术也是中性的，该片赞同技术的恶用还是善用取决于人而不取决于技术本身。我认为一个技术的出现，或者说一项知识的出现会诱使或迫使人去使用它，并不是你想不用它就可以不用。我们把科技比喻成一把砍刀，是砍人还是砍柴，是砍好人还是砍坏人，似乎由使用者来决定。但不要忘记，只要它是砍刀就会有人拿它去砍，当砍的威力大了，就只有毁灭而无善恶。就像原子弹一爆炸无论什么人，都一起毁灭一样。所以，技术或知识不是出现在真空里，而是在社会特定的结构中，人们是“面对科技，身不由己”。把科技比成一把砍刀太过简单，实际上科技是一个系统，它把人卷入其中，由不得使用者不使用它。之所以有“科技是把双刃剑”之说，一是直观易懂，二是不想追究技术及技术发明人的责任。因此“技术中性说”“科学中性说”一直是主流。这严重阻碍了人们对科技负面作用的认识。
误区二：“科学无禁区，技术有禁区”这种观念忽视了连锁效应
问：“科学无禁区”就是说探索多多益善。笼统地说我知道得多总比知道得少好吧。
刘益东：表面上看是这样，但实际上如果你知道了某些不该知道的东西，很可能就引来杀身之祸。人们常说认识多多益善或科学是好的或中立的，问题出在技术和应用上。所以出现了“科学无禁区、技术有禁区，认识无禁区、应用有禁区”等。他们习惯于把科学和技术作区分。其实，在现实中运行的并不是科学和技术，而是基础研究、应用研究和实验发展。基础研究就是为应用而研究的，就像盖房子打基础，你见过施工队打完基础之后就走，而不再盖楼的吗？既然是基础研究就意味着和应用研究有一个衔接。所以很多观念是延续过去的科学哲学，实际上现在都是R&D哲学。所以说“科学无禁区，技术有禁区”这种观念，忽视了连锁效应，研究成果出现之后，在现在的社会一定要尝试应用，你不应用别人也会应用，如果研究成果威力巨大就都会抢着应用。但这样简单的一个道理，不少人并不接受。
误区三：“顺其自然论，科技发展必然论”把负面效应看成正面效应
问：人工智能发展的速度很快，以至于《奇点临近》成了很热卖的一本书，科学家预言2045年机器智能超过人类。是这样吗？
刘益东：就在不久前，人工智能达到了人类13岁的智力，通过了图灵测试，就是你分辨不出机器与13岁的孩子有什么区别。比尔·盖茨为《奇点临近》写的书评字里行间透着欣喜，觉得是件挺酷的事情，比尔·乔伊对此感到忧虑。显然，人工智能超过人类智能，对人类一定是灾难，这远比外星人可怕。更重要的是，不在于什么时间人工智能超过人类，而在于一些科学家的态度，就是 “顺其自然论，科技发展必然论”，他们把科技负面效应看成正面效应。比如，机器人泰斗、卡内基·梅隆大学教授汉斯·莫拉韦茨说“我们将进入机器人时代，这既是不可避免的也是合乎需要的，机器人比我们更庞大，我们只是其中的零部件”。莫拉韦茨的主张显然是荒唐的。人的大脑就会像主机板一样，嵌入的硬件和软件不断升级换代，既要饱受电脑病毒的困扰，还要受控于软硬件厂商和计算机科学家，后果不堪设想。
“双刃剑思维模式”即“双刃剑陷阱”
问：您分析了科技风险的三个误区，它们的共同特点是什么？
刘益东：“双刃剑思维模式”可称为“双刃剑陷阱”，它有三个特点：一是在态度上不加区分地肯定和接受，强调事物都有两面性，科技也不例外，强调要充分发挥其正面作用，尽力避免负面作用，要扬长避短，而不深入分析能否做到扬长避短。一些科技伦理研究仅仅是搪塞社会对高科技的担忧，没有注意到高科技的正负效应不能抵消，这时就不是双刃剑，而是单刃斧；二是把知识的创造者（铸剑者）与应用者（用剑者）分开，把科技负面效应的产生归咎给应用者，而没有注意到知识与应用的连锁效应；三是笃信使用者决定知识的应用，而实际上知识会诱使或迫使人去使用。正是“双刃剑思维模式”及种种认识误区阻碍了科技风险研究的深入。
避免粗放式创新，为可持续创新与发展提供有益创见
问：根据您对科技风险的研究，您提出致毁知识概念和致毁知识研究模式，通过研究致毁知识来突破“双刃剑思维模式”，突破乐观派与悲观派相持不下的学术僵局。是这样吗？
刘益东：在明确“科技知识增长不可逆”“尖端科技知识正负效应不可抵消”“知识与应用具有连锁效应”等三个前提下，我提出和解决“在科技知识增长的同时，能否阻止其中的一类破坏力极大的科技知识——致毁知识——的增长”这一难题，发现有26个原因不能阻止致毁知识增长，得出的结论是：粗放式科技创新必然要产生致毁知识，而致毁知识的增长与扩散是不可逆、不可抵消、不可阻止的，达到一定程度必然会发生毁灭性灾难。因此，我们不仅要避免粗放式发展，更要避免粗放式创新，反思粗放式创新与粗放式科技发展模式，可为我国科技创新的健康发展，为实现可持续创新与发展提供有益的创见。
（来源：中国科学报 作者：范建）
请关注后【战略前沿技术】后，点击历史信息查看。
20150205
美国DARPA十大尖端科学技术 领先当代20年
20150207
2014年度十大国防材料技术突破
20150211
如何撰写2015版国家自然基金标书（附全攻略）
20150213
院士爹对女儿的科研忠告
20150217
科技部关于开展“十三五”国家重点研发计划优先启动重点研发任务建议征集工作的通知
20150227
做科研的11条军规
20150207
智库建设急需高端人才
20150201
两院院士评选2014年中国和世界十大科技进展新闻揭晓
20150227
30个部委局办2015年工作部署汇总
20150227
45个全球免费开放的电子图书馆
日期
标题
20150102
2015 年度国家自然科学基金申请政策有重大调整
20150110
2014年度国家科学技术奖获奖名单
20150109
中国科研经费分配新办法出炉 "863""973"退出历史舞台
20150114
“透明计算”，凭啥摘得自然科学一等奖？
20150115
科技改变未来：预言300年后的人类
20150131
科研：新常态下的新规则
20150131
国外高效毁伤技术发展及趋势
20150116
全球百强创新机构排行榜出炉 大陆仅华为上榜
20150104
高校病了：教学之殇
20150104
科学研究方面的一些问题
联系客服
