一、理论极限：人工智能司法应用的“不能”和“不该”
来源：中国信息安全 作者： 北京市社会科学院法治研究所 陈敏光
当前，大数据和人工智能等信息技术的发展已渗透到各个行业和领域，也必将对法律和司法的运行带来深刻的影响和变革。鉴于中国信息技术的后发优势、司法公开的大力推进和与之相伴而生的司法大数据的“爆发”，很多人对人工智能技术寄予厚望，希望借此来促进人民法院审判体系和审判能力的智能化，进一步提升司法效率和司法公正，也由此兴起了司法人工智能热。
但总的来说，人工智能的司法应用尚处于探索阶段。一方面，亟须厘清人工智能司法应用的理论极限，明确人工智能的基本定位及其在司法应用中的限度，回答不能干什么、不该干什么的问题。另一方面，也要分析人工智能司法应用的现实条件和存在的问题，使其站在更高的基线上获得更好的发展。因为，不清楚理论极限就会做无用功甚或起反作用，而不提高现实基线，就无法突破发展瓶颈、实现高层次的飞跃。只有准确把握人工智能司法应用的理论极限和现实基线，才能为人工智能的司法应用提供基本的指引。
一、理论极限：人工智能司法应用的“不能”和“不该”
人工智能司法应用的理论极限来自于人工智能的工具定位和司法属性的基本要求。
在1956年“达特茅斯夏季人工智能研究会议”中，香农等人首次提出人工智能的设想：通过机器模拟人的学习，尝试让机器使用语言、提出抽象命题和概念、解决某些目前留给人类去解决的难题以及实现自我改进。此后，人工智能的发展经历了三次浪潮：20世纪50年代末至20世纪80年代初，以符号主义或逻辑主义为核心，出现了奠基性的算法模型，如深度学习模型的雏形贝尔曼公式。20世纪80年代初至20世纪末，以连接主义为主，出现多层神经网络和BP反向传播算法等数学模型。21世纪初至今，则以大数据的深度学习为典型，该阶段人工智能之所以取得突破性进展，关键在于大数据的真正形成、算法的不断优化和以摩尔定律为基础的数据存储、运算能力的有力支撑。
可见，从人工智能的由来和发展看，人工智能的本质是让机器模拟可以准确表达的学习或智力的某个环节，目的在于以机器的方式实现人脑能够实现的价值或作用，尚不涉及机器是否具有自主意识的问题。也就是说，人工智能是机器智能而非科幻意义颇浓的有机智能。
基于这一工具定位，人工智能的司法应用至少有三个方面的“不能”。其一，从技术原理上看，人工智能是计算机应用工程，无法超越理性计算范畴。既无法解决尚未找到思路方法的计算问题，更无法企及情感、意志、价值等非理性因素。其二，人工智能无法脱离大数据、算法、算力等条件而发展，而大数据真正形成的困难、算法模型中的过度拟合、欠拟合和算力的有限性等均制约了人工智能的司法应用。其三，人工智能不能超越既定历史而创新，因为它能处理的数据只是既有的或正在实时生成的数据，而非尚未生成的数据。这意味着，人工智能在开创性方面难有作为，在一些并无先例可循、更多依赖于法官能动性和创新性的新型疑难案件中，人工智能的适用空间更小。
从司法角度看，那些只能由人来彰显且无法被替代的司法基本属性，为人工智能的司法应用划定了另一个无法逾越的极限。首先，不同于封闭的理性计算领域如阿尔法狗在围棋场景中的应用，司法程序是控（诉）辩裁三方特定结构主体参与并互相影响的动态过程，并非事先确定的、相对静态的充分信息博弈，它不仅仅是按照规则对可量化利益进行计算和分配，也有观念、感情、价值等方面的平衡。司法程序承载着司法民主的价值，当事人和社会公众只有亲身经历程序才能到感知到司法的中立性、平等性、专业性、权威性和便利性。而倘若将司法彻底异化为电脑运营，那很可能极大减损司法程序的内在价值，法官、法院都无存在的必要，人性的温度也不复存在。
其次，人工智能对司法本体的型塑更为隐蔽，在当前法官普遍受制于技术门槛而不能很好地规训技术滥用和失控的情况下，技术人员有可能通过算法的构建和引入，在事实上“分享”司法权，从而在一定意义上成为“影子法官”。而且，这种算法在技术上存在着不可解释性（算法黑箱），在价值上又不可避免地带有技术人员的前见甚至是偏见（算法歧视），并以机器的规模化方式驱动司法运转，放大了消极影响。故对于当前的“要素式审判”“知识图谱”等技术的开发应用，有必要进行严格的事前审查、事中参与和事后监督，以抵消新技术带来的负面影响。否则，恐难被现代司法制度所接受，也无法获得社会公众的认同。
此外，人工智能的司法应用还存在外溢风险，司法大数据的不当开发应用容易产生技术“俘获”司法的问题，可能涉及数据安全，甚至可能会威胁国家安全，应引起高度的重视。
二、现实基线：司法和技术的协同支持
司法和技术的协同支持构成了人工智能司法应用的现实基线，它包括司法需求的技术导入和技术需求的司法支撑两个方面。
就司法需求的技术导入来看，首先要准确理解、深入发掘各种司法需求，然后将其传导到技术层面。目前存在的问题是，对司法需求还缺乏细致的辨析和有效的梳理。一是忽视了有效需求和无效需求的区分。如运用人工智能提供大量有效的参考案例，助力“类案类判”目标的实现，这是有效需求，但奢望自动生成准确无误且无需监督、改正的裁判结果，则是无效需求，应予以剔除。二是对潜在需求发掘不够。目前，一些现实需求，如庭审笔录的实时准确生成、裁判文书的便捷公开等，得到了很好的满足。但那些更高层面的潜在需求，如通过司法大数据进行诉源治理以破解案海困境，在审判管理上构建公正精细的绩效考评体系以提高司法生产力等，似乎没有得到足够多的关注，在一定程度上反映出司法对大数据暨法律技术主义的思维方式、实现路径还较为生疏，应予以强化。三是场景需求尚不够细化。现阶段，自然语言抓取、语音自动识别准确率等通用需求已得到了有效解决，接下来，满足司法管理、审判业务、社会服务及其内部不同场景的具体司法需求，如基于不同案由的要素式审判系统的开发，将是深化人工智能司法应用的重要内容。其次，从传导机制来看，一线法官和其他司法工作人员是最终用户，由其担任“产品经理”的角色是最适合的，但现实中往往由法院职能部门来对接和传导司法需求，技术开发企业则根据“模拟的需求”来设计研发产品，这显得过于间接，难免存在不足、遗漏，也需要予以改进。
从技术应用的司法支撑来看，也存在一些问题。一方面，法院信息化发展程度不充分、不平衡。司法过程的复杂性决定了副卷、实物证据和大量手写的案件记录等难以电子化，且受经济条件、硬件设施和思想观念的影响，各地信息化进程并不同步，这对人工智能的开发应用形成了不小的障碍。例如，它导致了裁判文书的地域性、短期性，因缺乏全国范围内的长历史跨度的裁判文书，人工智能也就无法更好地提炼、输出裁判规则的普遍性及其发展逻辑。另一方面，司法公开的广度力度还不够。就广度来说，一些司法管理方面的数据并不公开，与政府机构、社会组织间的数据鸿沟并未完全打通，影响了司法社会治理功能的拓展。就深度而言，整体上裁判文书说理性还不够强，加之一些案件信息“隐藏”在庭审笔录、合议笔录中，削弱了形成大数据的全样本基础。
三、关于人工智能司法应用的建议
立足理论极限和现实基线，应重申人工智能的工具主义定位，对司法属性和价值进行系统性反思，在各个层面和环节落实司法的主导性，同时要不断强化司法需求的技术导入和技术应用的司法支撑。
具体地讲，要依托司法民主机制，主动接受人民群众的监督评判，努力实现人工智能司法应用的可知、可用、可控和可靠。一方面，可在立法层面确定人工智能司法应用的基本原则，包括尊重基本权利、非歧视、透明公正、质量安全和用户控制原则等。尝试在最高人民法院设置司法人工智能发展委员会，建立“司法统领、市场运行”的司法人工智能开发机制，加强研发前的司法审查、研发中的监督指导、研发后的评估应用等，确保司法大数据的安全开放，实现算法的公开公正，有效防范侵犯当事人隐私、意识形态安全等外溢风险。
另一方面，要加强司法场景的细分梳理，剔除无效需求、发掘潜在需求、细化场景需求，进一步明确人工智能在不同司法场景中的契合点和具体的介入方式。继续深化司法体制综合配套改革，加强各级人民法院信息化职能部门与审判部门的协同或以法官自主管理委员会等创新机制来真实、高效地汇聚人工智能司法应用的具体需求，充分发挥司法工作人员“产品经理”“数据标注者”“算法质疑者”等角色功能，并对相关智能产品提出改进意见、措施。要继续加强信息化建设、深化司法公开的广度力度，整合各类平台建设和案例资源，强化裁判文书的说理，探索合议意见合理公开的制度方式，为司法大数据的高质量形成创造有利条件。
联系客服
