尚权资讯SHANGQUAN INFORMATION

编者按：2021年4月17日，第十六届尚权刑事司法青年论坛暨“新技术与刑事司法”学术研讨会在成都成功举办。本届论坛由北京尚权律师事务所、西南民族大学联合主办，西南民族大学法学院承办。

论坛采用线下、线上相结合的方式举行，共百余名专家学者、法律实务界人士出席了本届论坛，论坛对外视频直播，在线实时收看达5000余人次。

论坛围绕“新技术与刑事司法”这一主题，较为深入地研讨了“新技术与刑事证据”、“新技术与刑事侦查”、“新技术在刑事司法中的运用”等议题，取得了丰硕的研究成果。

以下是云南大学法学院程龙副教授在论坛上的发言，整理刊发以飨大家。

谢谢主办方的邀请，给我这样的一个机会，能够向各位老师和同仁来汇报一下我对于人工智能辅助量刑的相关问题的一些看法。这一个研究其实不是一个很最新的研究，因为这个其实是在2019年左右面对当时的人工智能辅助量刑的这样一个大环境，做了一些思考，并且我也以这样的一个主题来申报了国家社科基金获得了立项，所以这个可能更多的是一种目录性质的或者说是一种提纲性质的一种研究。

今天我想分享的主要是三个部分，第一个就是人工智能辅助量刑在实体方面的一些问题。第二个是在程序和它的后续的回溯性的评价方面的问题，以及最后我提出一些粗浅的原则性的对策和结论。

我的思考它可能主要是沿着两个方面，第一个方面就是如果按照刚才吴卫军老师的这样的一个分类的话，我可能是属于技术怀疑论的基本立场，就是说技术它很重要，但是我们在使用技术的时候，我们必须要考虑到一些制约的因素和我们现在中国语境下的一些法律制度的和法律理念的一些问题。另外一个方面就是我的这样的一个研究，也是我个人研究的取向，可能是沿着刑法和刑事诉讼法的这样的双轨制的思考路径来迈进的，所以就有了今天这样的一个大的框架。

首先我们看实际问题的第一个就是说在刑法的理念之下，我们怎么样看待量刑这个问题？大家都知道量刑是我们现在刑事诉讼当中的一个大问题，其实对于老百姓而言，对于罪名的选择其实不是老百姓去关心的一个话题，大多数产生争议的话题是在量刑当中。大家都知道我们现在量刑正在逐步改革的一种状态，但是在改革的状态之下，我们提出来的量刑规范化在某些程度上变成了在高科技技术的引入之后变成了一种量级的科技化。但是本质上而言，我们的这样的一种量刑，它是不能够排斥一些在波斯纳意义上的无言之知，或者说是一些实践理性。在这种情况下，如果我们绝对排斥了地方性的知识引入到我们的量刑当中，把它只是简单的定义为一种科技的计算，科技的学习，算法的支配，那么可能会带来的问题就比较严重。我们现在量刑的成AI量刑的使用的一个基础，它其实是建立在一个同案同判的基础之上，但问题是我们必须回应的一个法理问题是，在刑事司法当中是不是同案同判就具有天然的正当性？某种情况下会不会出现，就是，因为我们中国幅员辽阔的这样的一种实际情况，是否会出现某种程度上的略微的偏离，当然不是根本上的偏离，略微的一些偏离，可能会成为量刑的一种更适宜的选择。

另外第二个问题是更加具体的一个问题就是说我们现在的人工智能辅助量刑，更关键的是它必须要有数据的投喂和机器的学习，无论是知识图谱的建立，还是我们算法的生成，它都需要把量刑要素从案件当中处理出来。但问题是首先我们现在的一个量刑，是一个以责任型和预防型的并合主义的量刑模式，我们的所有量刑都是建立在对案件本身的责任的划分的基础上，再上下调整这样的一种预防性。也就是说我们即使有阶层的，也是综合性的一种并合主义的量刑，当以我们的人工智能辅助量刑的话，它在很多程度上是一种模糊式的基于案件整体学习的量刑，它难以体现一种层次性。

接下来的一个问题是你如果要提出量刑要素，还要关键性的要回答一个问题，就是量刑要素和定罪要素是否能够分离。因为在刑法理论上同样的一个量刑要素，既在定罪层面评价，又在量刑层面评价，是有可能产生双重评价，那么在我们的系统的运用当中，我们主要是在这两个问题上可能会出现问题：第一是在德日刑法所说的客观处罚条件这个问题上，当然还包括我们中国特有的就是整体评价要素，比如说情节严重，数额巨大，客观处罚条件，比如说我们有很多以量作为计算标准的这样的一些罪名当中，这些罪名的条件、数量、情节既是定罪的要素，但是我们的系统往往又在识别的过程当中把它当做了量刑的要素。当然还有包括结果加重犯，结果加重犯的很多情节都是说逃逸，逃逸致人死亡，在交通肇事罪当中，它既是构成结果加重情形的要素，但是我们的系统经常又反过来，不仅在适用较高型档的时候使用它，又在较高型档的使用的时候再一次评价它，将其作为量刑要素。所以说这里面也存在一些问题，当然还有量刑要素能否穷尽，我们现有的人类知识靠手工标注能不能完全标注，这也都带来了一系列的问题。当然还有一个很现实的就是现在我们的共犯，因为按照像钱叶六老师所提出来的一个观点，就是我国的共犯它是一种双层制的，它是在分工上面来进行区分，又在量刑上从作用上区分主从犯来量刑的，它不像德日刑法当中，是把共犯是一种单阶层的，按照实行行为的分工就把它划定了，所以我们在共犯量刑的时候也会存在相应的一种障碍。就是说我们的量刑必须得先确定主犯，然后才能确定从犯，但是我们的机器学习其实很难达到这一点，而且在确定主犯的时候同样也面临着先要评价它的定罪要素，然后再衡量它在罪行当中的一个地位和作用，然后再来评价的这样一个问题。

在程序方面的问题也有比较多的，第一个我就简单说是与直接言辞规则它是有冲突的，因为其实在量刑这个问题上，我们的系统和机器其实是不在场的，而且它的计算的能力，它当然包含了我们对于当下这个案子的判断，但其实它的依据是海量的数据库当中所挑选与之相类似的情节和架构来进行量刑，它其实是不在场的法官。第二个问题是大家都提到的一个算法“黑盒”，但这个算法黑盒在我看来不仅仅是技术意义上的黑盒，也是辩护意义上的黑盒。我们的辩护人没有人知道这样的一个量刑是如何得出来的，所以在这种情况下，我们技术如果无法推进，我们的辩护人怎么能够说服法官或者说服机器人？他的量刑意见，我们大家都知道量刑辩护是一个非常重要的辩护环节，但是如果我连将来这样的一种量刑的过程我都不知道的话，我如何开展有效的辩护呢？

第四个问题，其实今天我们很多的老师都已经提到过，我也受益匪浅，就是大数据能否作为证据进行庭审，如果作为证据的话如何来进行裁断，但同样的我们也要思考一个更加关键性的问题，就是AI量刑的这个东西到底在我们的刑事庭审当中是一个什么样的地位？它仅仅只是一种意见吗？还是它可以作为证据出现？如果我们的法官是利用AI量刑的意见作为他的裁断依据的话，那么它是否应当接受法庭的质证，是否应当接受我们的检验？如果我们需要进行检验，需要进行质证，那么我们的现有的刑事庭审的架构，包括证据制度，能够给到这样的一个空间吗？否则的话它又进一步论证了我刚才说的黑盒状态。

最后我还想说的就是我们能否对现在的AI量刑进行科学的评价，因为坦率的说我也参与了一些包括国家重点研发项目，我们都发现了这种科学评价可能出现问题。第一个就是参照系的选择，会不会有garbage in garbage out因为我们参照的都是我们现在的实践的做法。第二个是我们的偏离度的选择，都是量的偏离度，但我们大家都知道，刑法当中会出现刑种难以衡量缓刑的适用，就是刑法的执行也难以衡量，死刑和无期徒刑这些刑罚也难以衡量，所以最后我再用30秒的时间总结一下我的简单的一些意见。

第一个就是我觉得目前来说的话，量刑辅助没有必要从类案类判这样的类案系统当中相互分离。第二个就是我觉得我们AI的使用不仅仅包括量刑，应当进入庭审前加以检验，至少要让我们的被告人辩护人知道，这个案子当中我们使用了AI系统，能够让他们对 AI系统的使用，第一知道，第二能够加以最后的庭审，最后还要确保可救济。但是在裁判文书当中的体现，然后还有包括对于AI有异议的，我们可以采用专家辅助人等等这些相应的制度，能够在庭审上予以展现。最后还要保护我们的庭审不被AI企业所操纵，对于AI企业使用的这种量刑系统研发的量刑系统有问题的话，我们可能要建立黑名单制度。最后我们应当把违规使用AI系统或者AI系统严重问题可能未来可以考虑作为上诉抗诉乃至再审的一个事由。