查看原文
其他

华政学报 | 赵杨 人工智能时代的司法信任及其构建

赵杨 华东政法大学学报 2022-05-11

 人工智能时代的司法信任及其构建

作者简介

赵杨  青岛大学法学院副教授,法学博士



|目  次

一、问题的提出

二、人工智能应用对司法信任的赋能

三、人工智能时代的司法信任转型

四、人工智能技术对司法信任的重塑

五、结语和展望

摘  要

人工智能技术广泛应用于司法领域具有“赋能与转型的双重效应”:一方面扩展、增强了公众对整个司法系统和个案裁判的信任,另一方面也使司法信任的状态和类型发生了一系列改变。人工智能应用对司法信任的赋能体现在:通过技术理性规则制约司法任意性,通过全量分析归纳推理克服司法的不确定性,以及通过构建司法模型提高司法效率性。同时,司法信任类型也随之转变,信任对象由制度单一型信任转向制度与技术复合型信任,而信任基础由被动服从型信任转向主动参与型信任,此外,信任内容由对法官的人格信任转向法律专家系统信任。因此在人工智能时代,必须秉持开放共享理念、构建数字正义路径、实现算法决策规制、促进人机交互协同来重塑人们对司法的信任。

关键词

人工智能 司法信任 数字正义 算法决策规制

一、问题的提出

司法的本质是对人的信任,人们对法院和法官的认同是社会公平正义的心理基础,从而将复杂烦琐的法律纠纷转化为对司法的信任问题。司法信任是社会公众对法官及其裁判活动的相信、托付。人们对司法的信任既有稳定性、持续性的一面,也有开放性、不确定性的一面。处于社会转型时期的中国法治建设面临着严重的司法信任危机:同案不同判现象不断涌现,冤假错案频繁发生,司法低效、迟延、不公,导致民众对司法失去信任。“这是制度所建构和表达的承诺所遭遇的信任问题。这是一种制度性信任危机。” 为化解信任危机、提升司法公信,中央与地方不断推进一系列司法体制改革,虽有一定成效但是难以实现制度性突破。制度在运行过程中出现制度失灵 、制度失效、制度瑕疵、制度得不到社会的认可等现象,制度数量日益增多但实效性不强,公众对司法的信任程度没有明显的提升。人类文明史上没有完美无缺的制度。即使制度设计得相当科学合理,其运作也需要由人来实现。“制度执行者、合作者与制度之间是相互影响的,既可以相互促进形成良性互动也可以相互干涉阻碍对方的改进。面对这些难题,建立在大数据与专家经验基础上的人工智能却能起到作用,发挥其作为技术的功能,避免目前难以迅速突破的体制结构与人员素质低下的困境。” “通过大数据技术辅助提升司法能力、促进司法公正,使司法系统拥有和展现基于司法能力和司法公正的自信和力量。” 

当人工智能技术在各个法律维度上都逐渐展示出过人实力的时候,公众就会更加相信机器律师、法官、检察官和机器警察。甚至有学者提出法官的情感和价值判断可以通过程序和参数设计进行表达。那么未来智能技术能否替代法官的思维?人工智能时代司法信任的本质是否发生改变?人们是对中立技术的信任还是对人类自身理性的信任?在人工智能的冲击下,司法信任可能需要全面重塑和重新构建。有鉴于此,本文以司法信任为关注的焦点,对人工智能时代司法信任的赋能、转型和构建问题略做探讨。

二、人工智能应用对司法信任的赋能

人工智能的迅猛发展给司法领域带来深刻变革。人工智能广泛应用于司法实践带来的积极后果是公众对司法裁判的信任增强而非减弱。人工智能应用对司法信任的赋能具体表现为以下三个方面。

(一)通过技术理性规则制约司法任意性

公众对司法不信任原因之一源自司法者的任意性。“法官对当事人的一个眼神、一种表情甚至言语声调的高低刚柔的细微差别,都可能使当事人在心理上感到法官的不公平。” 人工智能应用改变了传统司法领域中法官的判断和决策模式。裁判过程中法官的主观任意性可以通过人工智能系统技术规则进行制约。按照工具理性运行的裁判模式,可以排除人类非理性因素的不当干扰,克服法官主观情感和价值判断对判决结果产生的影响,从而限制法官自由裁量权 ,统一裁判尺度,规范司法权力的运行。

人工智能时代,法官判断和决策的模式从“单一人脑决策转向聚合智脑决策”。传统司法领域法官根据自己的知识积淀和实践经验,基于个人“法感”形成初步判断,运用裁判思维进行法律推理和法律论证,最后形成判决结果。司法裁判是人类理性和智慧的产物,法官独立行使审判权,凭借的是法官的一人之力。人工智能时代,当智能系统推荐类案,法官判案的独立性会受到干预,判决可能成为人类与计算机系统共同决定的结果,裁判运用的基础是法官的普遍经验。2016年,北京“睿法官”智能研判系统上线,智能系统进行分析能够获得与本案最相似的全部先例,同时预测出裁判结果,法官可能先对其他法院的判决进行推演,再做出最终决定。

法官判断和决策的模式从“单一人脑决策转向聚合智脑决策”不仅使判决结果相对客观且可预测,而且判决结果更符合法律精神和裁判规律。人工智能系统可以把大量的法官判决数据、司法指导意见、司法解释等收集起来,在对大量个案进行评估分析后总结得出一个最佳的判决结果。人工智能系统能给法官提供一个更加客观、具有说服力的裁判参考,使不同的法官所做出的判决相差无多,裁决结果是能够进行预测的。另外,人工智能系统拥有深度学习功能,在对海量案件和数据进行整理和分析后便会总结出符合法律精神的一般性裁判规律。通过大数据分析总结出的法律价值,是基于法官的普遍经验,可能比法官的个人判断更符合法律精神。

“司法权的公信力源自于受众对其独立品格的信任;公众可以从司法权中获得确定的预期和客观的裁判。” 人工智能不带感情的逻辑判断,可以减少法官个人因素对审判结果的影响,因而司法裁判结论更具有客观性。通过大数据技术运用,建立精准的司法资源库,为类案同判与量刑规范化提供参考样本,可以规范司法权力运行,从整体上提升司法裁判的公信力。

(二)通过全量分析归纳推理克服司法不确定性

公众对司法不信任原因之二来自于司法过程的不确定性。司法裁判是法官认定事实、采信证据、适用法律的思维过程。司法裁判的确定性体现在个案审理过程中,法官运用分析判断、逻辑推理等方法将案件事实、法律规范、判决结果之间的内在关联揭示出来。基于认识能力有限和个体经验的不足,法官面对个案出现的各种不确定因素往往难以有效克服并做出准确判断。“相对于个人直接经验及个人获取间接经验的有限性,大数据分析为法官提供了来自于互联网的全量数据信息和海量‘数据经验’归纳,让法官对案件情况有了更精准和更客观的认识,这对排除法官直觉和偏见,为个案裁判做出准确理性的判断具有十分重要的意义。” 

司法裁判的核心是寻求证据的确定性。在刑事诉讼过程中,公检法部门分别执行各自的证据判断标准;证据的收集、审查、运用也缺少确定性、统一性要求,导致办案人员在证据认定上容易出现差异性、局限性、主观性。2017年成立的上海市“刑事案件智能辅助办案系统”在对上海市上万份刑事案件进行“深度学习”后,已经具备初步的证据信息抓取、校验和逻辑分析能力,海量数据经过萃取归纳分析能够给法官提供更加客观、确定性的指引。在审判过程中,法官需要对证据的相关性、合法性进行判断时,办案系统能够对证据完整性及矛盾点自动审查、判断,及时发现、提示证据中的瑕疵和证据之间的矛盾,从而帮助法官克服证据采信过程中的各种不确定性,提高证据审查判断的科学性和准确性。北京互联网法院应用的“天平链”作为互联网技术司法应用场景之一,已经形成了集数据生成、数据存证、数据取证、数据采信等为一体的综合服务体系。当证据的合法性不确定时,“通过大数据对频发的同类案件进行分析,制定相应的证据标准指引,对其进行校验与对比,并将出现瑕疵的证据进行拦截,可以有效排除非法证据,降低对司法公信力的损害。” 

大量实验已表明:人工智能系统在信息筛选、知识记忆、分析判断、逻辑推理、高速总结归纳等方面都具有人类法官无法比拟的优势。人工智能系统通过数据采集、整理、分析、综合、推理,能够对每一个案件进行评估,总结出具有公理性或普遍性的裁判规则和标准指引,帮助司法者有效克服个案裁判过程中的各种不确定因素,依法、全面、规范收集和审查证据,统一司法尺度,最终得出令公众和当事人信服的裁判结果。从这个角度来讲,人工智能系统在实现个别正义、提升个案裁判的信任程度上显然比人类法官做得更好。

(三)通过构建司法模型提高司法效率性

司法低效是提升司法公信力面临的又一个难题。我国诉讼案件数量正以每年20%到30%的速度递增,一方面,法院面临案多人少的难题;另一方面,简单、重复性案件占到案件总数的80%,耗费了法官的大量精力。因此,“在分流司法需求的同时要简化审判程序,减少程序运行环节中的拖延,提高司法效率,方便社会公众通过司法救济的途径寻求正义,化解矛盾纠纷,建立对司法的信任”。 

解决司法低效问题,提高司法公信力,人工智能工具无疑可以提供强大帮助和智力支持。人工智能使法院的诉讼流程和审判模式发生一系列改变。开庭前,通过人工智能系统对当事人进行身份识别,可以简化法院庭审流程;诉讼主体可以“在线”参与审理而非“在场”;当事人由“书面诉讼”转向“无纸化诉讼”。通过构建各种司法模型可以使司法程序更快捷、更便利。“司法模型是模拟法官作出司法裁判的过程。” 人工智能系统可以通过导入案件数据,模拟法官的裁判思路和理由,对证据清楚、案情简单的重复性案件进行立案、筛选、判决。2016年,深圳福田法院使用“金融纠纷案件智能裁判”系统,仅用半年时间就审结了5000多宗信用卡类案件。苏州法院运用智能语音识别系统,庭审时间平均缩短30%至50%,合议时间平均缩短30%。2017年,重庆市智审平台试运行1个月后实现了全部信用卡集团诉讼案件网上立案,平均立案时间缩短到10分钟以内,平均审理时间缩短到27.26天。“智审平台会自动围绕双方当事人是否存在借贷关系、是否存在违约行为等事项进行要素化整理,并生成法官庭审指引;通过整理案件庭审阶段的所有确认信息,自动生成令状式裁判文书稿。” 

我国司法实践中,人工智能技术已经广泛应用于各个领域。对法院来说,人工智能技术应用可以实现部分案件无人化、标准化审理,解决案多人少的难题。对法官来说,人工智能技术应用可以实现案件繁简分流,减少其负累,使他们更多地关注复杂案件、疑难案件。对当事人来说,人工智能技术应用可以缓解其立案、举证、出庭难等问题,大大降低当事人的诉讼成本。总之,人工智能在司法审判活动中的深度应用,有助于高效地解决纠纷,确保各项司法资源的合理配置和高效利用,同时也会大大降低当事人诉讼成本和节约社会诉讼资源,从根本上来说,有助于提高社会公众对整个司法系统的普遍信任。

三、人工智能时代的司法信任转型

人工智能技术广泛应用于司法领域,一方面扩展、增强了公众对整个司法系统和个案裁判的信任,另一方面也使司法信任状态和类型发生了一系列改变。这是一个赋能的过程,也是一个转型的过程,具有“赋能与转型的双重效应”。

(一)信任对象由制度单一型信任转向制度与技术复合型信任

司法信任是社会公众和当事人对法官及其裁判活动的一种相信和托付。如果说传统司法时代,人类是通过建立和完善司法制度体系来实现对法官的信任,那么人工智能时代,要通过技术与制度两种手段相契合来实现对法官的信任。

近代以来,人类发现并建构了一整套制度,通过制度的有效运行在机理上可以实现对法官的信任,人们逐渐形成制度性信任。现代社会,制度仍是最合理、有效的信任建构机制。随着现代国家的发展,制度建构经过近两个世纪的演化,日益成熟,对于国家权力和司法制度在制度和机制层面存在有多重制约和监督体系,人们已经接受对制度的普遍信任。这种单纯的制度性信任构建和维系是司法制度系统内部自我完善、自我约束、自行运作的结果。人工智能时代,司法判决可能是法官与智能系统共同决定的结果,部分案件已经实现了无人化、标准化审理,因此司法信任的构建不仅仅依赖于司法制度自身的完善程度及其运行实效,还与信息技术的发展、工程知识系统等技术领域的实际进展密切相关。技术具有司法增效功能。“人工智能与法律在提供计算模式时,为法律研究人员提供另一种分析路径和验证思想的新工具,可减少法律体系运行的矛盾与摩擦。” 

总之,人工智能时代,法官的判断和决策模式已经发生改变,司法信任类型也相应发生转变,人们对司法信任的对象由单一的制度信任转向制度和技术二者的复合信任。司法信任的类型由单一制度型信任转向制度和技术复合型信任,司法信任的实现路径也随之改变。即是通过法律与科技的深度融合,利用智能机器对法官裁判的模拟甚至超越寻找实现司法信任的人工智能路径。

(二)信任基础由被动服从型信任转向主动参与型信任

“随着人类社会的变迁与发展,公众对司法的信任也经历了从威胁服从到理性尊重、再到互动理解的演化过程。” 权威性和强制性是司法的本质属性。法院及法官的裁判活动和裁判结果具有天然权威性,拥有使人信服的力量,因此,人们服从法官的裁判过程并能够自觉履行裁判结果。“一方面,司法是解决纷争的终局机构,其地位及权威性远高于其他解决纠纷的部门;另一方面,许多特定类型的案件,如刑事案件等,只能交由司法机构来裁决。正因如此,无论人们是否相信司法机关会公正地裁断涉己的案件,他们也只能将案件提交法院来予以裁决。这就是由制度或机构本身存在所产生的天然权威,因而构成司法公信力的制度基础。” 人们对司法的这种初级信任是源于其与生俱来的强制和权威,属于基于制度特征的信任类型。从信任的心理基础来说,传统司法信任是一种被动服从型司法信任。

泰勒认为评估程序正义主要有四个因素:参与、中立、信任、尊重。与基于制度特征的信任类型不同,基于过程或程序的信任建立机制理解为信任是在双方互动过程中逐渐建立起来的一种机制。“信任须建立在直接或间接的主客体互动基础之上,包括施信者和受信者两个要素,并以特定媒介为纽带,信任主体通过它来简化风险或化解不确定性。” “理想的状态是在完成整个诉讼活动之后,实现当事人和法院之间的信息对等。在获得了对等的信息之后,信任才可以产生。”  现代信息技术给社会公众主动参与司法创造了巨大的空间。第三届世界互联网大会智慧法院暨网络法治论坛《乌镇共识》第4条指出:“各国将更加注重利用信息技术……增强服务公众的司法能力。”我国各级法院的智能化司法建设通过电子化、网络化、可视化等多种形式建立了司法系统与社会公众之间的互动沟通模式,实现了司法公开透明。当事人通过了解案件信息、积极参与司法过程,进而生成对裁判结果信任的心理基础,同时社会公众逐渐形成对司法活动普遍而经常性监督,从而使专业性司法更容易获得民众的理解和信赖,司法信任据此得以产生。“在与司法的交往与互动中产生对于司法的价值共识与心理认同,实现由理性人格向法律人格的转化,进而产生对于司法权威的信仰和依赖,在全社会建立起广泛的司法公信力。” 

可见,在飞速发展的信息社会中,技术是保障公众参与司法的重要媒介,在智能技术的支撑之下,公众基于与司法的参与和互动而积极主动投入信任。人工智能时代人们对司法信任的主观心理状态发生了转变,信任的基础由被动服从型信任转向主动参与型信任。

(三)信任内容由对法官的人格信任转向法律专家系统信任

传统司法时代,司法信任是一种人格信任。“Trust的含义之一是对他人或事物的诚实、正直、可靠、公正等拥有坚定的信念或信心。” “人格信任是基于人与人之间通过相互交往的经验所产生的熟悉度以及在此基础上对个人品格等特质的把握所形成的信任。” 人们信任司法,是源于对法官个人能力和品格的相信。“对审判的信赖是审判权威的基础,与对法官人格的信赖和敬意密切相关。” “权威性和公信力来自于法官的知识、经验和理性以及良好的个人品质和人格魅力。” “英美法系国家法官面对社会关系的变化,能够合理地运用和发展法律原则,在遵守先例原则中坚持对法律稳定性的追求,从而不仅促进社会正义的实现,而且也减少了法律适用的不确定性,保证了裁判的公信力和执行力。法官由此在社会中建立了很高的权威和威信,一般人对法官的职业道德与公正性抱有很强的信任感。”  在我国,“陈燕萍的工作法在很大程度上依赖于她的人格品行。转型中国也确有一批这样的优秀法官。” 

与工业时代不同,信息时代和人工智能技术使法官办案成为一种半自动化或自动化的人机协同操作过程。如果AI可以为当事人提供确定的预期,产生可信赖的行为指引,这将从源头上消解纠纷形成的原因,也是对法官工作的替代。 人们对司法信任的内容由抽象性的法官能力和品格转向专业化、规范化的知识系统。司法信任体现为人们对匿名者组成的制度系统的信任。系统信任是指对包含着已有可信性的专业知识的各种象征机制和制度体系等抽象系统的信任。专家的标签本身就带来一种信任。“专家系统是通过模拟人类专家来解决专业领域问题的计算机程序系统。20世纪70年代开始出现了一系列法律专家系统。进入21世纪后,随着互联网和计算机技术的发展,法律专家系统在我国各级司法部门中得以广泛应用。” 人工智能时代,在人机协同办案模式主导下司法信任类型发生了转向,司法信任的内容由对法官的人格信任转向对法律专家系统信任。“一套普遍适用的司法决策系统应当能成为正确适用法律裁判案件的典范,如同法官一样是法律公正的化身,具有内在法律品质。” 

四、人工智能技术对司法信任的重塑

数字时代和智能技术发展过程中司法信任发生的新样态、新类型、新趋势,需要通过秉持开放共享理念、构建数字正义路径、进行算法决策规制、实现人机交互协同来构建和重塑司法信任。

(一)秉持开放共享的司法信任理念

数字时代,运用信息技术和人工智能系统提升司法信任,首要是变革理念、与时俱进。开放共享是数字时代的核心价值,也是智慧司法建设必须秉持的重要理念。我国大力推进智慧法院建设,以提升司法公信力为目标,通过公开实现公正、提升公信。“法院将以更加开放的姿态、更加先进的技术和国际化的视野,深入进行司法大数据的研究、联通、共享和应用,坚定不移推进智慧法院建设。” 司法大数据的优势在于信息的共享与系统整合。“司法数据的开放共享,能有效推进智慧司法体系构建,提升司法公信力,倒逼司法监督机制的形成。”  

重塑和提升司法信任,秉持开放共享司法理念,具体做法如下:一是,司法系统内部开放,与外部系统之间信息共享。首先,法院系统内部信息公开。我国已经逐步建成裁判文书、审判流程信息、执行信息、庭审信息四大公开网络平台。法院系统内部也已建成统一覆盖和联结全国各级法院案件信息的数据共享管理平台。其次,公检法司司法数据互联共享。贵州省高级人民法院依托信息技术,积极推动跨部门大数据办案平台建设,针对实践中多发的五大类刑事案件已经实现法院、检察院、公安之间的司法数据信息互联共享。最后,司法与外部的沟通互联。“在外部需要打通减刑假释、道交一体化、刑事案件、金融案件等业务协同接口,打通与公安部门道路交通事故数据共享渠道,在两个以上地区推广道路交通事故纠纷一体化处理平台。” 2017年,我国已经在14个省市区开展道路交通事故纠纷“网上数据一体化处理”综合改革试点。二是,司法向社会多主体开放,加强国际司法合作共享。推进智慧司法建设构建一个开放的人工智能生态系统必不可少。参与到司法大数据研究的社会群体不断扩大,包括政府、科技公司、学术机构和用户等所有利益相关者联合起来,秉承构建人类命运共同体的理念,加强多方互动合作,建立积极的网络生态规则。《世界互联网法治论坛乌镇宣言》倡导:“我们应当坚持共商共建共享理念,凝聚更加广泛的社会治理力量,加强多方治理主体的协调配合和深度合作,运用经济、法律、技术等多种手段,实现更加高效的司法参与、更加便利的司法服务、更加全面的司法监督,让互联网司法成果更多更好惠及社会公众。” 

(二)构建数字正义的司法信任路径

传统司法时代,程序正义是实现和提升司法信任的必由之路。在数字化时代,数字化的经济活动构成我们时代纠纷解决的主要对象。这些数字化的纠纷对司法机构和裁判者提出三方面的挑战,即纠纷解决结果更公正、正义实现更便捷、正义实现过程更透明。人工智能时代,法官利用现代信息通信技术可以让程序正义在每一个案件中都得到实现。司法信任的重塑要通过构建数字化正义路径来实现。“凭借数字技术和数字逻辑,让人们能够在个案中更多以可视化方式来体验公平正义,从而努力去共建共享新时代的数字正义。” 

构建数字正义的司法信任路径是通过数字化的技术和手段为纠纷主体提供便捷高效、价格合理的普惠性纠纷解决机制,也即是构建在线矛盾纠纷多元化解平台。在线矛盾纠纷多元化解平台,简称ODR,包括在线调解、在线仲裁、在线和解、在线审判等措施。从经济角度而言,ODR体现了在线纠纷在线沟通、在线解决、节省司法资源、缓解法院压力的优势。对于当事人各方而言,ODR解决了管辖权难以确定的困难,降低诉讼成本,操作简单、高效便捷、过程可视。

另外,在线纠纷解决机制也使传统的司法信任体系面临一系列全新挑战。一是ODR的安全性问题,当事人对于网络环境整体存在不信任感,对ODR模式的信任是建立在完备的网络安全性基础之上,当事人的商业秘密、数据信息和隐私安全在ODR运行过程中能否得到全面有效的保护是当事人选择信任ODR的重要前提。二是ODR的有效性问题,在传统的诉讼模式下,当事人可以通过在场参与,纸面沟通,亲临法庭诉辩,直观地感受司法程序正义。在ODR模式下,当事人通过计算机网络进行电子化信息的交换,在线交流、无纸化诉讼,这种虚拟化诉讼情境并非所有案件当事人都适合并且愿意通过在线方式解决纠纷。当事人对于信息技术的驾驭能力和熟练程度会对ODR的信任产生重要影响,“技术鸿沟”的存在使得当事人双方的信任机制更难建立。三是ODR的权威性问题,在线纠纷解决协议达成之后纠纷能否得以实际解决,纠纷解决结果能否得到司法机关的承认在目前实践中仍然不确定,如果当事人自愿选择在线途径解决纠纷的积极性不高,公众也会逐步对ODR的权威性丧失信任。四是ODR的中立性问题,在线纠纷解决机制必须确立中立性的程序规则才能取得当事人和社会公众的认可和信任。因此,构建数字化正义路径,首要是在立法上亟待建立关于在线纠纷解决机制程序方面的统一规范,确立在线解决和线下解决方式的有效衔接机制,来解决ODR所面临的法律障碍和信任问题。

(三)实现算法决策规制的司法信任机制

人工智能时代的司法决策是基于算法规则的决策机制。莱斯格教授提出:“代码就是法律。”“算法裁判或将成为法律的终极形态。”  然而技术并不是完全中立的,算法决策绝非绝对客观公正。技术是人类智力的产物,基于人类认知偏好及有限性,技术本身存在潜在风险和固有缺陷。算法歧视、算法黑箱、算法霸权、算法商业化易导致算法司法决策系统的公正性和有效性受到公众质疑。如“美国康斯威星州诉卢米斯”案(Wisconsin State v.Loomis)中,被告认为州法院使用Compas算法模型具有不可解释性,违反了正当程序原则,其裁决不足以使人信服,于是向州最高法院上诉。可见,人工智能时代司法信任重塑,关键在于基于算法决策的智能系统如何最大程度促进司法专业性和司法公正性。

人工智能时代司法信任重塑,亟待解决的核心问题是对算法决策进行法律规制。“如果算法继续保持神秘并且人工智能公司的重心始终围绕利润而非公正与平等,那么人工智能将很难取得公众对其在司法应用中的信任。” 为解决算法公开、算法反歧视问题,首先,在算法立法规制方面必须赋予技术研究开发者相应的算法公开和算法解释义务,使算法在适当程度上能够被主体或终端用户所理解。欧盟《通用数据保护条例》已经引入算法可解释性规则。其次,在算法司法规制方面必须规定司法机关一定的算法审查义务和赋予用户必要的救济权利。再次,在对算法进行法律规制的同时还要给予利益主体相应的权利保护。例如,算法公开容易导致知识产权侵权,如果算法构成企业商业秘密,就必须进行知识产权保护;算法运行的基础涉及个人隐私、信息和数据安全,需要制定和完善相关法律、法规对个人权利进行综合性全方位保护。最后,还要通过制度顶层设计来规避和预防技术应用于司法而附随的各种风险,建立法律、伦理、行业、自律相结合的“多元互动的风险规制体系” ,鼓励行业内部协商制定伦理标准和技术标准。软件开发设计者必须遵守一系列技术伦理规范,要把人的权利放在首位。总之,人工智能时代实现司法信任,不仅要对算法决策进行法律规制同时要兼顾权利保护,更要注重伦理化规制和合作治理,使得算法决策能够赢得个体和社会的信任,成为可信赖的算法。

(四)促进人机交互协同的司法信任重塑

工智能时代司法信任重塑,要处理好人类与机器的关系以及人类智能与人工智能的关系。首先,在人类与机器的关系上,必须坚持“以人为本、增强人类” 的人工智能法律规制原则。司法裁判实质上是一种价值判断。因此法官并不是简单机械地适用法律、千篇一律作出判决。特别是在我国国情之下,法官的裁判要兼顾法律效果和社会效果的统一,要将符合时代要求的价值判断、主流道德体系和社会正义理念注入司法工作过程中,要引导和塑造社会主义核心价值观的形成。虽然人工智能已经具备深度学习能力,智能系统会准确推送和预测类案的判决,但是法官还是要根据个案情况灵活处理,毕竟司法裁判不是简单的是非曲直判断,还受到政治要求、文化传统、国情特色等多种社会因素的综合影响,显然完全依靠人工智能系统是无法完成司法的社会功能的。在各类复杂疑难案件中、在涉及人的生命权等关键性的场合,人工智能更不可能代替法官的判断。“机器人无论以何种方式承担责任,最终的责任承担者都是人。” “即便是‘强人工智能’时代的‘奇点’到来,人类也会重新规划自身主体地位的发展蓝图。” 所以,人工智能时代司法信任重塑,要警惕“技术万能论”。

其次,在人类智能与人工智能的关系上,2018年欧洲政治战略研究中心提出应将人工智能用于增强而不是替代人类。“司法数据的客观性保障绝非仅限于数据技术性上的自信与进步,更为根本的则在于开发智能化、利用智能化的人的自律与自信。” 大数据分析本质上是对过去经验的拟合,其结果只能近似,具体到个案仍存在偏差,更无法预测未来社会发展变化和司法需求。所以从长远发展的观点看,人工智能系统根本无法完全取代法官的审理。因此,在司法领域,要明确大数据分析、算法决策等智能系统仅具有辅助性地位,不能替代人类法官进行判案。“人工智能法律系统的开发策略应该是‘人—机系统’解决方案。” 

总之,人工智能时代司法信任重塑的重要课题是解决人与机器之间的信任问题。促进人机交互协同方案的关键问题在于如何将机器的计算能力与人的认识能力结合起来。人和机器之间必须建立高速、有效的双向信息交互关系,人能够实现对机器的控制和指挥,可以根据需要灵活、自主地切换。所以,人工智能系统下必须以人为中心,并不需要寻求完全用机器取代人,人类在机器的辅助下能够不断拓展认知能力,即便是在复杂的环境下,人类也能够较为精准地预测和规划未来的发展。

五、结语和展望

技术的发展改变着人类司法的面貌,给司法信任带来“赋能”与“转型”双重效应。同时也要考虑到这种技术应用的各项限度:技术无法提供实质正义,也难以体现社会核心价值取向,更不能预测未来社会变化和不同司法需求。所以,技术和制度不能孤立推进,而应融合发展、相互促进。通过人工智能技术与传统司法制度的嵌入和融合,尽快在司法领域确立人工智能的准入规则和适用规则,积极构建符合互联网技术发展规律和司法运行规律的互联网新型裁判机制,大力推进智慧司法建设,从而全面提升社会公众对司法者及其裁判能力的信任。

无论是传统司法时代还是人工智能时代,司法信任在本质上没有改变,都是指人们对法官及其裁判活动的信任。“从某种意义上讲,在人工智能时代,充分把握我国司法实践发展的时代机遇与有效应对所面临的现实挑战的关键之处均在人类自身。” 即便未来人工智能技术无限接近法官的智能水平也无法代替人类法官。人类的主体性地位以及人类对人性本真的信任根本没有改变。人类相信将以自身的智慧和理性,进一步调动人的主观能动性和提升对人类自身能力的信任,把人工智能驯化为提升社会公平正义的有效工具。

(责任编辑:陆宇峰)

(推送编辑:曹艳琴)

本文载于《华东政法大学学报》2021年第4期。阅读和下载全文pdf请点击下方“阅读原文”或登陆本刊官网xuebao.ecupl.edu.cn;编辑部在线投稿系统已更新,欢迎学界同仁登录journal.ecupl.edu.cn惠赐大作!

推荐阅读

李忠夏 | 数字时代隐私权的宪法建构

郭春镇 数字化时代个人信息的分配正义

龚向和 人的“数字属性”及其法律保障

王苑 | 个人信息保护在民法中的表达——兼论民法与个人信息保护法之关系

付晓雅 | 深层链接设链者刑事责任的归责路径

陈景辉 自动驾驶与乘客优先

朱振 生命的衡量——自动驾驶汽车如何破解“电车难题”

翟小波 痛苦最小化与自行车

骆意中 | 法理学如何应对自动驾驶的根本性挑战?

张凌寒 | 算法自动化决策与行政正当程序制度的冲突与调和

黄韬 | 信息中心主义的表达自由

金耀 | 个人信息私法规制路径的反思与转进

刘晗 叶开儒 | 网络主权的分层法律形态

王迁 | 论规制视频广告屏蔽行为的正当性——与“接触控制措施”的版权法保护相类比

于柏华 | 处理个人信息行为的合法性判准——从《民法典》第111条的规范目的出发

郑少华  王慧 | 大数据时代环境法治的变革与挑战

韩旭至 | 信息权利范畴的模糊性使用及其后果——基于对信息、数据混用的分析

周斯佳 个人数据权与个人信息权关系的厘清

订阅方式

【向编辑部订阅】

1. 银行汇款

户名:华东政法大学

帐号:1001223609026407097

开户支行:中国工商银行愚园路支行

2. 邮局汇款

地址:上海市长宁区万航渡路1575号《华东政法大学学报》编辑部

邮编:200042


订阅电话: 021-62071670


【邮局订阅】

国内读者可到全国各地邮政公司办理

邮局发行代号:4-618

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存