中央政法委机关报法制日报社主办

您所在的位置:首页 > 文化历史

智能系统:法律业的新工具 美国匹兹堡大学教授凯文·阿什利专访

2019-08-06 23:15:32 来源:法制日报·法治周末


美国匹兹堡大学教授凯文·阿什利。

  即相较于取代人类法官,我更倾向于用人工智能辅助法官进行决策。我的主张是,应该坚持法官是人类决策者,让人类全程参与法律决策,并在裁判过程中融入人类情感和同情心

  法治周末特约撰稿 黎娟 王春穗

  前不久,美国匹兹堡大学法律与智能系统讲座教授凯文·阿什利应杭州师范大学之邀来到中国。他历任IBM公司托马斯.J.沃森研究中心(以下简称沃森研究中心)访问科学家、国际人工智能与法协会(IAAIL)主席、《人工智能与法》主编等。同时,他还是美国人工智能协会会士。

  7月1日,在浙江杭州,凯文·阿什利接受了《法治周末》的专访。
 

  案例推理与法律文本分析结合前景广阔
 

  黎娟、王春穗(以下简称黎、王):人工智能研究分别在上世纪70年代和上世纪80年代遭遇了两次寒冬。这给您的研究带来了什么影响?

  凯文·阿什利(以下简称凯文):我在博士期间所从事的案例推理研究获得了美国国防高级研究计划局(DARPA)的资助。因为该研究提出了代表正反两方的论争,具有明显的对抗性,DARPA认为这可能与相关的对抗性应用或军事应用相关。

  在匹兹堡大学任职后,我获得了总统青年调查员奖,并得到美国国家科学基金会为期5年的资助。之后,研究经费的申请变得困难。但我总是设法获得研究资助以继续研究。身处人工智能时代,我们必须学会如何在学术界生存。

  不过,我在沃森研究中心的访问经历的确与人工智能所遭遇的寒冬相关。

  1988年,我在沃森研究中心做了一年的访问科学家。当时的经理对人工智能与法及其发展潜力没有太大的兴趣。专家系统(一种模拟人类专家解决领域问题的计算机程序系统)在当时是主流。于是,我大部分时间都在拜访IBM公司的法务部门,试图说服其支持人工智能与法领域的研究。

  彼时,IBM正从理论研究转向应用研究,更加关注如何能在一两年之内推出好的智能产品。我因此未能获得研究资助。回顾当时学界的研究,专家系统非常热门。但问题是,只要私营部门或公司把这些理论研究成果作为产品来推广,他们总会寄予很高的期望。然而,技术不完善会降低产业界的期望值,最终使其兴趣和资金发生转移。

  这种情况在我的职业生涯中已经发生过不止一次,我担心它会再次发生。比如,现在许多公司正对一些新的法律应用提出更多的要求(例如,法律文本分析应用就被寄予了过高期望),所以,我预计产业资金会再一次发生转移甚至枯竭。

  黎、王:您在30余年前开发出HYPO这一法律案例推理系统。该系统在人工智能与法的研究领域具有开创性且影响深远。之后,不少研究者在HYPO基础上开发出了不同版本的案例推理系统。不过,这些系统主要适用于“遵循先例”的普通法体系。基于案例在两大法系中所具有的不同地位和作用,您认为大陆法系国家是否有必要开发和应用类似的智能系统?如有必要,应着重加强哪些方面的研究?

  凯文:我认为基于案例的推理在两大法系中都很重要。

  对于大陆法系国家来说,开发案例推理系统,需特别考虑两点。一是,“用例(use case)”的界定在民法体系中很重要。大陆法系的法官也会检索案例,尽管在找到案例后,他们不会像普通法系的法官那样受先例约束或者必须遵循先例。但是,法官们确有理由检索先前的案例。那就是,为法律原则解释规则在特定情境下的适用提供指引。据我所知,中国的指导性案例中包含了一般性事实,用以联结具体的事实情形和原则性的法律规定。这就意味着,检索那些包含相同的一般性事实的先前案件是很有必要的。

  二是,大陆法系案件呈现事实的程度。大陆法系中的案件往往不会像普通法系那样细节化地报告事实。但是,即便文书中所呈现的是一般性事实,或许也足以满足大陆法系建立案例推理系统的需要。在对案件进行标准化表示后,可以通过基于案例的技术在案例库中检索出相似的案件。案例推理是我一直追求的目标,我期望看到中国开发出真正意义上的案例推理模型。

  黎、王:您在2017年出版的《人工智能与法律解析——数字时代法律实践的新工具》一书中提到,案例推理和法律文本分析的结合,能实现未来智能系统所需具备的预测和解释的双重目标。为何作此断言?

  凯文:案例推理和法律文本分析的结合有着广阔的发展前景,而且我相信它能成功。从业30余年里,我从未料想人工智能与法的发展会似今日这般健康蓬勃,尤其是就计算模型与案件真实文本相结合的前景而言。这一结合令人振奋,我希望能见证它最终是否有效。这正是我不愿意退休的原因。

  目前有许多新的机器学习技术可用于文本分析,而法律文本分析也应用于其他很多的场景(不仅仅是分析和预测)。但我认为法律文本分析与计算模型的联结尤为重要。否则,机器学习本身是无法具备解释其所作预测的能力的。

  尽管分层神经网络也可以学习,但它是以节点的形式分布在整个神经网络中的,且很难检索。即便检索成功,也很难以解释的形式解读出来。有人认为,也许可以通过聚焦系统所关注的文本部分对机器学习的结果作出解释,但相关研究报告显示实验效果不佳。因此,必须开发出能解释机器学习程序所作的预测技术。而这就是计算模型的由来。
 

  人工智能将给年轻律师带来机会
 

  黎、王:有不少法科学生担心其毕业后将从事的初级律师工作会被人工智能所取代。随着人工智能技术的突破,新生代法科学生更关心的是,他们到底是要继续传统的法学教育,还是应寻求知识结构的改变。您对此有什么看法和建议?

  凯文:这也是美国法学院所面临的问题。首先,法学院需要采取措施,向学生介绍人工智能与法的技术和法律文本分析技术及其存在的问题。此外,学生们不仅要学习如何应用人工智能与法程序,还要努力发现程序中的假设存在哪些缺陷(毕竟程序都是需要经过实践评估的)。在此过程中,法科学生可以了解程序是如何被评估的,评估的标准是什么。同时,学生需要理解评估程序的实验类型,并积极参与到实验活动中去。当然,学生使用应用程序并发现其中的问题,并不意味着他们一定要学习如何编程。应用本身可以成为学生自我训练的一种方式。也许现在的法科学生的确需要比以往任何时候都要学习和掌握更多的统计学知识,但统计不等于计算机编程,它更易学。

  总之,法学院需要找到方法,让学生参与到人工智能与法的实践活动中,并激发他们的兴趣,这样学生们就不会那么焦虑了。不过,学生也要意识到,相对于那些缺乏计算机应用背景、不懂技术的资深律师,年轻律师们有其竞争优势,那就是:通过深度应用技术,并理解技术和评估原理,年轻律师们将使自己变得不可或缺。可见,人工智能除了带来挑战,还带来了更多的希望和机会。

  黎、王:人工智能与法是一门法律与计算机、应用数学、心理学等多学科交叉的新兴学科。不少律师和学者认为,仅凭借其法学背景,难以在研究或应用中取得实质性突破。但是,要学习一门新的学科,又绝非易事。您认为法律人应怎样克服这一障碍呢?

  凯文:首先,法律人在这一新兴的交叉研究领域并不孤单。许多其他人文学科研究者也在使用文本分析技术来提出有趣的研究假设。

  例如,匹兹堡大学一位历史与科学哲学专业的教授正在分析查尔斯·达尔文所读过的书籍文本及其发表的科学论文和出版的专著。这位教授试图通过文本分析,找出文本之间存在的联系。

  研究者们所使用的就是统计分析和机器学习的方法。这样的研究和分析正发生在包括哲学在内的其他许多研究领域。这至少可以促使学者们学习一些统计知识。实际上,机器学习就是通过运用统计学的方法来检测那些以前根本无法检验的假设的。因此,对于学者来说,以交叉性学科技能做研究是一次真正的机遇。要知道,运用机器学习在哲学、法律、文学领域进行文本分析并不是在表演魔术,而仅仅是统计数据。
 

  机器人不应替代法官律师
 

  黎、王:您在研究中提到,陪审团或法庭辩护在法庭上的影响正在减弱,取而代之的是更多的算法、机器预测或者统计。众所周知,前者关注的是公正和同情,而后者虽能避免人类偏见,但不具备人类情感,甚至有时会显得过于冷漠。您对这一趋势作何评价?

  凯文:我认为,法官始终都会“在场”。不过,这里同样需要谨慎选择用例。举个例子,有些用例涉及的是人工智能程序提供信息以帮助法官优化决策;有些用例则是关于人工智能的自主决策。我通常会避免选择后者,即相较于取代人类法官,我更倾向于用人工智能辅助法官进行决策。我的主张是,应该坚持法官是人类决策者,让人类全程参与法律决策,并在裁判过程中融入人类情感和同情心。

  黎、王:您主张人类法官参考机器决策,那么,当人类决策与机器决策不一致甚至相左时,法官会在多大程度上受机器决策的影响呢?

  凯文:我希望,法官至少能重新审视自己的决定并决定是否予以修正。在这一过程中,法官首先要对机器决策有一定的了解,而机器决策将提供更多的信息,帮助法官思考应怎样作出正确的决定。不得不承认,的确会存在人类法官完全依赖机器决策的陷阱。对此,人类在设计时,应将这种可能性最小化。这不仅仅是基于用例开发算法的问题,也是人工智能应在何种情境下,以及在哪一个决策阶段为法官提供信息的问题。

  黎、王:您认为机器人法官会不会成为现实,更进一步说,它应不应该成为现实呢?

  凯文:就政治现实而言,这当然是可能的。据我了解,在某些地区已经出现了机器人法官。但考虑到目前技术上存在的缺陷,我认为这是一个非常糟糕的现象。

  一直以来,我在个人研究工作中避免触及这一类“人类替代型”的人工智能研究。当许多人对机器人将取代律师或法官津津乐道时,我所思考的是,人工智能(如机器学习的法律文本分析技术)其实并不能真正阅读或者理解。文本阅读仍然是所有法律实践中的重要环节之一。假设当事人聘请的是一个“文盲”律师,他(她)不会得到很好的代理服务;如果主审法官是一个“目不识丁”的人,他(她)也不能指望获得多少正义。

  迄今为止,阅读仍是人工智能现有能力无法企及的。另外,人工智能在程序这一块能做的也非常有限。以从法律文本中提取某些语义信息为例,人工智能是无法从文本中提取隐含信息或进行间接推论的。但实际上,大量的法律不仅包含隐含信息,同时也需要间接推理。显然,目前还没有一项智能技术能真正胜任这一任务。这是人工智能的根本性缺陷所在。因此,我的结论是机器人不应该被认为是法官或律师的替代。

  诚然,有一些行政性决定是非常表面且局部的,那么可以在一定程度上实现自动化(如智能停车系统)。但是,就法官和律师所做的一般性决策而言,阅读和理解仍然是至关重要的。

  黎、王:您强调了技术缺陷所带来的掣肘。倘若通用人工智能(AGI)成为现实,届时机器人法官能否实现呢?

  凯文:任何事情都有可能。但是,我认为近几十年里,人工智能并不能真正做到像人类那样阅读。不少人也问我通用人工智能何时能实现,我并不是自然语言方面的专家,无法预测其实现的时间。

  一个基本的事实是,阅读涉及人类读者对背景知识和常识性知识的理解。同样,律师阅读时也是基于其对不同的行业及其各自运作方式的理解。他们在阅读文本时,总是会将所有的信息进行整合。然而,迄今为止,人工智能既不知道怎样表示常识性知识或背景知识,也不知道如何将这些知识集成到阅读过程中去。显然,这个有趣的研究领域应该是未来研究的重点。作为研究者,我们仍有一段相当长的路要走。

  (作者分别为中南大学法学院讲师、广东开放大学讲师)

责编:王海坤

关于我们 | 诚聘英才 | 广告征订 | 本站公告 | 法律声明 | 报纸订阅

版权所有 Copyrights © 2014-2019 www.legalweekly.cn ALL RIGHTS Reserved 《法治周末》

京ICP备10019071号-1 京报出证字第0143号