本站首页 关于我们 法律图书馆与法律信息研究会 法律信息研究 中外法律图书馆 法学文献与检索 政府信息公开 法律图书馆导航 法律法学网导航
法律信息资源
法律信息服务
数字信息检索
数字技术发展
专业网站建设
澳门法律信息
  当前位置:首页 > 法律信息研究 > 数字技术发展
数字技术发展
暂无下载资料

 未来之法:算法说了算?
读《未来简史》一书之感
            刘哲 点击量:237
    

  《未来简史》作者赫拉利说了三点:

  1.人类将会失去在经济和军事上的用途,因此经济和政治制度将不再继续认同人类有太多价值。2.社会系统仍然认为人类整体有其价值,但个人则无价值。3.社会系统仍然会认为某些独特的个人有其价值,但这些人会是一群超人类的精英阶层,而不是一般大众。也就是说数百万年来,人类曾经是升级版的黑猩猩。而到了未来,人类则可能变成放大版的蚂蚁。这就是赫拉利从动物到上帝、从智人到神人的演进思路。

  最近看了《未来简史》和《真实的人类》,确实有一种不寒而栗的感觉。当人工智能获得统治地位之后,人类向何处去?对此,我问过冯象老师,如果人工智能获得统治地位之后,那未来的法律岂不是算法?冯老师说:很可能就是。对于赫拉利来说,生物体与机器的区别不过就是生化算法与电子算法的区别,不同社会制度之间的本质区别也就是集约。

  算法和分散算法的区别。

  搞了几年公诉信息化,对此有点感受。法律、诉讼规则再厉害,都没有统一办案系统厉害,因为它绝对刚性,系统对流程怎么规定的,你就只能怎么操作,模版怎么写,很多人都会直接照办。个别模版有误,就会产生批量性错误。流程永远是刚性的,过不去就过不去,没有这个流程,很多承办人就不会办案子了。到底是应该遵守法律还是应该遵守流程?在系统算法面前,只有唯一的答案。这就是算法的力量。比如说,修改后的诉讼规则取消了公安机关撤回移送审查起诉的规定,但由于系统还留有相应流程和文书,还有部分人会照旧处理。再比如,网约车新规出台之后,先不说是否合理,事实上很难执行,因为平台没有做出相应调整。只要平台调整,分分钟就搞定。

  法律与算法已经开始了较量。

  我曾经说过,办案系统并不仅仅是工具,它就是规则本身。它是精细化的、具体化的、绝对刚性的规则,因为为一个个案修改算法几乎是不可能的,个别根据授权进行的信息调整其实也是算法的一部分。

  最近很火的大数据,比如量刑系统,如果系统基于几千万份判决算出一个量刑参考建议,你敢不执行?你想知道其中的算过程么,那你将永远别想弄明白,因为这已经远远超越了你的认知能力。你想超越这个算法建议进行量刑,那算法一定会要求你进行详细说明,在这种情况下如果上级法院给你改了,你就有的瞧了。所以在算法面前最好乖乖的,你按算法,上级法院也按算法,大家相安无事。即使错了,也是算法错了。目前,检察机关希望研发的量刑建议系统可能也将面临这个问题。

  据推测,无人驾驶普及以后,可能会禁止人类司机上路,因为与人工智能相比人类具有更大的不确定性,容易受情绪、性格等因素影响。都是人工智能,马路跟火车道差不多,偶尔可能会有系统故障,但几乎不会有拥堵和交通事故。

  目前,司法机关要进一步人工智能化,智慧法院、智慧公诉,轻微案件自动生成审查报告,自动生成起诉书、判决书。如果这样的话,是否可以麻烦将危险驾驶的人类直接送到监狱,因为这个路程中,刑期已经计算好了,在路上可以自动宣判。哦,对了。不允许人类司机上路的。我说的其实就是那些违法上路的司机,而不是酒驾的司机。在未来,只要是人类司机,不管你喝不喝酒,都是危险驾驶。是否喝酒对人工智能来说没有本质区别。人类带来的问题将是因为增加不确定性而容易导致交通人工智能系统过载,造成系统瘫痪,影响系统的稳定性将成为重罪。因为系统的稳定是社会稳定的基石,以后的维稳工作主要是维护系统的稳定。赫拉利说了,大多数人类个体将对社会系统失去意义。

  谁有意义呢?

  就是那些制造算法的人。这些人就是赫拉利说的神人。这些人有没有脑机接口,是否通过基因编辑等进行生化算法改良,我不知道。总之,他们还没有被人工智能代替,他们还要为人工智能编制核心程序。他们的创造性,人工智能还无法通过机器学习的方式获得。他们编制的算法不是在驱动几台机器,他们将通过人工智能驱动整个社会的运转。

  这就是未来之法。

  传统意义的法律是规范人类行为,是社会规则的基础。总体来看,法的进化过程是越来越深入的融入社会生活进程,从汉谟拉比法典到罗马法,从宗教法则到拿破仑法典,从商君之法到大清刑律,从判例法到日益繁多的成文法,从国内法、海商法到国际法,法律变得越来越无孔不入。急剧变化的社会在加速推动法律的演化,很多传统社会能够容许的风险,在现代社会已经转化为犯罪行为,法律的边界在不断膨胀。但即使如此,法律也只是社会规则的一部分,很多还要依靠伦理、道德、习俗、文化,甚至生态法则来约束。这些都是人类社会自然演进的产物。

  但是未来之法将与这些都不相同,它将直接将技术规则与行为规范合二为一。将由神人创制底层算法,由人工智能自行完善具体算法,由具体算法管理社会。是的,我们的法律实际上就是数学规则。它除了物理定律管不了,将规范人类的一切行为。看看我们周边的智能化应用,你的自由选择还有多少。这一天是否会到来?物科学、人工智能的很多趋势表明,这很有可能成为现实。对了,我们的自由意志哪去了,我们的意识呢?根据赫拉利的分析,这些就是生化算法。所谓的内心声音只是神经元的放电反映。所谓的自由意志,只是一个幻觉。就是说生命与非生命并没有本质的区别,如果有的话只是算法不同。

  所谓科技驱动未来,其实驱动的是人类的命运。没有谁是不能替代的,包括人类自身。法律是人类行为的准则,但如果人类只听人工智能的,那法律只规范人工智能就好了,所以未来的法律很有可能就是一堆算法。

  当然这些都只是对未来的假设,眼下算法还远远不能替代人,但可以很大程度上将人类从重复智力劳动中解放出来,就像机械将人从重复体力劳动中解放出来一样,这是人类生产力的第二次解放。其深远影响可能会远远超过第一次解放运动。这也是人类进化的必由之路,也就是赫拉利说的智人通往神人之路。因此,今年政法工作格外重视科技发展,某种程度上说2017年应该是中国科技司法的元年。这也不奇怪,因为人工智能即将迎来爆发期,我们也是跟上世界潮流了,难怪《未来简史》中文版出的这么快。

  人工智能之于司法就是一个大风口。

  雷军说:只要站在风口,猪也能飞起来。难怪很多奇奇怪怪的人也在谈司法现代化,各种大数据,各种智能,各种术语,拿出各种炫酷图表,各种看不懂??风要起了。为避免以后的凌乱,有必要说几句:不要忘了,人才是互联网的第一维度。这里的人,是每个人,至少是大多数人,而不是个别人。当你拿出各种数据说有用的时候,不要忘了你在说对谁有用。如果互联网只是服务领导决策的工具,那它永远做不大。

  智慧司法的目的是为了节省人力,而不是费力、吃力,否则就是浪费司法资源,必须从服务的角度考虑问题。智慧司法的背后是逻辑。必须要先想清楚,才能干明白。必须要有完整的解决方案,切忌盲目上马,司法现代化要避免搞形象工程,否则同样是劳民伤财。

  智慧司法的目标应该是人的提升。很多算法路径是为了实现傻瓜系统,力图打造一键判决什么的。什么起诉书、判决书自动生成,证据材料自动审查判断或者参考什么的。有些是不错的,可以省却一些重复劳动。但是这隐藏了两个可怕的隐患:一是算法错误怎么办;二是就算算法错了你也不知道怎么错的。即使是概率性的,比如说60%的相似案件都判了。

  但是我们不禁要问,这个相似的度有多大,如何判断?这个数据样本的采集是否具备代表性和科学性,由谁判断?如果我们盲目相信数据,很容易被带进沟里。当我们抽取掉案件的细节而进行归类的时候,我们也抽取掉了案件的语境。靠人不如靠己,在利用辅助办案系统的时候,你要进一步提升自己的办案能力和识别能力,才能判断出哪些是人工智能的误差,否则这个误差就会转变为冤假错案,而且可能是批量的。这样是不是更累?但是相比于省掉的重复劳动,还好吧。只是我们必须牢记一点,在机器进化的同时我们要先行加速进化,否则就会从依赖机器变成机器的奴隶。也正因此,开发办案辅助型系统的同时,也要加速开发能力驱动型的系统,比如北京的出庭管理系统。

  大数据不是万能的,不要过高估计目前人工智能的能力,不要拜数据教。目前的人工智能还处于较低水平,远没有实现对自然语言的真正理解,更不要说司法应用。司法不仅要理解法,还要理解人。司法不是机械的法律要件适配,三段论判断,它需要对现实生活的深刻洞察和人性的深度理解,才能做出符合法律精神的判断。大数据能够比较类似的案例,但是它一定会过滤掉那些不相似的、看似不重要的细节,而它们有可能至关重要。算法毕竟是人算出来的,算法设计者的局限性就是这个系统的局限性。而同时兼备丰富司法经验和高超技术研发能力的人几乎没有,如果两类人互相配合,同样可能会发生沟通、理解上的差异,因此系统很难完美,人工智能自我学习能力也有限。因此,不要不着边际的提出系统开发需求,看起来高大上的系统可能存在非常严重的隐患。这个隐患由于带有技术性,因而有着很大的迷惑性,将很难为外行察觉,但是结果将是灾难性的。

  智慧司法不仅是科技驱动司法,更是创新驱动司法,更是科学思维驱动公诉,是模式化的升级,而不仅仅是科技外挂。未来之法绝不仅仅是算法说了算,最终依靠的仍然是人。

        
        
      首都法学网       北京市高级人民法院       中美法律信息与图书馆论坛(CAFLL)
      国家图书馆       美国法律图书馆学会(AALL)       国家检察官学院
      中国社科院法学所图书馆       国际法律图书馆协会(IALL)       最高人民法院图书馆

主管单位:中国法学会  主办单位:中国法学法律网合作机制 技术支持:北大英华科技有限公司(北大法宝)
电话:010-82668266-152 传真:010-82668268 京公网安备 11010802020444号
加入收藏 | 本站首页 | 联系我们
go