点击上方↑“上海市法学会"关注我们
嘉宾简介
季卫东
上海交通大学文科资深教授、中国法与社会研究院院长
季卫东，1983年从北京大学法律学系毕业后留学日本，获得京都大学法学博士学位。1990年就任神户大学法学院副教授，1996年升任终身正教授到辞职归国为止。1991年至1992年期间为美国斯坦福大学法学院访问学者。9月20日至3月1日担任上海交通大学法学院院长、讲席教授。现为上海交通大学文科资深教授、日本研究中心主任、中国法与社会研究院院长。
人工智能开发的理念、法律以及政策
（根据演讲嘉宾现场发言整理，未经本人审阅）
在座的各位一定非常期待，有一群机器人列队走进会场，给大家送上午餐三明治。当这个场景真正实现的时候，大家一定会好奇，这到底是机器人根据指令做出来的规定动作，还是机器人根据自动学习而做出来的自选动作。这也是今天想跟大家探讨的一个问题。从21世纪初以来，人工智能发展迅猛，推动了新一轮的产业革命。这个产业革命中有三大法宝：物联网、大数据、人工智能。物联网造成了万物互联互通，可以积累大数据，而人工智能可以通过对大数据进行分析，促使人工智能的机械学习获得更进一步的发展，一直到深度学习。这既是目前的现状，也是我们需要面对的问题。在这三种因素的作用之下，不难发现，整个社会结构发生了很大的变化。虚拟世界和真实世界交融在一起，被称为信息实体交融系统。每天我们都会碰到这样的状况，这个时候可以发现人工智能也发生了很大的变化。近些年来，由于深度学习的出现和发展，人工智能由过去的一个他律系统，由人给它指令、算法、格式，到今日能自律地从海量数据中提取模型来设定计算量。在这种情况下，社会出现了一对根本性的矛盾。大数据，使整个社会变得更为透明。实际上，在物联网、人工智能、大数据互相作用的情况下，人工智能之间形成了一个网络结构，而智慧网络结构使得各种因素的作用变得更加复杂，更加难以预测。即使是机械学习的场合，由于速度的提高，也导致它的预测比较难。机械学习虽是人类赋予它的既定算法，但当速度变得很快的时候，其可预测性也会下降。在深度学习的情况下，可以看到社会发生了非常本质的变化。因此，对人工智能的控制与治理成为了一个非常突出的问题。
在1942年，阿西莫夫写《转圈跑》这本小说的时候，对机器人的控制相对来说是比较单纯的。他提出来了三个基本定理：第一、机器人不能伤害人，或者使人受到伤害；第二、机器人必须服从人的指令，除非这个指令是伤害人本身；第三、在满足上述两条定理的前提条件下，机器人还要保护自己。本来这是一个非常严密，具有逻辑设计的框架，但在网络社会中可能会变得非常复杂。考虑到一些特殊的情况，我们很难用这三个定律，以至于后来追加了一个零定律。这个机器人不能伤害人类整体，或者坐视人类人体受到伤害。由于智慧网络社会非常复杂，容易形成网络混沌的现象。同时，人工智能系统因其目的不同也会产生冲突。在这样的情况下，如何进行治理就会成为一个非常突出的问题。国务院在发布的新一代人工智能发展规划当中，提出了人工智能治理的基本理念，其中特别强调伦理道德框架，形成一个包容开放的环境等。主要方法既包括法律方面，也包括行政的问责制度，还涉及了一些基本原则，如对个人尊严、隐私的保护。在的规划展示基本框架中，法律方面主要包括了自动驾驶、服务机器人和安全管理法规。通过仔细阅读内容可以发现在上述规划中已经提出了关于人工智能发展的9条基本原则，如共享互信原则强调的是整个社会的人工智能开发成果需要社会赋向，而且要建立人与人之间的互信关系；个体尊严原则主要涉及隐私的保护、信息的安全等；民主参与原则主要是因为人工智能设计的各个方面可能存在视觉上的盲点；另外因为网络社会渗透往往是跨国界的，所以要采取国际合作的原则；相继治理、公开透明等原则在此不再赘述。
有些演讲嘉宾已经分别从不同的角度谈到了欧洲、美国、政府以及业界学术界是如何研究这个问题。可以看到，目前为止，人类社会已经在人工智能开发方面形成了一些基本的共识。按照这样的基本共识再来看国务院的规划，有两个问题是要注意的：一是以人为本。如何处理个人信息、隐私的保护和整体利益的关系，是一个非常重要的问题。二是不同的原则之间发生冲突的时候，根据什么价值序列来进行选择，目前选择标准是相对模糊的。最近华为事件促使5G迅速成为一个全球热点话题。5G技术的最大特点是超高速、大容量、超低迟延和同时连接Top，特别是同时连接，促使物联网连接更进一步加强。同时，我们可以看到，当前法律对这种状况的应对是不充分的。5G对于电波的使用提出了海量的要求，在某种意义上，这领域的法治建设刻不容缓。目前关于人工智能安全与法治的导则已经制定出来了，分为5个部分，涵括了27条具体内容，将进一步推动相关规划的发展。中国以及各国都应该尽快明确人工智能研发与法律相关的原则、政策、伦理、标准、指导方针等。
责任编辑：胡鹏徐曦楠
长按二维码
关注我们
我在这里等你哟！
期待您支持在看
