申卫星：面对人工智能，不必过分焦虑但须未雨绸缪学界动态

【编辑注】2017年11月21日，由中国信息通信研究院互联网法律研究中心、腾讯研究院、中国人民大学出版社、中国人工智能产业发展联盟政策法规工作组、北京通信法制研究会联合主办的“《人工智能》新书发布会暨人工智能法律政策研讨会”在中国信息通信研究院举行，清华大学法学院院长申卫星教授以《面对人工智能，不必过分焦虑但须未雨绸缪》为题发表了精彩的演讲。本期分享演讲内容实录，以飨读者。

无论是网络的发展、大数据的应用还是人工智能的兴起，都不断对法律研究者提出新的挑战。中国信通院和腾讯合作的这本《人工智能：国家人工战略行动抓手》很荣幸我先睹为快，读完后我觉得收获很大。下面谈几个方面观点。

第一，我们应该未雨绸缪，但不必夸大人工智能的威胁。

从本书中我们可以看到，人工智能能够发展到今天并不是一件简单的事，经历了起起伏伏。从阿尔法狗战胜人类棋手之后，人工智能再一次热了起来。11月17号我们在清华大学举办了法律论坛，很多人都担心将来强人工智能甚至是超人工智能时代到来之后，人会不会被机器人统治。事实上，在法律领域中，我们人类有时候都并不能清楚地表达我们想法，那么如何能够让机器在我们并不明确的表达下进行所谓的深度学习来成为一个“法律人”呢？一方面，从弱人工智能到强人工智能甚至到超人工智能还有很长的路要走；另一方面，我们社会发展到今天，科技本身就带有双刃剑的特点，技术进步的同时不可避免会带来一些伤害，但是我们不可能退回刀耕火种的时代了，科技已经把我们带上了“不归路”，但是我们并不用因此感到焦虑和灰心，我们应该以更开放的心态拥抱科技，做好充分的准备。

所以，我们应该未雨绸缪去做一些准备，但也不用过分夸大人工智能带来的威胁，这是第一点。

 第二，目前对于人工智能的关注，凑热闹大于实质性思考，我们应该更多从内部展开思考。

正如《人工智能》一书腾讯众创空间总经理王兰在序言中提到的：意识不是一个由下而上的过程，而是由外至内的过程。目前我们的很多研究还仅停留在“外部”，所以在很多会议上看到的、谈论的大同小异，担心的是将来的机器人是否会统治人类，人工智能引发犯罪的问题谁来承担等等。那么如果从内部来讲我们应该有怎么样的思考呢？

1.主体制度反思

在法律关系中，通常用二分结构区分主体和客体，我们怎么看待未来人工智能的法律地位？过去讨论主体和客体的时候，并不是所有人都可以成为主体，三权合一才可以成为法律关系的主体。法人制度的出现让我们看到，不是所有“人”都必须是自然人，法人制度之所以设计出来，只有把出资人和管理人的意志相分离才会有一个新的主体。由此可见，过去人可非人，未来非人亦可人。

在人工智能时代呢？过去我们判断人和动物，用以区别的标准很清楚，但是人和机器人以后的区别也许不会那么清楚。比如，一个人如果是因为腿出现问题安了一个假肢，我们不会因为他的身体有机械成分而否认他是一个人，如果这个人四肢全部换掉，乃至心脏也换成机器心脏的时候呢？如果他的大脑中植入了芯片的时候呢？当我们原本认为决定人最本质的大脑被换成芯片的时候，机器人和人的区别在哪里？智能时代的法律关系主体制度必然会产生冲击。

2.产权的思考

对于数据的归属和利用规则的讨论成为当下法律界的难题。数据到底属于用户还是属于平台还是属于大数据的网络公司还是其他？政府在利益相关者之间怎么进行权利分配？这不仅仅是一个理论问题，实际上也影响着产业的发展。也就是说：在鼓励创新和保护权益之间如何平衡？如果政府倾向于保护权益，那么政策就会更多地倾向于用户、倾向于隐私保护，但如果政府倾向于鼓励创新，那么政策就会倾向于大数据公司或者平台。此外，共享单车的出现，让我们思考在共享经济广泛展开之时，未来产权制度设计财产的利用远重于产权的归属。

3.交易制度创新

现在区块链的发展也很迅猛，如果区块链这么做下去，进一步去中心化、去中介化，未来的交易会发生全新的变化，我们未来的民法典应该考虑如何应对。

4.责任划分问题

责任划分跟主体思考有关系，独立的主体有独立的意思表示，责任划分不能用简单的“产品”来界定。设计者、使用者如何进行责任的划分？这也为未来的立法和法学研究提出了问题。

此外，隐私保护问题、知识产权、反垄断问题、算法歧视问题都值得我们去深入思考。希望《人工智能》这本书成为一个开端，启发后面的研究者从外向内就我以上所列举的问题继续深入研究。