[BLOCK] 人工智能：Quo Vadis?

Content Team November 17, 2020

SiGMA news

Stefano Filletti博士，现为马耳他大学刑法系主任、Filletti & Filletti Advocates律师兼资深管理合伙人，其与Jeremy Micallef交流，说明在适应未来的需要上，司法改革是多么必须的

定义人工智能（AI）

人工智能是一个很难定义的名词，没有一个被普遍接受的定义。”人工 “，说明某物是人所造的。而 “智能 “这个词更抽象，更难定义。智能是指在特定环境中长期发展与演化的能力。聪明的生物不仅能适应环境，还能 “学习”，使自己的工作更有效率。

引用英国著名物理学家斯蒂芬·霍金斯的话，“智能就是适应变化的能力”。这个定义表示任何智慧生命都有先天的能力，能够适应不断变化的条件或环境。这种适应能力必须是与生俱来的。

将两个词放在一起，”人工智能 “一词则指称能够自主适应变化、发展和进化的人造物体。

人工智能存在体实际上可以是任何东西，从机器人到武器、从机器上的软件到互联网上的虚拟机器人。

犯罪机构

如果人工智能指的是自主独立的变化和发展的能力，那么，要想预测人工智能在 ”学习”什么、如何适应，就十分困难了。在儿童身上，“学习” 的过程包括从错误中学习，涵盖了潜在的危险错误。同样，人工智能存在体，或者说AI系统，也会以一种不可预测的方式去 ”学习”。

毫无疑问地，任何人工智能存在体，包括AI系统，都会以不同的方式适应不同的情况。在适应过程后，同样无法确定相应结果与后果。

因此，如果不加以约束，AI系统就有犯罪的潜在风险。例如，在金融服务中，不加约束的AI系统也许很快就了解到，金融犯罪可能会产生更高的利润（尽管是非法收益），同时认为自身在工作变得更有效率。虽然，为AI系统引入参数，要求其避免非法交易，就能轻松处理上述举例，但适应的不可预测性意味着人类不可能预测AI系统的任何及所有行动。因此，人工智能在实践中可能会犯下一些（如果人类作的话就会）被认为是犯罪的行为或交易。

人类与人工智能：刑法难题

刑法之所以存在，是为了惩罚那些选择违法获取不公平利益，损害守法者利益的人，或者惩罚那些从事应受法律和道德谴责的行为的人。刑法的前提，在于刑法主体是具有道德能力的人，能够决定什么是道德上的对与错。它还预设了刑法主体具有理解自己行为的基本能力，也拥有进行或抑制这些行为的意志能力。最终，刑法具有产生威慑力的目的：使人们不敢从事犯罪行为，害怕受到制裁或惩罚。

刑法随着时间发展，为公司的法人资格创造了空间。因此，公司刑事责任的概念应运而生。这使得刑法可以延伸到公司业务和公司结构，表面上冻结与没收属于公司而非自然人的资产和犯罪所得。

然而，公司的刑事责任有其范围界限。一间公司不可能犯下一切人类可以被认定为犯罪的罪行。公司刑事责任只针对一般的金融犯罪。

如果不加约束，AI系统可能从事更危险的活动。然而，人工智能与AI系统挑战了刑法的核心基础。人工智能不具备人类与生俱来的道德指南针和是非能力。它没有意志能力。人工智能并不 “害怕”惩罚，因此刑法对人工智能不构成任何威慑。

问题的关键在于，刑法在其目前的状态下，不适用于人工智能存在体所犯下的罪行，大体上也无法满足。它只能（有限的）追究拥有或使用它们的人类，要求其为人工存在体所实施的行为负责。

权利和责任

人工智能存在体做出错误行为的可能原因有许多。

第一种情况，可能是在其编程或制造过程中出现错误。第二种情况可能是用户输入了一套错误的指令。第三种，可能是任何负责监督AI系统的人，意识到问题出现，但没有采取适当的行动。

一种更困难的情况是，人工智能存在体在没有人类招揽，也没有人负责的情况下，自主地涉入了一项无法预测且不可预见的行动，导致犯罪或悲剧性的结果。这种情况虽然罕见，但不仅有可能、而且已经发生。虽然我们已经为减少不可预测的因素作出了努力，但永远不能排除这种可能性。问题是如何解决这个问题。假使制造商与用户已经被证明进行了所有合理的测试，并采取了一切适当的预防措施，那么他们是否可以为一个无法预测且不可预见的结果负责？更何况，其来自于一个自主适应与发展的AI系统？

Quo Vadis? 我们该往哪走？现行的刑法并没有提供解决方案。显然，随着人工智能的进一步发展，这个问题需要被解决。我们需要制定新的法律制度，即使在刑法领域，也要涵盖到非人类行为人。

前方的路

AI系统的法律责任是一个已经引起许多国家重视的问题，也是欧盟和欧洲委员会层面的法律争论问题。在民事责任和刑事责任之间，可以辨别出两个分流。从地方的角度来看，这个问题也受到积极讨论，连当局都积极参与。然而，只有时间才能证明AI系统是否会受到民事和刑事立法的充分监管，或者，这是否是一个难以捉摸的理想，因为AI系统远比法律更聪明。