ACM通信

的观点

理解法律与法治:加强计算机科学课程的请求

由Mireille Hildebrandt
ACM通讯，2021年5月，第64卷第5期，28-31页
10.1145 / 3425779
评论

有些人认为他们凌驾于法律之上。在宪政民主国家，情况不可能是这样。国家元首、医生和警察都不能凌驾于法律之上。他们都应该有能力做自己的工作，但我们不相信他们可以按自己的意愿行事的说法。在18^th世纪的欧洲，我们取代了独裁统治通过有规则的法律的法律，以缓和不受约束的权力，并确保当权者能够在法庭上被问责。而法治就是人治(作为控制手段的法律)，法治意味着权力的划分，制定规则的人不能对他们的解释有最后发言权。¹³

这也指法律和伦理的区别。替换规则通过法律和规则的法律意味着我们不希望依赖于那些统治我们的人的道德倾向。相反，如果我们不同意他们强加的规则(民主)，我们可以让他们回家，我们可以在法庭上质疑他们对这些规则的解释(法治)。作为一个思想实验，我问读者这将如何应用于计算系统强加的规则:我们能把开发人员(和/或那些实现这些系统以获得利润或从事公共管理的人)打发回家吗?当它们影响我们所选择的架构时，我们能在法庭上质疑它们的规则吗?

法律和法治通过错综复杂的制约和平衡得以实施，保障了与法律有关的决策的可争议性，从而为强有力的、合法的和有约束力的决策奠定了基础。这就是我们创造和维持社会信任的方式:不是通过珍惜一个没有权力的理想世界的幻想，而是通过创造和维持与之相抗衡的权力。同时，法律是关于协调人与人之间的互动，确保政府以平等的尊重和关心对待他们的公民，⁵从而提供了法律的确定性和正义。这就是为什么没有人可以凌驾于法律之上的原因。

这也适用于我们计算环境的架构师，他们越来越多地设计和设计我们居住的空间。计算机科学家、Web开发人员、机器人专家和软件工程师必须了解法律何时以及如何适用于他们，而且当他们为特定的用例开发模块、系统或应用程序时，他们应该了解法律如何以及何时适用。这不仅适用于隐私和数据保护、网络犯罪、知识产权和私法责任(例如侵权)等问题，也适用于管辖权(适用何种法律)和国际法(各国法律体系如何在全球层面上相互作用)问题。更重要的是，法治理念应该成为我们理解法律的基础。

基于多年来对计算机科学硕士生的法学教学，⁸我开始相信，通过教授他们有关法律的知识，我不仅是在帮助他们遵守现有的法律，而且还为他们提供了一个独特的机会，以接触他们自己的“交易”的基础和影响(正是因为计算系统也会产生影响人类行为的规则)。

我注意到，学生们对复杂性的直观理解(在研究计算系统的行为时发展出来的)为他们提供了独特的分析技能，这与法律和法治的研究惊人地相关。显然，计算机科学家比其他人更清楚形式化系统的局限性，这使他们对法律提供的复杂、多维、自适应操作系统开放。

在这个观点中，我希望解释为什么法律和计算机科学有很多共同点，也有很多可以相互学习的地方。基本上，我认为这是法律入门也敬法治考虑到计算系统对我们共享的世界的巨大影响，应该将其纳入计算机科学的课程。

回到顶部

法律研究和计算机科学

计算机科学是关于计算系统的设计和行为，包括它们的验证，以数学、信息论、统计学、电气工程为基础，通常包括计算博弈论、复杂性理论、认知理论以及控制论、编程语言理论等的研究。希望它也是关于对科学研究有贡献的可检验理论的证伪。¹¹

---

计算机科学家比其他人更了解形式化系统的局限性，这使得他们对法律提供的复杂、多维、自适应的操作系统持开放态度。

---

法律研究是关于实在法的解释和发展;也就是说，有约束力的法律规范的架构界定了一个具体的管辖权，从而确保不同的解释可以被辩论，并维护法律和法治的完整性。^5，8

计算机科学关注的是根据特定的输入，决定系统行为的代码;法律研究涉及一种特定类型的规范，它决定在特定条件适用时法律效果遵循什么。法律规范既可以是书面的，也可以是不成文的，但在这两种情况下，它们都是用自然语言表达的。法律是文本驱动。计算系统是代码驱动的(也可能是数据驱动的)。

回到顶部

法律与计算系统

这就是事情变得有趣的地方。对于计算机系统来说，消除歧义是至关重要的，对于法律来说，保持人类语言的开放结构，同时仍然确保封闭性是至关重要的。^6，7“自然”语言的美妙之处在于，它同时为同一个单词、句子、段落或更大的文本主体提供了多种解释的空间，并为实现相互理解提供了必要的结束手段。

然而，这种关闭并不是最终的，因为它总是会受到质疑，例如，通过以不同的方式使用语言，通过将术语与之前不相关的术语连接起来，或创建对新事件或情况的引用。后者很有趣，因为人类语言不仅指椅子、桌子、桥梁和高速公路等物体，还包括“婚姻”、“宗教”或“经济市场”等既不给定也不像河流和运河那样有形的物体。这些客体是“言出必行”的行为行为的结果。^1，10当公务员宣布一对夫妇为夫妻时，他们并不是在描述一种情况，而是让这种情况产生，并由此带来所有的(法律)后果。⁹

这种表现性言语行为在法律中大量存在，律师们接受的训练是确定什么样的事实情况“算作”一个具体的法律事实，然后，确定相关法律事实的具体法律效果。要做出这样的决定，律师首先要调查问题属于哪个司法管辖区。

回到顶部

管辖范围内

例如，律师可能必须确定一个具体的行动是否“算作”“不公平”，这意味着他们必须根据相关事实引出相关的法律条件，并检查它们是否适用。“公平”的法律要求在许多不同的司法管辖区得到回报，并且是许多不同法律领域的一部分(公共行政的决定必须公平，惩罚必须公平，违约赔偿必须公平，雇员招聘必须公平)。律师们习惯于这样一个事实:公平不是一个预定义的概念，它有不同的含义，这取决于法律领域和手头的案件。决定它的意义需要他们回答一系列非常具体的问题，比如“与什么相比公平”(什么类型的案例应该被视为参考点)，“与谁相比公平?”(其他人应该被平等对待)，以及“在什么方面公平?”(指私人或公共利益)。这些问题的答案将具有法律效力，它们不是思想实验或模型构建练习的一部分。它们会影响现实世界中的真实人物，取决于相关的司法管辖区。

---

计算机科学关注的是根据特定的输入，决定系统行为的代码;法律研究涉及一种特定类型的规范，它决定在特定条件适用时法律效果遵循什么。

---

以欧盟法院(CJEU)的判决为例，^一个其中涉及关于保险费用和福利的男女通用规则，其依据是法律禁止使用“性别作为精算因素”。这一法律禁令意味着，这种使用“不能导致保险个人的保费和收益差异”:尽管从统计数据来看，男性的驾驶行为风险更高，法院得出结论，保险公司不允许向男性收取更高的保费。考虑到许多其他因素可能作为“性”的代理，这个案例与基于机器学习的风险评估高度相关。然而，该决定仅适用于欧盟的管辖范围。我们并不处于公平的普遍规则领域，这些规则实际上在现实世界中并不“存在”。无论是在伦理上(存在大量分歧的地方)，还是在法律上(其有效性仅限于某一特定司法管辖区)。

除了免嫉妒的蛋糕切割算法，在上一期通信在美国，律师不能基于无效的假设从现实生活中抽象出来。例如，我们不能假设agent 1能够找到具有相同偏好的蛋糕切片的除法，也不能假设agent 2不会偏好另一个初始除法(注意，许多不同的初始除法是可能的)。最重要的是，律师、经济学家和政客们可能会观察到，一旦实现了无嫉妒的划分，扩大蛋糕的动力就会丧失——创新的欲望就会减弱。最后，嫉妒统治世界的假设只是框定这个问题的一种方式。这种假设是功利主义的(基于偏好)，并基于一种可能不成立的特殊的方法论个人主义。功利主义并不一定是理解公平划分概念的最佳方式(公平本身与划分无关)。法律是实用主义的，它不确定什么是普遍有效的“公平”，只局限于某一特定状态是否应被限定为“不公平”的问题，这取决于相关的司法管辖权。

后者指的是一个特定国家或超国家组织的立法机关和法院确定在该管辖范围内什么被视为不公平的事实。什么是不公平还取决于法律领域(刑法是关于沙漠、预防和威慑;私法涉及赔偿，自治，财产;行政法是关于公共利益的)，是关于手头案件的特殊情况的。没有算法来决定什么是公平的，它需要判断而不是计算。一个算法将永远落后于相关的东西，它以历史数据为基础训练，或由基于以前事件编写的代码构成。(非)公平的处境性质意味着律师熟悉“公平计算”所挣扎的许多问题，他们习惯于这样一个事实，即决定(非)公平的意义是一种解释行为，而不是计算的结果。

---

至关重要的是，计算机科学家必须掌握法律的架构、多维度和构成力。

---

然而，通过记录机器学习专家检测到的各种对公平的解释，律师可以对自己的盲点了解很多，^3.而后者可以了解到律师在确定什么“算”(不)公平时所考虑的无数因素。立法和判例法为“不公平的”或“公平的”的含义提供了一个特别丰富的细粒度决定资源。这些决定在特定管辖范围内具有法律效力，该管辖范围可以是国家管辖，也可以是国际管辖(例如人权条约)。这突出了一个事实，即像计算机科学家可能会相信的那样，公平这样的概念并不适合普遍解释。相反，法律考虑的是作为司法管辖权基础的历史、价值观和文化背景。与此同时，即使在跨国管辖一级，所谓公平也有限制。考虑到文化背景并不意味着一切都可以。这表明了不同解释之间的家族相似性，而不是一组必要和/或充分条件。

回到顶部

如果你不能违反法律，它就不能成为法律

与此同时，违反法律往往被认为是一种缺点。然而，这不是一个bug，而是一个特性。法律诉诸于其管辖下的机构，它不会自我执行或强迫他们。在后一种情况下，我们不愿谈法律，而愿谈行政、纪律或蛮力。⁴显然，那些不遵守法律的人可能会发现自己与执法人员对打:他们可能要支付损害赔偿、罚款，甚至可能会受到惩罚。这就是法律不同于道德的地方。遵守法律不是个人喜好或个人品味的问题:没有人可以凌驾于法律之上。然而，在宪政民主国家，执法机关为辩论留有余地(正当程序、公正审判)，将其管辖下的人视为能够为其行为提出理由的代理人，从而尊重他们的尊严。¹²

回到顶部

法律、法典和道德的约束力

法律历史学家乌韦•韦塞尔曾写道，定义法律就像把布丁钉在墙上。¹⁴同样的道理也适用于所有的人类机构，如“婚姻”、“大学”、“公司”、“宗教”、或“经济”、“人工智能”，甚至“计算机科学”。再说一次，这不是一个缺陷，而是一种特性，因为它使我们能够以一种相当平稳的方式在我们共有的制度世界中航行——制度是具有适应性的，而不是完全不确定的(人们可以说它们是不确定的)。法律与道德的区别既不是粗暴的执行，也不是机械地应用那些能说明问题的规则，而是一个复杂的网络，由具有约束力的规范、可执行的决定和专门的机构组成，这些机构赋予和保护人类的能力以及社会的信任。

计算机科学家掌握法律的体系结构、多维度和构成力是至关重要的。设计“做好事”的计算系统是不够的。当面对一个浸泡在计算基础设施中的环境时，这些系统的最终用户不应该依赖于个人开发人员的道德倾向。在接触这种基础设施的伦理影响之前，计算机科学家必须紧急接受法律和法治的理论基础和实践支持的培训。

回到顶部

回到顶部

回到顶部

数字图书馆是由计算机协会出版的。版权所有©2021 ACM, Inc。

---

没有发现记录