ACM通信

贡献的文章

嵌入伦理:在CS教育中整合伦理

作者:芭芭拉·j·格罗斯，大卫·格雷·格兰特，凯特·弗雷登伯格，杰夫·贝伦兹，莉莉·胡，艾莉森·西蒙斯，吉姆·沃尔多
ACM通信，2019年8月，第62卷第8期，54-61页
10.1145 / 3330794
评论(1)

任何技术的特殊设计都可能产生深远的社会影响。计算技术与日常生活活动紧密相连，在我们的工作、学习、交流、社交和参与政府事务方面发挥着越来越重要的作用。尽管它们在许多方面改善了生活，但它们不能被视为毫无疑问是有益的，甚至不能被视为价值中立的。最近的经验表明，它们可能会导致意想不到的有害后果。有些技术被认为通过在在线社交网络上传播宣传来威胁民主，或者通过聚集包含越来越多个人信息的数据集来威胁隐私，或者在贷款申请审查、就业程序或假释听证会等高风险决策环境中使用机器学习来威胁正义。^{1，3.，8，12，17，23}在技术产生了负面的社会影响之后，从道德上评估它是不够的，例如，歧视有色人种的面部识别软件，以及无法应对乱穿马路的行人的自动驾驶汽车。^13，15新技术的开发人员应该致力于在设计过程的早期确定潜在的有害后果，并采取步骤消除或减轻它们。这项任务并不容易。设计师经常需要在相互竞争的价值之间进行协商，例如，在效率和可访问性之间为不同的用户群体，或在利益最大化和避免伤害之间进行协商。识别和解决伦理问题没有简单的方法。

回到顶部

关键的见解

计算机科学教育可以通过将有关计算机技术的伦理推理作为课程的中心内容来帮助应对这些挑战。学生们不仅可以思考他们可以创造什么技术，还可以思考他们是否应该创造那种技术。学习用这种方法推理需要的课程与目前计算机科学课程中的标准课程不同。为了满足这一需求，计算机、伦理、社会和公共政策等领域的一系列大学课程正在出现。一些涵盖了广泛的计算机科学，而另一些则关注隐私和安全等具体问题;通常，这些课程作为独立的课程存在于计算机科学课程中。还有一些人将伦理学融入到编程、人工智能和人机交互入门课程的教学中。^4，5，22

本文提出了一种将伦理推理纳入计算机科学教育的替代方法和更综合的方法，我们称之为“嵌入式伦理”。与独立的计算机伦理学或计算机与社会课程不同，嵌入式伦理学采用了一种分布式教学法，使伦理推理成为整个标准计算机科学课程中不可分割的组成部分。它修改现有的课程，而不是要求全新的课程。学生在学习开发和实现算法、设计交互系统和代码的同时，学习识别技术的伦理影响的方法，并清楚地推理它们。嵌入式伦理学解决了独立课程的不足。^6，10此外，它还弥补了STEM教师不愿意自己教授伦理学的不足¹⁸通过将哲学研究生和博士后纳入计算机科学课程的教学。

在这里，我们提出了嵌入式伦理背后的基本原理;描述它在哈佛的发展，从参与的课程中给出例子;讨论我们学到的教训;并考虑到在不同类型的学术机构实施这样一个项目在智力、管理和制度方面的挑战。最后，我们呼吁计算机科学界联合起来建立开放的资源库，以促进该方法的更广泛采用。

回到顶部

为什么要在计算机科学教学中嵌入伦理学和哲学家?

嵌入式伦理学是为了满足学生对哈佛计算机科学的两门选修课的需求而创建的，这两门选修课考虑了与计算机科学方法相一致的伦理问题:“隐私与技术”和“智能系统:设计与伦理挑战”。(有关这些课程的简要描述，请参阅在线附录“计算机科学与伦理专题课程;”https://dl.acm.org/citation.cfm?doid=3330794&picked=formats）

---

学生们不仅可以思考他们可以创造什么技术，还可以思考他们是否应该创造那种技术。

---

在教授这些课程的过程中，我们反复注意到，当学生专注于技术系统问题时，他们是多么容易忘记伦理问题。即使是那些认真致力于学习并在工作中使用伦理推理的人，在从事技术设计任务时也很快忽视了这些考虑。与此同时，我们认识到，大多数计算机科学课程包含可能引发道德挑战的材料。因此，我们设计了“嵌入伦理学”，使学生养成伦理思维。

嵌入式伦理方法在核心计算机科学课程的计算机科学课程中增加了简短的伦理模块。通过在课程中广泛嵌入伦理，这种方法满足了计算机科学学生的三个目标:向他们展示伦理问题渗透到几乎所有计算机科学领域的程度;它使他们熟悉各种具体的伦理问题和出现在整个领域的问题;它为他们提供了通过这些问题进行推理和有效沟通的重复经验。

虽然没有一门单独的带有嵌入式伦理模块的课程能够培养出具有伦理意识的技术设计师，但我们希望在整个课程中加入模块将产生复合效果，不断加强伦理推理对计算机科学和技术设计的各个方面的重要性。除了让学生接触大量计算环境中的伦理内容外，这种分布式教学法还传达了这样一个信息:伦理推理是计算机科学家工作的一个预期部分。

嵌入式伦理本质上是跨学科的。知道可以用技术做什么属于计算机科学的范畴。理解、评价和成功地捍卫关于应该做什么的论点属于规范学科的范畴，最显著的是伦理学，哲学的一个分支领域。对于学生来说，不仅要成功地学习如何构建创新的计算系统，还要学习如何确定他们是否应该构建这些系统，或者伦理考虑应该如何约束他们的设计，这两个学科必须一起合作。为此，哈佛大学计算机科学和哲学系的教师一直在合作开发嵌入式伦理课程。计算机科学教师和助教与哲学专业的高级博士生和博士后合作，为每门课程开发嵌入式伦理模块。这种方法也为教授模块的哲学家开辟了令人兴奋的新研究领域，并拓宽了他们的教学曲目。

回到顶部

嵌入式伦理如何工作?

每门《嵌入伦理学》课程都配有一名具有浓厚伦理学背景和丰富教学经验的哲学高级博士生或博士后助教。在与学院的课程主管协商后，助教会设计道德课程，让学生培养应对特定道德挑战的实际能力。他们确定一个与课程内容相关的道德问题，准备和领导一到两个关于这个问题的课堂会议，并设计一个作业和计划来评估它。根据班级规模的不同，评分本身可能由嵌入式伦理学助教、常规课程助教或同伴评分完成。

这些模块旨在为学生提供三个核心的伦理推理技能:识别和预测计算机技术开发和使用中的伦理问题的能力;利用道德哲学的概念和原则，独自或与他人合作，对这些问题及其潜在解决方案进行推理的能力;以及有效沟通他们对如何解决这些问题的理解的能力。这些模块强调“主动学习”的活动和作业，教授学生将他们所学到的哲学思想应用到具体的、现实的伦理问题中，这是最近伦理教育研究的建议。^6，10这些课程旨在帮助学生在具体环境中锻炼他们新获得的道德推理技能。

回到顶部

嵌入式伦理试点

我们在三个学期(2017年春季、2017年秋季和2018年春季)试行了嵌入式伦理项目，共开设了14门独立课程。图1列出课程，按计算机科学领域分组，说明所处理的伦理问题和招生情况。为了说明模块的内容和设计，我们在这里描述几门课程的模块。

图1。嵌入式伦理课程20172018。

• 网络:Facebook，假新闻和审查伦理。本课程的重点是使用网络建模工具来研究涉及当前在线网络的复杂经验现象，包括思想和影响的传播方式以及经济行为的传染。嵌入式伦理模块考虑了社交媒体公司对所谓“假新闻”的审查。它的目标是让学生进行不同形式的伦理推理，讨论社交媒体公司在道德上是否有义务压制“假新闻”在其平台上的传播，如果是的话，他们应该压制什么样的内容，应该使用什么样的策略来压制。《嵌入伦理学》助教首先与学生讨论了三个哲学话题:硬审查与软审查的区别;J.S.密尔反对审查制度的论点选集在自由；¹⁶一个论点，由a重建而来纽约时报社论中写道，Facebook有义务压制假新闻，因为假新闻干扰了民主治理。¹⁷该模块的作业要求学生写短文，确定一种压制假新闻的策略，并为Facebook是否有义务实施该策略的立场辩护。
• 数据系统和编程语言课程“，”这门以讨论为基础的大数据系统研究生课程研究了数据系统和算法的设计，这些数据系统和算法可以“放大”，即充分利用一台机器的潜力，并“向外扩展”，例如使用多台机器(通常是数百台或数千台)。嵌入式伦理模块考虑了如何在大数据时代理解和保护隐私，特别是考虑到大型数据集和当代分析工具提供的强大推理能力，其中一些似乎侵犯了个人隐私。它的目标是为学生提供一种方法来诊断领域中隐私的重要性;帮助学生理解为什么传统的隐私保护，如同意通知和匿名，对某些信息流无效;并让学生们集思广益，解决从公开信息中得出统计推断的难题。为了准备课堂讨论，学生们在阅读材料中被分配了一组详细的问题，这些问题涉及隐私的不同定义和隐私保护的类型。^{2，7，14，20.}在课堂上，嵌入式伦理学助教介绍了一种基于兴趣的方法来思考这些问题。^21，24这种方法首先要确定作为权利保护基础的严肃的共同利益。课堂上的讨论集中在伦理灰色地带，即从一个人的公开数据中做出的无法预见的推论是否构成对隐私的侵犯。(参见拉姆博尔德和威尔逊^20.讨论。)课程还讨论了个人是否在其他灰色领域放弃了他们的隐私权，比如雇主在工作时监控员工。在隐私被侵犯的情况下，学生们使用该方法进行头脑风暴设计解决方案。

对于数据系统的本科基础课程，我们开发了一个替代的隐私模块，研究隐私为什么有价值，以及它是否是一种权利。它还研究了在数据系统的设计中，在隐私和其他社会产品(如医疗保健)之间的权衡。

对于基本的本科编程语言课程，嵌入式伦理模块研究了将伦理整合到软件工程过程中的方法。在这个模块之前，这门课学习了验证程序是否符合其设计规范的技术。这个模块着重于道德设计规范的思想，而不是法律或技术规范，也就是说，设计规范帮助确保程序以道德上可接受的方式行为。

• 设计有用和可用的交互系统:包容性设计和机会平等。这门人机交互设计课程的嵌入式伦理模块聚焦于包容性设计的主题，即设计对各种类型的残疾人都有用和可用的人机交互系统。它的目标是引导学生更清楚地思考软件开发人员在多大程度上有道德义务设计包容。课程以讨论“包容性设计”的不同含义开始。然后，学生们考虑软件公司是否有道德义务进行包容设计，因为这样做可以以合理的成本减轻残疾人所面临的不公平的累积劣势。在讨论中，嵌入式伦理学助教介绍了三个相关的哲学思想:道德义务行为和道德超义务行为之间的区别;约翰·罗尔斯的公平机会平等原则;¹⁹以及残疾的医疗、社会和互动模式。²⁵学生们参与了一项以群体为基础的道德模拟，在这个模拟中，他们想象自己是软件开发人员，决定是否重新设计公司的网站，以纳入其中，即使他们可能会付出一些成本，比如占用个人时间做这项工作。该模块的作业被纳入课程的最终设计项目。学生们被要求回答以下问题:如果他们继续进行商业开发，他们是否有义务设计他们的项目。
• 机器学习和辨别。这门机器学习入门课程的嵌入式伦理模块专注于机器学习及其潜在的歧视。它的目标是向学生介绍错误歧视的不同理论，引导他们认识到设计合乎道德的机器学习系统不仅仅是设计精确的机器学习算法，向他们介绍形式化的公平标准，并引导他们思考“不可能”结果的含义。¹¹在给了一个关于错误歧视理论的简短介绍(这是海尔曼的第一章⁹(基于Barocas和Selbst)，嵌入式伦理学助教提出了一个案例研究，在该案例中，雇主的招聘实践产生了与求职者种族相关的结果^3.)．这一程序基于合理的商业理由，也是历史上对某些群体不公正的产物。学生们根据两种不同的歧视理论:反分类理论和反从属理论来讨论这个案例是否属于歧视。^3.这两种理论之间的区别随后被用来讨论正式的公平标准和围绕使用COMPAS(一种再犯风险预测工具)为法官在假释听证会上的决定提供信息的公众讨论之间的冲突。作业要求学生设计一种公平招聘的算法，既能减少不同的影响，又能在劳动力市场上产生对社会有益的结果，并为他们的设计选择辩护。

回到顶部

嵌入式伦理:试点计划的评估

我们在试点项目上的经验表明，将道德推理的教学与计算机科学的核心方法结合起来不仅是可能的，而且对学生和教师都是有益的。在每节《嵌入伦理》课后，教师们都会非正式地提供反馈，我们要求学生完成一份简短的调查。教员们报告说，这些模块对课堂的贡献很小，而且他们从这些模块中学到了东西。

学生调查的目的是评估每个模块的有效性和模块方法的总体效果。图2介绍主要调查结果。各方积极响应，支持“一带一路”继续推进。所有课程超过80%的学生和五个班级超过90%的学生认为这些课程很有趣。除了两个班级外，其他所有班级中超过80%的学生表示，他们有兴趣在未来的计算机科学课程中学习更多关于道德的知识。四分之一的学生给出了压倒性的正面评价，许多学生表示渴望更多接触伦理内容，并有更多机会发展伦理推理和沟通技能。负面评论主要针对个别的课程内容或演示。一些学生想要更多的广度或深度，另一些学生想要更多的背景。一个关于两个类之间重叠的评论表明需要跨类协调。

图2。嵌入式伦理试点评估。

回到顶部

从试点到可持续发展

在2017年春季学期的第一个嵌入式伦理学试点中，一名博士生为四个不同的课程开发了模块:“伟大思想”导论课、网络理论课、数据科学课和人机交互课。基于这一努力的成功，我们聘请了两名2017-2018学年的博士生为额外的10门课程开发模块，并为原来的4门课程中的3门重复模块。

在2018-2019学年，我们将为该项目培养一支研究生和博士后助教队伍。博士后领导过去和现在助教的每周会议，并协调模块的开发。2018年秋季，9门课程包括嵌入式伦理模块，包括4门新学科课程，2门系统课程和2门理论计算机科学课程。

我们学到了什么?主要课程涉及学生参与、成功的教师角色、助教经验以及嵌入道德规范的障碍。一套最佳实践正在形成。

为了让学生参与伦理推理，我们发现鼓励在小班课堂上进行包容性讨论的方法，在大班课堂上也同样有效。特别是，当提出的问题将技术材料与学生已经很突出的伦理问题联系起来时，嵌入式伦理模块是最有效的，该模块采用了简短的主动学习练习，作业让学生实践在会议中提出的想法。

我们发现，嵌入式伦理模块在紧密的教师参与下工作得最好。如本文所述，全面参与模块的设计，并亲自参与模块类会话是至关重要的。计算机科学教师还可以通过另外两种方式为《嵌入式伦理》的成功做出贡献:包括一项作业(可以是独立的，也可以是大问题集的一部分)，以某种方式对课程成绩做出贡献，不管它是多么微小;通过在课程的其他部分提及伦理问题来预览即将到来的模块，参考课程，或以其他方式表明主题的重要性。这些活动通常只需要三个小时的教师时间。当作业对最终课程成绩有贡献，当教师亲自出席嵌入式伦理学课程时，学生就会明白，教师重视伦理推理在课程中的地位，并且该模块是课程内容的核心元素，而不是可选的补充。

我们发现，作为嵌入式伦理学助教的博士生和博士后每学期可以在三到四门不同的课程中嵌入模块，这取决于新模块的数量和现有材料的数量。虽然哲学助教的工作不同于通常的引导讨论组和批改论文，但准备和教授三到四个嵌入式伦理学模块的工作量是一样的，每周14-20小时。此外，迄今为止参与其中的助教报告说，他们从接触到与其哲学专业知识相关的大量计算机科学概念和方法中受益匪浅。我们预计这一经验在就业市场上也将被证明是有价值的，对许多人来说，对他们的研究也是有价值的。

我们遇到的一些障碍在跨领域的投资中很常见。首先，我们看到了典型的不安全感:哲学家担心自己缺乏专业技术知识，计算机科学家担心自己不熟悉伦理，不愿与学生讨论伦理问题。尽管我们发现，对计算机科学方法和系统进行富有成效的伦理讨论的技术障碍比许多哲学家预期的要低得多，但没有计算机科学背景的哲学家仍然需要资金和智力方面的支持，以开发必要的背景知识。我们还发现，许多计算机科学教师有兴趣参加一个简短的计算机伦理学入门课程，重点是与计算技术挑战相关的哲学理论和方法，这是我们目前正在探索的可能性。

我们的经验表明，联合设计嵌入式伦理模块的过程有助于减少不安全感，而在课堂上有专业知识的哲学家回答问题是成功的关键。我们发现有帮助的策略包括在学期开始前选择伦理学模块的主题，并听取计算机科学教师和哲学家的意见。这样做为哲学家提供了时间来发展相关特定内容领域所需的技术知识。建立过去材料的资源库以供重用或作为未来模块的模型也被证明是有用的。

---

当提出的问题将技术材料与学生已经很突出的伦理问题联系起来时，嵌入式伦理模块是最有效的。

---

第二个障碍来自于学科不同的方法论和词汇。在计算机科学课程的设置中，当道德问题有几个可接受的答案时，习惯了只有一个正确答案的问题集的学生往往会遇到麻烦。为了应对这一挑战，我们在每个模块中讨论一些伦理问题的争议性，在课堂上模拟成功的伦理推理和包容性讨论，并设计活动让学生练习这种推理和讨论。为了衔接伦理学和计算机科学课程词汇，突出需要更多解释的哲学材料，计算机科学教师与嵌入式伦理学团队一起设计和实现模块。

第三个跨领域的挑战是招募哲学家来开发和教授嵌入式伦理学模块。从一个哲学研究生项目中雇佣大量的博士候选人来覆盖所有的计算机科学课程是不切实际的。哲学系需要这些研究生教授自己的课程，而学生本身也需要有教授这些课程的经验。为了应对这一挑战，我们在助教干部中加入了哲学博士后。对于这些博士后，我们希望他们获得的培训和经验将有助于他们的研究和就业情况。

我们还发现了评估和制度上的挑战。将伦理教育学融入计算机科学核心课程的方法反映了一个假设，即在整个课程中反复接触这种类型的推理将使学生在从事技术工作时养成伦理思维。模块后调查提供了对特定模块有效性的洞察，但我们想要衡量的是该方法在多年课程中的影响，例如，当学生完成他们的学位，甚至在他们以后的职业生涯中。按照设计，嵌入式伦理学对个别课程进行小规模干预，排除了对个别课程水平的影响进行短期评估的有用性(例如，课前/课后调查)²²)．因此，我们需要找到方法来衡量嵌入式伦理方法的长期有效性，并将其与其他方法进行比较。无论采用何种方法，衡量计算机科学课程中教学伦理的影响都是一项挑战，我们旨在找出广泛适用的方法。

建立嵌入式伦理的制度挑战来自于它的跨学科性质。特别是，大学的财政和行政支持是至关重要的。需要资助助教和博士后，包括能够培训和支持那些开发课程模块的高级博士后。招聘计算机科学的教员和课程，招聘哲学的助教和博士后，组织和管理项目的材料仓库，包括模块和评估材料，都需要行政支持。其中一些挑战因为跨越了大学的不同部门而变得更加复杂。

回到顶部

期待

教计算机科学家从设计阶段就开始识别和解决伦理问题，与使他们能够开发高效工作的算法和程序同样重要。将伦理推理技能的教学与计算技术的教学整合到现有的计算机科学课程中，不仅为学生提供了识别、面对和解决伦理问题的宝贵经验，而且还传达了在他们的计算机科学工作中识别、面对和解决伦理问题的需要。它为他们提供伦理推理技能，使他们在毕业后从事计算和信息技术工作，为他们生产对社会和伦理负责的计算机技术做好准备，并向他们的同事和雇主证明他们的道德激励的设计选择。拥有这些能力的计算机科学家和技术人员对我们社会的长期福祉非常重要。

我们邀请其他机构的人加入我们，将伦理整合到他们自己的计算机科学课程中，并帮助我们扩展我们正在开发的伦理模块的开放资源库，包括课堂活动、案例研究、作业和推荐阅读。我们还认为，分享经验教训、应对大学支持这些努力的挑战的方法，以及吸引和培训哲学家参与这些努力的方法都很重要。

数字观看作者在独家报道中讨论这项工作通信视频。//www.eqigeno.com/videos/embedded-ethics

回到顶部

回到顶部

数字图书馆是由计算机协会出版的。版权所有©2019 ACM, Inc.