ACM通信

计算伦理

数据监控的诱惑

艾伦·鲁贝尔，凯尔·m·l·琼斯
ACM通信，2020年4月，第63卷第4期，22-24页
10.1145 / 3382741
评论

人们越来越担心“监控资本主义”，即营利性公司利用数据创造价值，而个人则无法抗拒。⁹使用数据监控的非营利组织受到的关注较少。高等教育机构(HEIs)已经接受了数据分析，但私人的、以利润为导向的企业拥有收集数据的广泛空间是不合适的。高等教育与学生之间有一种信托关系，而不是一种狭隘的交易关系。⁷)．他们负责学生教育之外生活的方方面面。除了教室、学习管理系统和图书馆外，高等教育机构还管理宿舍、体育馆、餐厅、卫生设施、职业咨询、警察部门和学生就业。

高等教育机构收集和使用所有这些领域的学生数据，表面上是为了了解学习者的行为和上下文，改善学习结果，并通过“学习分析”(LA)提高制度效率。刷卡和Wi-Fi登录可以跟踪学生的位置、课堂出勤、校园设施的使用、饮食习惯和朋友圈。课程管理系统捕捉学生如何与阅读、视频讲座和讨论板互动。申请材料提供人口统计信息。这些数据用于确定需要支持的学生，预测招生需求，以及目标招生工作。

---

当前的学习分析实践可能与高等教育机构的受托责任不一致。

---

这些都是值得称赞的目标。然而，目前洛杉矶的做法可能与高等教育的受托责任不一致。高等教育院校通常认为洛杉矶分校促进了学生的兴趣，但有些项目主要促进了组织福利和制度利益。此外，洛杉矶提出了一个狭窄的概念，学生的兴趣，而折扣隐私和自主性。学生通常不知道收集到的信息，不提供有意义的同意，并对HEI数据实践表示不适和无奈的接受，特别是对非学术数据(见Jones et al。⁷)．

高等教育院校可获得的学生资料的广度和深度，再加上他们的受托责任，使他们有责任在收集和使用资料时严格约束和评估。看看最近的几个例子。

回到顶部

三个案例

运动跟踪。一名大学研究人员基于学生刷卡，绘制了学生的运动和社交网络，并建立了学生留存模型。它计划使用Wi-Fi路由器数据来形成更详细的了解，并与顾问分享这些信息。¹目前尚不清楚学生是否知道他们的数据被收集，是否已经选择，或提供了知情同意。为了学生的利益，这所高等教育机构本可以在研究开始前提供大量的信息(包括其理论基础)，让学生能够轻松选择退出，以及关于收集和使用运动追踪数据的明确政策。这所大学是众多通过专用信标、Wi-Fi签到或手机应用程序对学生进行密集跟踪的大学之一。⁴

第三方。2018年4月，培生出版集团的研究人员透露，他们进行了一项实验，将鼓励“成长心态”的信息纳入学习软件界面，并测试(在学生不知情或不同意的情况下)这些信息是否影响了学生的表现。⁶这表明了学生信息对于非教育目标的第三方的价值，包括企业利润。同样，Piazza，这个许多教师都要求使用的热门问答应用的开发商，已经通过应用注册页面上的一个预选框出售了基于学生“选择加入”的学生数据。为学生而非供应商的利益着想，高等教育机构需要制定更严格的控制措施，以保护学生，避免学习者数据成为监控资本主义的一部分。在与供应商的关系开始时，高等教育机构应该要求教育科技公司让选择变得困难。如果数据收集涉及干预或数据销售，高等教育机构应该重新评估关系，并可能要求公司补偿学生的数据。

密集的建议。像许多高等教育机构一样，佐治亚州立大学(GSU)一直在努力确保学生(特别是那些来自弱势背景的学生)完成他们的学位。2011年，俄勒冈州立大学开发了一套跟踪学术和财务信息的系统，提醒导师注意风险因素(例如，一门关键课程的成绩不理想)。GSU的六年制毕业率从2011年的48%上升到2018年的55%。⁵此外，有色人种、符合佩尔资格的学生和第一代学生的毕业率现在高于学生整体的毕业率。^3.GSU的案例通常被描述为洛杉矶的成功案例。然而，GSU同时聘请了数十名新的顾问，并大幅增加了学生顾问的数量。因此，它不仅仅是一个分析程序;它是一种以数据为依据的建议程序。

当然，学生成绩的提高是重要的，但目前还不清楚洛杉矶大学在多大程度上是由于洛杉矶大学，GSU建议的干预措施到底是什么，以及它们是否为每个学生提供了最好的结果，还是只为GSU提供了最好的结果。他们是引导学生远离具有挑战性的课程，降低优秀学生的主动性和潜力，还是为面临风险的学生提供辅导服务——提高他们的主动性和能力?目前还不清楚学生监督的增加是否改善了社会公益，也不清楚GSU是否考虑了所有相关的道德权衡。关键是要确保我们不会吸取错误的教训，不会以牺牲建议为代价来保留分析。为学生的最大利益而行动，需要一个强有力的、持续的评估。

回到顶部

以不同的方式做这件事

本专栏中提到的案例说明了洛杉矶的一系列问题，每个案例都说明了高等教育机构如何更好地履行其促进学生兴趣的责任。在开发洛杉矶项目之前，在学生数据被收集和分析(特别是由第三方)，以及分析被纳入之后，高等教育机构负有责任。在此，我们明确了高等教育作为信息受托人的一些具体责任，这些受托人可以指导他们的行动。

不同的利益。受托人有责任以客户的最佳利益行事，尽管不一定要这样做只有增进客户利益。数据分析可以为高等院校提供深刻的见解，并帮助它们履行其职责，有效地教育学生和调配资源。然而，洛杉矶是否会兑现这一承诺还是一个悬而未决的问题学生兴趣激发了洛杉矶的研究。跟踪和第三方数据用例并不能提高学生的兴趣。

此外，大学有些不加区分地收集和使用数据，因为这些数据可能与它们的教育和保管任务有关。然而，这种“相关性条件”不足以证明数据收集、分析和使用是合理的。⁸任何学生数据都可能与教育目标有关，而且不可能事先告诉什么数据实际上是有用的。因此，仅仅基于潜在相关性的集合原则是没有任何限制的。

培养信任和值得信赖。参加高等教育的学生相信他们是值得信赖的，将尊重学生作为个人，不会实施系统，使学生的权利和利益为机构或第三方的目标。然而，目前正在建设和部署的系统为更大的隐私入侵(跟踪案例)和机构利益(移动跟踪、第三方使用)创造了机会。学生们对他们是如何被监视知之甚少，通常没有能力选择退出，对高等教育机构收集数据感到不安，并且不能控制他们的数据的使用。值得一问的是，他们的信任是错的，还是因为大学教育的社会和经济价值，他们必须简单地默许。⁴

正确的好处。洛杉矶的好处可能相当有限。堪称典范的洛杉矶大学系统(GSU)在很大程度上依赖于建议资源，而不是数据，学生的成绩略有提高。目前还不清楚成功的原因是引导学生学习更容易的课程，还是收集和分析大量学生数据。

高等教育院校有责任促进处境危险学生的教育利益。然而，这并不意味着高等教育院校应该为了(投机性的)留校率和成绩而将学生的私隐和自主利益置于次要地位。学生的支持(社会、咨询、辅导、经济、心理健康)应该放在首位，而且要远远早于影响其他利益。

---

学校的利益和学生的利益是不相同的，我们不应该认为他们是一致的。

---

充分考虑学生的兴趣。我们也应该警惕狭隘地解释学生的兴趣。上述案件的重点是学生的学业成绩，但学生也有其他的兴趣，包括隐私。他们不应该为了学术成就的边际(和投机性)回报而放弃这种兴趣。对于那些对主管的过分监视感到愤怒的专业人士来说，这应该很熟悉。

全面的高等教育目标。高等教育有许多目标，包括发展沟通、批判性思维、对多样性的理解和欣赏，以及发展有益的就业和职业。²这些都是通过帮助学生发展自主性来培养的。然而，对学生运动、社交网络和日常习惯的密切监控是对学生隐私的侵犯，这是发展和行使个人自主权的关键因素。如果我们重视学生的自主权，就应该减少对学生的监督。⁸

第三方。学生的社交网络、校园旅行、健康、政治和宗教活动都可以从运动中推断出来。如果这些信息对高等教育机构有价值，那么其他人也会感兴趣:潜在雇主、联邦调查局(根据爱国者法案第215条的商业记录要求)、软件供应商等等。FERPA对学生隐私的保护有限。此外，学生数据收集得越多，数据泄露的风险就越大。因此，洛杉矶有风险，我们应该考虑它是否能提高学生的整体兴趣。

回到顶部

结论

澄清一下，我们是不反对LA tout court。收集一些学生数据将促进合法的教育和监护目标，同时尊重学生隐私和培养自主性。然而，洛杉矶和数据支持的监控一开始可以作为社会公益的工具，但会滑向道德怀疑的领域，尤其是在像高等教育这样负有受托责任的沉浸式机构中。学校的利益和学生的利益是不相同的，我们不应该认为他们是一致的。政府、企业和高等教育机构应避免收集和分析数据，因为方便和似是而非的原因。当高等教育院校致力促进学生对教育的兴趣时，它们应以与私隐及自主的利益相一致的方式进行。简而言之，高等教育院校在管理洛杉矶时，应充分证明学生对它们的信任。这就需要在洛杉矶项目的开始、期间和结束时进行约束和评估。

回到顶部

回到顶部

数字图书馆是由计算机协会出版的。版权所有©2020 ACM股份有限公司

---

没有发现记录