ACM

ACM通信

部门

ACM，伦理和企业行为

Moshe Y. Vardi著
ACM通信，2022年3月，第65卷第3期，第5页
10.1145 / 3516423
评论

认为: 打印手机应用程序 ACM数字图书馆全文(PDF) 数码版分享: 通过电子邮件发送在reddit分享在StumbleUpon分享在黑客新闻上分享在推特上分享在Facebook上分享

如今，计算机行业的每个人都在提倡道德规范。梵蒂冈已经发布了罗马呼吁人工智能伦理它得到了包括科技公司在内的许多组织的支持。Facebook(现在的Meta)捐赠了数百万美元，在慕尼黑工业大学建立了一个新的人工智能伦理研究所，因为“确保对人工智能的负责任和深思熟虑的使用是我们所做一切的基础。”^一个谷歌宣布它“致力于在负责任的人工智能开发方面取得进展”。^b最后，但并非最不重要的是，ACM现在要求ACM奖项候选人的提名人和背书人证明“据我所知，候选人……没有任何违反ACM道德准则和ACM核心价值观的行为。”

但人工智能技术是基础技术“监测资本主义”,定义为一种以个人数据商品化为核心目的的经济系统。在“信息想要免费”的口号下，几家科技公司把自己变成了广告公司。他们还完善了微定向广告技术，使广告与个人喜好相匹配。用硅谷的行话来说，这种商业模式被描述为:“如果你不付钱，你就是产品。”杀伤力企业认为^c他雄辩地阐述了监控资本主义带来的社会风险。“我们可以拥有民主，”她写道，“或者我们可以拥有一个监视社会，但我们不能两者兼得。”互联网公司已经掌握了收集我们分享给他们的信息的艺术，并利用这些信息构建了大量关于我们的信息。就像信息的颗粒会变成关于我们的一堆信息一样，互联网公司给我们的影响颗粒会导致我们没有意识到的一堆影响，就像我们从剑桥分析(Cambridge Analytica)丑闻中学到的那样。所有这一切都是由机器学习实现的，机器学习将用户资料映射到广告。人工智能还被用于调节社交媒体用户的内容，其主要目标是最大限度地提高用户粘性，从而提高广告收入。

监控资本主义是完全合法的，利润丰厚，但许多人认为，这是不道德的，^d包括我。毕竟，ACM的职业道德准则^e以“计算机专业人士的行动改变世界”开头。为了采取负责任的行动，他们应该反思自己工作的更广泛影响，始终支持公共利益。”要说监督资本主义支持公共利益是极其困难的。

不道德的商业模式和façade道德行为之间的紧张关系在一些公司内部造成了不可持续的紧张关系。2020年12月，研究算法偏差的计算机科学家Timnit Gebru成为了一场公开争议的中心，起因是她突然从伦理人工智能团队的技术联合领导谷歌辞职，引发了争议，此前高层管理要求她撤回一篇尚未发表的论文，该论文详细描述了大型语言模型的多种风险和偏差，或删除谷歌所有共同作者的名字。这一管理要求被许多谷歌人描述为“史无前例的研究审查”。^fGebru被解雇后，谷歌解雇了人工智能伦理团队的另一位顶级研究员Margaret Mitchell。作为对这些解雇的回应，ACM公平、问责和透明会议(FAccT)决定暂停其与谷歌的赞助关系，并简要声明“让谷歌作为2021年会议的赞助商将不符合社区的最佳利益。”

当今计算机面临的最大问题不是人工智能技术不道德——尽管机器偏见是一个严重的问题——而是大型和强大的公司使用人工智能技术来支持一种可以说是不道德的商业模式。然而，除了FAccT之外，我几乎没有看到ACM社区对它与监控资本主义公司的关系进行过认真的讨论。例如，ACM图灵奖(ACM的最高奖项)现在附带了由谷歌支持的100万美元奖金。

此外，问题不仅在于ACM与科技公司的关系。我们还必须考虑如何看待这些公司的高管和技术领导。严肃地要求我们社区的成员对他们所领导的机构的决定负责，会引发一些重要的问题。我们如何将“没有做过任何违反ACM道德准则和ACM核心价值观的行为”的标准应用到这些人身上?现在是时候让我们就负责任的计算、伦理、企业行为和职业责任进行艰难而微妙的对话了。

回到顶部