acm-header.
登入

ACM的通讯

博客@cacm.

学生与道德问题交谈


罗宾克山,怀俄明大学

在我们的一信用课程结束时,在计算专业的伦理学课程中,计算机科学专业需要,我为学生提供了在他们的房屋期末考试中的这个问题:

许多标准计算伦理侧重于隐私,安全和知识产权。如果您有机会为计算专业和公众提请提供一个其他令人担忧,那将是什么?证明这是一个道德问题。

在2021年秋天,课后已经结束后,我让学生允许匿名发布答案,匿名,大约一半回复,都是一致的。在这里,他们是未经编辑的。


“另一个担心我会提出的是准确性。我的意思是,如果我们作为计算专业人员提出了一个产品,它必须运作良好,而不是危险,并在需要时提供准确的结果。

例如,在AI的情况下,由于使用的模型的问题,已经存在许多可能具有非常负面影响的应用。通过许多AI算法的定义,它们并不意味着提供完美的结果,它们只是为了提供最佳概率。当涉及到敏感或关键操作时,这有许多机会出错。例如,预测犯罪率或常规率的AI由于其学到的数据而受到少数群体社区的非常高的机会。另一个案例的AI出错是自驾驶汽车崩溃和伤害人。这两种情况都是AI的情况只是不够好能够被推到公共领域。

总的来说,这是一个需要引起开发商和公众的伦理问题。我们必须小心不做我们的产品善良。“


“我会选择将技术成瘾的关注带来关注。我相信技术公司意识到他们的产品的某些负面方面,但他们利用用户的弱点,以便他们继续使用产品。根据Avery Hartmans,Twitter使用称为“可变比例的”的心理诀窍来奖励用户“......但是在不同的时候。用户不知道他们会得到奖励的时间......这就是插槽机做的”(Hartmans 2018)。科技公司通过各种方式研究和利用这种人类的弱点和其他人,让他们的用户对他们的产品“上瘾”。这毫不犹豫地是一个令人不安的情况。

由于许多事情,这可以作为道德问题。首先,问题具有非常广泛的传播效果。在当今的世界中使用技术几乎是必要的(数字鸿沟)。这为许多用户提供了大的技术访问,这为他们提供了一个可以操纵的大型观众。其次,道德患者在这个问题中没有选择,而药剂则完全控制。鉴于该公司正在利用心理学,患者真的没有选择如何反应,并潜意识地陷入成瘾。公司的代理商是唯一控制他们所推出的东西的代理商。最后,没有违法行为的补救机制。这些公司不能在法律上对患者造成法律责任,并在个人生活中造成问题。它并不合法地纠正,或者以任何其他形式,所以用户几乎无助于绊脚石进入技术成瘾。 Because of these reasons, I believe that technology addiction is an ethical issue that needs more attention in 2022."


“我对计算伦理的另一个问题是滥用权力。我的意思是,这是计算机令人难以置信的强大的事情,可以让人类做得很好的事情,但在某些情况下,我们有可以远程炸弹的计算机中东的村庄,一个由英国Xbox Controller有一个男人执导的无人机。计算机正在扩大我们的思想和我们的力量,并以我们不准备好的方式,因为我们想到我们认为两个平等的战争。双方与这种技术战斗我们只是通过直觉主义感到出错了,即这种行动可以发生这种情况。计算机公司能力使用这么多城市的力量只是为了为这些计算机提供动力并同时支付税款也是另一个滥用权力。因此,我相信应该开发一套标准计算伦理,可以解决这个问题并保持对此电力的明智使用。我们应该使用我们的道德理论进行分析他造成通勤这些滥用权力是正确的。如具有相应主义,这将认为这些浪费如此多所需要的权力的计算机公司导致伤害并带来了伤害。由于从给出了军事的原始计算能力,因此可以被视为真正的道德错误。计算机科学的一个巨大问题我可以做这样的事情,我有足够的处理器,我可以在真正的道德问题时推到超过100%,我应该这样做,我伤害谁。“


“我会介绍环境的关注。在格兰兹的文章中,它指出,数据中心没有效率,并且使用燃烧柴油的环境来实现环境。我认为技术影响环境的方式应该是道德焦点,因为环境影响每个人。我们可以利用相应主义理论,表明摧毁环境的结果并不总是“好”。事实上并不好;这是糟糕的。环境恶化可能对公众造成伤害可以被视为道德糟糕。公司明确损害环境的公司,又伤害了公众,应符合计算伦理标准。“


“所以,这是一个有点奇怪的,但我认为计算知识的呈现的想法将是一个有趣的问题。这是一个糟糕的头衔,所以我会定义我的意思。我认为很多工作在计算机科学领域的“计算机科学学位或平等的经验”,“平等体验”可以完全通过互联网教程自我教导,然后将您的技能销售为自由职业者。所以这个问题的肉是,缺乏高等教育体验潜在危险/对代码的诚信和质量构成威胁,这导致了其他问题的周长。要进一步进入这一点,它可能不安全,隐私和保障有一个“似乎在现场拥有同样的经验,作为实际在学校研究它的人。喜欢,我不得不参加这个课程的道德,它肯定教会了我的一些,而不是在大学后的专业生涯。但是乔·希罗,谁采取了两笔款Mers和学习的Python,现在有一个关于Cyber​​ Security的FBI的工作。Joe Smoe是否能够能够保护正在使用的数据,并识别该字段中的错误和正确?

我认为这里有一个潜在的问题,因为你不能保证那些自教授的人将与计算机科学的专业理解与在一个四年大学学到的人一起。我通过非常具体的课程学到了许多有用的东西,即我保证不是我通过自己的研究学习的东西。我认为有可能伤害缺乏安全性的人,并从不太专业的人那里受到保护,这使得这是一个道德问题。“


“其他问题:经济

计算可能对当地和全球经济体产生巨大影响。显然,涉及当地/全球经济时有许多利益相关者。在某些情况下,计算可以改变这些经济体。在这些情况下,经济体利益攸关方是道德患者,他们没有控制,经济改革背后的计算机专业人员是道德代理商,因为他们控制了这种情况。这将是自动化的一个例子,以及如何显着影响经济。当人们审查计算的道德时,应考虑这种经济影响。“


“我希望通过设计,通过设计,了解更多讨论和责任。,并在年轻人身上接地的自我感。我对那些已经毁了学术成功,职业成功,关系成功和一般生活履行的视频游戏的成瘾。我已经看到狂欢观看的YouTube视频在无尽的卷轴上内容改变了我周围的人的行为,甚至我自己的行为和生活都受到这三件事的影响。大约一年以上,我选择摆脱我的所有个人社交媒体,因为我不喜欢当我被它消费时,我的心态,我每天都想要那些小时。我永远不会回到无意识的滚动,我建议将它放在我的朋友和家庭中。我爱技术,我不会在如果我没有,右专业'T,但我可以看到社交媒体和一些(不是全部)视频游戏和媒体所做的真正伤害。

我理解并同意成瘾是一种个人战斗,必须由个人在精神上被独自争夺和赢得。但我发现这家技术公司甚至不解决它。其他生产成瘾产品的公司,如酒精和尼古丁公司,拥有FDA来规范它们,并确保关于产品的警告。他们对他们允许的广告类型有限,以及谁。由于在这些产品上完成的研究,广泛采用和接受了年龄限制等法律。仍有成年人沉迷于酒精,尼古丁和其他非法产品,但没有进入的努力就会有很多更多。现在,为什么在社交媒体中甚至没有这样的东西。还是因为它没有足够的研究/研究吗?是因为公众不相信那些不是化学物质的东西都不能上瘾?社交媒体如此广泛地利用,结果会影响我们整体的社会 - 特别是在我们的价值方面。在只有一个具体的例子中,由于社交媒体,人们价值内容是令人遗步,争议和激进的,因为它是最有趣的。 So those are the ideas that get spread the widest and fastest, and now we have seen a massive divide politically in the United States because radicalism is pushing leftists further left and right-wings further right, to the point that there is no reconciliation or compromise possible between these two views. This clearly is a degradation of human interaction and promotes misunderstanding, another parameter of an ethical quandary by our definition.

成瘾是个人责任,但我认为技术公司至少应该讨论他们的产品对他们的一些消费者,并且希望在未来有一些形式的规则来打击它。“


我很高兴他们的担忧,并在答案中找到对未来的希望。

罗宾克山是计算机科学系的讲师以及哲学和宗教研究系的联系以及怀俄明大学的人文研究所的怀俄明研究所。自1978年以来,她一直是ACM的成员。


没有发现任何条目

登入完全访问
“ 忘记密码? »创建ACM Web帐户
Baidu
map