ACM通信
人工智能对组织的影响
阿姆斯特丹KIN数字创新中心的Marleen Huysman说，人工智能系统的开发人员和实施这些系统的组织的最终用户之间存在着巨大的差距。
信贷:亲属的研究
人工智能(AI)的使用在实践中如何改变组织?组织如何改进他们对AI系统的应用?
为了找到这些问题的答案，玛莲Huysman隶属于阿姆斯特丹自由大学(Vrije Universiteit Amsterdam) (VU)领导着一个35人的多学科研究小组KIN数字创新中心．这个小组包括计算机科学家、工程师、社会学家、人类学家、商业专家和工业设计师。
他们的工作方法是独特的:他们获得进入一个组织的许可，然后作为数字人类学家研究最近引入的人工智能系统的影响长达数月，有时甚至数年。到目前为止，他们已经开展了人工智能如何影响放射学、预测警务、机器人手术和招聘实践的研究。
通信就人工智能对组织的影响采访了Huysman。
Bennie Mols:你用人类学的方法来研究组织中的人工智能的关键是什么?
玛琳·休斯曼:通过与员工一起散步，仔细观察人工智能如何改变组织，我们成为了日常工作的一部分。我们会问这样的问题:管理层为什么要引入人工智能?AI能做什么，不能做什么?人工智能的功能是人类的替代还是增强?人工智能如何改变用户和用户周围人的工作?引入人工智能的连锁反应是什么?
你能从人工智能对组织的影响中得出哪些一般性结论?
最重要的结论是，一边是AI开发人员和AI系统，另一边是组织中的最终用户，两者之间存在着巨大的差距。我们期望找到一个差距，但它比我们想象的要大得多。这导致AI系统的执行速度过快，导致系统不能很好地适应日常工作流程。因此，我们经常注意到需要创建一个新的工作职能，即经纪人、翻译或试图弥合差距的情报官员。
你能用一些例子来说明这些结论吗?
我们研究了荷兰警方引入的预测性警务。我们发现，对人工智能输出的解释和过滤太难了，不能交给警察自己。为了解决这一问题，警方成立了一个情报部门，将人工智能的输出转化为警察实际需要做的事情。
我们还研究了在一家大型跨国组织中引入招聘算法的情况。我们看到，虽然引入算法是为了支持HR做出更好的招聘决策，但HR专业人士反而成为了算法的助手。人力资源专业人士不再选择或拒绝候选人，而是为算法提供新的数据，以便它代表他们做出决定。此外，它们需要修复算法所犯的错误，并充当算法的中介，例如在算法错误地拒绝多个候选人的情况下。这些都是人力资源团队在引入招聘算法时没有想到的工作活动的变化。
这说明了我们的另一个普遍发现:人工智能通常会对在实践中不得不处理它的人产生意想不到的涟漪效应。经常需要新的工作，而旧的工作必须改变。
在一个组织中太快地实现人工智能有什么危险?
我们研究的组织之一是荷兰一家大公司的b2b销售部门。他们使用相对简单的基于规则的人工智能来预测客户是否需要新产品，或者是否需要联系客户，因为他们使用的产品过时了。通常情况下，销售经理会给客户打电话，因为销售经理和她的客户很熟，她也会问一些私人问题:How are you doing?你的家人好吗?理论上，人工智能系统在预测与客户联系的最佳时机方面要好得多，因此该组织解雇了大部分销售人员，并引入了人工智能系统。然而，很快，该组织发现，销售人员和客户之间的个人接触在销售产品方面比任何人都意识到的要重要得多。人工智能系统无法进行这种个人接触，因此表现比销售经理差得多。
关于领域专家的角色，你学到了什么?当人工智能在自我学习时，它们还需要吗?
人工智能的前景是，自我学习系统不再需要领域专家，因为所有的专业知识都存在于数据中。然而，我们观察到了相反的情况。与传统的知识系统相比，AI开发者需要更多地与领域专家合作。这是因为知识不仅存在于数据中，也存在于人中。知识是一种共享的财产:它以专业知识和惯例的形式由组织中的许多人分配。我们看到，AI开发人员需要不断与领域专家合作，以保持数据集的有用和高质量。
在不久的将来，你要研究的最重要的问题是什么?
我们不只是想建立科学理论;我们也想在实践上有所贡献。目前，我们通过在我们研究过的组织中组织讲习班并与它们讨论我们的结论来做到这一点。然而，我们可以通过开发一种方法来做出更大的贡献，组织可以使用这种方法来弥合AI开发人员和AI用户之间的差距。我们如何开发这样一种方法?对我来说，这是最重要的问题。我们刚刚开始了一个寻找答案的新项目。
班摩尔是一位科技作家，住在荷兰阿姆斯特丹。
没有发现记录