ACM
的观点

我们不是用户:控制新技术


雕像头部从三个角度、插图"src=

图片来源:Ded Pixto

2020年8月27日,亚马逊推出了其亚马逊光环(Amazon Halo):一项由人工智能软件和腕带组成的技术,可以监测身体指标,包括检测问题的声音,建议行为改变或其他可能改善我们健康的行动。一个一天后,埃隆·马斯克和他的团队展示了他们的Neuralink技术- ai软件和颅骨芯片植入,该芯片可以接收和发送信号到我们的大脑,以补偿大脑故障,旨在解决各种与大脑相关的健康问题。

在席卷我们许多人的健康危机中,这些公告似乎是好消息,科技正在拯救我们,对抗人类一些最严重的疾病。然而,风险依然存在,而且一旦精灵从瓶子里出来,它们往往难以管理和控制——从意想不到的后果和副作用,到对隐私的威胁、控制权的丧失或误导。

我们周围无数的设备包括处理器,它们计算和监控我们丰富但浪费的生活方式,一代又一代的产品变得更快、更便宜和“更好”。我们无法想象没有他们的今天的世界。此外,似乎没有人能逃脱这一轨迹,特别是在智能家居、智能城市等愿景的推动下。即使没有植入或向第三方提供详细的个人数据,我们也会被不断地监视、取样和分析。

回到顶部

对技术的思考

“…”现代的改进;人们对他们有一种错觉;并不总是有积极的进步.....我们的发明往往是漂亮的玩具,它们分散了我们对正经事情的注意力。它们是达到未改进的目的的改进的手段。15

技术对社会的积极和消极影响早已为人所知。技术评论家尼尔·波兹曼10他认为科技不仅改变了语言,也改变了我们对自己的认知。这是技术的本质,从书写开始,然后是印刷机。古腾堡的印刷机引发了一场革命,侵蚀了天主教会的中央权威。汽车重新定义了个人自由移动的理念,同时创造了郊区,改变了集体的身份,以及影响我们健康的污染和隔离。电视,然后是流媒体服务,创造了共享的,然后是个人的娱乐和信息体验。


我们正在逐渐变得“愚蠢”吗?


这种持续的技术发展轨迹将我们从一个拥有多个视角的集体转变为碎片化的、不那么多样化的“社区”,这将我们的交流划分为不同视角。拉尼尔5对软件技术的发展由于强调人群而导致个人身份和创造力的丧失、财务健康状况的恶化以及人类自由创造的核心意志的丧失(包括精神性)提出了担忧。黄教授的最新作品4强调了由不透明算法运行的“次贷注意力经济”,其广告驱动的消费增加了次贷类危机的风险。Perrow9警告我们,即使是设计最好的复杂系统,如核或金融系统,也会因为嵌入了意想不到的故障而失败。

梭罗的命题15又来困扰我们了。潜在的风险和机遇都在我们身边。企业的18告诉我们,我们一直在被“漂亮的玩具”监视,不是国家,而是资本主义,它一直利用我们的数据来吸引我们的注意力。而奥威尔7担心中央集权机构控制我们的生活,赫胥黎3.警告我们如果我们都变成了哑巴公民中央政府可能就没有任何必要了。我们正在逐渐变得“愚蠢”吗?

回到顶部

我们不是“愚蠢”的用户,对吗?

一些团体决定正面解决这个问题。惠特玛17阿米绪人并不反对技术,但他们决定采用哪种技术是基于某些社会目标的社区和合作。奥斯特罗姆的8工作记录了社区如何在本地更好地管理公共池资源,而不是通过中央当局。我们能否从这些例子中总结出,让社区掌控自己的命运,而不是依赖专业人士和公司的道德和社会责任,而仅仅是用户?

我们必须问自己珍惜什么:哪些技术能让我们的生活更美好,同时将我们可以预见的风险降至最低?我们不能像梭罗那样15说,赞美那些想要成为玩物的发明,以及那些对我们作为社区和个人公民重要的发明。这些更有用的创新往往不会以极快的速度传播,因为速度是良好思维的敌人。摆脱这个陷阱的方法是教育每个公民成为他或她生活的设计者,并理解每个社区都是定义什么是“公共利益”的地方。理想情况下,技术的发展将满足社区的需求,并使其公民能够管理、维护和控制。它会让你有时间去探索和理解它,同时也让你停止使用和控制它。

社区正在失去那些向公民及其领导人传达社区问题的当地报纸。它们必须被重建,技术的轨迹必须回到人民的需要,而不是设计师和他们的企业赞助商。当地赞助的社区技术提供者将社区聚集在一起,提供了一种可能的解决方案;汤森16讲述了在创建智慧城市时,社区控制的互联网实验和新公民教育的必要性。但独立于技术和环境而产生的基本设计问题需要一个答案。答案不可能是一个产品——或者另一个应用程序——而是需要一个过程。

参与过程存在于公民社会、政策和教育中。11为了说明一种遍及世界各地的参与式预算的实施,不妨以参与式预算为例。参与式预算最初在巴西阿雷格里港开发,其成功已扩展到其他政策领域,并将模拟纳入其中,因为它们变得更容易获得。126

为了促进成功的参与过程,我们必须创造开放的空间,让所有受技术影响的人的不同观点都有发言权。关于一项新技术的辩论应该发生在它被开发和部署之前,而不是那些提供评论的人被指责阻碍创新和进步。由于他们的艺术和技术技能,设计师作为一个职业将被需要,但他们将不再控制设计过程;他们将成为专业团队和目标用户一起工作的一部分。这就要求我们让每个人都意识到设计是什么——一门真正的文科。每个公民都应该被教导他们可以为设计做出贡献,因为他们将在设计的过程中从他们的日常经验中受到教育,所有参与过程的人都将承认他们的洞察力和在创造有用的产品、政策和服务的重要性。

除了有利于扩大参与的空间,我们面临的设计挑战需要解决几个基本问题。1314“是什么”和“为什么”要求对构成挑战的需求及其背后的原因进行仔细的阐述。“谁”决定了所有受挑战及其解决方案影响的人,与那些拥有应对挑战的技能和知识的人一起成为这一过程的一部分。“如何”处理治理过程的方法、组织、关系、过程或文化。人们必须为所有这些问题寻找答案,这些问题将社区和国家联系在一起。一个复杂的挑战需要很多技能和不同的视角,在共同的愿景下合作,创造一个全面的解决方案。他们必须更加深思熟虑,更加知情。套用托马斯·杰斐逊的话:“受过教育的公民是我们作为自由民族生存的重要条件。”这种教育应该将设计作为一门文科,因为这将使我们准备好提出正确的问题,这些问题可以被问及我们需要什么,而不是别人想象的我们想要什么。这些问题与警务方法、应对流行病或通过新的可穿戴设备控制我们的日常仪式和习惯有关。我们的挑战是确保新技术支持我们作为人类,而不是放弃我们的控制,或让它们让我们变笨。

设计在社会中的作用和理解需要不断的反思12与受设计影响的人进行对话;它是通向一个更清洁、更健康、可持续、更安全和更理智的世界的道路。我们实践和传授这些理念,因为要使它们成为现实,就需要参与和包容不同的观点,并对其进行研究和改进。视野(FOV)是一个小型的非营利性组织,它通过游戏和计算机模拟,通过对话和不同利益相关方(包括文盲和半文盲公民)参与政策辩论,提高对重要问题的认识https://fieldsofview.in/).FOV开发的游戏是与利益相关者一起玩的,以解决具体的政策和运营问题,如城市的土地使用规划,或固体废物收集和管理,以暴露决策过程和通常未透露的表面知识。游戏随后被转换为带有数据的计算模拟,用于探索场景的后果,以提高决策参与。


我们的挑战是确保新技术支持我们作为人类,而不是放弃我们的控制,或让它们让我们变笨。


另一种培养公民在未来有效参与设计技能的方法是设计教育:我们在设计课程中向来自工程、建筑、舞台设计、社会工作、职业治疗和管理等不同学科的数百名学生教授这些理念,通过与问题所有者的参与、对话和反思,致力于解决开放式的社会和环境挑战。这个想法是创建一个模块化的设计课程,将迎合所有的学生,让所有人,特别是那些非设计学科的学生,发展他们的设计技能。这些参与空间的实现和有效地将它们结合起来的设计技能进一步塑造了我们的想法,并将它们介绍给公众。

回到顶部

参考文献

1.Abers, R.等。阿莱格里港:参与性预算编制和持续变革的挑战。2018.

2.科格兰(D. Coghlan)和布莱登-米勒(M. Brydon-Miller)SAGE行动研究百科全书1-2。SAGE出版社,2014。

3.赫胥黎,。美丽新世界。哈珀·柯林斯,1994年。

4.黄,T。次贷注意力危机:广告和互联网中心的定时炸弹。FSG原件(2020年)。

5.尼尔,J。你不是一个小玩意儿:宣言。阿尔弗雷德·克诺夫,2000年。

6.Mougiakou, E.等。通过在线webGIS平台进行参与式城市规划:操作和工具。在十三届会议的议事录th电子治理理论与实践国际会议(2020年9月),831-834。

7.奥威尔,G。一千九百八十四年。Secker & Warburg, 1949年。

8.奥斯特罗姆,E。理解机构多样性。普林斯顿大学出版社,2009。

9.Perrow C。正常事故:与高风险技术生活-更新版。普林斯顿大学出版社,2011。

10.邮差,N。技术主义:文化向技术投降。年份,1993年。

11.Reich, Y.等人。品种和参与设计的问题。设计研究17, 2(1996), 165-180。

12.反身实践的原则。设计科学3.2017.

13.赖希,Y.和Subrahmanian, E. PSI框架和设计理论。IEEE工程管理汇刊.2020.

14.萨勃拉曼尼安,E,赖希,Y.和克里希南,S。我们不是用户:对话、多样性和设计。麻省理工学院出版社,2020。

15.梭罗,收听距离《瓦尔登湖》。长河出版社,西考克斯,新泽西州,1976年。

16.汤森,。智慧城市:大数据,公民黑客和对新乌托邦的追求。W.W.诺顿,2014。

17.阿米什科技:强化价值观,建立社群。《IEEE技术与社会杂志, 2(2007), 10-21。

18.企业的年代。监控资本主义时代:权力前沿的人类未来之战。公共事务,2019年。

回到顶部

作者

推断帝国yoramr@tauex.tau.ac.il)是以色列特拉维夫大学机械工程与系统工程研究计划学院的教授。

Eswaran Subrahmaniansub@cs.cmu.edu)是美国宾夕法尼亚州匹兹堡卡耐基梅隆大学工程研究加速器和工程与公共政策的研究教授。

回到顶部

脚注

一个。https://bit.ly/3gap70P

作者感谢Robin King和匿名审稿人的评论,他们的评论改进了本观点中提出的观点的阐述。这一观点来自于作者和作者之间的讨论通信高级编辑Moshe Vardi,他的工作跨越了这里讨论的许多问题。Vardi致力于用算法验证等想法来解决计算的意外后果,讨论了引入法律和法规来规范技术的必要性,最近,启动了一个关于技术、文化和社会的大学范围内的项目,以解决技术的负面影响。本观点中的观点来自我们最近出版的一本书,我们不是用户:对话、多样性和设计。麻省理工学院出版社,2020。


版权归作者所有。
向所有者/作者请求(重新)发布权限

数字图书馆是由计算机协会出版的。版权所有©2021 ACM, Inc.


没有找到条目

登录全面访问
忘记密码? »创建ACM Web帐号
文章内容:
Baidu
map