ACM通信
ACM的意见
减少临床使用人工智能模型中的种族偏见
监管机构和发布标准必须摆脱仅仅依赖与临床数据集的一致来获得准确性，并且还需要客观准确性的证据，即使它偏离了临床数据。
Supriya Kapur隶属于美国纽约州纽约哥伦比亚大学社会医学科学系梅尔曼公共卫生学院。
为临床任务构建的人工智能(AI)模型显示出对有色人种患者的明显歧视模式。然而，这种歧视在训练或测试时可能不会表现为错误，因为对于少数患者，数据本身很可能是错误的，以误诊或预后的形式出现。
一封致编辑的信认为，许多纠正种族偏见的呼吁都集中在传统的方法上，即使数据集多样化，以包括更多的少数族裔患者，甚至在创建和评估数据集和模型性能时咨询社会科学家。虽然这些措施可能在一定程度上有所帮助，但它们未能解决根本原因，即不正确的临床数据。研究人员被期望建立密切模仿临床数据的模型，这些模型无意中包含了种族偏见。
从自然机器智能
查看全文
没有找到条目