梅雷迪思布鲁萨德
2023年5月18日一个多故障
面对种族、性别、技术和能力的偏见
麻省理工学院出版社2023年
“故障”这个词意味着一个偶然的错误,那样容易修补是识别。但如果种族主义、性别歧视、残疾歧视不仅仅是bug的主要功能机械——如果他们编码到系统本身呢?静脉的重量级人物如索菲亚Umoja高贵,凯茜奥尼尔,Ruha本杰明,Meredith布鲁萨德演示超过一个故障:面对种族、性别、技术和能力的偏见(麻省理工学院出版社,2023年)如何在科技是一个神话,为什么中立算法需要被追究责任。
布鲁萨德,数据科学家和为数不多的黑人女性研究人员在人工智能中,巧妙地从计算机科学和社会学的综合概念。她探索一系列的例子:从面部识别技术训练只有认识到浅肤色,房屋贷款批准算法鼓励歧视性放贷,危险的反馈循环,出现在医疗诊断算法训练不够多样化的数据。即使这样的技术设计与善意,布鲁萨德所显示的,不可靠的人类开发的程序可能导致灾难性的后果。
布鲁萨德说解决方法并不是让无处不在的技术更具包容性,但根除目标特定的人口统计的算法“其他”。与全面的影响领域包括法学、医学、开拓性的见解一个多故障阅读是必不可少的对于任何投资建立一个更加公平的未来。