一项研究发现，证据提示了用于训练计算机辅助诊断用分类器的医学成像数据集存在性别不平衡。人工智能（AI）正在日益被用于利用医学成像的疾病诊断。然而，与人工智能系统有关的潜在的性别和种族偏倚仍然是一个重大担忧。Enzo Ferrante 及其同事分析了3个胸部X光诊断的深度学习模型在两个可以公开获取的大型数据集上的表现。由美国国立卫生研究院和斯坦福大学维护的这两个数据集分别包括了30,805 和 65,240人的疾病诊断和性别信息。这组作者发现，当以男性患者为主的图像被用于人工智能训练数据集、而用女性患者的图像测试这种人工智能的时候，这些模型的分类能力始终降低，反之亦然。与一个平衡的数据集相比，25%/75% 不平衡比的一个数据集对于未被充分代表的人群表现出了更低的分类能力。这组作者说，这些发现提示，被用于训练基于人工智能的诊断系统的医学数据集合的性别不平衡产生了有偏倚的分类器，这可能加剧卫生保健的不平等。
###
Journal
Proceedings of the National Academy of Sciences