Meta 开源 FACET 工具，用于评估 AI 模型中的种族和性别偏见

数码芝华士

Meta 公司为了缓解当前很多计算机视觉模型对女性、有色人种存在系统性偏见问题，近日推出了名为 FACET 的全新 AI 工具，用于识别计算机视觉系统中的种族和性别偏见。

FACET 工具目前经过 3 万张图片、含 5 万人图像的训练，特别增强了性别和肤色方面的感知，可以用于评估计算机视觉模型在各种特征。

FACET 工具在经过训练之后可以回答复杂问题，例如识别出对象为男性之后，可以进一步识别出滑板运动员，以及浅色、深色皮肤。

Meta 以 FACET 来评测该公司所开发的 DINOv2 模型与 SEERv2 模型，以及 OpenAI 的 OpenCLIP 模型，整体而言，OpenCLIP 在性别上的表现优于其它模型，而 DINOv 则在年龄与肤色上有较佳的判断力。

FACET 的开源将有助于研究人员执行类似的标竿测试，以理解自己的模型中所存在的偏见，亦可用来监控为了解决公平问题而采取的缓解措施所造成的影响。