AI人脸辨识技术原来竟有严重的肤色和性别歧视

MIT和斯坦褔大学合组的研究团队针对三种不同的面部辨识技术研究，发现它们都会因为对象的性别和肤色而有着不同的效果，报告全文将会在本月稍后举行的ConferenceonFairness,Accountability,andTransparency发布。

报告中特别把面孔辨识技术对于不同性别和种族对象的准确度划分，发现由美国主流科技公司开发，声称具有超过97%准确度的面部辨识系统，其资料库是由超过77%男性和超过83%白人的面孔资料组成。所以面部辨识系统对于白人或男性以外的面孔，AI的错误率会急升。

为了测试AI面部辨识系统，MIT研究员JoyBuolamwini收集了超过1,200张相片，里面的女性比例大幅增加；同时也按照Fitzpatrick等级及咨询皮肤医生的意见后，把不同肤色的面部分类。

结果发现三个面部辨识系统对于深肤色的女性错误率，分别达20.8%、34.5%和34.7%。其中两个系统对于分类为最深肤色的女性面孔，错误率更高达46.5%和46.8%。所以从本质上，和系统丢硬币随机选择没两样了

对于AI科技的算法存有肤色和性别偏差的说法，业界里已经讨论很久了，而且面部辨识系统对深色皮肤的辨识效果不佳也时有所闻。但即使在有着如此前提之下翻阅报告，看到这高错误率的结果也同样会被吓倒。在全球化、地球村概念盛行的今天，科技发展也必需要同时考量到不同肤色人种和性别的影响，不然的话，再高的科技也未能让所有人平等受惠。