AI大牛认输退网：多人种数据去偏见，杜克PULSE算法有缺陷

第四次工业革命浪潮中，人工智能无疑是核心驱动力。但在其快速发展的关键阶段，一个令人担忧的问题逐渐显现——算法偏见。这一问题若得不到妥善解决，可能成为整个发展进程中的重大阻碍。

算法偏见的典型案例：杜克大学PULSE算法引发争议

事件源于杜克大学开发的超分辨率算法PULSE。在CVPR 2020上，研究人员展示该技术能将模糊人脸照片处理至毛孔、皱纹和发丝均清晰可见，效果令人震撼。然而，有用户使用美国前总统奥巴马的模糊照片进行测试时，算法生成了一张白人面孔。这一结果引发广泛质疑，算法被指存在严重的种族歧视。

人工智能领域知名学者Yann LeCun随即解释，问题源于训练数据集的构成——数据集中白人面孔占绝大多数，导致特征分布自然向白人倾斜。从技术角度而言，这一解释无误。但由于话题高度敏感，推特用户并不接受此说法。争论持续升级，甚至有人提出更深的担忧：我们无法准确了解算法内部的推理过程，这种“不可知论”的恐惧才是最值得警惕的。

类似问题也出现在麻省理工学院开发的Tiny Images数据集上。该数据集创建于2008年，广泛应用于图像识别模型，但其中同样存在种族歧视和性别歧视的标签——系统在识别有色人种或女性时，会自动添加侮辱性标签。最终，麻省理工学院不得不永久下架近亿条数据。

算法偏见的定义与现状

算法偏见，简而言之，是指人工智能在收集、分类、生成、解释数据的过程中，复制了人类固有的偏见。其表现形式包括种族歧视、年龄歧视、性别歧视、消费歧视、就业歧视以及对弱势群体的歧视等。

根据皮尤研究中心2018年发布的调查，58%的美国人认为计算机程序会反映出一定程度的人为偏见，而仅40%的人相信可以通过无偏见的方式设计这些程序。这意味着，大多数公众已默认偏见的存在，却缺乏有效的解决方案。

应对算法偏见的关键方法：丰富数据源

最直接且有效的应对策略是丰富数据源。通过平衡采集数据中关于种族、肤色、年龄、性别的分布，可以构建更公平的数据集。例如，已有团队针对多人种人脸识别，采集了一套包含23349人的多色人种人脸数据集，每人包括29张图像——其中28张覆盖多光照、多姿态、多场景的图片，外加1张证件照。数据覆盖黄种人、黑人、白人、棕色人种和印度人，旨在改善算法中的特征偏移，使特征描述更加准确。

东南亚人人脸多姿态样例

印度人人脸多姿样例

算法偏见的本质与治理方向

归根结底，算法偏见并非技术本身的问题，而是数据、设计和使用方式的问题。谷歌曾提出AI研究的七大准则：有益于社会、避免创造或增强偏见、为保障安全而建立和测试、对人们有说明义务、整合隐私设计原则、坚持高标准的科学探索、根据原则确定合适的应用。这些准则固然理想，但真正落地仍需依靠扎实的数据积累和算法工程层面的持续努力。