广告算法也有种族歧视？Facebook又摊上事儿了了

原创： Samantha Cole MarTechCareer

如果你是女性，你更可能收到超市收营员的招聘广告。

如果你是黑人，你更可能收到出租车司机的招聘广告。

本文来源：MOTHERBOARD

作者：Samantha Cole

翻译与原文：MarTechCareer

最近，美国住房及城市发展部（简称HUD）找上了Facebook的麻烦，该部门控诉Facebook的广告定向算法中存在种族歧视。多年来，广告主通过Facebook来定向（或者避免定向）受保护的群体，比如少数族裔和特定性别认同的人群。但在一篇最新的论文里，一群研究者声称——Facebook的广告算法是存在偏见的。

这篇论文由西北大学、南加大、和非营利机构Upturn的研究人员联合发表。论文里声称，Facebook不公平地将房屋购买和招聘广告更多地推送给特定的人群。比如，某些特定职业的招聘广告会被更多地推送给白人男子；而另一些特定职业的招聘广告又会被更多地推送给黑人女子。即使广告主在设定投放对象时并没有做出这样的选择，甚至当他们选择推送给“广泛的人群”时，这种偏见依然会发生，这种偏见发生在Facebook的广告算法里。

论文里提到，“Facebook广告算法的偏见，其实与Facebook内部的关于广告与人群的相关性的预测有关，尤其是在买房与招聘广告上，尽管广告主在设置定向参数时选择了中立，但Facebook的广告推送算法仍然存在性别和种族上的严重偏斜。”

上个月底，HUD因此控诉Facebook违反了公平住房法（Fair Housing Act）：基于”种族、肤色、宗教信仰、性别、家庭状况、国籍和残疾“做广告定向。这种做法违背了公平住房法。

那这项研究具体是怎样证明这种偏差的呢？

如果广告主没有故意选择定向一个特定的人群，Facebook是否还是会为他们作出定向的选择呢？为了测试这一点，研究者们在Facebook上做了数十个付费广告战役，其中包括了数百条广告，触达了几百万人群，这些广告战役话花费了8500美金。

他们发现，几个不同的因素，包括广告预算、广告中的图片，以及广告的标题都会影响这条广告被Facebook的算法推送给哪类人群。

在实验中，一组没有图片或标题的广告被作为“基准”广告，与其他的有各种图片或链接的广告在投放时进行比较。通过控制变量的方法，找出广告中的哪个元素影响了最后广告会被投放给哪类人群。

比如，对于链接到类似于bodybuilding.com（男性用户居多）或是elle.com（女性用户居多）的页面时，广告推送对性别的偏好比较中立（接近一半一半）。所以链接本身不会让算法有偏见。

但是当他们在广告中加入了图片——比如在bodybuilding的广告图片里放一个举重的男人，或是在elle.com的广告图片加入化妆刷，那么，75%以上收到bodybuilding广告的人就是男性，而女性占据接收到elle.com广告的人群的90%以上。

除了性别，还有其他人口学维度也有这样的偏向，比如职业。

研究者为“木材业”设计了五份招聘广告，并且设置了发送广告给“广泛的人群”。但广告依然被送达至超过90%的男性和超过70%的白人用户。而“管理员”的招聘广告则被送达至65%的女性和75%的黑人用户。类似的，在那些收到“超市收营员”的招聘广告的人群里，85%是女性；而收到“出租车司机”招聘广告的人群里，黑人高达75%。

研究还发现，接收到房屋买卖广告的用户中，白人用户占据75%，但租房广告的受众组成则相对平均。

这些发现支持了某些HUD对Facebook的指控。HUD的法院备案里写道：

“Facebook不仅允许广告主通过种族、性别和其他受保护特征来定向人群，而且它的广告算法本身也是有偏向的：即使广告主在设置广告时选择了定向广泛的人群，真正接收到广告的人群组成并不是多元而平均的，而是有系统性的偏见的。即使广告主想要避免这样的偏见发生，Facebook的广告算法依然会根据内部的模型预测结果，将广告推送给他们认为最可能与广告互动的人群中。”

Facebook的发言人Joe Osborne发表声明说：

”我们反对任何形式的歧视。我们已经向我们的广告定向工具宣布了重要的改变规则，我们知道这只是第一步。我们一直在观测我们的广告送达系统，并且在这个话题上组建了包括行业专家、学术专家、民权专家在内的研究小组，我们将探索更好的方法。“

研究人员的初衷是通过这项研究呼吁政策制定者和平台都更谨慎地对待广告平台运行的优化算法，不仅广告主的定向选择需要避免偏见、平台的算法也需要避免在数字广告中的偏见与歧视。

上述报道并不代表本号观点。下面是MarTechCareer对这个事件的评论：

在Facebook广告战役的设置中，广告主可以选择“定向策略”，如果广告战役的目标是为了广告互动和用户卷入，那即使在定向人群上不做具体的偏好选择，Facebook依然会为了完成战役目标而做出特定的推送。算法本身并不具有偏见，算法只是使得广告的推送更可能完成战役的目标。而这目标本身，是人们自己选出来的。

说算法有偏见，其实是技术为策略背了锅。