算法歧视是以算法为手段实施的歧视,主要指在大数据背景下、依靠机器计算的自动决策系…
算法歧视是以算法为手段实施的歧视,主要指在大数据背景下、依靠机器计算的自动决策系统在对数据主体做出决策分析时,由于数据和算法本身不具有中立性或者隐含错误、被人为操控等原因,对数据主体进行差别对待,造成歧视性后果。根据上述定义,下列属于算法歧视的是:
A. 某新生班主任根据学生的入学成绩高低来安排他们的学号
B. 某水果商家总是对长期参与团购的客户给予更低价格折扣
C. 某信用评估平台通过用户的网络使用行为来判定其信用值
D. 某招聘网站给男性推送高薪职位的广告次数是女性的 6 倍
答案与解析
正确答案:D
花生十三讲解
要素法。算法歧视要素:①大数据背景下依靠机器计算的自动决策系统作出决策分析;②因数据或算法不中立、隐含错误或被操控;③对数据主体差别对待并造成歧视性后果。逐项比对:D招聘网站给男性推送高薪职位广告次数是女性的6倍,算法按性别差别对待,符合。A靠成绩排学号非自动决策;B团购折扣是正当营销;C信用评估未见歧视后果。确认答案为D。
原解析
第一步,根据提问方式,确定为选是题。第二步,找关键信息。①在大数据背景下、依靠机器计算的自动决策系统在对数据主体做出决策分析;②对数据主体进行差别对待,造成歧视性后果。第三步,辨析选项。A 项:安排学号依据的是学生的入学成绩,未体现“在大数据背景下、依靠机器计算的自动决策系统在对数据主体做出决策分析”,不符合定义;B 项:给予更低价格折扣依据的是顾客长期参与团购,未体现“在大数据背景下、依靠机器计算的自动决策系统在对数据主体做出决策分析”,不符合定义;C 项:判定信用值依据的是用户的网络使用行为,是客观公正的,未体现“对数据主体进行差别对待,造成歧视性后果”,不符合定义;D 项:网站符合“在大数据背景下、依靠机器计算的自动决策系统”,给男性推送高薪职位的广告是女性的 6 倍,体现“对数据主体进行差别对待,造成歧视性后果”,符合定义。因此,选择 D 选项。