ProPublica 2016年的调查发现:美国多州法院用于预测累犯风险的AI系统COMPAS,将黑人被告标记为高风险的概率几乎是白人的2倍,即便他们的犯罪背景相同。该系统仍被多个司法管辖区继续使用,影响量刑和假释决定。