荷蘭鹿特丹市每年為約 3 萬名公民提供生活津貼,當中成千上萬的個案涉嫌騙取福利。2017 年,該市政府運用機器學習來分析案例數據,從而根據申領者的年齡、性別和語言能力等評估其欺詐風險;2021 年經荷蘭審計法院下令停用。非牟利跨國偵查報道組織 Lighthouse Reports 與美國媒體 Wired,從官方取得該算法的學習數據和模型,重構測試版本,揭示當中存在種族和性別歧視,以及一些結構漏洞。
荷蘭鹿特丹市每年為約 3 萬名公民提供生活津貼,當中成千上萬的個案涉嫌騙取福利。2017 年,該市政府運用機器學習來分析案例數據,從而根據申領者的年齡、性別和語言能力等評估其欺詐風險;2021 年經荷蘭審計法院下令停用。非牟利跨國偵查報道組織 Lighthouse Reports 與美國媒體 Wired,從官方取得該算法的學習數據和模型,重構測試版本,揭示當中存在種族和性別歧視,以及一些結構漏洞。