2023年，美国最大医保公司之一UnitedHealth被多起集体诉讼指控：其AI系统nH Predict在审核老年医保患者是否需要继续住院康复治疗时，系统性地与主治医生的医学建议相违背，高达90%的拒绝决定最终被上诉推翻——说明这些拒绝本来就是错的。被拒绝的患者中有人被迫提前出院后导致病情恶化，多名患者死亡。起诉书指控UnitedHealth明知算法错误率极高仍然坚持使用，因为这能帮助公司系统性削减理赔成本。法官在初步裁定中写道：'一个算法不能代替有执照的医生为患者做出医疗决定。'