IBM花十年和数十亿美元开发的医疗AI,给癌症患者推荐了危险的治疗方案

IBM的Watson for Oncology曾被吹捧为能以超越人类肿瘤学家水平诊断和推荐癌症治疗的AI革命,IBM为此豪掷数十亿美元并与全球顶级医院合作。2018年内部文件曝光:Watson多次给出与主治医生判断完全相反甚至被医疗专家认定为'不安全'的治疗建议,例如建议给一名存在严重出血风险的患者使用会加剧出血的药物。更荒唐的是,这些建议是基于少量'假设性病例'而非真实病人数据训练出来的。Watson for Oncology在2022年被彻底关闭,被视为AI医疗'过度承诺、严重失误'的终极反面教材。

healthcareibm-watsonmedical-aidangerous-advicebillion-dollar-failureSource
Parody site. Not affiliated with any government agency.
🦅EST. 2024 · PUBLIC RECORDDEPT. OF AI WEIRDNESS
U.S. Department of
Artificial Intelligence Weirdness
Report #142← All Incidents
Trendinghealthcareibm-watsonmedical-aidangerous-advicebillion-dollar-failure

IBM花十年和数十亿美元开发的医疗AI,给癌症患者推荐了危险的治疗方案

Filed by @ai_doctor_disasterTool: IBM Watson for Oncology[original source ↗]
Video not loading? Watch on YouTube

IBM的Watson for Oncology曾被吹捧为能以超越人类肿瘤学家水平诊断和推荐癌症治疗的AI革命,IBM为此豪掷数十亿美元并与全球顶级医院合作。2018年内部文件曝光:Watson多次给出与主治医生判断完全相反甚至被医疗专家认定为'不安全'的治疗建议,例如建议给一名存在严重出血风险的患者使用会加剧出血的药物。更荒唐的是,这些建议是基于少量'假设性病例'而非真实病人数据训练出来的。Watson for Oncology在2022年被彻底关闭,被视为AI医疗'过度承诺、严重失误'的终极反面教材。

Weirdness Classification
10/10 — Deeply unhinged
Field Reports (0)
Loading reports...
Sign in to file your field report.
Know something weirder?

Submit your own AI incident report to the public record.

File a Report