> For the complete documentation index, see [llms.txt](https://doras-dreamland-adventure.gitbook.io/enterprise-ai-transformation/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://doras-dreamland-adventure.gitbook.io/enterprise-ai-transformation/di-jiu-bu-fen-shi-bai-an-li-pian/43-shi-bai-an-li-ibmwatson.md). # 第 43 章 · 失败复盘二:IBM Watson 2010 年代初，IBM 把它的 Watson 系统，包装成了"癌症治疗的一场革命"。最受瞩目的合作，是与美国顶尖的 MD Anderson 癌症中心一起，建一套能给医生推荐治疗方案的"肿瘤专家顾问"系统。这是一个足够动人的故事：最强的 AI，加上最好的癌症中心，去攻克人类最难的疾病之一。可这个故事，没有兑现。 它是这样结束的。MD Anderson 从 2012 年起投入，历时约四年、花费约六千二百万美元，而这套系统在 2016 年 9 月被叫停时，仍处在开发阶段，从未真正用于临床。后来披露的内部文件显示，Watson 曾给出过"不安全、不正确"的治疗建议——所幸这些建议没有用在真实病人身上。项目暴露出一连串问题：它用的是过时的、乃至假设性的数据来训练；无法和 MD Anderson 的电子病历系统打通；覆盖的癌种范围一再缩水；而最刺眼的，是营销上的巨大承诺，与实际能力之间那道鸿沟。\[1]\[2] 这场失败的死因，同样是层层叠叠的，而且每一层都在这本书前面出现过。 第一层，是在容错最低、监管最严的地方冒进。医疗几乎是所有场景里最不能出错的——它要担人命的责任、要经得起监管、还要能解释清楚每一个判断，正是第 5 章那几条边界最密集的地方。而 Watson 项目一上来，就直扑最核心、最高风险的治疗决策，把最难啃的骨头当成了突破口。 第二层，是营销跑在了能力前面。把一台第 3 章说的"会猜的机器"，当成一位"会看病的专家"来宣传，这本身就是第 7 章讲的认知陷阱——用一场发布会的口气，去承诺一件远未做到的事。承诺越大，落差越刺眼，而医疗领域不会给这种落差任何宽容。 第三层，是数据的地基没打好就盖楼。用过时甚至假设性的数据训练、无法接入真实病历——第 27 章说过，喂给 AI 的核心数据必须是对的、权威的，否则就是"垃圾进、垃圾出"，而 AI 只会把错误讲得更像真的。一个建立在残缺数据上的医疗顾问，给出"不安全"的建议，几乎是必然的。 第四层，是严重低估了"最后一公里"。把一个能在演示里给出漂亮建议的系统，变成一个能在真实临床里安全可用的系统，中间隔着的正是第 31 章说的、最贵也最难的那一段——可靠性、边角情况、与现有系统打通、责任的落地。Watson 恰恰卡死在这一段，永远没能从"演示"走到"可用"。 这场失败本可以走另一条路。如果从低风险的环节起步——比如文献检索、病历文书、初步筛查这些辅助性的活（第 41 章），而不是直扑诊疗决策；如果先把数据和病历系统的地基夯实；如果把 AI 严格限定为辅助、把诊断和治疗的决定牢牢留在医生手里、并做到可解释可追溯；如果营销别跑在能力前面——它未必成功，但至少不会以这样一种方式失败。 一句话的教训：越是高价值、高风险、强监管的领域，越要慢、要谦虚、要把人放在担责的位置。用一场发布会的姿态，去做一件人命关天的事，是最危险的组合。 ## 要点速查 * 事实：MD Anderson 历时约四年、约 6200 万美元，2016 年 9 月在开发阶段叫停；内部文件称 Watson 给出过"不安全、不正确"的治疗建议（未用于真实患者）；过时数据、无法接病历、过度承诺。 * 四层死因：在容错最低/监管最严处冒进（第5章边界）、营销跑在能力前（第7章陷阱）、数据地基不牢就上（第27章 GIGO）、低估最后一公里（第31章 N9）。 * 本可避免：从低风险辅助（检索/文书/初筛）起步、先夯数据与病历集成、AI 只做辅助医生担责且可解释、营销别超前。 * 教训：高价值高风险强监管的领域要慢、要谦虚、把人放在担责位置；发布会式的豪言配人命关天的事，最危险。 ## 给管理者的警示 * 别拿最高风险、最核心的决策当 AI 的"突破口"；从低风险辅助环节起步。 * 让营销与承诺，永远不超过已被验证的能力，尤其在医疗、金融、安全领域。 * 高风险场景上线前，先确认数据权威、系统打通、人担责、可解释这四样都到位。 ## 来源 1. IEEE Spectrum《How IBM Watson Overpromised and Underdelivered on AI Health Care》（2019）： 2. STAT《IBM pitched its Watson supercomputer as a revolution in cancer care. It's nowhere close》（2017-09-05）： --- # Agent Instructions This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com. ## Querying This Documentation If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question. Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter: ``` GET https://doras-dreamland-adventure.gitbook.io/enterprise-ai-transformation/di-jiu-bu-fen-shi-bai-an-li-pian/43-shi-bai-an-li-ibmwatson.md?ask=&goal= ``` `ask` is the immediate question: it should be specific, self-contained, and written in natural language. `goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal. The response will contain a direct answer to the question and relevant excerpts and sources from the documentation. Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.