> For the complete documentation index, see [llms.txt](https://doras-dreamland-adventure.gitbook.io/enterprise-ai-transformation/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://doras-dreamland-adventure.gitbook.io/enterprise-ai-transformation/di-jiu-bu-fen-shi-bai-an-li-pian/44-shi-bai-an-li-ya-ma-xun-zhao-pin.md).
# 第 44 章 · 失败复盘三:亚马逊招聘
亚马逊从 2014 年起，开发过一套 AI 招聘工具：给应聘者的简历打一到五颗星，想借此把简历筛选自动化，像在网上给商品评分一样高效地评人。这个想法很有吸引力——招聘耗时耗力，如果机器能又快又"客观"地挑出好简历，该省多少事。可这套系统，最终没能上线，反而成了一个被反复引用的教训。
它是这样出问题的。这套模型，是用亚马逊过去十年收到的简历训练出来的。而科技行业的应聘者以男性为主，于是这些训练数据里，男性简历占了压倒性多数。模型忠实地从中"学"到了一件事：偏好男性。它会给包含"women's"字样的简历降分（比如"women's chess club"），也会青睐男性工程师简历里更常出现的用词。亚马逊试着调整这些明显的信号，却始终无法确保系统在其他方面也是公平的，最终在 2018 年前后放弃了整个项目。\[1]\[2]
这场失败的死因，几乎是这本书几条原理的一次集中演示。
第一层，AI 放大了历史数据里的偏见。第 2 章说过，AI 本质上是"被压缩的过去"——它学的是数据里已有的规律。过去的招聘不公平，它就把这种不公平原样学下来，还规模化地施加到每一份新简历上。这正是第 27 章那句"垃圾进、垃圾出"的残酷版：喂进去的是带偏见的历史，吐出来的就是被放大、被自动化的偏见。
第二层，是把"谁值得雇"这个判断，整个交给了机器。用人是典型的高担责、直接影响一个人命运的判断，恰恰是第 5 章那条边界里、最该留给人的一类。把它自动化成一个星级分数，等于把一个需要担责的判断，交给了一台不会担责的机器。
第三层，是误以为"算法等于客观"。很多人对 AI 有一种天然的信任，觉得机器不带感情、所以更公正。但算法并不会凭空变得公平，它只是把训练数据里的偏见，包装成了一个看起来中立、精确的分数——第 18 章说过，AI 会用十分笃定的口吻给出错误的东西，而一个"客观"的偏见分数，比一个明显情绪化的人类偏见，更难被察觉、也更危险。
不过，这个案例里，亚马逊有一件事做对了，值得单独说：它及时发现了问题，并且果断放弃，没有把一个有偏见的系统真正投入招聘。第 31 章讲过，不是所有试点都该规模化，有些试点验证的恰恰是"这件事这样做不行"，那么及时止损，本身就是一种成功。相比那些明知有问题还硬推上线的项目，亚马逊的收手，反而是这个失败故事里最该被学习的部分。
这场失败本可以避免得更早。如果从一开始就把 AI 限定在辅助——比如去重、信息提取、格式整理这些不做价值判断的活，而不是让它给人打分；如果上线前就做系统的偏见检查；如果坚持"影响人命运的决定必须有人在环、可解释、可追溯"（第 39 章）——那么这套工具或许能安全地帮上忙，而不是被整个放弃。
一句话的教训：算法不会凭空变得公平，它只会忠实地放大喂给它的历史。凡是影响一个人命运的判断，AI 可以辅助，但不能替人做决定，更不能假装它比人更客观。
## 要点速查
* 事实：亚马逊 2014 年起开发 AI 招聘工具（给简历打 1–5 星），用十年简历训练；因训练数据以男性为主，模型歧视女性（给含"women's"的简历降分），无法确保公平，2018 年前后放弃。
* 三层死因：AI 放大历史偏见（第2章/第27章 GIGO）、把"谁值得雇"的高担责判断交给机器（第5章边界）、误以为算法=客观（偏见被包装成中立分数，第18章）。
* 亚马逊做对的一件事：及时发现、果断止损，没投入实际招聘——不值得做的试点及时止损也是成功（第31章）。
* 教训：算法不会凭空公平，只会放大喂给它的历史；影响人命运的判断，AI 可辅助、不可替人决定、更不能假装更客观。
## 给管理者的警示
* 凡是影响人（招聘、考评、信贷）的场景，AI 只做不含价值判断的辅助，打分与决定留给人。
* 这类系统上线前必做偏见检查，并建立可解释、可追溯、有人在环的机制。
* 学亚马逊的收手：一旦发现系统无法确保公平或可靠，及时止损，别因沉没成本硬推。
## 来源
1. Reuters（Jeffrey Dastin， 2018）《Amazon scraps secret AI recruiting tool that showed bias against women》。
2. MIT Technology Review《Amazon ditched AI recruitment software because it was biased against women》（2018-10-10）：
---
# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.
## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.
Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter:
```
GET https://doras-dreamland-adventure.gitbook.io/enterprise-ai-transformation/di-jiu-bu-fen-shi-bai-an-li-pian/44-shi-bai-an-li-ya-ma-xun-zhao-pin.md?ask=&goal=
```
`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal.
The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.
Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.