> For the complete documentation index, see [llms.txt](https://doras-dreamland-adventure.gitbook.io/enterprise-ai-transformation/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://doras-dreamland-adventure.gitbook.io/enterprise-ai-transformation/di-san-bu-fen-dui-wai-zhong-gou-pian/18-dui-wai-ai-de-te-you-feng-xian.md).
# 第 18 章 · 对外 AI 产品的特有风险
前两章讲了用 AI 重做产品、开辟新收入，但对外用 AI，和内部用有一个根本区别：它直接面对客户。内部出错，还能在交付前拦下来；对外出错，是当着客户的面，一次就可能变成投诉、流失，甚至法律责任。所以对外场景的容错阈值，比内部低得多，护栏也要厚得多。这里有三类特有的风险。
第一类，体验风险。AI 是"会猜的机器"，会以十分笃定的口吻给出错误答案。放在内部，错了有人核；放到对外，一次自信的错误答复，就是一次糟糕的客户体验。而且客户要的往往是确定和可靠，一个时而正确、时而胡说的助手，体验有时还不如一套老老实实、答不了就转人工的规则系统。对外上 AI，不能只看它答得多聪明，还要看它答错时有多难看。
第二类，责任风险，而且这一类是硬的。对外的 AI 说出的话，企业要为之承担法律和信誉后果。一个已经写进判例的例子是 Moffatt 诉加拿大航空案：2022 年，一位乘客通过航司网站的聊天机器人询问丧亲票的退款政策，机器人凭空"发明"了一条并不存在的政策，建议他先全价买票、事后再申请退差价；乘客照做，事后却被告知无法追溯办理。2024 年 2 月，不列颠哥伦比亚省的民事裁判庭判航司败诉——航司辩称聊天机器人是"独立的法律实体、该为自己负责"，裁判庭驳回了这个说法，认定企业要为自己网站上的全部信息负责，无论它来自一个静态页面还是一个聊天机器人，并判其退款与赔偿。\[1]\[2] 这条边界很清楚：AI 替企业对外说的话，算数，而且要企业来担。这正是第 5 章那条"担责交不出去"的边界，在对外产品上的具体落地。
第三类，口碑与信任风险。在内容可以被批量生成的时代，"真实"和"可信"反而变成了稀缺品。一个用不好的对外 AI，不只是单次体验差，还会一点点损耗品牌积累多年的信任——当客户发现和自己对话的是个会一本正经胡说的机器，他对这个品牌的信任会打折，而信任一旦掉下去，比成本难挣回来得多。第 3 章提到的 Klarna，正是把客服成本压过了头、伤了服务质量，才不得不回头补救。
应对之道，其实就是把前面几章的原则，在对外场景里做得更足。人来核对、护栏、可回滚这几样，内部可以从简，对外必须做厚。凡是涉及对外承诺、对外建议的高责任环节，让 AI 只做准备、不下定论，最后那一句由人来把关或由确定规则来兜。宁可慢一点、稳一点，也别为了省成本，拿品牌的信任去冒险。
这不是说对外不能用 AI——恰恰相反，前两章讲的重做产品、开辟新收入，几乎都发生在对外。这一章要立住的，只是一句提醒：对外的容错空间比内部小得多，护栏必须相应地厚得多。把内部那套将就的标准直接搬到对外，是很多对外 AI 事故的共同起点。
## 要点速查
* 对外用 AI 与内部的根本区别：直接面对客户，出错即投诉/流失/法律责任；容错阈值更低，护栏要更厚。
* 三类特有风险：体验（自信地错，不如老实转人工）、责任（企业为 AI 对外的话担法律后果——Air Canada 案）、口碑（损耗品牌信任，而信任难挣回）。
* 应对：人核 / 护栏 / 可回滚，对外必须做厚；高责任的对外承诺让 AI 只做准备、不下定论（承接第5章担责边界）。
* 别把内部将就的标准直接搬到对外。
## 给管理者的三步
* 现在：盘点所有对外的 AI 触点（客服、推荐、对话），标出哪些能替企业做出承诺或建议——这些是责任风险最高的地方。
* 三个月：给对外 AI 装厚护栏——高责任环节由人把关或规则兜底，并明确 AI 说错时的回滚与补救流程。
* 一年：把"对外容错阈值低于内部"写进产品与合规标准，不允许内部的将就标准直接用于对外。
## 来源
1. American Bar Association《BC Tribunal Confirms Companies Remain Liable for Information Provided by AI Chatbot》（Moffatt v. Air Canada， 2024）：
2. Forbes《What Air Canada Lost In 'Remarkable' Lying AI Chatbot Case》（2024-02-19）：
---
# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.
## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.
Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter:
```
GET https://doras-dreamland-adventure.gitbook.io/enterprise-ai-transformation/di-san-bu-fen-dui-wai-zhong-gou-pian/18-dui-wai-ai-de-te-you-feng-xian.md?ask=&goal=
```
`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal.
The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.
Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.