一句话定义:Demo 到生产的鸿沟(Demo-to-Production Gap),指的是一个 AI 功能在演示环境里跑得漂亮,和它能在真实业务里稳定服务大量用户之间,隔着的一整段工程落差。
打个比方。Demo 像在家给朋友做一道菜:食材是早上刚买的,只做一份,做砸了可以说“再来一次”。生产是开一家餐厅:要保证食品安全、出餐速度、后厨人手、客人投诉有人接、食材断货有替代方案。菜谱没变,难度完全不是一回事。
AI 功能的鸿沟,通常卡在这几层:
| 维度 | Demo 心态 | 生产心态 |
|---|---|---|
| 评测(Evaluation) | 挑几个好例子演示 | 有成体系的评测集,覆盖边界、脏数据、恶意输入,改一次提示词要跑回归 |
| 鉴权(Authentication & Authorization) | 默认“用户”就是我自己 | 谁能调、能调多少、能看哪些数据,都要说清楚 |
| 限流(Rate Limiting) | 一个人点,随便点 | 并发有上限,防止一个用户拖垮所有人 |
| 可观测性(Observability) | 崩了就说一句“咦” | 有日志、指标、链路追踪,几分钟内定位到哪一步坏了 |
| 失败兜底(Fallback) | 假设模型一定答对 | 超时、返回胡话、上游挂掉,都得有降级、重试和体面的兜底话术 |
和相邻概念的区别:原型验证(Proof of Concept)回答的是“这件事能不能做成”,鸿沟回答的是“能不能扛住”。MLOps 偏模型训练和部署的生命周期,而鸿沟更宽,是产品与系统层面的事:就算模型完全不变,这些层没补齐,一样上不了线。
对从业者的意义:把“评测先行”当习惯,先写失败路径,再写成功路径。演示时用十个例子,上线后用户会用你想不到的方式输入。先问“最坏情况下用户看到什么”,比问“效果能到多少”更有用。
对普通职场人的意义:看到酷炫 demo 时,多问一句“一百个人同时用会怎样”“答错了谁兜着”。这不是泼冷水,是判断一个演示离真正能用还有多远的最快方式。具体的技术选型和配额限制,各家平台不同,以官方页面为准。
