一句话定义
Chat Completions API(对话补全接口)是一个 HTTP 接口:你把一段对话记录按固定格式发过去,它返回模型接着说的下一段话。Completions 是“补全”,Chat 是“对话”,合起来就是“接着这段对话往下补”。
它收什么、回什么
核心是 messages 数组,每条消息长这样:
```json
{"role": "user", "content": "帮我把这句话改正式一点:……"}
```
role 常见有四种:
- system:给模型的固定设定,比如“你是合同审阅助手,只回答格式问题”,放在最前面(部分厂商另叫 developer)。
- user:人说的话。
- assistant:模型说过的话。你也可以自己手写几条当作示范回答喂进去。
- tool:调用外部工具后,把结果回填给模型。
打个比方:它像一个记性为零、但很聪明的外部顾问,他不记得你们上周聊过什么,桌上只有你这次递过去的会议纪要,所以每次都得把完整前情附上。这就是“无状态”(stateless)的含义:上下文不由服务端保存,靠你每次重发。
返回体里值得记住的字段:
- choices:数组,通常取
choices[0].message.content。做成数组是为了支持一次生成多个候选。 - finish_reason:为什么停。
stop是正常说完,length是达到长度上限被截断,tool_calls是模型要求调用工具。回复“说一半没了”,先看这里。 - usage:token 用量,算成本、做限额都靠它。
- id / created / model:请求标识、时间戳、实际服务的模型名,排查问题和记日志时用。
常见可选参数:temperature(随机性)、max_tokens(回复长度上限,各家命名略有差异)、stream(流式返回,边生成边推送)、tools(可调用的工具清单)。
和相邻概念的区别
它取代的是更早的文本补全接口(Completions,入参就是一个 prompt 字符串)。差别不在模型能力,而在思考方式:
| 文本补全接口 | Chat Completions | |
|---|---|---|
| 入参 | 一个字符串 prompt | 结构化的 messages 数组 |
| 在做什么 | 让模型续写文本 | 让模型扮演对话的下一个发言者 |
| 角色控制 | 自己拼“用户:…… 助手:……” | 靠 role 字段,由接口负责格式 |
| 现状 | 多数厂商标为遗留能力 | 事实上的通用调用方式 |
再往上一层还有 Assistants API、Responses API 这类新接口,在它之上加了服务端会话、内置工具编排、文件检索等能力。可以把 Chat Completions 理解成“最小公分母”。
对从业者和普通人的意义
对开发者,它的价值是兼容性:主流模型厂商和 vLLM、Ollama 这类推理框架都提供形态接近或直接兼容的对话补全接口,写一层薄适配就能换模型、换供应商、做 A/B 对比。代价是它只标准化了最通用的部分——各家特有的缓存、推理强度、结构化输出细节,往往要靠额外参数,具体以官方页面为准。
对普通职场人,这意味着你用的很多“AI 助手”背后就是这一个接口在收发消息;理解了“它不记事、历史靠你带”,也就理解了为什么长对话会变慢变贵、为什么换个窗口它就“忘了”。
