「关闭 AI」在很多产品里显示为一个开关按钮,但在工程实现上,它是一整套机制:谁能点、点了到底关掉什么、关掉之后数据还在不在、出事怎么开回来。任何一个环节缺失,这个开关就只是个装饰。
以 Canva 这类产品为例:管理员在团队或企业后台关掉 AI 功能入口后,典型情况下会发生三件事——新用户点不到 AI 入口了,已经生成并插入设计里的图片和文案还在,团队的使用记录和账单记录也还在。也就是说,关闭 AI 功能不等于删除 AI 产生的数据。具体到某个产品的行为,请以官方文档与后台当前版本为准;下面要搭的是一套可以照抄到自己系统里的通用做法。
这篇能做出什么
跟着做完,你会得到四样东西:
1. 一张开关表:支持全局 / 租户 / 用户三级作用域,带生效时间、过期时间、变更理由和工单号。
2. 一套权限规则:发起人和审批人分离,紧急情况下有 break-glass 通道,但走这条通道也会留下记录。
3. 一份“关了之后还剩什么”的留存清单:逐项说明每类数据在哪个存储里、关闭后是否继续留存、保留多久、谁负责清理。
4. 一份可验证的审计日志 + 一份 5 分钟回滚剧本:日志只追加不修改,能校验是否被改过;回滚有固定顺序,不靠临场发挥。
前置条件清单
开工之前,请确认下面这些都已经就位,缺哪一项先补哪一项:
- 你的 AI 功能调用有统一入口(一个网关、一个 SDK 封装层、或一个中间件)。如果每个业务方自己直连模型供应商,开关必然漏掉一部分流量。
- 有一张用户与角色表,能判断谁是管理员、谁是安全负责人。
- 有一个可写入的关系型数据库(本文示例用 PostgreSQL 语法,其他数据库按方言调整)。
- 有一个集中式缓存(Redis 之类),用来放开关状态的短 TTL 副本。
- 有一个工单或审批系统,哪怕暂时用共享表格,也要有编号,方便把变更和理由对上。
- 明确知道哪些数据被送进了模型:prompt、上传的图片与文档、检索到的知识库片段、模型返回结果。这一步不做,后面的留存清单一定写不准。
第 1 步:先分清“关”的三个层级
很多人把“关闭 AI”理解成一件事,其实是三件:
- 可见性:界面上不显示入口。用户看不到按钮,但接口还能调。
- 可调用性:服务端拒绝请求。返回明确的错误码和提示语。
- 可留存性:已经产生的数据怎么处理——保留、脱敏、还是删除。
一个合格的开关必须同时覆盖前两层,并且对第三层给出明确策略。只在 UI 上隐藏入口,属于“看起来关了”。别人抓个包直接打接口,照样能生成图片。
还有一个常见误解:开关不是熔断。熔断是系统自动触发的(错误率超标、成本超预算),开关是人或策略主动按下的。两者可以共用一份配置,但审计字段不一样——熔断要记触发指标,开关要记人和理由。
第 2 步:建开关表
```sql
create table ai_feature_flag (
id bigserial primary key,
feature text not null, -- 例如 image_generate、text_assist
scope_type text not null check (scope_type in ('global','tenant','user')),
scope_id text not null default '*',
enabled boolean not null,
reason text not null, -- 必填,禁止空字符串
ticket_id text,
requested_by text not null,
approved_by text,
effective_at timestamptz not null default now(),
expires_at timestamptz, -- 临时关闭到期自动失效,防止忘了开回
created_at timestamptz not null default now()
);
create index ai_feature_flag_lookup
on ai_feature_flag (feature, scope_type, scope_id, effective_at desc);
```
关键字段说明:
reason设为非空,是防止“谁也不知道为什么关的”。半年后回头查,理由比时间戳有用得多。expires_at专门对付临时关闭。设一个默认值(比如 72 小时),到期自动恢复,避免某次应急操作变成永久状态。approved_by为空表示还没走完审批,读取开关时应当忽略未审批的记录,而不是当成已生效。
查询当前生效状态时,按 effective_at <= now() 且(expires_at is null or expires_at > now())取最新一条,作用域优先级为 user > tenant > global。
第 3 步:把权限规则写进代码
最省事的错误做法是“管理员都能关”。真实事故里,出问题的往往是有权限但没约束的人。建议拆成两个动作:发起和审批。
```python
from dataclasses import dataclass
ROLE_CAN_REQUEST = {"ai_admin", "security_admin", "tenant_owner"}
ROLE_CAN_APPROVE = {"security_admin", "compliance_officer"}
@dataclass
class Actor:
user_id: str
roles: set[str]
def assert_can_request(actor: Actor) -> None:
if not (actor.roles & ROLE_CAN_REQUEST):
raise PermissionError("无权发起 AI 开关变更")
def assert_can_approve(actor: Actor, requested_by: str) -> None:
if not (actor.roles & ROLE_CAN_APPROVE):
raise PermissionError("无权审批 AI 开关变更")
if actor.user_id == requested_by:
raise PermissionError("不能审批自己发起的变更")
```
紧急情况怎么办?留一条 break-glass 路径:允许单人直接关闭,但要求同时满足三个条件——只能往“关闭”方向操作(不能用来开启)、必须填写事件编号、自动给安全负责人发通知。允许快速关闭,不允许快速开启,这条不对称规则能挡掉大量误操作。
第 4 步:接到调用链上,并且失败时默认拒绝
开关判断要放在真正的模型调用之前,不要放在业务逻辑最外层。否则中间任何一条旁路都可能绕过。
```python
async def ai_guard(feature: str, tenant_id: str, user_id: str) -> None:
try:
allowed = await flags.is_enabled(feature, tenant_id, user_id)
except Exception:
读不到开关状态时,按“已关闭”处理(fail-closed)
raise HTTPException(status_code=503, detail="AI 功能暂不可用")
if not allowed:
raise HTTPException(status_code=403, detail="该功能已被管理员关闭")
```
两个细节值得说清楚:
缓存不能让关闭失效。 开关状态可以在本地缓存 5 到 30 秒,但审批通过时要主动清一次缓存,否则用户会遇到“已经点了关闭,还能生成”的尴尬。缓存 key 里要带 feature + scope_id,不要只带 feature,不然一个租户关闭会错误影响其他租户。
在途任务要单独处理。 用户已经提交、正在排队的长任务,关闭那一刻不会自动消失。策略有两种:立即取消在途任务并退款/退额度,或者允许跑完但不再接受新任务。选定一种,写进文档,别让值班的人临场猜。
第 5 步:列清楚“关掉之后还剩什么”
下面这张表是整套方案里最该被评审的部分。请按自己的系统逐项填,不要照抄。
| 数据种类 | 典型位置 | 关闭后是否继续留存 | 建议动作 |
|---|---|---|---|
| 用户输入的 prompt | 业务库、日志 | 通常仍在 | 设 TTL,到期清空文本字段 |
| 模型输出内容 | 业务库、对象存储 | 通常仍在 | 随业务数据生命周期管理 |
| 用户上传的原图/文档 | 对象存储 | 通常仍在 | 与业务数据同策略,不因关 AI 而删 |
| 向量化结果 | 向量库 | 通常仍在 | 停用索引前先确认无其他检索依赖 |
| 响应缓存 | 缓存服务 | 可能还在 | 关闭时按 key 前缀批量失效 |
| 请求日志 | 日志平台 | 在 | 不要记录完整 prompt,只记长度与哈希 |
| 审计日志 | 审计库 | 在 | 必须保留,不能随业务删除 |
| 用量与账单记录 | 计费系统 | 在 | 财务与合规要求,按法规期限保留 |
| 备份与冷存 | 备份系统 | 在 | 说明保留周期,删除请求需覆盖备份 |
| 第三方模型供应商侧 | 外部 | 依对方政策与合同 | 以对方文档和合同条款为准 |
两个容易踩的点:
审计日志和业务数据要分开处理。 用户要求删除自己的数据时,删除业务数据是应该的,但审计日志里的“某人在某时关闭了 AI”这条记录不能一起删,否则事后无法追溯。做法是在审计日志里只存用户 ID 和操作,不存具体内容。
删除要有工单和留痕。 一段可复用的脱敏语句:
```sql
-- 关闭 AI 后满 30 天,清空原始文本,保留统计字段
update ai_request_log
set prompt_text = null,
output_text = null,
redacted_at = now()
where tenant_id = $1
and created_at < now() - interval '30 days'
and redacted_at is null;
```
第 6 步:写审计日志,并且让它改不了
审计日志的最小字段是:谁、什么时候、对哪个作用域、做了什么、之前是什么状态、之后是什么状态、为什么、关联哪个工单。
```sql
create table ai_audit_log (
id bigserial primary key,
occurred_at timestamptz not null default now(),
actor_id text not null,
actor_role text not null,
action text not null, -- flag.disable / flag.enable / data.redact
scope_type text not null,
scope_id text not null,
before_state jsonb,
after_state jsonb,
reason text not null,
ticket_id text,
request_id text not null,
prev_hash text not null,
entry_hash text not null
);
-- 应用账号只能插入,不能改也不能删
revoke update, delete on ai_audit_log from app_rw;
```
再加一条哈希链,用来证明日志没被改过:
```python
import hashlib
import json
def entry_hash(prev_hash: str, payload: dict) -> str:
body = json.dumps(payload, sort_keys=True, separators=(",", ":"), ensure_ascii=False)
return hashlib.sha256((prev_hash + body).encode("utf-8")).hexdigest()
```
校验时从第一条开始逐条重算,任意一条对不上,就说明中间被动过。这个方法不防“整条链重算”,但足以发现单点篡改,成本也低。要求更高时,把每日最后一条哈希导出到独立的只写存储。
日志内容还有一条硬规矩:只记元数据,不记内容。写 prompt_length 和 prompt_sha256,不写 prompt 原文。审计库往往保留多年,一旦写入用户原文,等于给自己造了一个删不掉的数据副本。
第 7 步:准备回滚剧本
关闭要慎重,开启同样要慎重。建议按下面顺序执行,每一步都能单独停下:
1. 预演:在测试租户上关一次、开一次,确认接口返回、缓存失效、在途任务处理都对。
2. 单租户关闭:先关一个内部租户,观察 30 分钟。
3. 确认无异常再扩面:按租户分批,不要一次全量。
4. 开启时同样分批:先开一个租户,看错误率和成本曲线。
一次变更的调用示例:
```bash
curl -sS -X POST "$API_BASE/admin/ai/flags" \
-H "Authorization: Bearer $TOKEN" \
-H "Content-Type: application/json" \
-d '{
"feature": "image_generate",
"scope_type": "tenant",
"scope_id": "t-1024",
"enabled": false,
"reason": "法务要求临时关闭",
"ticket_id": "SEC-2317"
}'
```
改完立刻回读确认,别只看返回码:
```bash
curl -sS "$API_BASE/admin/ai/flags?scope_id=t-1024" \
-H "Authorization: Bearer $TOKEN" | jq '.items[] | {feature, enabled, effective_at}'
```
回滚时最容易漏掉的是外部沟通。给客服和客户成功团队准备一句固定话术,说明影响范围、预计恢复时间、以及已经生成的内容不受影响。
常见坑与排错
关了还能用。 九成是缓存没失效,或者有业务线直连了模型供应商。排查方法:看日志里被拒绝的请求占比,如果关闭后拒绝数还是 0,说明流量根本没走网关。
只关了入口,没关接口。 用 curl 直接打接口验证一次,是最快的自检方式。
审计日志写失败把主流程拖挂了。 日志写入应当异步,失败时降级到本地文件并告警,不能让“记录变更”这件事反过来阻断“执行变更”。但降级期间要有人知道。
临时关闭变成了永久关闭。 因为没有 expires_at,或者有但没人看。加一个每日巡检,把超过 N 天仍处于关闭状态的作用域列出来。
删除业务数据时把审计日志一起清了。 两类数据放在不同库、用不同账号,是最简单的隔离办法。
开启比关闭还随意。 把“开启”也纳入审批,或者至少要求填写理由和观察窗口。
环境之间配置漂移。 测试环境关了、生产没关,或者反过来。开关状态不要写在配置文件里,统一走数据库,环境之间用不同的库隔离。
时间对不上。 全链路用 UTC 存时间,展示层再转本地时区。审计日志里的时间如果混了时区,事后复盘会很痛苦。
下一步建议
- 把这份开关表接到你的用量与成本监控上:某个功能被关闭后,成本曲线应该同步下降,如果没有,说明还有旁路流量。
- 给留存清单加一个季度复核:数据种类会变,新加的日志字段可能悄悄带进了 prompt。
- 把审计日志接入现有的安全事件平台,让“非工作时间关闭 AI”这类行为自动触发提醒。
- 如果有多条产品线,把开关做成通用能力而不是单个功能的补丁,后面每加一个 AI 功能都能直接复用。
一个能用的关闭开关,验收标准其实很朴素:出问题时,一个知道该做什么的人,在五分钟内能关掉它,并且三个月后还能查清是谁、为什么关的。做到这两点,这套机制就算立住了。
