跳到主内容
快讯直播
AI智模界
教程

给 AI 功能装一个可审计的关闭开关

「关闭 AI」在很多产品里显示为一个开关按钮,但在工程实现上,它是一整套机制:谁能点、点了到底关掉什么、关掉之后数据还在不在、出事怎么开回来。任何一个环节缺失,这个开关就只是个装饰。

以 Canva 这类产品为例:管理员在团队或企业后台关掉 AI 功能入口后,典型情况下会发生三件事——新用户点不到 AI 入口了,已经生成并插入设计里的图片和文案还在,团队的使用记录和账单记录也还在。也就是说,关闭 AI 功能不等于删除 AI 产生的数据。具体到某个产品的行为,请以官方文档与后台当前版本为准;下面要搭的是一套可以照抄到自己系统里的通用做法。

这篇能做出什么

跟着做完,你会得到四样东西:

1. 一张开关表:支持全局 / 租户 / 用户三级作用域,带生效时间、过期时间、变更理由和工单号。

2. 一套权限规则:发起人和审批人分离,紧急情况下有 break-glass 通道,但走这条通道也会留下记录。

3. 一份“关了之后还剩什么”的留存清单:逐项说明每类数据在哪个存储里、关闭后是否继续留存、保留多久、谁负责清理。

4. 一份可验证的审计日志 + 一份 5 分钟回滚剧本:日志只追加不修改,能校验是否被改过;回滚有固定顺序,不靠临场发挥。

前置条件清单

开工之前,请确认下面这些都已经就位,缺哪一项先补哪一项:

  • 你的 AI 功能调用有统一入口(一个网关、一个 SDK 封装层、或一个中间件)。如果每个业务方自己直连模型供应商,开关必然漏掉一部分流量。
  • 有一张用户与角色表,能判断谁是管理员、谁是安全负责人。
  • 有一个可写入的关系型数据库(本文示例用 PostgreSQL 语法,其他数据库按方言调整)。
  • 有一个集中式缓存(Redis 之类),用来放开关状态的短 TTL 副本。
  • 有一个工单或审批系统,哪怕暂时用共享表格,也要有编号,方便把变更和理由对上。
  • 明确知道哪些数据被送进了模型:prompt、上传的图片与文档、检索到的知识库片段、模型返回结果。这一步不做,后面的留存清单一定写不准。

第 1 步:先分清“关”的三个层级

很多人把“关闭 AI”理解成一件事,其实是三件:

  • 可见性:界面上不显示入口。用户看不到按钮,但接口还能调。
  • 可调用性:服务端拒绝请求。返回明确的错误码和提示语。
  • 可留存性:已经产生的数据怎么处理——保留、脱敏、还是删除。

一个合格的开关必须同时覆盖前两层,并且对第三层给出明确策略。只在 UI 上隐藏入口,属于“看起来关了”。别人抓个包直接打接口,照样能生成图片。

还有一个常见误解:开关不是熔断。熔断是系统自动触发的(错误率超标、成本超预算),开关是人或策略主动按下的。两者可以共用一份配置,但审计字段不一样——熔断要记触发指标,开关要记人和理由。

第 2 步:建开关表

```sql

create table ai_feature_flag (

id bigserial primary key,

feature text not null, -- 例如 image_generate、text_assist

scope_type text not null check (scope_type in ('global','tenant','user')),

scope_id text not null default '*',

enabled boolean not null,

reason text not null, -- 必填,禁止空字符串

ticket_id text,

requested_by text not null,

approved_by text,

effective_at timestamptz not null default now(),

expires_at timestamptz, -- 临时关闭到期自动失效,防止忘了开回

created_at timestamptz not null default now()

);

create index ai_feature_flag_lookup

on ai_feature_flag (feature, scope_type, scope_id, effective_at desc);

```

关键字段说明:

  • reason 设为非空,是防止“谁也不知道为什么关的”。半年后回头查,理由比时间戳有用得多。
  • expires_at 专门对付临时关闭。设一个默认值(比如 72 小时),到期自动恢复,避免某次应急操作变成永久状态。
  • approved_by 为空表示还没走完审批,读取开关时应当忽略未审批的记录,而不是当成已生效。

查询当前生效状态时,按 effective_at <= now() 且(expires_at is null or expires_at > now())取最新一条,作用域优先级为 user > tenant > global。

第 3 步:把权限规则写进代码

最省事的错误做法是“管理员都能关”。真实事故里,出问题的往往是有权限但没约束的人。建议拆成两个动作:发起和审批。

```python

from dataclasses import dataclass

ROLE_CAN_REQUEST = {"ai_admin", "security_admin", "tenant_owner"}

ROLE_CAN_APPROVE = {"security_admin", "compliance_officer"}

@dataclass

class Actor:

user_id: str

roles: set[str]

def assert_can_request(actor: Actor) -> None:

if not (actor.roles & ROLE_CAN_REQUEST):

raise PermissionError("无权发起 AI 开关变更")

def assert_can_approve(actor: Actor, requested_by: str) -> None:

if not (actor.roles & ROLE_CAN_APPROVE):

raise PermissionError("无权审批 AI 开关变更")

if actor.user_id == requested_by:

raise PermissionError("不能审批自己发起的变更")

```

紧急情况怎么办?留一条 break-glass 路径:允许单人直接关闭,但要求同时满足三个条件——只能往“关闭”方向操作(不能用来开启)、必须填写事件编号、自动给安全负责人发通知。允许快速关闭,不允许快速开启,这条不对称规则能挡掉大量误操作。

第 4 步:接到调用链上,并且失败时默认拒绝

开关判断要放在真正的模型调用之前,不要放在业务逻辑最外层。否则中间任何一条旁路都可能绕过。

```python

async def ai_guard(feature: str, tenant_id: str, user_id: str) -> None:

try:

allowed = await flags.is_enabled(feature, tenant_id, user_id)

except Exception:

读不到开关状态时,按“已关闭”处理(fail-closed)

raise HTTPException(status_code=503, detail="AI 功能暂不可用")

if not allowed:

raise HTTPException(status_code=403, detail="该功能已被管理员关闭")

```

两个细节值得说清楚:

缓存不能让关闭失效。 开关状态可以在本地缓存 5 到 30 秒,但审批通过时要主动清一次缓存,否则用户会遇到“已经点了关闭,还能生成”的尴尬。缓存 key 里要带 feature + scope_id,不要只带 feature,不然一个租户关闭会错误影响其他租户。

在途任务要单独处理。 用户已经提交、正在排队的长任务,关闭那一刻不会自动消失。策略有两种:立即取消在途任务并退款/退额度,或者允许跑完但不再接受新任务。选定一种,写进文档,别让值班的人临场猜。

第 5 步:列清楚“关掉之后还剩什么”

下面这张表是整套方案里最该被评审的部分。请按自己的系统逐项填,不要照抄。

数据种类典型位置关闭后是否继续留存建议动作
用户输入的 prompt业务库、日志通常仍在设 TTL,到期清空文本字段
模型输出内容业务库、对象存储通常仍在随业务数据生命周期管理
用户上传的原图/文档对象存储通常仍在与业务数据同策略,不因关 AI 而删
向量化结果向量库通常仍在停用索引前先确认无其他检索依赖
响应缓存缓存服务可能还在关闭时按 key 前缀批量失效
请求日志日志平台在不要记录完整 prompt,只记长度与哈希
审计日志审计库在必须保留,不能随业务删除
用量与账单记录计费系统在财务与合规要求,按法规期限保留
备份与冷存备份系统在说明保留周期,删除请求需覆盖备份
第三方模型供应商侧外部依对方政策与合同以对方文档和合同条款为准

两个容易踩的点:

审计日志和业务数据要分开处理。 用户要求删除自己的数据时,删除业务数据是应该的,但审计日志里的“某人在某时关闭了 AI”这条记录不能一起删,否则事后无法追溯。做法是在审计日志里只存用户 ID 和操作,不存具体内容。

删除要有工单和留痕。 一段可复用的脱敏语句:

```sql

-- 关闭 AI 后满 30 天,清空原始文本,保留统计字段

update ai_request_log

set prompt_text = null,

output_text = null,

redacted_at = now()

where tenant_id = $1

and created_at < now() - interval '30 days'

and redacted_at is null;

```

第 6 步:写审计日志,并且让它改不了

审计日志的最小字段是:谁、什么时候、对哪个作用域、做了什么、之前是什么状态、之后是什么状态、为什么、关联哪个工单。

```sql

create table ai_audit_log (

id bigserial primary key,

occurred_at timestamptz not null default now(),

actor_id text not null,

actor_role text not null,

action text not null, -- flag.disable / flag.enable / data.redact

scope_type text not null,

scope_id text not null,

before_state jsonb,

after_state jsonb,

reason text not null,

ticket_id text,

request_id text not null,

prev_hash text not null,

entry_hash text not null

);

-- 应用账号只能插入,不能改也不能删

revoke update, delete on ai_audit_log from app_rw;

```

再加一条哈希链,用来证明日志没被改过:

```python

import hashlib

import json

def entry_hash(prev_hash: str, payload: dict) -> str:

body = json.dumps(payload, sort_keys=True, separators=(",", ":"), ensure_ascii=False)

return hashlib.sha256((prev_hash + body).encode("utf-8")).hexdigest()

```

校验时从第一条开始逐条重算,任意一条对不上,就说明中间被动过。这个方法不防“整条链重算”,但足以发现单点篡改,成本也低。要求更高时,把每日最后一条哈希导出到独立的只写存储。

日志内容还有一条硬规矩:只记元数据,不记内容。写 prompt_length 和 prompt_sha256,不写 prompt 原文。审计库往往保留多年,一旦写入用户原文,等于给自己造了一个删不掉的数据副本。

第 7 步:准备回滚剧本

关闭要慎重,开启同样要慎重。建议按下面顺序执行,每一步都能单独停下:

1. 预演:在测试租户上关一次、开一次,确认接口返回、缓存失效、在途任务处理都对。

2. 单租户关闭:先关一个内部租户,观察 30 分钟。

3. 确认无异常再扩面:按租户分批,不要一次全量。

4. 开启时同样分批:先开一个租户,看错误率和成本曲线。

一次变更的调用示例:

```bash

curl -sS -X POST "$API_BASE/admin/ai/flags" \

-H "Authorization: Bearer $TOKEN" \

-H "Content-Type: application/json" \

-d '{

"feature": "image_generate",

"scope_type": "tenant",

"scope_id": "t-1024",

"enabled": false,

"reason": "法务要求临时关闭",

"ticket_id": "SEC-2317"

}'

```

改完立刻回读确认,别只看返回码:

```bash

curl -sS "$API_BASE/admin/ai/flags?scope_id=t-1024" \

-H "Authorization: Bearer $TOKEN" | jq '.items[] | {feature, enabled, effective_at}'

```

回滚时最容易漏掉的是外部沟通。给客服和客户成功团队准备一句固定话术,说明影响范围、预计恢复时间、以及已经生成的内容不受影响。

常见坑与排错

关了还能用。 九成是缓存没失效,或者有业务线直连了模型供应商。排查方法:看日志里被拒绝的请求占比,如果关闭后拒绝数还是 0,说明流量根本没走网关。

只关了入口,没关接口。 用 curl 直接打接口验证一次,是最快的自检方式。

审计日志写失败把主流程拖挂了。 日志写入应当异步,失败时降级到本地文件并告警,不能让“记录变更”这件事反过来阻断“执行变更”。但降级期间要有人知道。

临时关闭变成了永久关闭。 因为没有 expires_at,或者有但没人看。加一个每日巡检,把超过 N 天仍处于关闭状态的作用域列出来。

删除业务数据时把审计日志一起清了。 两类数据放在不同库、用不同账号,是最简单的隔离办法。

开启比关闭还随意。 把“开启”也纳入审批,或者至少要求填写理由和观察窗口。

环境之间配置漂移。 测试环境关了、生产没关,或者反过来。开关状态不要写在配置文件里,统一走数据库,环境之间用不同的库隔离。

时间对不上。 全链路用 UTC 存时间,展示层再转本地时区。审计日志里的时间如果混了时区,事后复盘会很痛苦。

下一步建议

  • 把这份开关表接到你的用量与成本监控上:某个功能被关闭后,成本曲线应该同步下降,如果没有,说明还有旁路流量。
  • 给留存清单加一个季度复核:数据种类会变,新加的日志字段可能悄悄带进了 prompt。
  • 把审计日志接入现有的安全事件平台,让“非工作时间关闭 AI”这类行为自动触发提醒。
  • 如果有多条产品线,把开关做成通用能力而不是单个功能的补丁,后面每加一个 AI 功能都能直接复用。

一个能用的关闭开关,验收标准其实很朴素:出问题时,一个知道该做什么的人,在五分钟内能关掉它,并且三个月后还能查清是谁、为什么关的。做到这两点,这套机制就算立住了。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。