跳到主内容
快讯直播
AI智模界
AI 词典

Promptfoo:提示词的单元测试与红队工具

一句话定义:Promptfoo 是一个开源的提示词评测与红队(red teaming)工具,它用一份配置文件描述“用哪些提示词、跑哪些模型、过哪些检查”,然后用一条命令跑完全部组合,并给出通过率。

它是怎么工作的:手工调提示词,很像厨师舀一勺汤尝一口就端上桌——这一次好喝,下次换了锅、换了火候就不一定。Promptfoo 相当于给厨房立了一份标准菜谱和验收清单:每个用例写清输入和期望,每次改配方都必须过一遍同一套检查。

具体做法是编写一份 promptfooconfig.yaml,里面列三类东西:prompts(要对比的提示词,可以写上好几个版本)、providers(要跑的模型或接口)、tests(测试用例,每条包含输入变量和断言 assertions)。断言分两种。硬性断言好理解:输出包含某个关键词、是合法 JSON、匹配正则、长度不超过多少。软性断言则更灵活:语义相似度比对,或者请另一个模型当裁判,按你写的评分标准打分(model-graded rubric);也可以用自定义的 JS/Python 函数来断言。跑完后,它会启动一个本地网页,把“提示词版本 × 模型”的输出并排铺开,肉眼比对差异。

红队是另一半功能:除了问“答得对不对”,它还能批量生成攻击性输入——提示词注入(prompt injection)、越狱(jailbreak)、诱导泄露敏感信息、诱导生成有害内容等,最后汇总成一份漏洞报告。这类检查手动做既费时又不容易做全。

与相邻概念的区别:

维度手工试提示词Promptfoo 评测线上可观测平台
时机开发中随手试上线前的离线回归上线后的真实流量
可复现差强,配置即用例依赖真实用户
主要产出“感觉还行”通过率 + 并排对比追踪、延迟、成本

它和 Jest、pytest 的思路一脉相承,区别在于断言对象是“模糊的自然语言输出”,所以多了模型裁判和相似度这类柔性手段。它和 LangSmith、Langfuse 类平台也不冲突:后者盯线上,它盯上线前。

实际意义:Promptfoo 在有用例失败时会返回非零退出码,因此可以直接挂进 CI。这意味着有人改了一句提示词、或把模型从 A 换成 B,只要旧用例退化,PR 就会直接变成失败状态并阻止合并。对从业者,这就是把“调提示词”从手艺变成了有回归保护的工程;对普通职场人,它传递的观念更值得记住——提示词是需要被测试的软件资产,不是随手改的一句话。

使用时注意两点:模型裁判本身有随机性,阈值和用例需要自己维护;它支持的模型供应商和红队插件范围,以官方页面为准。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。