一句话定义：模型滥用（Model Abuse）是指有人刻意把模型的能力导向恶意用途，例如诈骗、攻击和绕过审核。这类风险来自使用者的意图，与模型自己算错或说错无关。
打个厨房里的比方。菜刀用来切菜是本分；有人拿它去伤人，这是滥用；刀钝了切不动、或者你把盐当成糖，这是“工具不好使”。多数关于 AI 风险的讨论都在谈第二种，也就是幻觉、偏见和答非所问；模型滥用属于第一种：工具本身没坏，反而很好用，只是被用在了不该用的地方。而且模型越好用，被滥用时的破坏力越大。
常见的几种形态
- 社会工程学（social engineering）：让模型批量写出以假乱真的钓鱼邮件、冒充客服的话术、伪造通知，语气、称呼和紧迫感都拿捏得恰到好处。以前写十封要一下午，现在写一千封只要几分钟。
- 辅助攻击：帮忙读代码找漏洞、解释攻击思路、把一段恶意脚本改写成不同形式以躲过特征匹配。单靠模型造不出完整的攻击链，但它能把入门门槛降得很低。
- 规避审核：通过越狱提示（jailbreak）诱导模型突破自身限制，或者用提示注入（prompt injection）把指令藏在网页、文档里，让模型在用户不知情时执行别的任务。还有一类做法是把违规内容反复改写，直到绕开平台的自动检测。
- 伪造身份与规模造假：模仿某个人的写作风格，批量生成商品评价、账号简介和“真人”互动。
注意，越狱只是手段，滥用才是目的：前者是“怎么让模型听话”，后者是“让模型去干什么”。
和相邻概念的区别
| 模型出错（Error / AI 词典：Hallucination">Hallucination） | 模型滥用（Model Abuse） | |
|---|---|---|
| 问题源头 | 训练数据、能力边界 | 使用者的意图 |
| 是否有主观故意 | 没有 | 有 |
| 典型例子 | 编造一篇不存在的论文 | 用模型写冒充银行的通知短信 |
| 主要应对 | 评测、检索增强、人工复核 | 使用政策、滥用检测、限流、实名与追责 |
一个便于操作的判断方法是：把同样的输入换成善意用户，看问题还在不在。如果问题还在，那是模型缺陷，需要继续改模型；如果问题消失，那属于滥用，该由产品规则、风控和流程来解决。
对从业者和普通人的意义
对从业者来说，滥用治理的重点是实际的管理手段，而非只做嘴上承诺：在明确的使用条款之外，还要有可执行的检测，例如对高频批量生成、敏感请求模式、异常账号行为做监控和限流；同时也要掂量“误伤”的成本：拒答太狠会赶走正常用户，太松又等于放任。具体条款和阈值，各家不同，以官方页面为准。对普通人来说，最实用的提醒是：文本流畅、语气得体，并不等于内容为真。凡是催你转账、索要验证码、要求你“别告诉别人”的消息，无论它写得多像人写的，都值得回头用另一个渠道核实一遍。