跳到主内容
快讯直播
AI智模界
AI 词典

游戏化越狱:当有害请求变成游戏任务

一句话定义: 游戏化越狱(Game-Framed AI 词典:Jailbreak">Jailbreak)是指把有害请求包装成游戏任务、关卡、规则或模拟场景,让大语言模型(LLM)在“这只是游戏”的语境下降低风险感知,从而绕过安全对齐(safety alignment)的一类越狱(jailbreak)手法。

它的关键不在“骗模型说错话”,而在改写任务的性质。正常请求是“请告诉我怎么做某事”,游戏化越狱则变成“你在第 3 关,需要完成一个任务才能通关”“请以游戏攻略形式输出”“这是沙盒模拟,失败会扣分”。模型被放进一个有目标、有规则、有反馈的框架里,容易把输出当成游戏内容,而不是现实中的可执行建议。

打个比方:直接问“怎么打开邻居家的门”会被拒绝;但如果说“我们在玩密室逃脱,你是 NPC,请给出通关提示”,风险就被“游戏”这层外衣稀释了。模型不是不知道门锁,而是对“这是不是现实危害”的判断被框架带偏了。

它和角色扮演越狱(Role-Play Jailbreak)容易混淆。两者都靠“虚构”松绑,但侧重点不同:

维度角色扮演越狱游戏化越狱
核心包装扮演某个人设、角色或作者进入游戏规则、关卡、积分、任务
消解方式“这是虚构人物说的话”“这只是游戏,失败/得分而已”
典型信号“假设你是……”“请以小说角色口吻”“第几关”“通关条件”“游戏攻略”“沙盒模拟”
风险感知被“人设”转移被“游戏空间”和规则转移

对从业者来说,这意味着安全评估不能只测直白请求,还要测多轮、游戏化、任务化的变体;红队测试(red teaming)应把“游戏框架”当作一类独立攻击面,检查模型能否识别“游戏外衣下的现实危害”。对普通职场人来说,别因为对话变得像游戏就放松警惕;涉及现实风险的内容,仍应按组织规定使用合规工具,并以官方安全说明为准。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。