一篇题为《Notes on gotchas while migrating 35kb preprompts from Opus to self-hosted Ollama》的技术笔记发布在 patrickmccanna.net 上,记录了作者将约 35KB 的预提示词(preprompt)从 Anthropic 的 Opus 模型迁移到自托管 Ollama 的过程,并整理了迁移途中遇到的若干“坑”(gotchas)。原文链接:https://patrickmccanna.net/notes-on-migrating-large-prompts-away-from-anthropic-openai-to-self-hosted-llms/
从标题与链接指向的路径看,这次迁移的方向是从 Anthropic、OpenAI 等托管式模型服务转向自托管的开源模型推理栈。对不少团队来说,把超长AI 词典:系统提示词">系统提示词搬到本地推理环境中,常见考量包括调用成本、数据不出内网以及部署可控性。但提示词并不会因为换个运行环境就“原样生效”,这也是作者用“gotchas”来命名这篇笔记的原因。
这篇笔记的价值在于提醒从业者:提示词迁移是一项需要逐项验证的工程。体量达到数十 KB 的预提示词往往承载了大量角色设定、格式约束与输出规范;只要其中某一环在新模型或新推理框架下出现偏差,就可能导致输出结构变化,进而让依赖固定格式的下游解析失效。作者以“容易被忽略的陷阱”为线索组织内容,说明这类问题在迁移前未必显眼,往往要在实际运行中才暴露出来。
对正在评估自托管替代方案的 AI 从业者而言,这篇笔记提供了一个现实参照:模型切换的成本不只体现在推理性能与吞吐上,还体现在提示词兼容性和调试耗时上。原文可在上述链接查看。
