大模型显存需求计算器
部署工具免注册 · 免登录想本地跑大模型,第一个卡住人的问题就是显存够不够。这个计算器把权重、KV Cache 和运行开销分开算,再叠加微调带来的额外占用,最后落到具体的显卡档次上。
纯本地计算
输入内容不上传服务器
工具在卡片内运行,手机上打开会按屏幕宽度自动调整。
想本地跑大模型,第一个卡住人的问题就是显存够不够。这个计算器把权重、KV Cache 和运行开销分开算,再叠加微调带来的额外占用,最后落到具体的显卡档次上。
纯本地计算
输入内容不上传服务器
工具在卡片内运行,手机上打开会按屏幕宽度自动调整。