Tag 本地部署,显存,量化,入门

很多人卡在第一步：我的显卡到底能跑多大的模型？这篇速查讲清楚量化原理和显存换算，看完你自己就能判断。