首页 / 标签:本地推理工具框架对比

本地推理工具框架对比

本地部署模型推荐:按显存对号入座,少走选型弯路

本地部署模型推荐:按显存对号入座,少走选型弯路

这几年我陆陆续续在自己机器上折腾过不少模型,从最早跑个7B模型都费劲,到现在动辄几十B的模型也能在本地转起来,感受挺深的。本地部署这件事,最开始吸引我的其实很简单——数据不想往外传,而且断网的时候也想...

chuanbook chuanbook · 2026-10-18 · 19分钟 · 3