本地部署教程:Docker与大模型从零搭建,少踩坑快上手
很多人第一次听到“本地部署”这四个字,脑子里浮现的画面大概是一堆黑底白字的终端窗口,外加几根缠绕在一起的网线。我当初也是这么想的。那会儿我在一台旧笔记本上折腾一个开源博客系统,光是让它在本地跑起来就花...
很多人第一次听到“本地部署”这四个字,脑子里浮现的画面大概是一堆黑底白字的终端窗口,外加几根缠绕在一起的网线。我当初也是这么想的。那会儿我在一台旧笔记本上折腾一个开源博客系统,光是让它在本地跑起来就花...
1.1 大模型核心概念与本地部署价值 我最早听说大模型参数规模的时候,脑子里只有“大”这个字。后来自己动手跑模型,才慢慢明白参数就是模型里那些可以学习的权重数字。几十亿到几千亿个数字凑在一起,让模型学...