基于Ollama的DeepSeek部署
环境声明
Microsoft Windows 11 家庭中文版
显卡:RTX3060-6G
Python3.11
Ollama 0.5.7
安装Ollama先下载对应的Ollama版本,这里使用Windows版;注意Ollama默认会安装在C盘,所以需要C盘需要足够大的空间
默认下载位置:C:\Users\用户名\AppData\Local\Programs\Ollama\模型下载位置:C:\Users\用户名.ollama\
在开始菜单中运行Ollama,在任务栏右下角中看到Ollama表示成功运行
在cmd中执行下方命令,如果成功回显则表示Ollama成功安装
1ollama -v
修改ollama下载模型的位置
创建一个文件夹作为存储Ollama下载模型的位置,然后创建一个系统变量OLLAMA_MODELS,值为文件夹路径
注意:需要重启ollama才会生效!!!
如果已经有下载模型了,可以将C:\Users\用户名\.ollama\models下的所有文件都移动到新的目录下即可
安装Deepseek在Ollama官网中搜索deepseek,下载适合自己的版本 ...