🚗 DeepSeek快速安装部署
安装ollama
方案一:执行linux命令安装Ollama执行linux命令
curl -fsSL https://ollama.com/install.sh | sh
方案二:下载Ollama安装包安装
wget https://sandbox-experiment-files.obs.cn-north-4.myhuaweicloud.com/deepseek/ollama-linux-amd64.tgz
解压安装包
sudo tar -C /usr -xzf ollama-linux-amd64.tgz
增加执行权限,创建Ollama用户
sudo chmod +x /usr/bin/ollama
sudo useradd -r -s /bin/false -m -d /usr/share/ollama ollama
创建ollama.service
cat << EOF > /etc/systemd/system/ollama.service
[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
[Install]
WantedBy=default.target
EOF
重新加载配置文件
sudo systemctl daemon-reload
将服务添加到启动时期的目录
sudo systemctl enable ollama
启动ollama服务
sudo systemctl start ollama
检查启动成功,执行命令:
ollama -v
-
下载并运行deepseek-r1的1.5b借助 ollama 工具来部署 Deepseek 大模型,以下为您提供两种方案:方案一通过ollama命令拉取 deepseek-r1:1.5b,模型版本与社区版本一致,但模型拉取时间较长;方案二通过下载已备份在OBS中的模型文件进行部署,下载速度较快,Deepseek版本为2024年2月14日版本。
方案一:使用ollama拉取 deepseek-r1:1.5b ,模型版本与社区一致,但模型拉取时间较长,请耐心等待。如拉取失败,可重新执行命令进行拉取。如拉取速度变慢,可使用 ctrl+c 停止命令,重新执行拉取命令进行拉取,ollama拉取支持断点续传。
ollama pull deepseek-r1:1.5b
运行deepseek-r1:1.5b
ollama run deepseek-r1:1.5b
方案二:从OBS下载ollama模型文件并运行,版本为2025年2月14日版本
从OBS下载文件
解压缩
sudo tar -C /usr/share/ollama/.ollama/models -xzf ollama_deepseek_r1_1.5b.tar.gz
将模型文件放在ollama目录
cd /usr/share/ollama/.ollama/models
mv ./deepseek/sha256* ./blobs
mkdir -p ./manifests/registry.ollama.ai/library/deepseek-r1
mv ./deepseek/1.5b ./manifests/registry.ollama.ai/library/deepseek-r1
rm -rf deepseek/
查看ollama模型列表
ollama list
运行deepseek-r1:1.5b
ollama run deepseek-r1:1.5b