在本地 Ubuntu 系统上安装 DeepSeek 可以让您在本地使用高级 AI 功能,从而消除对云服务的依赖需求。
What is DeepSeek?
DeepSeek 是一个先进的开源人工智能模型,专为自然语言理解和生成而设计。它提供了类似ChatGPT的强大功能。
Prerequisites:
- A running Ubuntu 24.04 Instance
- Stable Internet Connection
- Minimum 8GB RAM (recommended 16 GB RAM and Multi GPU)
- At least 20GB Free disk space
- Basic understanding of terminal
废话不多说,让我们开始 Deepseek 的安装步骤。登录到 Ubuntu 24.04 系统,按照以下步骤操作。
1) Update Your System
强烈建议在您的 Ubuntu 系统上安装所有可用的更新。
$ sudo apt update && sudo apt upgrade -y
安装完所有更新后,重新启动系统。
$ sudo reboot
2) Install Python and Git
我们需要 Python 3.8 或更高版本来安装 deepseek,最新版本 Python 3.12 默认可用。
$ sudo apt install python3 -y
验证是否安装了 Python 3.8 或更高版本
$ python3 --version
安装 Python 包管理器 pip
$ sudo apt install python3-pip -y
$ pip --version
安装 Git 用于克隆存储库
$ sudo apt install git -y
$ git --version
3) Install Ollama
Ollama 是一个简化本地运行大型语言模型的平台,使用以下 curl 命令安装它:
$ curl -fsSL https://ollama.com/install.sh | sh
$ ollama --version
安装完成后,Ollama 服务将自动启动,使用下面的命令来验证状态。
$ sudo systemctl status ollama.service
4) Download and Run the DeepSeek Model
安装好 Ollama 后,下载 DeepSeek 模型。根据您的需求,您可以相应地下载它们。
- DeepSeek-R1-Distill-Qwen-1.5B
- DeepSeek-R1-Distill-Qwen-7B
- DeepSeek-R1-Distill-Qwen-14B
- DeepSeek-R1-Distill-Qwen-32B
- DeepSeek-R1-Distill-Llama-8B
- DeepSeek-R1-Distill-Llama-70B
这些模型基于两个不同的模型家族:
- Qwen-based models (ranging from 1.5B to 32B parameters)
- Llama-based models (8B and 70B parameters)
要下载 R1- 7B 模型,请运行以下 ollama 命令
$ ollama pull deepseek-r1:7b
这个命令将下载并运行 DeepSeek 模型的 7B 版本,下载数据量大约为 4.7GB
同样,如果您想下载 R1-14B 型号,那么请运行
$ ollama pull deepseek-r1:14b
一旦模型下载完毕,您可以通过运行命令列出它们。
$ ollama list
启动特定型号,比如: 7b, 运行以下命令
$ ollama run deepseek-r1:7b
输入您的查询,您将得到您的答案,示例如下:
使用 Ctrl+D 从模型提示符中退出。
5) Set Up the Web UI for DeepSeek
为了获得更友好的体验,您可以通过 web 界面与 DeepSeek 进行交互。
$ sudo apt install python3-venv -y
$ python3 -m venv ~/open-webui-venv
$ source ~/open-webui-venv/bin/activate
接下来,使用以下 pip 命令安装 Open WebUI
$ pip install open-webui
启动 Open WebUI 服务
$ open-webui serve
打开浏览器,导航到 http://localhost:8080 访问界面
Create your admin account, it will take us to Web UI screen, select the DeepSeek model from the dropdown menu to start interacting with it.
创建管理员账户,从下拉菜单中选择 DeepSeek 模型,开始与之交互。
为 Web UI 创建 Systemd 服务
要使 Open web 在系统引导时自动启动,需要创建 systemd 服务文件。
$ sudo vi /etc/systemd/system/open-webui.service
添加以下内容:
[Unit]
Description=Open WebUI Service
After=network.target
[Service]
User=linuxtechi
WorkingDirectory=/home/linuxtechi/open-webui-venv
ExecStart=/home/linuxtechi/open-webui-venv/bin/open-webui serve
Restart=always
Environment="PATH=/home/linuxtechi/open-webui-venv/bin:/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin"
[Install]
WantedBy=multi-user.target
用您的实际用户名替换 linuxtech, 重新加载系统并启用服务:
$ sudo systemctl daemon-reload
$ sudo systemctl enable open-webui.service
$ sudo systemctl start open-webui.service
使用以下命令查看服务的状态:
sudo systemctl status open-webui.service