国产大模型deepseek-R1本地部署手册
近期deepseek多次冲上热搜，又是多模态支持，又是开源发布R1模型，最近还受到了网络攻击。
这篇文章介绍下如何快速部署deepseek-R1，本地访问，因为目前提供了最低7B数据集的模型。
部署方案：Ollama + DeepSeek-R1 + Anything-LLM
这个方案包括如何安装和配置 Ollama 进行模型管理，使用 DeepSeek-R1 进行推理，并通过 Anything-LLM 提供 Web 界面。
ollama安装
windows直接下载安装部署即可
访问地址：ollama.com
安装完成后，桌面右下角会有小图标。
模型下载
直接去搜索deepseek-r1模型，或者首页上点击。
然后在终端命令执行
ollama run deepseek-r1:7b
anything-llm安装
好的，以下是使用 Docker 安装 Anything-LLM 以及配置 DeepSeek-R1 模型的步骤。
1. 安装 Docker
首先，确保您的系统上已安装 Docker。如果尚未安装，可以参考以下链接进行安装：
docs.docker.com/docker-for-windows/install/
2. 克隆 Anything-LLM 仓库
在终端中执行以下命令来克隆 Anything-LLM 的 GitHub 仓库：
git clone https://github.com/anything-llm/anything-llm.git cd anything-llm
3. 创建 Dockerfile
在 anything-llm 目录下创建一个 Dockerfile，其内容如下：
# Use an official Python runtime as a parent image FROM python:3.9-slim # Set the working directory in the container WORKDIR /app # Copy the current directory contents into the container at /app COPY . /app # Install any needed packages specified in requirements.txt RUN pip install --no-cache-dir -r requirements.txt # Make port 8080 available to the world outside this container EXPOSE 8080 # Define environment variable ENV NAME Anything-LLM # Run app.py when the container launches CMD ["python", "app.py"]
4. 构建 Docker 镜像
在 anything-llm 目录下执行以下命令来构建 Docker 镜像：
docker build -t anything-llm .
5. 创建配置文件
在 anything-llm 目录下创建一个 config.yaml 文件，并添加 DeepSeek-R1 模型的配置：
model: name: deepseek-r1-7b path: /models/deepseek-r1-7b server: host: 0.0.0.0 port: 8080
将模型放置在指定目录下：
将下载的 DeepSeek-R1 7B 模型移动到 Docker 容器可以访问的路径，例如 /models/deepseek-r1-7b。
7. 运行 Docker 容器
使用以下命令运行 Docker 容器，并将模型目录挂载到容器中：
docker run -d -p 8080:8080 -v /path/to/models:/models --name anything-llm anything-llm
请将 /path/to/models 替换为您本地存放模型的路径。
8. 验证部署
通过浏览器访问 http://localhost:8080，您应该能够看到 Anything-LLM 的界面，并与 DeepSeek-R1 7B 模型进行交互。
总结
通过上述步骤，您可以使用 Docker 成功安装和部署 Anything-LLM，并配置 DeepSeek-R1 7B 模型。
-
Cypress 一个现代化的前端测试工具
Cypress 是一个现代化的前端测试工具，专为现代 Web 应用程序设计。它提供了快速、简单且可靠的测试解决方案，能够在浏览器中运行任何内容。Cypress 的目标是解决开发团队在测试现代应用程序和
-
Home Assistant来自全球DIY爱好者的开源家庭自动化项目
Home Assistant 是一个开源的家庭自动化平台，旨在将本地控制和隐私放在首位。由全球的爱好者和 DIY 爱好者社区支持，Home Assistant 适合在 Raspberry Pi 或本地
-
Domain Admin开源的域名及证书管理平台
Domain Admin 是一个基于 Python 和 Vue3.js 技术栈实现的域名和 SSL 证书监测平台。它旨在解决不同业务域名 SSL 证书申请自不同平台，到期后无法及时收到通知，导致线上访
[广告]赞助链接：
关注数据与安全，洞悉企业级服务市场：https://www.ijiandao.com/
让资讯触达的更精准有趣：https://www.0xu.cn/
关注KnowSafe微信公众号随时掌握互联网精彩
