办公软件

关注公众号 jb51net

关闭
DeepSeek R1 本地部署版本Ollama for Mac + web-ui 可以断网 免费版

DeepSeek R1 本地部署版本Ollama for Mac + web-ui 可以断网 免费版

您还可以选择:百度网盘1

热门排行

简介

 DeepSeek 发布的推理大模型 DeepSeek - R1 ,它的功能堪称全能,日常写作、翻译、问答轻松拿捏,独特的 “深度思考” 模式加上联网搜索,在编程、解题、文献解读等复杂任务里也游刃有余,推理思考能力一绝!使用体验更是拉满,既有便捷的电脑网页版 AI 助手和 API 服务,近期 iOS、Android 手机版 APP 重磅上线,新增拍照识字、文档上传分析功能,响应速度超快,国内还能直连畅用,毫无网络阻碍,实用性直接爆棚,快来体验吧!

本次分享的是DeepSeek R1 本地部署版本,包括windowst和Mac及web-ui版本可以断网使用。

有多个版本:1.5b 7b 8b 14b 32b 70b 671b,对于显卡好、显存大的可选择高的版本,反之选择低一点的版本,不过低的版本效果不如在线网页版的好。

功能特点:

号称它现在不但比OpenAI开放,也比它有活力;

功能堪称全能日常写作、翻译、编程轻松搞定;

独特的 “深度思考” 模式加上联网搜索;

既有便捷的电脑网页版 AI 助手和 API 服务;

近期 iOS、Android 手机版 APP 重磅上线;

新增拍照识字、文档上传分析功能;

响应速度超快,国内还能直连使用。

安装说明:

CPU适配版本:

没有GPU:1.5B Q8推理 或者 8B Q4推理
4G GPU:8B Q4推理
8G GPU:32B Q4推理 或者 8B Q4推理
16G GPU:32B Q4推理 或者 32B Q8推理
24G GPU: 32B Q8推理 或者 70B Q2推理  

根据个人配置安装合适版本。

安装命令:

1.5B Qwen DeepSeek R1

安装命令:ollama run deepseek-r1:1.5b   

7B Qwen DeepSeek R1

安装命令:ollama run deepseek-r1:7b  

8B Llama DeepSeek R1

安装命令:ollama run deepseek-r1:8b

14B Qwen DeepSeek R1

安装命令:ollama run deepseek-r1:14b

32B Qwen DeepSeek R1

安装命令:ollama run deepseek-r1:32b

70B Llama DeepSeek R1

安装命令:ollama run deepseek-r1:70b

如果出现403,以管理员身份运行即可。

然后,会有一个漫长的下载模型的时间,下载后看到如下界面,证明你成功了!

搭建 web ui 用于网页对话

明显命令行这样的方式很不方便,无法满足对我们的聊天内容进行管理。这时,一个类似于Chat GPT这样的网页对话功能就显得十分重要了。

这里我选择的是Open web ui,具体效果如下。

下面讲解如何搭建,在此之前我们需要安装 docker 。

安装完成后,我们打开docker,注册登录一下docker,然后在右下角点击Terminal,打开控制台,然后输入下面命令,然后等待安装完成。

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

docker 容器启动后,会有欢迎页面,点击开始使用,开启体验之路!

大家还下载了