网站雪花特效,wordpress地址,物联网小程序开发,做个企业网站大概多少费用note
DeepSeek-R1-Distill-Qwen-7B 的测试效果很惊艳#xff0c;CoT 过程可圈可点#xff0c;25 年应该值得探索更多端侧的硬件机会。 文章目录 note一、下载 Ollama二、下载 Docker三、下载模型四、部署 open webui 一、下载 Ollama
访问 Ollama 的官方网站 https://ollam…note
DeepSeek-R1-Distill-Qwen-7B 的测试效果很惊艳CoT 过程可圈可点25 年应该值得探索更多端侧的硬件机会。 文章目录 note一、下载 Ollama二、下载 Docker三、下载模型四、部署 open webui 一、下载 Ollama
访问 Ollama 的官方网站 https://ollama.com/library/deepseek-r1 根据系统提示下载适合自己电脑的版本。
二、下载 Docker
直接点击官方 https://www.docker.com/ 下载适合自己电脑的版本。
三、下载模型
以 Distill-Qwen-7B 为例在电脑终端中输入ollama run deepseek-r1:7b7b 的模型大概 4.7G 大小等待模型下载完成之后即可在终端中输入问题进行测试。下一步会演示如何在 open webui 中使用。
四、部署 open webui
在终端中运行下述命令后可以自动在 docker 中完成部署然后在本地浏览器中使用 docker run -d -p 8080:8080 --add-hosthost.docker.internal:host-gateway -e OLLAMA_BASE_URLhttp://host.docker.internal:11434 ( http://host.docker.internal:11434 ) --name open-webui ghcr.io/open-webui/open-webui:main
Open-WebUI 提供了丰富的功能和界面如直观的聊天界面、Markdown 和 LaTeX 支持、网页浏览能力、提示预设支持等极大地提升了用户体验。通过 RLHF 注释功能用户可以对消息进行评级以创建强化学习数据集用于训练或微调模型。
