试过了mac,ubuntu,还有Windows
终于发现windows是最麻烦的,报错最多,因为D版的windows版本众多,硬件多,驱动也多。
很容易就遇到把系统搞崩的情况,所以如果要尝鲜,要么换成Ubuntu,要么用Vmware 虚拟化安装。
因为国情的问题,下载会出现下不了,下载一半就断等各种各样的问题,如果遇到了,优先念九天雷声应元普化天尊,然后在各种哈利波特,一种不行,就换一种,直到成功为止。
即使是这样,也是AI进程中的开胃小菜而已,后续的赋能业务,以及训练模型才是正餐。
-----
DeepSeek R1,本地部署才是王道!支持WebUI(Mac系统)
操作流程如何下:
- 安装Docker,目的是为了安装操作页面OPEN WEBUI。
- 安装Ollma模型
- 安装DeepSeek 模型
下面是Windows安装过程
第一步下载:OLLAMA
选择Ollama-docker,下载地址
https://github.com/valiantlynx/ollama-docker.git
第二步解压
把下载包解压到D盘,运行CMD,这里要有点DOS下的代码知识
举例:是放在D盘,A文件夹中。运营CMD后,用输入:CD A,
第三步:输入代码:docker-compose up -d
然后开始下载,建议此时的网络情况是在哈利波特加持下
第三步:下载DeepSeek模型
下载地址:Ollama.com选择模型
如果只是玩一下,选择1.5B,电脑建议16GB,DDR5内存,附带GPU显卡,至少1000系以上,我有一张1090 TI的,某鱼上650人民币,安装了32B的模型。
不建议在不了解的情况下,就是买高端显卡,花个几万块,就玩玩,也没有什么计划,只是觉得ai很潮,就没有必要了,如果真的部署一个能跑DEEPSEEK的电脑,十几万是跑不掉的。
我们背后有企业承担此费用,也有让DeepSeek赋能的业务板块,毕竟有DeepSeek团队那种,就是为了技术而生的圣人,我们只是凡夫俗子,研究ai的目的只有一个:
Make it for Money, Not for Funny
回到主题:选择DeepSeek模型,
运行PowerShell,或者运营cmd,都可以,输入以下代码
ollama run deepseek-r1:70b
就可以开始下载了。
第四步:安装类似ChatGPT的UI界面,OPEN WEBUI,(需提前安装Docker)
安装docker:www.docker.com,选择windows版本,下载后,一路next
配置windows 虚拟化
在程序和功能中,把Hyper-V全部打钩。
安装OPEN-WEBUI: 进入OPENWEBUI的官网,把红框中的代码,复制打powershell运行。
在docker中运行OPEN WEBUI,
双击docker的桌面图标,打开软件。点击红框端口,即可运行Open-WebUI。
然后就和mac版一样,可以在页面选择DeepSeek和Ollama的

评论