写在前面
最近,DeepSeek 发布的推理大模型 DeepSeek - R1 ,可以说是AI大模型领域杀出的一匹黑马。它在国外大模型排名 Arena 上成绩惊人,基准测试位列全类别大模型第三,在风格控制类模型中更是与 OpenAI o1 并列第一。不仅如此,1 月 27 日,其应用登顶中美应用商店免费 APP 下载榜,在美区还超越了 ChatGPT。一时间,"国产之光"、"媲美 ChatGPT" 等赞誉不绝于耳。
更有博主声称"吊打openai chatgpt的存在。不用不是中国人!"
我倒是没那些博主那么神叨叨的,纯属为了是好玩,感受体验为主。那么现在让我们来一起感受一下吧!
本地搭建
可能有人上来就会问了,六哥,你直接去DeepSeek官网:https://www.deepseek.com/ 体验就好了,为什么还要本地折腾,数据安全被,如果未来你在企业开发,肯定要是离线本地模式。
实话就是,白嫖为主,虽然官方给了500W的token免费(如果我没记错),但是还是会有到期让你续费那天的!
那么废话不多说,开整!
1、离线版安装
下载ollama并安装:Ollama离线安装包
使用命令安装deepseek:
plain
ollama run deepseek-r1:7b
然后,会有一个漫长的下载模型的时间,建议FQ下载会变得更快哦!下载后看到如下界面,证明你成功了!
当然,这样就能完成正常的使用啦!
2、搭建 web ui 用于网页对话
明显命令行这样的方式很不方便,无法满足对我们的聊天内容进行管理。这时,一个类似于Chat GPT这样的网页对话功能就显得十分重要了。
这里我选择的是Open web ui,具体效果如下。
下面讲解如何搭建,在此之前我们需要安装 docker 。
我们进入docker 官网(https://docker.p2hp.com/),选择自己电脑对应的版本,然后点击下载。
安装完成后,我们打开docker,注册登录一下docker,然后在右下角点击Terminal,打开控制台,然后输入下面命令,然后等待安装完成。
bash
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
docker 容器启动后,会有欢迎页面,点击开始使用,开启体验之路!
体验使用
这里我准备了几个问题,来做一个体验,具体如下:
1、8.8和8.88哪个大?
2、010111010101101101中有几个1?
3、她为什么背着我爱别人?
4、使用python语言写个冒泡排序
5、来个逻辑推理
6、再来个翻译
写在最后
测试Case分别有数数、计算、推理、理解、编程、抽象等问题,R1基本都能答对,还挺像那么回事。
缺点就是慢呀,我的Mac Pro跑7b模型明显有点吃力!😈