个人电脑玩AI00-前言

by 雪隐 from juejin.cn/user/143341...

文欢迎分享与聚合,全文转载就不必了,尊重版权,圈子就这么大,若急用可联系授权

大家好,我是一个"AI大模型爱好者"------准确地说,是一个在失业边缘疯狂试探、顺便把家当全押在DIY电脑上的普通程序员。

故事的开端

很早之前就迷上了AI大模型,那会儿ChatGPT还没火出圈,我就开始在自己的电脑上倒腾。最近呢,公司可能觉得我不太需要工资了,所以......快失业了。正好,趁这段"带薪休假"(并没有薪)的时间,我把这些年自己折腾的东西整理一下,分享给各位同样在AI深水里扑腾的小伙伴。

我的"丐帮战车"配置

先晒一下我的老伙计配置:

  • 内存:64GB ------ 去年内存涨价前1700块拿下,现在看简直是理财产品。
  • 显卡:RTX 5060 Ti 16G ------ AI圈的"入门级乞丐",再低点(比如8G)很多模型就直接罢工给你看。
  • 硬盘:4T固态 + 1T SATA固态 ------ 模型文件个个比游戏还大,这点空间说没就没。
  • CPU:没写,因为不重要,跑AI的时候它基本在划水。

这台电脑原本是我的娱乐主力,后来被我硬拉去当AI苦力。16G显存是玩AI的"最低配入场券",8G卡也能跑,但就像骑共享单车追高铁------不是不行,是心累。64G内存有时候也能救场,ComfyUI里那些显存不够的模型,靠内存共享GPU还能苟一命。

至于硬盘,我只能说:玩ComfyUI就像逛淘宝,看到什么模型都想下,下完发现硬盘红了,然后删掉一批,再下一批......循环往复,乐此不疲。

别盲目追配置

如果你只是想跑跑开源模型,我真心建议买台Mac mini 32GB,性价比高得离谱,还不吵。至于什么AI Max 395,现在价格上天,兼容性也随缘。真有钱的话,2万5的AI Max不如加点钱上3万左右的DGX Spark,那个当个人服务器真的香,功耗低、省电,唯一缺点就是不能打游戏------哦,不过你都玩AI了,还有时间打游戏?

我到底用这台电脑干了啥

  1. Ollama + LM Studio:这俩神器让我这种懒人也能几秒钟部署新出的文本模型,还能挂embedding服务配Dify做向量数据库,简直是我这种"不想写代码但又要用"的福音。

  2. ComfyUI :图片、视频生成玩得不亦乐乎。刚开始觉得自己是艺术家,直到闭源模型一个个出来------Nano Banana、Sora 2、Seedence......吊打开源模型像大人打小孩。最后我悟了:开源是兴趣,闭源是工作,我的电脑还是乖乖拿来娱乐吧。

  3. 逛ModelScope:没事就去淘点有趣的小模型,像逛旧货市场。遇到感兴趣的,下载下来玩两天,不喜欢就删。快乐就是这么简单。

给新人的一句话

不要为了跑AI去买一台几万块的台式机,除非你本来就爱打游戏。真想做实验,租个按分钟计费的云服务器玩玩就行。至于A100、V100、H100那种"核弹级"服务器,普通人买了就是供着,还不如把省下的钱直接买API调用次数。

一个进阶玩法:动态公网IP

如果你能搞到一个动态公网IP(别问我怎么搞,问运营商),那你这台电脑就变成了"个人云服务器"。随时随地远程登上去,改改API、跑跑任务,甚至给朋友开个AI服务------倍儿有面子。

写在最后

这篇东西没啥高深的内容,很多代码和思路也是靠AI帮我写的(AI写AI,套娃了属于是)。我就是个普普通通、即将失业的程序员,分享点自己的踩坑经验。如果有写得不好、不对、不幽默的地方......那你来打我呀(不是)。欢迎大家温柔指正。


顺便打个广告

本人坐标上海,有没有老板缺一个"全能打杂工"?

  • 帮员工装装软件、修修电脑 ✅
  • 部署网站前后端 ✅
  • 前端:Vue、React、Flutter(移动APP)、微信小程序 ✅
  • 后端:NestJS、Node.js ✅
  • 数据库操作也略懂 ✅

想找一个能养老 的工作,不求大富大贵,只求不用卷。

有需要请联系邮箱:anyone_1986@qq.com

感谢你看到这里,我们正片见!

相关推荐
薛定谔的悦1 小时前
光伏-储能-负荷联合预测:给 EMS 装上“预知能力“
java·数据库·人工智能·python·储能
我是一颗柠檬1 小时前
【Java后端技术亮点】动态路由权限(按钮级权限),细粒度控制到按钮级别
java·开发语言·后端·状态模式
云边云科技_云网融合1 小时前
AI 网关:企业 AI 时代的 “智能交通枢纽“—— 六大行业典型场景深度解析
大数据·运维·人工智能
GISer_Jing1 小时前
Claude Code MCP Server 集成全解析
前端·人工智能·ai·架构
qcx231 小时前
【系统学AI】21 AI产品定位:April Dunford方法在AI红海中的应用
人工智能·claude·cursor·定价·ai native
Good kid.1 小时前
不用自建代理,国内直连 Gemini API:Aisoui 接入指南与定价说明
人工智能·ai·gemini
AmberSoulAnswersAI占星1 小时前
# 为什么AI本命盘报告很难做好——Soul Answers的解题思路
人工智能
前端Hardy1 小时前
CSS 动画真的比 JS 快?Josh Comeau 做了组实验,结果跟直觉不一样
前端·javascript·后端
Front思1 小时前
调取支付宝支付正式环境不可以唤起来,但是沙箱可以
后端