by 雪隐 from juejin.cn/user/143341...
文欢迎分享与聚合,全文转载就不必了,尊重版权,圈子就这么大,若急用可联系授权
大家好,我是一个"AI大模型爱好者"------准确地说,是一个在失业边缘疯狂试探、顺便把家当全押在DIY电脑上的普通程序员。
故事的开端
很早之前就迷上了AI大模型,那会儿ChatGPT还没火出圈,我就开始在自己的电脑上倒腾。最近呢,公司可能觉得我不太需要工资了,所以......快失业了。正好,趁这段"带薪休假"(并没有薪)的时间,我把这些年自己折腾的东西整理一下,分享给各位同样在AI深水里扑腾的小伙伴。
我的"丐帮战车"配置
先晒一下我的老伙计配置:
- 内存:64GB ------ 去年内存涨价前1700块拿下,现在看简直是理财产品。
- 显卡:RTX 5060 Ti 16G ------ AI圈的"入门级乞丐",再低点(比如8G)很多模型就直接罢工给你看。
- 硬盘:4T固态 + 1T SATA固态 ------ 模型文件个个比游戏还大,这点空间说没就没。
- CPU:没写,因为不重要,跑AI的时候它基本在划水。
这台电脑原本是我的娱乐主力,后来被我硬拉去当AI苦力。16G显存是玩AI的"最低配入场券",8G卡也能跑,但就像骑共享单车追高铁------不是不行,是心累。64G内存有时候也能救场,ComfyUI里那些显存不够的模型,靠内存共享GPU还能苟一命。
至于硬盘,我只能说:玩ComfyUI就像逛淘宝,看到什么模型都想下,下完发现硬盘红了,然后删掉一批,再下一批......循环往复,乐此不疲。
别盲目追配置
如果你只是想跑跑开源模型,我真心建议买台Mac mini 32GB,性价比高得离谱,还不吵。至于什么AI Max 395,现在价格上天,兼容性也随缘。真有钱的话,2万5的AI Max不如加点钱上3万左右的DGX Spark,那个当个人服务器真的香,功耗低、省电,唯一缺点就是不能打游戏------哦,不过你都玩AI了,还有时间打游戏?
我到底用这台电脑干了啥
-
Ollama + LM Studio:这俩神器让我这种懒人也能几秒钟部署新出的文本模型,还能挂embedding服务配Dify做向量数据库,简直是我这种"不想写代码但又要用"的福音。
-
ComfyUI :图片、视频生成玩得不亦乐乎。刚开始觉得自己是艺术家,直到闭源模型一个个出来------Nano Banana、Sora 2、Seedence......吊打开源模型像大人打小孩。最后我悟了:开源是兴趣,闭源是工作,我的电脑还是乖乖拿来娱乐吧。
-
逛ModelScope:没事就去淘点有趣的小模型,像逛旧货市场。遇到感兴趣的,下载下来玩两天,不喜欢就删。快乐就是这么简单。
给新人的一句话
不要为了跑AI去买一台几万块的台式机,除非你本来就爱打游戏。真想做实验,租个按分钟计费的云服务器玩玩就行。至于A100、V100、H100那种"核弹级"服务器,普通人买了就是供着,还不如把省下的钱直接买API调用次数。
一个进阶玩法:动态公网IP
如果你能搞到一个动态公网IP(别问我怎么搞,问运营商),那你这台电脑就变成了"个人云服务器"。随时随地远程登上去,改改API、跑跑任务,甚至给朋友开个AI服务------倍儿有面子。
写在最后
这篇东西没啥高深的内容,很多代码和思路也是靠AI帮我写的(AI写AI,套娃了属于是)。我就是个普普通通、即将失业的程序员,分享点自己的踩坑经验。如果有写得不好、不对、不幽默的地方......那你来打我呀(不是)。欢迎大家温柔指正。
顺便打个广告
本人坐标上海,有没有老板缺一个"全能打杂工"?
- 帮员工装装软件、修修电脑 ✅
- 部署网站前后端 ✅
- 前端:Vue、React、Flutter(移动APP)、微信小程序 ✅
- 后端:NestJS、Node.js ✅
- 数据库操作也略懂 ✅
想找一个能养老 的工作,不求大富大贵,只求不用卷。
有需要请联系邮箱:anyone_1986@qq.com
感谢你看到这里,我们正片见!