个人电脑玩AI00-前言

by 雪隐 from juejin.cn/user/143341...

文欢迎分享与聚合,全文转载就不必了,尊重版权,圈子就这么大,若急用可联系授权

大家好,我是一个"AI大模型爱好者"------准确地说,是一个在失业边缘疯狂试探、顺便把家当全押在DIY电脑上的普通程序员。

故事的开端

很早之前就迷上了AI大模型,那会儿ChatGPT还没火出圈,我就开始在自己的电脑上倒腾。最近呢,公司可能觉得我不太需要工资了,所以......快失业了。正好,趁这段"带薪休假"(并没有薪)的时间,我把这些年自己折腾的东西整理一下,分享给各位同样在AI深水里扑腾的小伙伴。

我的"丐帮战车"配置

先晒一下我的老伙计配置:

  • 内存:64GB ------ 去年内存涨价前1700块拿下,现在看简直是理财产品。
  • 显卡:RTX 5060 Ti 16G ------ AI圈的"入门级乞丐",再低点(比如8G)很多模型就直接罢工给你看。
  • 硬盘:4T固态 + 1T SATA固态 ------ 模型文件个个比游戏还大,这点空间说没就没。
  • CPU:没写,因为不重要,跑AI的时候它基本在划水。

这台电脑原本是我的娱乐主力,后来被我硬拉去当AI苦力。16G显存是玩AI的"最低配入场券",8G卡也能跑,但就像骑共享单车追高铁------不是不行,是心累。64G内存有时候也能救场,ComfyUI里那些显存不够的模型,靠内存共享GPU还能苟一命。

至于硬盘,我只能说:玩ComfyUI就像逛淘宝,看到什么模型都想下,下完发现硬盘红了,然后删掉一批,再下一批......循环往复,乐此不疲。

别盲目追配置

如果你只是想跑跑开源模型,我真心建议买台Mac mini 32GB,性价比高得离谱,还不吵。至于什么AI Max 395,现在价格上天,兼容性也随缘。真有钱的话,2万5的AI Max不如加点钱上3万左右的DGX Spark,那个当个人服务器真的香,功耗低、省电,唯一缺点就是不能打游戏------哦,不过你都玩AI了,还有时间打游戏?

我到底用这台电脑干了啥

  1. Ollama + LM Studio:这俩神器让我这种懒人也能几秒钟部署新出的文本模型,还能挂embedding服务配Dify做向量数据库,简直是我这种"不想写代码但又要用"的福音。

  2. ComfyUI :图片、视频生成玩得不亦乐乎。刚开始觉得自己是艺术家,直到闭源模型一个个出来------Nano Banana、Sora 2、Seedence......吊打开源模型像大人打小孩。最后我悟了:开源是兴趣,闭源是工作,我的电脑还是乖乖拿来娱乐吧。

  3. 逛ModelScope:没事就去淘点有趣的小模型,像逛旧货市场。遇到感兴趣的,下载下来玩两天,不喜欢就删。快乐就是这么简单。

给新人的一句话

不要为了跑AI去买一台几万块的台式机,除非你本来就爱打游戏。真想做实验,租个按分钟计费的云服务器玩玩就行。至于A100、V100、H100那种"核弹级"服务器,普通人买了就是供着,还不如把省下的钱直接买API调用次数。

一个进阶玩法:动态公网IP

如果你能搞到一个动态公网IP(别问我怎么搞,问运营商),那你这台电脑就变成了"个人云服务器"。随时随地远程登上去,改改API、跑跑任务,甚至给朋友开个AI服务------倍儿有面子。

写在最后

这篇东西没啥高深的内容,很多代码和思路也是靠AI帮我写的(AI写AI,套娃了属于是)。我就是个普普通通、即将失业的程序员,分享点自己的踩坑经验。如果有写得不好、不对、不幽默的地方......那你来打我呀(不是)。欢迎大家温柔指正。


顺便打个广告

本人坐标上海,有没有老板缺一个"全能打杂工"?

  • 帮员工装装软件、修修电脑 ✅
  • 部署网站前后端 ✅
  • 前端:Vue、React、Flutter(移动APP)、微信小程序 ✅
  • 后端:NestJS、Node.js ✅
  • 数据库操作也略懂 ✅

想找一个能养老 的工作,不求大富大贵,只求不用卷。

有需要请联系邮箱:anyone_1986@qq.com

感谢你看到这里,我们正片见!

相关推荐
利威尔xu24 分钟前
Go Mutex 饥饿模式:正常模式等待者饿死,1ms 阈值自动切换崩溃
开发语言·后端·面试·golang·并发编程
一条Go33 分钟前
边缘 Agent:为什么是它连出来,而不是平台连进去
后端·架构·github
螺丝钉tina1 小时前
[Playwright] [20][AI] 失败分析:让AI大模型帮你debug
人工智能
huangfuyk1 小时前
前端融入/转后端避坑指南:AI 时代的安全边界、数据防线与实战细节
后端·ai编程
掘金者阿豪1 小时前
GitLab 服务器疑似遭入侵:从 502 故障到 Root 权限异常的完整排查复盘
后端
MSTcheng.2 小时前
【AI应用实战】用 FastAPI + SSE 做一个自己的 AI 聊天网页:流式输出、多轮对话与完整源码
人工智能·python·大模型·fastapi·sse·ai聊天助手
世冠科技2 小时前
世冠科技GCEAgent重磅发布,开启复杂装备AI原生智能研发新范式
人工智能·科技·ai-native
云起SAAS2 小时前
手机靓号选号商城H5源码 完整前后台可直接运行
前端·javascript·后端
轻松,带微笑2 小时前
AI竞争进入下半场:微软押注专业模型,通用大模型不再是唯一答案
人工智能·microsoft
哈尔滨张谦蛋2 小时前
兰州大学 · 甘肃省可穿戴装备重点实验室 · 2027年博士招生
人工智能·深度学习