15天学会AI应用开发(一)搭建AI大模型应用开发环境

AI大模型时代来了,程序员们纷纷入坑AI应用开发,可是苦于AI教程良莠不齐,往往花费了大量时间精力和金钱,却仍然过其门而不入。

有鉴于此,博主开始连载AI应用开发教程《15天学会AI应用开发》,帮助大家快速掌握AI应用开发技能,不掉坑、不迷路、有收获。

一、学习AI应用开发的四大困难

在入坑AI应用开发之时,孤立无援的开发者面对着下列四个拦路虎:

1、个人电脑跑不动AI大模型应用。众所周知,大模型很吃CPU和内存,推理过程又需要GPU,可是个人电脑哪有那么高端的配置呢?

2、AI开发环境的软件版本兼容性。多数AI应用基于Python开发环境,但Python版本过低或者过高都会导致依赖的AI库无法正常运行。

3、在线AI大模型的Token高消耗。AI应用只是个外壳,核心的推理功能需要调用大模型,但在线大模型的Token消耗很快,初学者无法承受快速上涨的账单。

4、AI课程大纲用到很多专业词汇。许多AI课程一上来就是各种专业词汇,例如LLM、Prompt、RAG、Langchain、Graph、Vector、LIamaIndex、Agent、Workflow、LangGraph、Tansformer、Hugging等等,既烧脑又吓人,让人战战兢兢、如履薄冰。

这四个拦路虎看着可怕,实际上都是纸老虎,只要掌握了正确的学习姿势,就能轻轻松松打败它们,且待博主细细道来。

二、个人电脑也能跑AI大模型应用

对于初学者而言,既不需要在本地电脑部署大模型,也不需要部署开源框架全家桶,只要能跑通AI应用的基本流程就行。

所以个人电脑应付基础的AI应用开发已经足够,内存仅需8-16G,也不要GPU,就跟平常使用IDEA开发Java程序一样,无需担心电脑配置带不动AI应用。

三、安装好指定版本的AI开发环境

AI开发环境的Python版本首选Python 3.10.x,该版本兼容所有 AI 库(torch、llama-index、langchain、langgraph、ollama),也没有新版本的奇怪Bug。Python 3.11.x也可以,但3.10 更稳。至于Python 3.8、3.9、3.12、3.13等等就不考虑了,因为这些版本不兼容很多AI库,经常各种报错。

Python 3.10.11(Windows 64 位)的下载页面为 https://www.python.org/downloads/release/python-31011/ ,也可直接访问博主提供的下载链接 https://www.alipan.com/s/sLDCxCjF3A9 。安装时Python时注意一定要勾选"Add Python to PATH"。

Python代码的开发工具PyCharm可以选择社区版的PyCharm 2024.1 / 2023.3 / 2022.2 ,PyCharm版本过低会不支持Python 3.10,版本过高会很消耗电脑资源。

PyCharm的下载页面为 https://www.jetbrains.com/pycharm/download/?section=windows ,也可直接访问博主提供的下载链接 https://www.alipan.com/s/nZ6eXAzA4Jo ,注意该链接为Windows版本。

AI应用在加载离线大模型时用到了 Ollama ,它的安装包比较大,有1.8G左右,AI应用的智能体开发必须安装Ollama。

Ollama的下载页面为 https://ollama.com/download ,但外网速度较慢下载很耗时,建议访问博主提供的下载链接 https://www.alipan.com/s/gkea9rqEDTU

四、全部采用离线大模型,零Token

网上许多AI应用代码要么直连外网大模型,要么连接国内大模型。可是外网的网络情况很不稳定,部分外网服务甚至禁止国内IP访问。国内的在线大模型只提供有限的Token,多问几个问题很容易就用光了,于是超额的Token要另外付费,学不起根本学不起。

本教程的AI应用代码全部采用离线大模型,开发者只需根据说明提前把大模型文件下载到本地,后续就能直接调用电脑上的离线大模型,不用付费完全零Token,可有效降低初学者的学习成本。

五、直接上可运行、有问答交互的代码

AI应用开发确实引入了很多概念和专业术语,如果一上来就对初学者介绍各种概念是什么,容易让人云里雾里发呆发懵。

倒不如先把代码跑起来,以寥寥数行的极简代码观察运行结果,通过实际效果来解释相关概念,让人更明白每个概念都是干什么用的,真正做到借助极简代码来理解概念,再代码编写中熟悉概念。

尤其是可运行、有问答交互的代码,开发者输入各种问题,可以直观地看到AI的问答效果,就能在实战中发现问题并逐步调优,一步一步掌握AI应用从初级到高级的开发技能。

本系列的AI应用开发文章目录为《15天学会AI应用开发全目录(零基础小白,零Token消耗)》。

相关推荐
100个铜锣烧8 小时前
高级提示技术:Chain-of-Thought与ReAct——让大模型学会“思考”和“行动”
人工智能·大模型·提示词工程
JackHCC8 小时前
快手OneRetrieval:可编辑生成式电商召回
人工智能·机器学习
hhzz9 小时前
基于监控视频的水位尺自动识别技术方案与实现
python·opencv·yolo·图像识别·cv
粗体鱼9 小时前
codex引入的项目变更,无损修正和找回历史线程会话
ai编程·codex
yongche_shi9 小时前
ragas官方文档中文版(五十)
开发语言·python·ai·ragas·如何评估和改进 rag 应用
前端之虎陈随易9 小时前
编程语言级别的Skill市场,AI Agent 的未来形态
前端·vue.js·人工智能·typescript·node.js
QiLinkOS9 小时前
第三视觉理解徐玉生与他的商业活动(30)
大数据·c++·人工智能·算法·开源协议
武汉唯众智创9 小时前
当汉字成为心理CT:AI汉字联想投射分析的技术实现与心理评估价值
人工智能·ai心理健康·ai心理评估·本土化心理测评·校园心理健康解决方案·ai心理监测·多模态情绪模型
kyriewen9 小时前
豆包和千问同时关了智能体,我用它们搭的 3 个自动化全废了——迁移方案整理
前端·javascript·ai编程
Longvox9 小时前
Agent为什么会死循环?
人工智能·ai编程