15天学会AI应用开发(一)搭建AI大模型应用开发环境

AI大模型时代来了,程序员们纷纷入坑AI应用开发,可是苦于AI教程良莠不齐,往往花费了大量时间精力和金钱,却仍然过其门而不入。

有鉴于此,博主开始连载AI应用开发教程《15天学会AI应用开发》,帮助大家快速掌握AI应用开发技能,不掉坑、不迷路、有收获。

一、学习AI应用开发的四大困难

在入坑AI应用开发之时,孤立无援的开发者面对着下列四个拦路虎:

1、个人电脑跑不动AI大模型应用。众所周知,大模型很吃CPU和内存,推理过程又需要GPU,可是个人电脑哪有那么高端的配置呢?

2、AI开发环境的软件版本兼容性。多数AI应用基于Python开发环境,但Python版本过低或者过高都会导致依赖的AI库无法正常运行。

3、在线AI大模型的Token高消耗。AI应用只是个外壳,核心的推理功能需要调用大模型,但在线大模型的Token消耗很快,初学者无法承受快速上涨的账单。

4、AI课程大纲用到很多专业词汇。许多AI课程一上来就是各种专业词汇,例如LLM、Prompt、RAG、Langchain、Graph、Vector、LIamaIndex、Agent、Workflow、LangGraph、Tansformer、Hugging等等,既烧脑又吓人,让人战战兢兢、如履薄冰。

这四个拦路虎看着可怕,实际上都是纸老虎,只要掌握了正确的学习姿势,就能轻轻松松打败它们,且待博主细细道来。

二、个人电脑也能跑AI大模型应用

对于初学者而言,既不需要在本地电脑部署大模型,也不需要部署开源框架全家桶,只要能跑通AI应用的基本流程就行。

所以个人电脑应付基础的AI应用开发已经足够,内存仅需8-16G,也不要GPU,就跟平常使用IDEA开发Java程序一样,无需担心电脑配置带不动AI应用。

三、安装好指定版本的AI开发环境

AI开发环境的Python版本首选Python 3.10.x,该版本兼容所有 AI 库(torch、llama-index、langchain、langgraph、ollama),也没有新版本的奇怪Bug。Python 3.11.x也可以,但3.10 更稳。至于Python 3.8、3.9、3.12、3.13等等就不考虑了,因为这些版本不兼容很多AI库,经常各种报错。

Python 3.10.11(Windows 64 位)的下载页面为 https://www.python.org/downloads/release/python-31011/ ,也可直接访问博主提供的下载链接 https://www.alipan.com/s/sLDCxCjF3A9 。安装时Python时注意一定要勾选"Add Python to PATH"。

Python代码的开发工具PyCharm可以选择社区版的PyCharm 2024.1 / 2023.3 / 2022.2 ,PyCharm版本过低会不支持Python 3.10,版本过高会很消耗电脑资源。

PyCharm的下载页面为 https://www.jetbrains.com/pycharm/download/?section=windows ,也可直接访问博主提供的下载链接 https://www.alipan.com/s/nZ6eXAzA4Jo ,注意该链接为Windows版本。

AI应用在加载离线大模型时用到了 Ollama ,它的安装包比较大,有1.8G左右,AI应用的智能体开发必须安装Ollama。

Ollama的下载页面为 https://ollama.com/download ,但外网速度较慢下载很耗时,建议访问博主提供的下载链接 https://www.alipan.com/s/gkea9rqEDTU 。

四、全部采用离线大模型,零Token

网上许多AI应用代码要么直连外网大模型,要么连接国内大模型。可是外网的网络情况很不稳定,部分外网服务甚至禁止国内IP访问。国内的在线大模型只提供有限的Token,多问几个问题很容易就用光了,于是超额的Token要另外付费,学不起根本学不起。

本教程的AI应用代码全部采用离线大模型,开发者只需根据说明提前把大模型文件下载到本地,后续就能直接调用电脑上的离线大模型,不用付费完全零Token,可有效降低初学者的学习成本。

五、直接上可运行、有问答交互的代码

AI应用开发确实引入了很多概念和专业术语,如果一上来就对初学者介绍各种概念是什么,容易让人云里雾里发呆发懵。

倒不如先把代码跑起来,以寥寥数行的极简代码观察运行结果,通过实际效果来解释相关概念,让人更明白每个概念都是干什么用的,真正做到借助极简代码来理解概念,再代码编写中熟悉概念。

尤其是可运行、有问答交互的代码,开发者输入各种问题,可以直观地看到AI的问答效果,就能在实战中发现问题并逐步调优,一步一步掌握AI应用从初级到高级的开发技能。

本系列的AI应用开发文章目录为《15天学会AI应用开发全目录(零基础小白,零Token消耗)》。

相关推荐
ndz1 小时前
PixVerse 768 个官方特效模板:Playground 预览,再用 API 批量出视频
ai编程
岁月宁静2 小时前
五、《从零手撸 Agent》 — 什么是 Agent:从“会聊天”到“会做事”,差的就是一个循环
python·agent
梯度下降者3 小时前
Python - 函数
python·高阶函数·可调用对象·functools·嵌套作用域
forest_093 小时前
《AI 编程 Harness 实战手册》04|审批这道门:点了一百次“允许”,还剩多少作用?
人工智能·算法·prompt·agi
LV技术派4 小时前
肝了一周,我把 Super Agent 的架构融入到了我的 AI Native 工作台中
aigc·ai编程
火山引擎开发者社区4 小时前
当 RPA 遇上 Agent:MUA 混合执行 Workflow 深度拆解
人工智能
严肃小白兔5 小时前
第 10/24 期:深度神经网络的自动求导机制与梯度验证
人工智能·神经网络·dnn
火山引擎开发者社区5 小时前
定档12.16-12.18!FORCE原动力大会上海见!
人工智能
starzy19905 小时前
深入理解Scala隐式参数:上下文流转
开发语言·python·scala