本文较长,建议点赞收藏。更多AI大模型应用开发学习视频及资料,在这里。
从今天开始,作者介绍一系列AI Agent(智能体)的开发或部署。需要的基础只是要对Python有个大概的了解,几乎是从0开始实践。涉及到的代码都会比较简单,一般不会超过50行。
一、Agent简介
AI Agent简称Agent,以其自主规划、自主执行、自主反馈的特点有别于大模型本身。换句话说,Agent像是人类的替身,自己可以思考问题的解决思路,遇到难题自己想办法解决,人类下达命令,Agent给出最终的成果,中间的过程无论迭代多少次,都是靠Agent自行脑补。
二、依赖环境
Agent的能力来自于大模型的内容生成和Agent中的思考框架(一堆精心设计的提示词),依赖的环境只有大模型和运行Python的虚拟化工具。关于大模型,既然是零基础,就不用GPU部署模型,那种相对麻烦一些,我们先用Ollama部署,这样就简单得多,只不过精度低,效果一般,但作为学习的目的是足够的,重要的是直接在Windows上就能装。另外就是Python一般不装到操作系统上,而是要用虚拟化工具,比较简便的是Anaconda的精简版Miniconda。
三、环境安装
1、Ollama
从官网下载,或从作者运营的下载都可以,下载后安装即可。安装完成后,可以用以下命令启动模型:
arduino
ollama run qwen
qwen(千问)是模型名称,可选择的模型在ollama.com查看,各种模型看起来极多,但实际上可选的并不多,因为Agent对大模型有要求,要支持Function-Calling,qwen是为数不多的几个支持此特性的模型。
这里有个小技巧,我们会发现安装进度到90%以后特别慢,可能是Ollama网站的限速算法问题,可以中断后再试,就会快起来。
Ollama运行的模型可以是交互式的,直接在命令行可以提问来测试,如图:

2、Miniconda
从下载。

下载安装后,将安装目录的Scripts目录加到操作系统的环境变量中,以便于在命令行用以下命令测试时能搜索到conda.exe。
conda -V
至此,环境安装完成。
学习资源推荐
如果你想更深入地学习大模型,以下是一些非常有价值的学习资源,这些资源将帮助你从不同角度学习大模型,提升你的实践能力。
本文较长,建议点赞收藏。更多AI大模型应用开发学习视频及资料,在这里。