【环境配置】mac安装ollama 调用大模型进行调试
官方文档地址
https://docs.ollama.com/quickstart#python
软件安装
直接根据电脑系统下载安装即可;
模型下载
根据你需要的模型名称,去ollama的模型网站https://ollama.com/search
中搜索对应的名字:例如 qwen2.5-7b-instruct
发现都是社区提供的,于是搜索qwen2.5可以找到相对正式的文件夹如下:

进入后会出现一些预览模型,点击view all可以显示所有的模型,包括对应的量化版本:


根据文件名下载,首先创建一个用于下载的文件夹,然后再这个文件夹的路径下使用下载命令即可:
代码参考:https://docs.ollama.com/quickstart#python
python
mkdir ollama_model
cd ollama_model
ollama pull qwen2.5:7b
ollama pull qwen2.5:7b-instruct

这样做完成之后会发现,文件夹中并没有模型的名字,这是因为模型的默认下载路径为根路径下的.ollama/models文件中,具体的模型的文件夹层次还要深一点。
模型调用
咱找官方的命令下载好模型之后,ollama界面会自动加载已经下载好的模型,就可以通过界面直接选用模型进行使用了:
