AutoGen【部署 02】Linux环境安装部署AutoGenStudio并调用本地 qwen2.5:0.5b 大模型举例

Linux环境安装部署AutoGenStudio并调用本地大模型举例

  • 1.环境搭建
    • [1.1 创建虚拟环境](#1.1 创建虚拟环境)
    • [1.2 安装 AutoGenStudio](#1.2 安装 AutoGenStudio)
  • 2.配置本地大模型
    • [2.1 新增本地大模型](#2.1 新增本地大模型)
    • [2.2 使用本地大模型](#2.2 使用本地大模型)
  • [3. 总结](#3. 总结)

上次使用的是 Windows 部署的 AutoGenStudio,本次在 Linux 环境下进行一次安装测试,环境说明:

bash 复制代码
# 系统
NAME="openEuler"
VERSION="22.03 (LTS-SP3)"

# conda版本
conda 23.7.2

1.环境搭建

1.1 创建虚拟环境

Anaconda 的安装操作这里不再赘述,官网说明 AutoGen requires Python 3.10 or later 。

bash 复制代码
# 创建虚拟环境
conda create -n AutoGenStudio python=3.10

也可以直接安装 Python3.10 版本。

1.2 安装 AutoGenStudio

AutoGenStudio 的 GitHub 地址:https://github.com/microsoft/autogen/tree/main/python/packages/autogen-studio,使用 pip 进行安装:

bash 复制代码
# Install AutoGen Studio for no-code GUI
pip install -U "autogenstudio"
bash 复制代码
# 启动 Web Ui
autogenstudio ui --host xxx.xxx.x.xxx --port xxxx

2.配置本地大模型

2.1 新增本地大模型

启动 AutoGenStudio 后访问 Web Ui 界面,点击Gallery菜单,再点击 +Add Model按钮:

进入模型配置页面,这里要注意的是模型的名称要严格按照 ollama list获取的 NAME 进行填写:

bash 复制代码
# 查询命令
[root@localhost bin]# ./ollama list

# 查询结果举例
NAME                                  ID              SIZE      MODIFIED
qwen3:1.7b                            458ce03a2187    1.4 GB    8 months ago
qwen3:0.6b                            3bae9c93586b    522 MB    8 months ago
qwen2.5:0.5b                          a8b0c5157701    397 MB    9 months ago
qwen2.5:1.5b                          65ec06548149    986 MB    9 months ago

2.2 使用本地大模型

点击Team Builder菜单,再点击 Models就可以看到新增的本地大模型:

点击 + New Team新增 Team 后会生成默认的 Team 模版,将配置的本地大模型拖拽到 MODEL 下替换原有的模型,保存后,点击 Run按钮进行测试:

调用成功:

3. 总结

AutoGenStudio 无需安装 AutoGen 及其扩展就可以进行本地大模型的调用。

相关推荐
Lsetea7 小时前
OpenSSL报certificate is not yet valid:error 9与notBefore时间排查
linux·运维·https·ssl证书·openssl
魔法阵维护师7 小时前
Linux 命令行入门踩坑记录:从 VMware 装系统到文件管理
linux·运维·服务器
Apipi*7 小时前
30天速通Linux 第七章进程间通信
linux·运维·服务器
emo_2b7 小时前
Pycharm配置conda解释器时遇到的问题及解决方法
linux·pycharm·conda
人生百态,人生如梦8 小时前
Ubuntu在低版本下使用ccswitch+claudecode(CCSwitch+Docker+Claude)连调教程
linux·ubuntu·docker·claudecode·ccswitch
byte轻骑兵8 小时前
【BlueZ】hciconfig 工具:蓝牙适配器管理实操 + 源码实现基础
linux·bluez·电脑蓝牙·嵌入式蓝牙
SKH.8 小时前
Linux驱动-系统移植
linux·服务器
根目录下的猫8 小时前
虚拟机复制过来运行时:“虚拟机使用的此版本,VMware Workstation 不支持的硬件版本。”错误解决办法,亲测可用
linux·运维·服务器·后端
yunwei378 小时前
eBPF 入门实践教程十七:编写 eBPF 程序统计随机/顺序磁盘 I/O
linux·后端·性能优化
帷幕落秋9 小时前
内存、虚拟内存与 OOM
linux·运维