ollama + autogen排雷

语法:<abc>代表参数,实际输入为具体的名字,不需要输入<>

注意:当前雷可能随着版本迭代更新掉

1、litellm -model ollama/<model>

启动后的url为:http://0.0.0.0:<port>,实际调用需要将"0.0.0.0"替换为"localhost",否则回报错误"oserror winerror 10049在其上下文中该请求的地址无效"

2、autogen.UserProxyAgent在非docker环境下,需要增加参数

复制代码
code_execution_config={"use_docker":False}

否则,会报错。前半句是问题,后半句是建议的解决方法,这里采用的是第二种

Code execution is set to be run in docker (default behaviour) but docker is not running. The options available are: - Make sure docker is running (advised approach for code execution) - Set "use_docker": False in code_execution_config - Set AUTOGEN_USE_DOCKER to "0/False/no" in your environment variables

相关推荐
曲幽8 小时前
我用FastAPI接ollama大模型,差点被asyncio整崩溃(附对话窗口实战)
python·fastapi·web·async·httpx·asyncio·ollama
曲幽1 天前
FastAPI + Ollama 实战:搭一个能查天气的AI助手
python·ai·lora·torch·fastapi·web·model·ollama·weatherapi
埃博拉酱1 天前
VS Code Remote SSH 连接 Windows 服务器卡在"下载 VS Code 服务器":prcdn DNS 解析失败的诊断与 BITS 断点续传
windows·ssh·visual studio code
唐宋元明清21882 天前
.NET 本地Db数据库-技术方案选型
windows·c#
加号32 天前
windows系统下mysql多源数据库同步部署
数据库·windows·mysql
tryCbest2 天前
Windows环境下配置pip镜像源
windows·pip
呉師傅2 天前
火狐浏览器报错配置文件缺失如何解决#操作技巧#
运维·网络·windows·电脑
百事牛科技2 天前
保护文档安全:PDF限制功能详解与实操
windows·pdf
一个人旅程~2 天前
如何用命令行把win10/win11设置为长期暂停更新?
linux·windows·经验分享·电脑
一个假的前端男2 天前
[特殊字符] Flutter 安装完整指南 Windows—— 2026最新版
windows·flutter