ollama + autogen排雷

语法:<abc>代表参数,实际输入为具体的名字,不需要输入<>

注意:当前雷可能随着版本迭代更新掉

1、litellm -model ollama/<model>

启动后的url为:http://0.0.0.0:<port>,实际调用需要将"0.0.0.0"替换为"localhost",否则回报错误"oserror winerror 10049在其上下文中该请求的地址无效"

2、autogen.UserProxyAgent在非docker环境下,需要增加参数

复制代码
code_execution_config={"use_docker":False}

否则,会报错。前半句是问题,后半句是建议的解决方法,这里采用的是第二种

Code execution is set to be run in docker (default behaviour) but docker is not running. The options available are: - Make sure docker is running (advised approach for code execution) - Set "use_docker": False in code_execution_config - Set AUTOGEN_USE_DOCKER to "0/False/no" in your environment variables

相关推荐
liwulin05062 小时前
【ollama】自定义结构化输出
linux·前端·数据库·ollama
光年像素4 小时前
Windows Win+R 运行框常用快捷命令大全
windows
寒水馨6 小时前
Windows下载、安装ollama-v0.32.1(附安装包OllamaSetup.exe)
windows·llm·大语言模型·llama·本地部署·ollama·模型运行
曾阿伦6 小时前
Windows 下运行 Hadoop 并部署到 AWS EMR 指南
hadoop·windows·aws
小飞侠在吗6 小时前
【MySQL 排错】Navicat 连接 localhost 报 2002 (10061) 完整排查记录(Windows + MySQL 8.4 用户模式)
windows·mysql·adb
gerrywhu7 小时前
【产品研发】基于本地OCR大模型文书自动生成软件开发
ollama·本地部署大模型·离线部署·ocr大模型·paddleocr-vl·glm-ocr·文档自动生成
王维同学8 小时前
[原创][Windows C++]Explorer Shell 扩展、图标覆盖与 COM 服务器定位
c++·windows·注册表
广州灵眸科技有限公司18 小时前
xfce桌面触摸校准:基于灵眸科技EASY-EAl-Orin-Nano
数据库·windows·科技
Ctrl+Z侠1 天前
.NET WebApi Windows / Linux Docker 全链路压测与瓶颈定位 0 到 1 教程
linux·windows·.net
王维同学1 天前
[原创][Windows C++]LSA 认证、安全与通知包的注册表枚举
c++·windows·安全