ollama + autogen排雷

语法:<abc>代表参数,实际输入为具体的名字,不需要输入<>

注意:当前雷可能随着版本迭代更新掉

1、litellm -model ollama/<model>

启动后的url为:http://0.0.0.0:<port>,实际调用需要将"0.0.0.0"替换为"localhost",否则回报错误"oserror winerror 10049在其上下文中该请求的地址无效"

2、autogen.UserProxyAgent在非docker环境下,需要增加参数

复制代码
code_execution_config={"use_docker":False}

否则,会报错。前半句是问题,后半句是建议的解决方法,这里采用的是第二种

Code execution is set to be run in docker (default behaviour) but docker is not running. The options available are: - Make sure docker is running (advised approach for code execution) - Set "use_docker": False in code_execution_config - Set AUTOGEN_USE_DOCKER to "0/False/no" in your environment variables

相关推荐
AI大模型15 小时前
基于 Ollama 本地 LLM 大语言模型实现 ChatGPT AI 聊天系统
程序员·llm·ollama
北十南16 小时前
SODA自然美颜相机(甜盐相机国际版) v9.3.0
android·windows·数码相机
nbsaas-boot16 小时前
用 FreeMarker 动态构造 SQL 实现数据透视分析
数据库·windows·sql·freemarker·数据报表
weixin_4462608517 小时前
windows下hashcat使用gpu破解execl打开密码
windows
Evaporator Core1 天前
Windows批处理脚本自动合并当前目录下由You-get下载的未合并的音视频文件
windows·音视频
十五年专注C++开发1 天前
CMake进阶: externalproject_add用于在构建阶段下载、配置、构建和安装外部项目
linux·c++·windows·cmake·自动化构建
guidovans2 天前
基于tkinter开发电脑工具集(源码在底部)
linux·windows·python·gui·tkinter
ayaya_mana2 天前
Notepad--:国产跨平台文本编辑器,Notepad++ 的理想替代方案
linux·windows·macos·编辑器·notepad·notepad--
昏睡红猹2 天前
如何正确使用SetThreadExecutionState来阻止Windows进入睡眠
windows
霖003 天前
FPGA的PS基础1
数据结构·人工智能·windows·git·算法·fpga开发