如何设置Ollama可以让其它机器远程访问它的服务?

比如Ollama当前地址是192.168.0.98 ,在本地可以用127.0.0.1:11434 连访问,但是远程的其它服务器连不上,浏览器打不开这个地址网页。同样用curl也打不开,这样不需要在AI Agent软件里测试,就知道其服务不可用。

其实这是一个不是问题的问题,因为只要像下面那样,到Ollama的配置里面处理一下就行了。

之所以单独拿出来记录,是因为还需要穿过NAT路由器,这样实践的时候就颇废了一些周折。

配置Ollama

针对Windows系统,打开Ollama,进入Settings配置:

打开"Expose Ollama to the network"选项,并save

这时候再本地打开网页,ok

复制代码
Ollama is running

但是现在本机可以,远程还是不行。对很多人来说,其实这时候应该远程已经能访问了。

防火墙配置

如果不能访问,这时候就可以看下本机的防火墙配置。

查看Ollama的端口是否放开:

不明白为什么有两个Ollama.exe,一个打开了Private,一个打开了Public。于是把它们都打开。理论上这样做就应该能访问了。

检查网络配置

很不巧,配置完防火墙,还是不行。 这里跨了一个NAT路由器,而且是外网想访问内网,所以用了Easytier组网,组网参考:https://skywalk.blog.csdn.net/article/details/149661717

后来检查网络配置,发现是easytier的网卡ip地址配置错了。没有把网卡设为同一网段。Ollama放在了10.1.2网段,而客户端放在了10.1.20网段,两个网段不在同一网段,所以无法连通。这里是废了很大周折才发现,因为一开始根本没有往这方面想。根本原因是客户端那边配置的时候大意敲错了,当时没能及时发现错误并修改。

重新配置成同一网段,终于ok了。

(这里跨了一个NAT路由器,而且是外网想访问内网,所以用了Easytier组网,组网参考:https://skywalk.blog.csdn.net/article/details/149661717

测试一下:

复制代码
curl 10.1.2.98:11434

输出

复制代码
skywalk@ub19:~$ curl 10.1.2.98:11434
Ollama is runnings

证明可以跨nat路由器访问了!

相关推荐
星恒讯工业路由器2 天前
网络安全访问控制规则详解
网络·安全·智能路由器·访问控制·防火墙规则·工业网络安全
hongmai6668884 天前
ESP8684-WROOM-02C:一块被低估的RISC-V Wi-Fi模组
单片机·嵌入式硬件·物联网·5g·智能路由器·risc-v
zbtlink4 天前
5G CPE 路由器出口认证全指南
网络·智能路由器
k4m7v2pz5 天前
16GB Mac 本地跑大模型:ollama 局域网 OpenAI 兼容 API 实战(一:需求与配置)
llm·openai·api·mac·ollama·本地·atomcode
袁小皮皮不皮5 天前
11.HCIP IS-IS协议基础知识
服务器·网络·笔记·网络协议·智能路由器
A_humble_scholar5 天前
Linux网络基础(一):从计算机组成、操作系统到Socket
智能路由器
元Y亨H6 天前
大模型技术 Ollama 概述
llm·ollama
zbtlink7 天前
给自动售货机配的那台WiFi6路由器,它用上了吗
网络·智能路由器
爱刷碗的苏泓舒7 天前
网络通信入门:交换机、路由器与防火墙的角色、关系、功能和使用场景
网络·智能路由器·网络通信·防火墙·交换机
hongmai6668889 天前
ESP32-C5-WROOM-1-N16R8:双频Wi-Fi 6与多协议融合,重新定义物联网连接新标准
笔记·嵌入式硬件·物联网·智能路由器·risc-v