内网穿透实现公网访问自己搭建的Ollma架构的AI服务器

内网穿透实现公网访问自己搭建的Ollma架构的AI服务器

2024年5月9号我发布一个博文关于搭建本地AI服务器的博文https://blog.csdn.net/weixin_41905135/article/details/138588043?spm=1001.2014.3001.5501,今天我们内网穿透实现从公网访问我的本地AI服务器,这样随时可以与外界的朋友一起分享我的免费的AI服务器。

我的系统是macOS Sonoma

1.1 本地安装配置cpolar

macos安装cpolar可通过homebrew包管理器进行安装,无需手动下载安装包。

  • 安装homebrew

Homebrew是一款Mac OS下的套件管理工具,拥有安装、卸载、更新、查看、搜索等很多实用的功能。

shell 复制代码
/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"

Bash

Copy

  • 通过Homebrew包管理器安装cpolar
shell 复制代码
brew tap probezy/core && brew install cpolar

Bash

Copy

  • token认证

登录cpolar官网后台,点击左侧的验证,查看自己的认证token,之后将token贴在命令行里

shell 复制代码
cpolar authtoken xxxxxxx

Bash

Copy

  • 安装服务
shell 复制代码
sudo cpolar service install

Bash

Copy

  • 启动服务
shell 复制代码
sudo cpolar service start

Bash

Copy

  • 登录cpolar web UI管理界面

在浏览器上访问本地9200端口【http://127.0.0.1:9200/】,使用cpolar账号登录。

登录成功后,点击左侧仪表盘的隧道管理------隧道列表,可以看到两条样例隧道(可自行编辑或者删减)

  • ssh隧道:指向本地22端口,tcp协议
  • website隧道:指向本地8080端口,tcp协议

1.2 创建隧道

点击左侧仪表盘的隧道管理------创建隧道,我们来创建一条隧道,将在本地80端口下的web服务映射到公网:

  • 隧道名称:可自定义,注意不要与已有隧道名称重复
  • 协议:http协议
  • 本地地址:10084
  • 域名类型:免费选择随机域名
  • 地区:选择China Top

点击创建

提示隧道创建成功后,页面自动跳转至隧道列表,可以看到刚刚创建成功的tunnel-1隧道,状态active,表示为正常在线,注意无需再次点击启动。

点击左侧仪表盘的状态------在线隧道列表,可以看到tunnel-1隧道已经有生成了相应的公网地址,一个http协议,一个https协议(免去配置ssl证书的繁琐步骤),均可以访问到本地web服务,复制公网地址。

1.3 测试访问公网地址

在浏览器上访问搭建的Ollama大模型AI服务器地址,测试访问成功,实现公网访问本地AI服务。

2. 配置固定二级子域名

由于使用免费的cpolar所生成的公网地址为随机临时地址,24小时内会发生变化,对于需要长期访问的用户不是很方便。为此,我们可以为其配置一个容易记忆的固定二级子域名,同时提高带宽,实现更为流畅的访问。

注意需要将cpolar套餐升级至基础套餐或以上。

备注:本人没有升级套餐,感兴趣的可以自己选择。

相关推荐
oort1236 小时前
吃上了自家的细糠,还挺丝滑,用起来手感还行,OortCloud发布新版AI编程平台,下载 OortCodex,Token多,免费薅
大数据·开发语言·人工智能·ai编程
AI小码7 小时前
把动作「画」给视频世界模型,跨本体双向推演,李飞飞参与
大数据·人工智能·算法·ai·大模型·音视频·编程
AI多Agent协作实战派7 小时前
AI多Agent协作系统实战(二十三):Agent读HEARTBEAT.md不读AGENTS.md——openclaw的文件加载之谜
前端·数据库·人工智能·uni-app
爱研究的小梁7 小时前
乾元通聚合路由及管理平台支持全面适配信创
网络·人工智能·信息与通信
水如烟7 小时前
孤能子视角:智能系统的持续学习——从关系场存续到模块化生长
人工智能
做一个码农都是奢望7 小时前
0722 LLM及其科研进展
人工智能
饼饼学习空间智能7 小时前
2026数字孪生国产化进入“交付验证期”:五类头部企业能力与项目选型分析
人工智能
海兰8 小时前
【高速缓存】RedisVL为文本生成嵌入向量实践指南
人工智能·python·机器学习
user-猴子8 小时前
让网页“活”过来 —— 用AI打造会自主学习的动态知识图谱
人工智能·学习·知识图谱
苦瓜小生8 小时前
AI名词大扫盲!最全的面试ai名词集合
人工智能·面试