内网穿透实现公网访问自己搭建的Ollma架构的AI服务器

内网穿透实现公网访问自己搭建的Ollma架构的AI服务器

2024年5月9号我发布一个博文关于搭建本地AI服务器的博文\]\[https://blog.csdn.net/weixin_41905135/article/details/138588043?spm=1001.2014.3001.5501\],今天我们内网穿透实现从公网访问我的本地AI服务器,这样随时可以与外界的朋友一起分享我的免费的AI服务器。 我的系统是macOS Sonoma #### 1.1 本地安装配置cpolar macos安装cpolar可通过homebrew包管理器进行安装,无需手动下载安装包。 * 安装homebrew Homebrew是一款Mac OS下的套件管理工具,拥有安装、卸载、更新、查看、搜索等很多实用的功能。 ```shell /bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)" ``` Bash Copy * 通过Homebrew包管理器安装cpolar ```shell brew tap probezy/core && brew install cpolar ``` Bash Copy * token认证 登录[cpolar官网后台](https://dashboard.cpolar.com/auth),点击左侧的验证,查看自己的认证token,之后将token贴在命令行里 ```shell cpolar authtoken xxxxxxx ``` Bash Copy ![20221229152722](https://file.jishuzhan.net/article/1793826070416330754/7d759e616d42bf00b67b243b93be5ae8.webp) * 安装服务 ```shell sudo cpolar service install ``` Bash Copy * 启动服务 ```shell sudo cpolar service start ``` Bash Copy * 登录cpolar web UI管理界面 在浏览器上访问本地9200端口【http://127.0.0.1:9200/】,使用cpolar账号登录。 ![20221229153018](https://file.jishuzhan.net/article/1793826070416330754/a01ad0d6846ecf19788da8dc6ead8f80.webp) 登录成功后,点击左侧仪表盘的隧道管理------隧道列表,可以看到两条样例隧道(可自行编辑或者删减) * ssh隧道:指向本地22端口,tcp协议 * website隧道:指向本地8080端口,tcp协议 ![20221229173953](https://file.jishuzhan.net/article/1793826070416330754/0d165a6213ffe13865f7b6756fded78f.webp) #### 1.2 创建隧道 点击左侧仪表盘的隧道管理------创建隧道,我们来创建一条隧道,将在本地80端口下的web服务映射到公网: * 隧道名称:可自定义,注意不要与已有隧道名称重复 * 协议:http协议 * 本地地址:10084 * 域名类型:免费选择随机域名 * 地区:选择China Top 点击`创建` ![Screenshot 2024-05-23 at 14.43.32](https://file.jishuzhan.net/article/1793826070416330754/79e82e4ad0b845c2a817cd1dd8609c66.webp) 提示隧道创建成功后,页面自动跳转至隧道列表,可以看到刚刚创建成功的tunnel-1隧道,状态`active`,表示为正常在线,注意无需再次点击启动。 ![20221229153926](https://file.jishuzhan.net/article/1793826070416330754/93b2f2abf44c683176b6219b4309105c.webp) 点击左侧仪表盘的状态------在线隧道列表,可以看到tunnel-1隧道已经有生成了相应的公网地址,一个http协议,一个https协议(免去配置ssl证书的繁琐步骤),均可以访问到本地web服务,复制公网地址。 ![Screenshot 2024-05-23 at 14.46.52](https://file.jishuzhan.net/article/1793826070416330754/1df04670cb2a06766af59115457d7baa.webp) #### 1.3 测试访问公网地址 在浏览器上访问搭建的Ollama大模型AI服务器地址,测试访问成功,实现公网访问本地AI服务。 ![Screenshot 2024-05-23 at 14.48.55](https://file.jishuzhan.net/article/1793826070416330754/7327c709ce18ef22fbb4e82f3b2a64ed.webp) ### 2. 配置固定二级子域名 由于使用免费的cpolar所生成的公网地址为随机临时地址,24小时内会发生变化,对于需要长期访问的用户不是很方便。为此,我们可以为其配置一个容易记忆的固定二级子域名,同时提高带宽,实现更为流畅的访问。 > 注意需要将cpolar套餐升级至基础套餐或以上。 备注:本人没有升级套餐,感兴趣的可以自己选择。

相关推荐
破刺不会编程1 分钟前
linux线程互斥和同步
linux·运维·服务器·开发语言·网络
MUTA️9 分钟前
视觉语言模型在视觉任务上的研究综述
人工智能·深度学习·语言模型·多模态
吃不胖没烦恼15 分钟前
Docker 初学者需要了解的几个知识点 (五):建容器需要进一步了解的概念
运维·docker·容器
leaf_lucky18 分钟前
机器学习——互信息(超详细)
人工智能·机器学习
度假的小鱼19 分钟前
【源力觉醒 创作者计划】对比与实践:基于文心大模型 4.5 的 Ollama+CherryStudio 知识库搭建教程
人工智能·开源·文心大模型·知识库搭建
运维小杨24 分钟前
linux运维学习第十三周
运维·学习
新加坡内哥谈技术26 分钟前
谷歌正在美国测试一项基于机器学习的年龄识别技术
人工智能
图灵学术计算机论文辅导27 分钟前
1+1>2!特征融合如何让目标检测更懂 “场景”?
论文阅读·人工智能·经验分享·考研·机器学习·计算机视觉·目标跟踪
NeoFii36 分钟前
论文精读:Hallucination of Multimodal Large Language Model: A Survey
人工智能·多模态大模型·模型幻觉
三不原则1 小时前
自动化与配置管理工具 ——Puppet
运维·自动化·puppet