技术栈
企业级ai产品
Raas100
16 天前
人工智能
·
gateway
·
mai gateway
·
企业级ai产品
MAI Gateway实战部署:AI网关私有化部署?从0到1上手指南
私有化部署和公有云场景的最大区别是:公有云你从外部拉镜像就行,私有化很多时候要离线。这是我们公司上周做的一次私有化部署。客户是个金融机构,内网完全隔离,不能访问公网,要求用达梦数据库。整个部署过程跟之前的公有云部署差别很大,写下来做个记录。
Raas100
20 天前
java
·
开发语言
·
人工智能
·
gateway
·
ai网关
·
企业级ai网关
·
企业级ai产品
AI网关部署方案?从部署到上线全流程
部署完、跑通了,不代表能上线。我们公司上次从"网关跑通"到"正式生产环境切流",中间隔了差不多两周。中间做了环境隔离、压测、灰度、回滚预案、监控配置这些事。
Raas100
20 天前
人工智能
·
开源
·
gateway
·
mai gateway
·
企业级ai产品
AI网关怎么部署?MAI Gateway部署实操教程
很多朋友在选型阶段就问部署的事。这是能理解的——选产品之前先摸清楚部署难不难、要多少资源、会不会卡住。
Raas100
24 天前
大数据
·
人工智能
·
gateway
·
ai网关
·
企业级ai网关
·
企业级ai产品
MAI Gateway选购攻略:开源AI网关有哪些?避坑指南与对比
去年一年,我们公司在大模型API上花了近百万。今年老板给了个任务:用量可以涨,但费用要降20%。接到这个任务,我第一反应是:怎么降。砍用量肯定不行,现在各部门用量还在涨。那只能从成本优化入手了。
我是有底线的