Alexon是一个旨在快速部署WEB应用服务到分布式系统中的工具,适用于云原生环境。 Alexon由SymeCloud Limited(syme.dev) 发布,使用GNU Guile编写而成,支持函数编程概念。
SymeCloud 公司主要致力于 AI-Infra 方面的研发,从 OpenAI 泄露出的技术架构来看,基于大语言模型的推理产品的主要工程难度在于部署。产品级 LLM 并不是简单地跑个单节点,而是有复杂的架构划分与数据流优化组合,这使得原本就复杂的云原生体系在LLM领域将面对更加高复杂度的挑战。Alexon 的目标就是利用函数式编程的特性和模板系统为LLM推理系统的快速试错和部署尽可能降低复杂度,为后续的系统研究铺平道路。
Alexon 将为您处理 Kubernetes、DNS、负载平衡和所有复杂问题,使您无需接受大量培训即可使您的项目转向云原生,这样您就可以花更多的时间开发您的产品并改善用户体验。
使用Alexon无需花费大量时间来配置 Kubernetes或K3S 组件,只需要编写一个manifest文件并应用它即可。
运行一个博客系统:
1 编写Application manifest
apiVersion: syme.dev/alexon/app/v1-alpha
kind: Application
name: my-blog
port: 8080
nodes:
nodeFile:
path: /etc/alexon/templates/colt.yaml
2 编写Worker-Node manifest
apiVersion: syme.dev/alexon/worker/v1-alpha
kind: Worker
cluster: colt
nodeDef:
name: colt
image: registry.gitlab.com/nalaginrut/colt:latest
workdir: /colt
cmd: art work --refresh
ports:
- name: http
bind: 3000:3000
3 alexon app create my-app.yaml 并 在浏览器中访问Worker-Node的8080端口
Alexon扮演了一个由Kubernetes、Docker、Nginx、CoreDNS等众多组件组成的"雇佣兵团"的领导者角色。Alexon 提供了用于部署和管理容器化应用程序的简化解决方案,旨在简化在分布式环境中构建和部署应用程序的过程,并基于微服务架构,可轻松扩展和高可用性。推荐使用docker来部署Alexon。
docker run -it --rm \
-v $PWD:/alexon \
-v /var/run/docker.sock:/var/run/docker.sock \
registry.gitlab.com/symecloud/alexon:latest \
"$@"