localai

长路 ㅤ   7 天前
localai·qwen3-awq量化模型·xinference部署·langchain4j集成
Qwen-Agent 开源项目理解学习博主介绍:✌目前全网粉丝4W+,csdn博客专家、Java领域优质创作者,博客之星、阿里云平台优质作者、专注于Java后端技术领域。
java_logo2 个月前
docker·容器·eureka·localai·docker部署localai·localai部署教程·localai部署文档
LocalAI Docker 容器化部署指南LocalAI 是一款免费开源的OpenAI替代方案,作为兼容OpenAI API规范的REST API服务,它允许用户在本地或企业内部环境中运行大型语言模型(LLMs)、生成图像和音频等AI功能。该项目无需GPU支持,可在消费级硬件上运行,支持多种模型家族,为开发者和企业提供了本地化AI推理的灵活解决方案。
不正经写文章的我2 年前
云原生·grafana·localai·k8sgpt·ai原生·promethues
K8sGPT 的使用k8sgpt 是一个扫描 Kubernetes 集群、诊断和分类问题的工具。它将 SRE 经验编入其分析器中,并帮助提取最相关的信息,通过人工智能来丰富它。它还可以与 OpenAI、Azure、Cohere、Amazon Bedrock 和本地模型结合使用。 K8sGPT Github 地址
不正经写文章的我2 年前
macos·chatgpt·openai·local·localai
LocalAI 部署(主要针对 mac m2 启动)LocalAI 是免费的开源 OpenAI 替代方案。 LocalAI 充当 REST API 的直接替代品,与本地推理的 OpenAI API 规范兼容。 它无需 GPU,还有多种用途集成,允许您使用消费级硬件在本地或本地运行 LLM、生成图像、音频等等,支持多个模型系列。
我是有底线的