LlamaCoder：一款基于Llama 3.1 405B的全新开源AI编程助手

关注TechLead，复旦AI博士，分享AI领域全维度知识与研究。拥有10+年AI领域研究经验、复旦机器人智能实验室成员，国家级大学生赛事评审专家，发表多篇SCI核心期刊学术论文，上亿营收AI产品研发负责人。

在过去的几个月中，AI驱动的编程助手领域发生了一些令人难以置信的发展。诸如Claude Artifacts、Claude Dev 和 Cursor AI 等工具，帮助数千名开发者甚至非开发者在几分钟内构建网络应用，无需编写一行代码。

如今，Together AI 推出了一款名为 LlamaCoder 的全新AI编程助手，它能够通过文本描述生成完整的应用程序。

为什么LlamaCoder值得关注？它完全免费且开源。

什么是LlamaCoder？

LlamaCoder 是 Together AI 推出的一款开源网络应用，它基于Meta最新的开源4050亿参数语言模型 Llama 3.1 405B，通过文本提示生成完整的应用程序。

链接：https://github.com/Nutlope/llamacoder

Together AI 是一家位于旧金山的公司，专注于生成式人工智能（AI）。它为构建、训练和运行AI模型提供服务，包括私人数据处理和专用GPU集群。

Meta 的 Llama 3.1 是一组多语言大规模语言模型（LLM），提供8B、70B和405B三种规模的预训练和指令微调生成模型（文本输入/文本输出）。Llama 3.1 经过指令微调，特别适用于多语言对话场景，并且在许多行业基准测试中超越了许多现有的开源或闭源的聊天模型。

下图展示了Llama 3.1与GPT-4、GPT-4o和Claude 3.5 Sonnet等竞争对手的对比：

自发布以来，LlamaCoder仅在一个多月内就获得了超过3000个GitHub星标，数百名开发者克隆了其代码库，生成了超过20万个应用程序。

复制代码

"我们的愿景是将研究中的创新以最快的速度投入生产。基于我们领先的推理优化研究，Together 推理引擎利用了FlashAttention-3内核、基于RedPajama的自定义预测器以及市场上最准确的量化技术。"------El Mghari，Together AI负责开发者关系的软件工程师

LlamaCoder 如何工作？

你可以在这里免费试用LlamaCoder，链接：https://llamacoder.together.ai/

无需注册账号，你只需在提示框中描述你想要的应用并按下回车键即可。

你还可以更改模型，启用或禁用 Shadcn UI。

复制代码

•	模型选项：可以选择Llama 3.1 405B、Llama 3.1 70B或Gemma 2 27B。
•	Shadcn UI 是一个轻量级开源UI框架，帮助开发者创建自定义界面。建议启用该功能。

我们来试一个简单的例子。

复制代码

提示：为我构建一个简单的计算器应用

处理速度令人惊讶，这个例子只用了大约10秒钟就完成了。生成的代码会实时显示在仪表板左侧。

你可以点击右下角的 "Open in sandbox" 按钮，在CodeSandbox中打开应用程序。

这样你就可以根据需要进一步修改应用程序。

当然，你也可以让AI对应用进行调整。比如，我们可以通过下面的提示将计算器升级为支持科学计算的版本：

复制代码

提示：将计算器升级为支持复杂的科学计算

非常棒！你还可以将应用发布为公开访问。点击 "发布应用" 按钮，LlamaCoder会生成一个类似于 https://llamacoder.together.ai/share/SsXU8 的链接。

不过，目前似乎没有一个页面可以浏览所有通过LlamaCoder生成的公开共享的应用程序。

如果你想知道LlamaCoder与Claude的Artifacts的表现差异，我们可以用类似的提示测试一下。

复制代码

提示：为我构建一个支持科学计算的计算器应用

结果看起来非常相似，但我个人更喜欢用Claude AI构建的应用外观和手感。

LlamaCoder是开源的

如果你希望在本地运行LlamaCoder，可以先在HuggingFace下载模型权重:https://huggingface.co/meta-llama/Llama-3.1-405B/tree/main

LlamaCoder的技术栈如下：

复制代码

•	Meta的 Llama 3.1 405B 语言模型
•	Together AI 提供的大规模语言模型推理
•	Sandpack 用于代码沙盒
•	Next.js 应用路由和Tailwind CSS
•	Helicone 用于可观测性
•	Plausible 用于网站分析

要设置并运行LlamaCoder，只需从GitHub克隆项目，安装依赖项，并按照以下步骤运行：

复制代码

1.	克隆仓库：git clone https://github.com/Nutlope/llamacoder](https://github.com/Nutlope/llamacoder
2.	创建 .env 文件并添加你的 Together AI API密钥：TOGETHER_API_KEY=
3.	运行 npm install 和 npm run dev 来安装依赖项并在本地运行

你可以看到LlamaCoder在生成应用程序时的强大功能和高效表现。作为一款完全开源的AI编程助手，它为开发者提供了一个极具潜力的平台，能够极大地提高编程效率并拓展应用开发的可能性。