Amazon Bedrock 托管 Llama 3 8B&70B

Amazon Bedrock 托管 Llama 3 8B&70B,先来体验:(*实验环境账号有效期为1天,到期自动关停,请注意重要数据保护)

https://dev.amazoncloud.cn/experience/cloudlab?id=65fd86c7ca2a0d291be26068\&visitfrom=cloudblogger\&sc_medium=owned\&sc_campaign=cloudlab\&sc_channel=cloudblogger

自从Meta开源了Llama之后,现在网上几乎都是超越GPT的言论,除了各种托管平台以及开源自建之外,还有朋友在Obsidian里用上了这个:

本想着在Linux上部署一套的,后来发现Bedrock托管了这个大模型,这样我们就可以用极低的成本来运行这个了。

Github链接:

https://github.com/meta-llama/llama

Amazon Bedrock 托管 Llama 3 界面如下:

看起来知识库更新到22年12月,期待日后meta多多更新数据。

相关推荐
阡陌数智1 天前
Llama 4 MoE 架构深度拆解:交替稀疏专家设计与生产环境推理落地实战
架构·llama
论文复现现场1 天前
8卡4090能跑70B吗?Llama-2显存预算、QLoRA与通信瓶颈
人工智能·深度学习·分布式训练·llama·显存·qlora·算家云
Vd7H20A72 天前
Windows 下用 llama.cpp 运行 Qwen3.8-27B 并开启 512K 上下文 完全指南
windows·llama
jason.zeng@15022072 天前
(六)Prompt 优化
python·ai·langchain·prompt·ai编程·llama
jason.zeng@15022073 天前
(八)现有架构上新增一个通用Excel导出工具
python·架构·langchain·excel·llama
jason.zeng@15022073 天前
(九)多轮对话式新增维修记录实现方案
python·prompt·交互·llama
jason.zeng@15022073 天前
(五)多轮对话上下文,实现交互。
python·交互·llama
jason.zeng@15022073 天前
(十)分层架构的多文件工程
python·架构·prompt·交互·ai编程·llama
n112126 天前
4G 显存老显卡怎么跑模型:llama.cpp 加 GGUF 配置
llama·llama.cpp·本地大模型·gguf
打工仔折腾 AI6 天前
LLaMA 1 到 LLaMA 3 架构演进拆解:从 RoPE、GQA 到词表扩张
人工智能·后端·python·深度学习·langchain·llama