Amazon Bedrock 托管 Llama 3 8B&70B

Amazon Bedrock 托管 Llama 3 8B&70B,先来体验:(*实验环境账号有效期为1天,到期自动关停,请注意重要数据保护)

https://dev.amazoncloud.cn/experience/cloudlab?id=65fd86c7ca2a0d291be26068\&visitfrom=cloudblogger\&sc_medium=owned\&sc_campaign=cloudlab\&sc_channel=cloudblogger

自从Meta开源了Llama之后,现在网上几乎都是超越GPT的言论,除了各种托管平台以及开源自建之外,还有朋友在Obsidian里用上了这个:

本想着在Linux上部署一套的,后来发现Bedrock托管了这个大模型,这样我们就可以用极低的成本来运行这个了。

Github链接:

https://github.com/meta-llama/llama

Amazon Bedrock 托管 Llama 3 界面如下:

看起来知识库更新到22年12月,期待日后meta多多更新数据。

相关推荐
AI小百科10 天前
llama.cpp vs vLLM:深度解析与选型指南
llama·vllm
下班走回家11 天前
本地部署大模型的三种方式:Ollama vs vLLM vs llama.cpp
人工智能·llama·vllm
zhy2956314 天前
【DNN】基于llama.cpp的Qwen3-0.6B量化部署微调
人工智能·lora·dnn·llama·qwen3
kuokay15 天前
MLOps 与 AIOps 的核心概
人工智能·分布式·大模型·agent·llama
Trouville0115 天前
windows系统使用llama.cpp进行本地大模型部署
llama
棒棒的唐15 天前
windows 直接安装llama.cpp的方法
llama
troubles maker16 天前
LLaMA-Adapter V2: Parameter-Efficient Visual Instruction Model
llm·nlp·llama·多模态
xyz_CDragon16 天前
把旧电脑变成AI算力:llama.cpp RPC 局域网分布式推理验证与实战
人工智能·分布式·python·rpc·llama
wengad16 天前
llama.cpp进行模型格式转换和量化
llama