Amazon Bedrock 托管 Llama 3 8B&70B

Amazon Bedrock 托管 Llama 3 8B&70B,先来体验:(*实验环境账号有效期为1天,到期自动关停,请注意重要数据保护)

https://dev.amazoncloud.cn/experience/cloudlab?id=65fd86c7ca2a0d291be26068\&visitfrom=cloudblogger\&sc_medium=owned\&sc_campaign=cloudlab\&sc_channel=cloudblogger

自从Meta开源了Llama之后,现在网上几乎都是超越GPT的言论,除了各种托管平台以及开源自建之外,还有朋友在Obsidian里用上了这个:

本想着在Linux上部署一套的,后来发现Bedrock托管了这个大模型,这样我们就可以用极低的成本来运行这个了。

Github链接:

https://github.com/meta-llama/llama

Amazon Bedrock 托管 Llama 3 界面如下:

看起来知识库更新到22年12月,期待日后meta多多更新数据。

相关推荐
CClaris3 天前
大模型量化从0到1(九):用 llama.cpp 把模型转成 GGUF 并跑本地推理
人工智能·pytorch·python·深度学习·llama
染指11103 天前
56.llama_index-查询引擎
人工智能·llama·rag·llama_index·llamaindex
_codemonster3 天前
从零手搓大模型(七)GPT 转 Llama:从教学版 GPT 走向现代 LLM 架构
人工智能·gpt·大模型·llama
SLD_Allen4 天前
Purple Llama:Meta开源的LLM安全“紫队”工具箱
安全·开源·llama
俊俊谢4 天前
从零搭建:本地LangChain Agent调用远程LLaMA-Factory模型服务
langchain·llama
liming4954 天前
Ubuntu + Docker + NVIDIA 显卡 上部署 Ollama
llama
heroboyluck5 天前
AI工程师第四课 - 深度学习入门
人工智能·python·深度学习·llama
Token炼金师8 天前
引擎四强:vLLM、SGLang、TensorRT-LLM 与 llama.cpp —— 推理引擎选型对决
人工智能·llm·llama·vllm·tensorrt-llm·sglang
尼米棕熊9 天前
大模型学习8上-推理部署框架llama.cpp与Ollama使用指北
学习·llama
Day(AKA Elin)9 天前
【Day】MTP(Multi Token Prediction)技术学习
python·深度学习·学习·llama