测试:ollama加载羊驼版本llama-3中文大模型

找了一个晚上各种模型,像极了当初找各种操作系统的镜像,雨林木风,深蓝、老毛桃......

主要是官方的默认7B版本回答好多英文,而且回复的很慢,所以我是在ollama上搜索"chinese"找到了这个羊驼版本的,

复制代码
ollama run lgkt/llama3-chinese-alpaca

等大概10分钟左右;

反应的速度还挺快的。

但是测试下来不尽人意啊:

资源地址:

https://ollama.com/lgkt/llama3-chinese-alpacaGet up and running with large language models.https://ollama.com/lgkt/llama3-chinese-alpacaGitHub - ymcui/Chinese-LLaMA-Alpaca-3: 中文羊驼大模型三期项目 (Chinese Llama-3 LLMs) developed from Meta Llama 3中文羊驼大模型三期项目 (Chinese Llama-3 LLMs) developed from Meta Llama 3 - ymcui/Chinese-LLaMA-Alpaca-3https://github.com/ymcui/Chinese-LLaMA-Alpaca-3/tree/main

相关推荐
程序员与背包客_CoderZ4 天前
C/C++版LLM推理框架Llama.cpp——入门与编码实战
c语言·开发语言·网络·c++·人工智能·语言模型·llama
java_logo5 天前
LOBE-CHAT Docker 容器化部署指南
运维·docker·语言模型·容器·llama
AI大模型6 天前
手把手教你用LlamaIndex搭建RAG系统,让LLM告别“幻觉”,提升回答质量!
llm·agent·llama
开发者导航14 天前
【开发者导航】轻量可微调且开源的大语言模型家族:LLaMA
语言模型·开源·llama
缘友一世14 天前
借助LLama_Factory工具对大模型进行lora微调
llama
illuspas16 天前
MI50运算卡使用llama.cpp的ROCm后端运行Qwen3-Coder-30B-A3B的速度测试
人工智能·llama
herogus丶16 天前
【LLM】LLaMA-Factory 训练模型入门指南
python·ai编程·llama
illuspas16 天前
MI50运算卡使用llama.cpp的ROCm后端运行gpt-oss-20b的速度测试
人工智能·gpt·llama
谏书稀16 天前
LLaMA Factory微调大模型
python·transformer·llama
菠菠萝宝17 天前
【AI应用探索】-7- LLaMA-Factory微调模型
人工智能·深度学习·大模型·llm·nlp·attention·llama