技术栈
minimind
changzz2008
7 小时前
llm
·
大语言模型
·
minimind
·
低配置
低配置电脑预训练minimind的实践
minimind是一个轻量级的LLM大语言模型，项目的初衷是拉低LLM的学习门槛，让每个人都能从理解每一行代码开始， 从零开始亲手训练一个极小的语言模型。对于很多初学者而言，电脑配置仅能够满足日常工作，为了学习大预言模型，特别是在入门和学习基本原理阶段，用低配置的电脑能不能进行minimind模型的预训练呢？答案是可以，下面笔者一步一步来展示预训练的过程。
狂奔solar
1 个月前
大模型
·
minimind
Minimind 训练一个自己专属语言模型
发现了一个宝藏项目， 宣传是完全从0开始，仅用3块钱成本 + 2小时！即可训练出仅为25.8M的超小语言模型MiniMind，最小版本体积是 GPT-3 的 17000，做到最普通的个人GPU也可快速训练
伊织code
4 个月前
人工智能
·
语言模型
·
自然语言处理
·
训练
·
minimind
MiniMind - 从0训练语言模型
《AI 技术资讯分享》扫码入群：https://www.yuque.com/yizhi-lentn/zctmmg/xpamt1qpp2xv8q8b