技术栈
kerasnlp
AI完全体
3 个月前
人工智能
·
lora
·
微调
·
nlp
·
大语言模型
·
gemma
·
kerasnlp
【AI小项目5】使用 KerasNLP 对 Gemma 模型进行 LoRA 微调
本项目使用 KerasNLP 对 Gemma 模型进行 LoRA 微调,为了快速验证微调的效果,仅在数据集的一个小子集上进行了一个周期的微调,并使用了较低的 LoRA 秩值。取得了显著的改进效果。