技术栈

kerasnlp

AI完全体
8 个月前
人工智能·lora·微调·nlp·大语言模型·gemma·kerasnlp
【AI小项目5】使用 KerasNLP 对 Gemma 模型进行 LoRA 微调本项目使用 KerasNLP 对 Gemma 模型进行 LoRA 微调,为了快速验证微调的效果,仅在数据集的一个小子集上进行了一个周期的微调,并使用了较低的 LoRA 秩值。取得了显著的改进效果。