大型语言模型微调 新进展-4篇 论文

1. Brevity is the soul of wit: Pruning long files for code generation

本研究针对大型语言模型的代码生成任务中的数据清理问题进行了探索。研究发现,仅仅剔除过长的代码文件就能显著提高模型训练的效率和性能,甚至优于基于嵌入(embedding)的复杂方法。这种方法不仅能在训练效率上带来两倍的提升,在HumanEval上的表现也提高了3.5%。然而,这也可能导致模型处理长代码文件时的困惑度增加,从而引发关于代码生成模型评估方法的思考。

2. InverseCoder: Unleashing the Power of Instruction-Tuned Code LLMs with Inverse-Instruct

本文介绍了一种名为 INVERSE-INSTRUCT 的方法,该方法通过利用代码本身来生成指令,从而进一步提升了指令微调的代码大型语言模型的能力。基于一个核心观察:将代码(形式语言)翻译成自然语言(非形式语言)比反向操作更为容易。INVERSE-INSTRUCT 利用代码大型语言模型生成代码片段的摘要,从而生成高质量的指令。通过结合原始数据集与自动生成的指令,该方法能够有效提升代码大型语言模型指令微调后的性能,在多个代码生成任务中取得了超越现有模型的成绩。

3. Curriculum Learning for Small Code Language Models

本文发现课程学习能够显著提高小型代码语言模型在代码执行任务上的准确率,尽管它对代码补全的影响并不显著。研究人员提出了一种新的代码难度评估指标,并设计了一种新的课程学习时间表,证明了课程学习方法在训练代码语言模型上的有效性,为未来研究代码语言模型的课程学习应用提供了新的思路。

4. Genetic Instruct: Scaling up Synthetic Generation of Coding Instructions for Large Language Models

本文提出了一种名为 Genetic-Instruct 的方法,该方法利用自指令学习,从少量种子数据中生成大量的合成指令,从而提高大型语言模型的代码生成能力。这种方法能够有效地扩展指令生成过程,并且在多个代码生成模型的微调实验中,使用合成指令训练的模型表现出显著的性能提升。

相关推荐
Dawson Zhu15 分钟前
【分布式训练⑧】通信优化:NCCL、Ring AllReduce与计算通信重叠
人工智能·语言模型·架构·aigc·agi
泯泷27 分钟前
AI Agent 工具设计:给模型装上“手脚”,为什么不能只会调用 API?
人工智能·llm·agent
在所不辞兄32 分钟前
【人工智能驱动的电催化研究-07】CSV文件、路径与可追溯记录
人工智能·深度学习·神经网络·机器学习·有限元·电化学·电催化
装不满的克莱因瓶1 小时前
【从零搭建】AI大模型之ReactAgent智能体对接MCP实战
java·人工智能·ai·springai·mcp·springaialibaba
百度Geek说1 小时前
研发Loop的上下文优化与多Agent协作实践
人工智能
七夜zippoe1 小时前
Nexent 模型配置:4 字段与 9 个槽位
数据库·人工智能·模型·nexent
硅农程序猿2 小时前
SOC 物理实现: RTL2GDS 系列(二)—Innovus 初始化
人工智能·嵌入式硬件·硬件架构
梦想很大很大2 小时前
一句“你好”用了 5671 Token:我在 Workrun 中追查 Agent 隐性成本的过程
前端·人工智能·后端
诗句藏于尽头2 小时前
游戏《完美神话》-使用Ai-agent进行修复已停服游戏到本地成功部署以及GM端网页完整教程
人工智能·学习·游戏
依晨照旧2 小时前
从 MQ 积压查出 4000 个线程:不是泄漏,是事件总线的设计代价
人工智能