OpenBayes 教程上新 | 1 分钟生成万字悬疑小说,LongWriter-glm4-9b 上线!

近年来,大语言模型 (LLM) 在理解和生成复杂文本时展现出强大的能力,能够处理高达 100,000 个 tokens 的输入,但在生成超过 2000 词的连贯输出时,往往会遇到困难。

**主要的原因之一是因为 SFT(监督式微调)数据集长输出样本的稀缺性。**研究表明,模型的最大输出长度与其在 SFT 阶段接触的样本长度有显著的正相关性。换句话说,尽管模型已经学会了如何理解和处理长文本,但它们还没有充分学习如何生成同样长度的文本。

为了解决这一问题,清华大学联合智谱 AI 基于 AgentWrite 技术构建了名为 LongWriter-6k 的数据集,包含 6,000 个 SFT 数据样本,输出长度从 2k 到 32k 个单词不等。该数据集目前已上线至 OpenBayes 公共数据集界面,支持一键 input。

数据集地址:

https://go.openbayes.com/CXBOc

随后,该研究团队还利用 LongWriter-6k,基于 GLM-4-9B 进行训练,得到了一个能够生成超过 10,000 字连贯文本的模型 LongWriter-glm4-9b,显著扩展了大型语言模型的输出潜力,在文学创作、新闻报道等实际应用中表现出极大的广泛性。

**目前,「一键部署 LongWriter-glm4-9b」已上线至 OpenBayes 公共教程界面,**一键克隆即可开启对话。

教程地址:

https://go.openbayes.com/GXQMm

操作步骤

01

Demo 运行阶段

  1. 登录 OpenBayes.com,在「公共教程」页面,选择「一键部署 LongWriter-glm4-9b」。
  1. 页面跳转后,点击右上角「克隆」,将该教程克隆至自己的容器中。
  1. 点击右下角「下一步:选择算力」。
  1. 页面跳转后,选择「NVIDIA RTX 4090」以及 「PyTorch」镜像,点击「下一步:审核」。新用户使用下方邀请链接注册,可获得 4 小时 RTX 4090 + 5 小时 CPU 的免费时长!

小贝总专属邀请链接(直接复制到浏览器打开):https://go.openbayes.com/9S6Dr

  1. 确认无误后,点击「继续执行」,等待分配资源,首次克隆需等待 2 分钟左右的时间。当状态变为「运行中」后,点击「API 地址」边上的跳转箭头,即可跳转至 Demo 页面。请注意,用户需在实名认证后才能使用 API 地址访问功能。

02

效果演示

  1. 打开 Demo 界面,我们让它生成一个 10000 字的悬疑小说。
  1. 可以看到它迅速输出了一个长篇悬疑小说。
相关推荐
年年测试19 小时前
在LangChain中无缝接入MCP服务器扩展AI智能体能力
服务器·人工智能·langchain
飞哥数智坊19 小时前
一个 TRAE 巨好用的隐藏功能:任务完成通知
人工智能·trae
IT毕设实战小研19 小时前
2026届大数据毕业设计选题推荐-基于大数据旅游数据分析与推荐系统 爬虫数据可视化分析
大数据·人工智能·爬虫·机器学习·架构·数据分析·课程设计
PixelMind19 小时前
【IQA技术专题】 多尺度的transformer网络IQA:MUSIQ
深度学习·transformer·图像质量评价·iqa
信马堂19 小时前
MCP Token超限问题解决方案
人工智能·langchain
m0_6770343519 小时前
机器学习-决策树(下)
人工智能·决策树·机器学习
mit6.82420 小时前
[Upscayl图像增强] Electron主进程命令 | 进程间通信IPC
人工智能
THMAIL20 小时前
机器学习从入门到精通 - 循环神经网络(RNN)与LSTM:时序数据预测圣经
人工智能·python·rnn·算法·机器学习·逻辑回归·lstm
AIbase202420 小时前
AI时代企业获取精准流量与实现增长的GEO新引擎
人工智能·搜索引擎·百度
陈敬雷-充电了么-CEO兼CTO20 小时前
具身智能模拟器:解决机器人实机训练场景局限与成本问题的创新方案
大数据·人工智能·机器学习·chatgpt·机器人·具身智能