不写代码、构建一个开源的 ChatGPT,总共需要几步?|Hugging News #1020

每一周,我们的同事都会向社区的成员们发布一些关于 Hugging Face 相关的更新,包括我们的产品和平台更新、社区活动、学习资源和内容更新、开源库和模型更新等,我们将其称之为「Hugging News」。本期 Hugging News 有哪些有趣的消息,快来看看吧! 🎉

给 Pro 订阅账户加入的更高级的推理 API 功能

我们为 Hugging Face Pro 订阅用户加入了一些新的模型 API 访问权限包括 Llama 2 Chat、Code Llama Base 和 Stable Diffusion XL 等,同时也提高了对推理 API 的速率限制。开发者们可以更好地进行模型实验和原型开发,而无需部署模型到自己的基础设施上。

朋友们,升个级? hf.co/subscribe/p...

为推理 API 发布新的模型分类页面

我们发布了一个新的模型分类页面,展示了一系列精选、即时可部署的模型,包括如文本生成、文本到图像、自动语音识别和文本嵌入提取等多个模型分类。每个模型条目提供了模型的简要描述、优化目标、模型的参数大小、每小时的运行成本和运行所需的硬件配置,例如 GPU 型号等。

大家可以在这里查看: ui.endpoints.huggingface.co/catalog

Flash Attention 2 现已在 🤗 Transformers 可用

Flash Attention 2 是一个优化的注意力机制算法,旨在改善基于 transformer 的模型的效率。通过改进并行处理和工作分区、减少内存使用、Flash 解码等策略,使得模型以更长的序列长度运行和训练,而不会遇到内存溢出问题,从而更好地处理大规模数据。

🤗 Transformers 现已原生支持 Flash Attention 2,支持 PEFT(预训练嵌入式微调)的训练和量化(GPTQ, QLoRA, LLM.int8)。

构建一个开源的 ChatGPT,总共需要几步(还不用写代码)

我们发表了一篇博客,介绍如何在不编写任何代码的情况下构建自己的开源 ChatGPT,它使用 LLaMA 2 基础模型,通过一个开源指令数据集对其进行微调,然后部署到一个聊天应用程序中,可以与朋友分享,使用 Hugging Face 平台的各种工具 ,如 Spaces、AutoTrain 和 ChatUI。

🔥 hf.co/blog/Llama2...


以上就是本期的 Hugging News,我的愿望是------(评论区说说?

相关推荐
用户83145509803115 分钟前
如一 Agent 架构解读(四):异步整理——压缩不该堵住用户
人工智能·llm
用户19172912708321 分钟前
团队 Agent 技能库怎么管?用 Git 做 Skill 版本化与复用实战
人工智能
Dawson Zhu22 分钟前
《Agentic Design Patterns》第 13 章导读:人机协同(Human-in-the-Loop)
人工智能·语言模型·架构·aigc·agi
蜗牛互联网24 分钟前
Java标准HTTP调用多模态模型的票据抽取前置校验
java·人工智能·python·http
feasibility.29 分钟前
“美版DeepSeek”等海外开放模型,能夺回生态入口吗?——中国开放权重领先下的2026全球AI分水岭
人工智能·开源·大模型·llm·minimax·deepseek·beam
AI大模型-小华31 分钟前
AI 编程进入深度开发阶段:什么时候普通方案不够,需要更高算力支持?
人工智能·chatgpt·ai编程·vs code·codex·codex cli
思维新观察31 分钟前
三星 Galaxy Tab S12 系列:大屏 AI 平板,兼顾轻薄与生产力
数据结构·人工智能·电脑
能源探索家35 分钟前
能源资讯[26M10W2] 本周热点复盘:电力交易放量、六张网底座建设、浙江储能入市
人工智能·能源·新型电力系统·十五五规划·能源信息化·能源资讯
工具派40 分钟前
Agent 不是玄学:用 Java 状态机思维理解 LangGraph
java·人工智能·python
szxinmai主板定制专家44 分钟前
基于RK3588+FPGA+AI的储能电站边缘网关,实现电力数据采集与智能预警
arm开发·人工智能·fpga开发·rk3576·半导体设备