颤抖吧,70B以下的LLM——314B参数Grok开源了

还记得2月份,无数新闻传媒争相报道OpenAI殿堂级的Sora模型发布(至今PPT),就连胡主编和周老板都感叹中美的在这一领域的差距相当富有挑战。

胡锡进:Sora的出现是人类AI技术新的里程碑 我们承受不起AI大幅落后美国

周鸿祎谈国内追赶Sora:算力是难点,可能再出现百模大战

没错,那个时候,我们还是把玩着SDXL和midjourney的傻孩子,自以为了解了text2image generation的项目熟悉度,所以面对Sora的出现,就连国内的专家都啧啧称赞,当然最好是像SVD直接开源了。所以当Sota的text2video出现且闭源时,才会为这种技术差距感到一丝焦虑。

马斯克,世称美版钢铁侠,他虽然一直坚持AI的发展是需要监管的,但是他依旧通过诉讼迫使OpenAI重新开源 GPT,并且称赞 Facebook research 开源 Llama,以推动AI领域的世界进程。随后Mistral公司开源了Mistral-7B和MoE的Mixtral-7B,连谷歌也开源了Gemini的基件------Gemma 7B(目前最强的多语言7B模型)。终于,上周马斯克在X上宣布即将发布Grok开源模型。

要知道大厂在技术上都相对克制,最大参数基本围绕在70B左右进行训练,而3月17日之前世界上最大的开源大模型也就区区180B的Falcon。

这个时候,马斯克当然不会忘了嘲讽 OpenAI 一番,「我们想了解更多 OpenAI 的开放部分」

xAI 遵守 Apache 2.0 许可证来开源 Grok-1 的权重和架构。Apache 2.0 许可证允许用户自由地使用、修改和分发软件,无论是个人还是商业用途。项目发布短短10个小时,已经揽获 6k 星标,热度还在持续增加。

该存储库包含用于加载和运行 Grok-1 开放权重模型的 JAX 示例代码。使用之前,用户需要确保先下载 checkpoint ,并将 ckpt-0 目录放置在 checkpoint 中, 然后,运行下面代码进行测试:

arduino 复制代码
pip install -r requirements.txt
python run.py

项目说明中明确强调,由于 Grok-1 是一个规模较大(314B 参数)的模型,因此需要有足够 GPU 内存的机器才能使用示例代码测试模型。此外,该存储库中 MoE 层的实现效率并不高,之所以选择该实现是为了避免需要自定义内核来验证模型的正确性。(此前马斯克一直喷ChatGPT和Gemini "政治正确"的filter)

而且此次下载特意选择了p2p的磁力链接。不愧是辣个男人,连web2的HF都不用,选择最原始的web3

perl 复制代码
magnet:?xt=urn:btih:5f96d43576e3d386c9ba65b883210a393b68210e&tr=https%3A%2F%2Facademictorrents.com%2Fannounce.php&tr=udp%3A%2F%2Ftracker.coppersurfer.tk%3A6969&tr=udp%3A%2F%2Ftracker.opentrackr.org%3A1337%2Fannounce

文件非常大(296.38GB)建议准备至少300GB的空间进行下载

看到这,有网友开始好奇 314B 参数的 Grok-1 到底需要怎样的配置才能运行。对此有人给出答案:可能需要一台拥有 628 GB GPU 内存的机器(每个参数 2 字节)。这么算下来,8xH100(每个 80GB)就可以了。

从左侧看,我们算力依旧遥遥领先,只欠"东风"!------它,已经来了!

参考

马斯克开源Grok-1:3140亿参数迄今最大,权重架构全开放,磁力下载

相关推荐
宁渡AI大模型3 分钟前
AI 全栈面试新趋势:Vibe Coding、前端、Java 后端高频面试题深度解析|河南宁渡科技有限公司编程教程
java·javascript·人工智能·python·ai大模型
AI码农小姐姐9 分钟前
AI漫剧推文短视频自动化生产:从文本分镜到视频合成的工程实现
人工智能·音视频·ai工具·ai漫剧·知漫剧
CallFay云起未来13 分钟前
AI客服如何与人工客服协同?从任务路由到上下文交接的Agent架构实践
java·人工智能·文心一言
智购科技自动售货机工厂15 分钟前
2026自动售货机端侧AI降本逻辑:从云端API到本地推理的成本重构~YH
人工智能·python·ui·面试·交互
AI推荐率17 分钟前
AI搜索词与品牌文章主题一致,却未采用文章,怎样寻找信息缺口?
人工智能
AI增长技术研究院25 分钟前
品牌被搜索到但没有成为回答来源,应该排查哪些内容问题?
人工智能
糖糖单片机设计26 分钟前
基于STM32的远程宠物自动投喂系统
人工智能·stm32·51单片机·语音识别·智能硬件
谢白羽38 分钟前
MiniMax-H3 : 4卡 H20-3e一套权重部署实践/8卡H200部署优化实测
笔记·llm·论文·大模型部署·sglang
数据智研40 分钟前
【数据分享】300个城市-5G试点城市DID数据(2014-2025)
大数据·运维·人工智能·信息可视化·数据分析
一水鉴天41 分钟前
词、术语、概念:从特征集收束到统一拓扑变换的升格与降格模型 20260915(豆包)
开发语言·人工智能