AI跟踪报道第55期-新加坡内哥谈技术-本周AI新闻: GPT NEXT (x100倍)即将在2024推出

每周跟踪AI热点新闻动向和震撼发展 想要探索生成式人工智能的前沿进展吗?订阅我们的简报,深入解析最新的技术突破、实际应用案例和未来的趋势。与全球数同行一同,从行业内部的深度分析和实用指南中受益。不要错过这个机会,成为AI领域的领跑者。点击订阅,与未来同行! 订阅:https://rengongzhineng.io/

点击下面视频观看在B站本周AI更新:

B 站 链接 观看:

本周AI新闻: GPT NEXT (x100倍)即将在2024推出_哔哩哔哩_bilibili想要探索生成式人工智能的前沿进展吗?订阅我们的简报,深入解析最新的技术突破、实际应用案例和未来的趋势。与全球数同行一同,从行业内部的深度分析和实用指南中受益。不要错过这个机会,成为AI领域的领跑者。点击订阅,与未来同行! 订阅: https://rengongzhineng.io/1)https://storage.googleapis.com/deepmind-media/DeepMind.co, 视频播放量 1、弹幕量 0、点赞数 0、投硬币枚数 0、收藏人数 0、转发人数 0, 视频作者 内哥谈技术, 作者简介 N哥,新加坡。订阅中文简报,成为AI领域的领跑者。https://rengongzhineng.io/,相关视频:世界最强开源AI?Reflection强势碾压GPT-4o!,OpenAI 无法开发出 GPT-5 了,吗?|草莓|猎户座|Strawberry|Orion,【OpenCV精华版教程】哭了,现在才知道,原来OpenCV得这么学(图像处理/人脸识别/机器视觉/人工智能),又火了!SDV4.9+flux大模型炸裂大更新(附秋叶SD全套超强整合包+超强模型整合包)yyds 感谢秋枼大佬!sd安装教程 Stablediffusion,【2024外滩大会 - Inclusion 2024】凯文·凯利(Kevin Kelly)、王坚、沈向洋等将带来AI前瞻分享,看AI新成果如何改变生活,AI:0元购商场你逛不逛?,2024年第65届IMO上,陶哲轩演讲表示AI技术其中以大型语言模型(LLMs)为代表也已经有大约 5 年的历史,但直到最近,AI输出才慢慢达到了人类的水平。,原来区别竟在这啊!迪哥全面解析在深度学习中的神经网络模型,3小时带你了解CNN、RNN、GNN原理及应用!,【中英字幕】崔娃9月最新对话Sam Altman,再谈OpenAI发生的事情 | "What Now?"与Trevor Noah的播客|2024.09.05,杰出系友面对面|李沐讲座:大语言模型的实践经验和未来预测https://www.bilibili.com/video/BV1wHHfeJEfU/?vd_source=a981b02467f9b48eb47a3843e6a9ca16

想要探索生成式人工智能的前沿进展吗?订阅我们的简报,深入解析最新的技术突破、实际应用案例和未来的趋势。与全球数同行一同,从行业内部的深度分析和实用指南中受益。不要错过这个机会,成为AI领域的领跑者。点击订阅,与未来同行! 订阅: https://rengongzhineng.io/

1)https://storage.googleapis.com/deepmind-media/DeepMind.com/Blog/alphaproteo-generates-novel-proteins-for-biology-and-health-research/AlphaProteo2024.pdf

  1. https://blog.google/technology/health/ai-model-cough-disease-detection/

  2. https://magic.dev/blog/100m-token-context-windows

GPT-Next

在2024年的KDDI峰会上,OpenAI日本的CEO长崎忠男透露了一些令人震惊的消息。他表示,未来发布的GPT-Next将比GPT-4强大100倍。据悉,这款模型将使用OpenAI神秘项目"草莓计划"的精简版。提升性能的关键并非依赖大量的计算资源,而是全新的架构设计。

据ITMediaAI+报道,长崎在峰会上重申了OpenAI对通信和AI领域的承诺。他详细介绍了这家AI巨头的业务,并分享了对未来AI模型的看法。据他透露,该模型名为GPT-Next。

此外,长崎还提到,截至今年8月底,ChatGPT的活跃用户数已经突破2亿。他强调,这是史上最快达到1亿到2亿活跃用户的软件,并指出ChatGPT为用户提供了前所未有的"易用"体验。同时,ChatGPT Enterprise在企业中的采用率也在持续上升。

长崎还谈到,OpenAI全球员工约有2000人,其中一半从事AI开发工作。除日本外,OpenAI在美国和英国也设有基地。当被问及为何选择日本作为亚洲的首个基地时,长崎解释称,日本在追求创新和新技术方面一直走在前列。在演讲中,他对GPT系列的未来发展进行了展望,并将其与GPT-3和GPT-4进行了对比。他表示,AI技术的发展是指数级的,远超传统软件,因此OpenAI希望尽快推动一个充满AI的世界的到来。在谈到个人经历时,长崎透露,他曾在2011年至2024年间担任亚马逊网络服务日本分公司的CEO,并于今年4月成为OpenAI日本的CEO。按照目前的进展,GPT-Next或将成为AI领域的下一个重大突破。

马斯克的GPU争夺战:xAI崛起与超级计算巨厂的野心

埃隆·马斯克旗下的几家公司------SpaceX、特斯拉、xAI和X(前Twitter)------都在各自的AI或高性能计算(HPC)项目中需要大量的GPU。然而,当前市场上的GPU资源远远无法满足这些雄心勃勃的需求,因此马斯克不得不在有限的GPU资源中优先考虑分配。

早在2015年,马斯克曾是OpenAI的联合创始人,但在2018年因权力斗争离开,这场斗争不仅仅关乎AI治理,更关乎推动AI模型发展的巨额投资。马斯克的离开为微软注资OpenAI铺平了道路,而当OpenAI成为生成式AI领域的领军者时,马斯克迅速在2023年3月创立了xAI,并开始为其筹集资金和GPU资源,目标是与OpenAI/微软、谷歌、亚马逊云服务、Anthropic等公司竞争。

在资金方面,xAI的募资进展顺利。2023年5月,Andreessen Horowitz、红杉资本、Fidelity、Lightspeed等投资者为xAI提供了60亿美元的B轮融资,使xAI的总筹资金额达到了64亿美元。此外,马斯克还可以依靠特斯拉为其提供的450亿美元薪酬,以便随时为xAI的GPU分配增加资金支持。不过,他也需要考虑为特斯拉、X和SpaceX的GPU需求留出足够的预算。

特斯拉的成功为马斯克提供了资金基础。2023年,特斯拉的销售额达到968亿美元,净收入为150亿美元,现金储备为291亿美元。然而,即便在这个新的"镀金时代",马斯克的薪酬包也显得格外惊人。不过,对于马斯克来说,这些巨额资金是为了更大的目标,而特斯拉的董事会显然愿意为此付出代价。

说到xAI的发展,xAI于2023年8月训练了33亿参数的Grok-0大语言模型。到11月,xAI发布了314亿参数的Grok-1,并于2024年3月开源,随后推出了Grok-1.5模型,进一步提升了认知测试表现。尽管Grok-1.5的智能水平仍逊于谷歌、OpenAI和Anthropic的竞争产品,但xAI正在全力开发下一代模型。

Grok-2预计将使用2.4万张Nvidia H100 GPU进行训练,并计划在2024年8月上线。虽然xAI最初与甲骨文达成了GPU容量的合作,但由于合作破裂,马斯克转向了在田纳西州孟菲斯建设一个"计算巨厂",计划部署10万张GPU。然而,当前工厂的电力容量只有8兆瓦,扩展到10万张GPU可能需要150兆瓦的电力供应,这将涉及复杂的审批程序。

关于这个超级计算机,马斯克或许会以猫王(Elvis Presley)的歌曲命名,比如"猎犬"(Hound Dog)。但如果马斯克无法在年底前获得足够的GPU,这台机器可能会被称为"伤心旅馆"(Heartbreak Hotel)。

尽管xAI的最终目标是到2025年全面扩展该超级计算机,眼下的部署可能只会在12月之前实现2.5万张GPU。但即便如此,xAI仍将拥有足够的资源来训练一个超大型AI模型。

从目前的信息来看,Supermicro正在为xAI提供水冷系统的服务器,基于八路HGX GPU板卡的架构。此外,Juniper Networks负责前端网络设备,而Nvidia的Spectrum-X设备则处理后端网络连接。至于存储部分,虽然尚未公布具体方案,但有传闻称可能由Vast Data提供大规模的存储阵列。

随着xAI不断扩展计算和网络基础设施,马斯克的AI帝国正在形成,而他将如何平衡各公司的GPU需求,仍然是未来的关键挑战。

相关推荐
正义的彬彬侠几秒前
《XGBoost算法的原理推导》12-14决策树复杂度的正则化项 公式解析
人工智能·决策树·机器学习·集成学习·boosting·xgboost
Debroon10 分钟前
RuleAlign 规则对齐框架:将医生的诊断规则形式化并注入模型,无需额外人工标注的自动对齐方法
人工智能
羊小猪~~17 分钟前
神经网络基础--什么是正向传播??什么是方向传播??
人工智能·pytorch·python·深度学习·神经网络·算法·机器学习
AI小杨18 分钟前
【车道线检测】一、传统车道线检测:基于霍夫变换的车道线检测史诗级详细教程
人工智能·opencv·计算机视觉·霍夫变换·车道线检测
晨曦_子画22 分钟前
编程语言之战:AI 之后的 Kotlin 与 Java
android·java·开发语言·人工智能·kotlin
道可云24 分钟前
道可云人工智能&元宇宙每日资讯|2024国际虚拟现实创新大会将在青岛举办
大数据·人工智能·3d·机器人·ar·vr
Yawesh_best31 分钟前
思源笔记轻松连接本地Ollama大语言模型,开启AI写作新体验!
笔记·语言模型·ai写作
人工智能培训咨询叶梓33 分钟前
探索开放资源上指令微调语言模型的现状
人工智能·语言模型·自然语言处理·性能优化·调优·大模型微调·指令微调
zzZ_CMing33 分钟前
大语言模型训练的全过程:预训练、微调、RLHF
人工智能·自然语言处理·aigc
newxtc35 分钟前
【旷视科技-注册/登录安全分析报告】
人工智能·科技·安全·ddddocr