牵手国际企业,OpenAI计划自己制造AI芯片

据外媒报道称,近日,OpenAI的首席执行官萨姆·奥特曼正在积极洽谈一项规模达数十亿美元的投资项目,计划与多家顶级芯片制造商合作,建设一个覆盖全球的人工智能芯片生产网络。

奥特曼曾多次反馈目前的芯片已不能满足OpenAI公司的AI研发需求,这一战略正为高性能的人工智能模型(如ChatGPT和DALL-E等)提供足够强大的处理器支持。这些模型在处理复杂的查询和图像生成任务时,对计算能力的需求极高,目前市场上,英伟达公司凭借其H100 GPU在高性能人工智能芯片领域占据了主导地位,其市值也因此一度突破了1万亿美元大关。H100等高端加速卡已被广泛应用于GPT-4、Gemini和Llama 2等先进AI模型的训练中。

OpenAI首席执行官萨姆·奥特曼 资料图

H100为什么备受欢迎?H100采用了尖端的台积电4nm工艺,还拥有高达800亿个晶体管,带来了前所未有的性能突破。不仅如此,H100还支持PCle Gen5和HBM3的GPU,内存带宽高达惊人的3TB/s,甚至能实现每秒近5兆字节的外部连接速度!

H100装备了第四代Tensor Core和Transformer引擎(FP8精度),它能使大型语言模型的训练速度可以提高9倍,推理速度能提高30倍。在高性能计算应用方面,H100将FP64的每秒浮点运算次数提升至3倍,还可以添加动态编程指令,使性能提升高达7倍。

自OpenAI发布通用AI大模型ChatGPT以来,企业和开发者对人工智能研究和应用的兴趣直线上升,刺激了对AI芯片的需求。而H100在大语言模型训练市场中一卡难求,很多企业选择使用现成的人工智能数据中心设备和生成式AI服务器集群。baystoneai.com聚合全球智算算力资源GPU服务器,满足企业用户使用NVIDIA H100 GPU或其他算力资源,有兴趣了解更多H100 GPU服务器信息,可联系作者。

相关推荐
山烛12 分钟前
KNN 算法中的各种距离:从原理到应用
人工智能·python·算法·机器学习·knn·k近邻算法·距离公式
盲盒Q22 分钟前
《频率之光:归途之光》
人工智能·硬件架构·量子计算
墨染点香30 分钟前
第七章 Pytorch构建模型详解【构建CIFAR10模型结构】
人工智能·pytorch·python
go546315846530 分钟前
基于分组规则的Excel数据分组优化系统设计与实现
人工智能·学习·生成对抗网络·数学建模·语音识别
茫茫人海一粒沙37 分钟前
vLLM 的“投机取巧”:Speculative Decoding 如何加速大语言模型推理
人工智能·语言模型·自然语言处理
诗酒当趁年华39 分钟前
【NLP实践】二、自训练数据实现中文文本分类并提供RestfulAPI服务
人工智能·自然语言处理·分类
静心问道1 小时前
Idefics3:构建和更好地理解视觉-语言模型:洞察与未来方向
人工智能·多模态·ai技术应用
sheep88881 小时前
AI与区块链Web3技术融合:重塑数字经济的未来格局
人工智能·区块链
奋进的孤狼1 小时前
【Spring AI】阿里云DashScope灵积模型
人工智能·spring·阿里云·ai·云计算
AIGC_北苏1 小时前
让UV管理一切!!!
linux·人工智能·uv