什么是存内计算?
存内计算技术是一种新型的计算架构,它将存储器和计算单元融合在一起,以实现高效的数据处理。存内计算技术的优势在于能够消除数据搬运的延迟和功耗,从而提高计算效率和能效比。目前,存内计算技术正处于从学术到工业产品落地的关键时期,随着技术的不断进步和应用场景的不断催生,预计存内计算技术将成为AI计算领域的主要架构。
陈巍博士是存算一体芯片技术的专家之一,他指出存算一体技术比冯诺依曼架构更适合AI计算的架构,是比冯氏架构更适合AI计算的架构。存算技术也被AspenCore预测为2022年的全球半导体行业十大技术趋势。目前存算技术正处在从学术到工业产品的跃迁的关键时期。包括阿里达摩院最近刚发布的基于SeDRAM的近存计算芯片,就充分展示了存算技术在数据中心场景的算力和能效实力。
为何存内计算如此重要?
存内计算的重要性在于它解决了传统计算方式中存在的瓶颈问题。在传统计算中,数据通常需要从存储器传输到处理器进行计算,然后再将结果传回存储器。这一过程中的数据传输耗时耗能,限制了计算速度的提升。
存内计算通过在存储器中进行计算,消除了数据传输的瓶颈。这意味着计算过程更加高效,能够更快地处理大规模数据集,同时减少了能耗,使得计算过程更为环保。
存内计算的应用领域
存算一体技术在不同应用领域具有广泛的适用性,主要包括以下几个方面:
-
人工智能和大数据计算:
存算一体技术被确定为未来的科技趋势,特别适用于人工智能和大数据计算。通过将AI计算中的大量乘加计算的权重部分存储在存储单元中,并在存储单元的核心电路上进行修改,可以在读取的同时进行数据输入和计算处理,从而提高设备性能并降低成本。存内计算和存内逻辑特别适用于深度神经网络应用和基于AI的大数据技术。
-
感存算一体:
集成传感、储存和运算的感存算一体架构能够解决冯诺依曼架构的数据搬运功耗瓶颈。该技术与传感器结合,实现零延时和超低功耗的智能视觉处理能力。这种架构对于视觉应用存内计算神经拟态芯片具有重要意义,有效降低能耗。
-
类脑计算:
存算一体技术天然适合应用在类脑计算领域,成为类脑计算的关键技术基石。类脑计算借鉴生物神经系统的信息处理模式和结构,旨在使计算机像人脑一样将存储和计算合二为一,高速处理信息。存算一体芯片在类脑计算的大算力高能效领域有着重要的应用前景。
-
人工智能场景和元宇宙计算:
存算一体芯片适用于各类人工智能场景和元宇宙计算,包括可穿戴设备、移动终端、智能驾驶、数据中心等。在这些领域,存算一体技术能够提供高算力、低功耗、高性价比的优势。
-
端侧和云计算设备:
存算一体技术在端侧设备中能够满足对成本、功耗、时延、开发难度的敏感要求,竞争力影响约占30%。在云计算和边缘计算的大算力设备中,存算一体芯片具有更大的优势,竞争力影响约占90%。在边缘端,存算一体芯片具有高算力、低功耗、高性价比的优势。
-
云计算市场:
针对当前云计算算力市场,存算一体技术有望抢占市场份额。由于GPU的单一架构不能适应不同AI计算场景的算法离散化特点,存算一体芯片以其高能效大算力的优势有望另辟蹊径,满足不同领域的需求,尤其在图像、推荐、NLP等领域。
正在研究存内计算的公司
存内计算技术是一种新型的计算架构,它将存储器和计算单元融合在一起,以实现高效的数据处理。存内计算技术的应用场景包括物联网、深度学习、大数据分析等领域. 目前,有许多公司在研究和开发存内计算技术,以下是一些主要的公司:
- Diablo Technologies: 提供Memory1,这是一种容量为传统DRAM的4倍的内存技术。
- GigaSpaces: 提供用于实时洞察和极端事务处理的最快存内计算平台。
- Hazelcast: 提供快速的存内计算服务。
- IBM: 提供用于大数据分析和机器学习的存内计算技术。
- Intel: 提供用于计算系统制造商的处理器,以及制造主板芯片组、网络接口控制器和集成电路、闪存、图形芯片、嵌入式处理器等。
- Microsoft: 提供用于深度学习和大数据分析的存内计算技术。
- Oracle: 提供用于大数据分析和机器学习的存内计算技术。
- SAP: 提供用于大数据分析和机器学习的存内计算技术。
- 其它正在研究存内计算的公司可以点击该链接查看:https://www.ventureradar.com/keyword/In-Memory Computing
这些公司都在不断推进存内计算技术的发展,以满足不同领域的需求。存内计算技术正处于从学术到工业产品落地的关键时期,随着技术的不断进步和应用场景的不断催生,预计存内计算技术将成为AI计算领域的主要架构。
存内计算的未来
存内计算作为一种颠覆性的计算方式,将在未来发挥越来越重要的作用。随着存内计算技术的不断发展,未来存内计算技术将会在以下方面得到进一步的应用和发展:
-
存算一体芯片:存算一体芯片是存内计算技术的一种重要实现方式,它将存储单元和计算单元集成在一起,以减少数据传输和能耗,提高计算效率。存算一体芯片的应用前景广泛,特别适用于人工智能、大数据处理、图像处理、自然语言处理等领域。
-
存内计算算法:存内计算算法是存内计算技术的另一重要组成部分,它是实现存内计算的关键。存内计算算法的发展将会对存内计算技术的应用和发展产生重要影响。
-
存内计算应用:存内计算技术的应用领域非常广泛,包括人工智能、大数据处理、图像处理、自然语言处理等领域. 随着存内计算技术的不断发展,存内计算技术将会在这些领域得到更广泛的应用和发展。
存内计算技术的未来发展充满了机遇和挑战,但是相信随着技术的不断进步和应用场景的不断拓展,存内计算技术将会在计算机技术的未来发挥越来越重要的作用。
资料来源
[1] Top In-Memory Computing Companies
Top ranked companies for keyword search: In-Memory AND Computing
[2] 存内计算最强科普
[3] 存内计算正式进入主流
[4] 存内计算技术发展趋势分析