昇腾AscendC算子中的workspace

workspace是设备侧Global Memory上的一块内存。workspace内存分为两部分:系统workspace和用户workspace。

  • 系统workspace:Ascend C API需要预留的workspace内存

    API在计算过程需要一些workspace内存作为缓存,因此算子需要为API预留workspace内存,预留内存大小通过GetLibApiWorkSpaceSize接口获取。

  • 用户workspace:算子实现使用到的workspace内存

    算子内部需要通过额外的device内存进行数据交换或者缓存的时候才需要分配,根据实际情况自行分配。使用场景如下:

    • 需要使用Unified Buffer和L1 Buffer上的空间且空间不够用时,可以将数据暂存至workspace上。
    • 调用SyncAll等API接口时,需要workspace作为入参。
    • 其他需要使用Global Memory上内存空间的场景。

910B内存存储层次

参考链接 :https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/850alpha001/opdevg/Ascendcopdevg/atlas_ascendc_10_0092.html

相关推荐
小真zzz几秒前
2025最新!8款零成本AI PPT工具深度测评
人工智能·ai·powerpoint·ppt
renhongxia11 分钟前
一个多智能体Text2SQL框架,使用小语言模型和执行反馈
人工智能·语言模型·自然语言处理
学习3人组1 分钟前
目标检测模型选型决策树
人工智能·目标检测·决策树
启途AI2 分钟前
深度解析 | 集成Nano Banana Pro的ChatPPT,如何重新定义AI美化PPT的行业标杆?
人工智能·powerpoint·ppt
Deepoch3 分钟前
算法定义未来:Deepoc-M重构通信技术新生态
人工智能·通信·具身模型·deepoc
Kakaxiii5 分钟前
【2025.6 Nature】Large language models for disease diagnosis: a scoping review
人工智能·语言模型·自然语言处理
易晨 微盛·企微管家7 分钟前
汽车行业用企业微信做客服,怎么用AI提醒客服提及试驾权益?
人工智能·企业微信
龙腾AI白云12 分钟前
深度学习—卷积神经网络(3)
人工智能·python
北芝科技12 分钟前
WPS知识库文件数超10亿:以AI技术夯实KaaS知识引擎,重构知识服务生态
人工智能·重构·wps
魏波.14 分钟前
AI在研发效能领域的探索和应用(持续更新)
人工智能