昇腾AscendC算子中的workspace

workspace是设备侧Global Memory上的一块内存。workspace内存分为两部分:系统workspace和用户workspace。

  • 系统workspace:Ascend C API需要预留的workspace内存

    API在计算过程需要一些workspace内存作为缓存,因此算子需要为API预留workspace内存,预留内存大小通过GetLibApiWorkSpaceSize接口获取。

  • 用户workspace:算子实现使用到的workspace内存

    算子内部需要通过额外的device内存进行数据交换或者缓存的时候才需要分配,根据实际情况自行分配。使用场景如下:

    • 需要使用Unified Buffer和L1 Buffer上的空间且空间不够用时,可以将数据暂存至workspace上。
    • 调用SyncAll等API接口时,需要workspace作为入参。
    • 其他需要使用Global Memory上内存空间的场景。

910B内存存储层次

参考链接 :https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/850alpha001/opdevg/Ascendcopdevg/atlas_ascendc_10_0092.html

相关推荐
why15113 小时前
面经整理——AI
人工智能
serve the people13 小时前
TensorFlow 高级自动微分
人工智能·tensorflow·neo4j
Deepoch13 小时前
具身智能无人机:不止于技术突破,更是产业效率革命的引擎
人工智能·数学建模·无人机·具身模型·deepoc
Dragon online13 小时前
数据分析师成长之路-数据分析思维
大数据·人工智能·数据分析
漫长的~以后13 小时前
多模态大模型与量子计算的融合突破:开启AI新纪元
人工智能·量子计算
Aspect of twilight13 小时前
Pytorch 3D 安装教程
人工智能·pytorch·python·pytorch3d
CodeComposer13 小时前
智能客服初识与实战
人工智能·阿里云·微调框架
fruge13 小时前
AI Ping 免费领算力,VsCode结合Roo Code实现免费编程
ide·人工智能·vscode
轻夏13 小时前
深度学习模型全分类图谱
人工智能·深度学习·分类