【昇思初学入门】第四天打卡

数据变换Transforms

心得体会

  1. MindSpore提供了丰富的数据变换工具,针对图像数据可以使用如Rescale、Normalize和HWC2CHW等,且使用Compose类允许我们定义一个变换序列,并将它们作为一个整体应用到数据上。
python 复制代码
composed = transforms.Compose(
    [
        vision.Rescale(1.0 / 255.0, 0),
        vision.Normalize(mean=(0.1307,), std=(0.3081,)),
        vision.HWC2CHW()
    ]
)
train_dataset = train_dataset.map(composed, 'image')
  1. MindSpore 还提供了处理文本数据常用步骤,分词(Tokenize)和词表映射(Lookup)
python 复制代码
# 分词
texts = ['Welcome to Beijing']
test_dataset = GeneratorDataset(texts, 'text')
def my_tokenizer(content):
    return content.split()
test_dataset = test_dataset.map(text.PythonTokenizer(my_tokenizer))
print(next(test_dataset.create_tuple_iterator()))

3.MindSpore 还支持Lambda函数对数据进行自定义处理

python 复制代码
test_dataset.map(lambda x: x * 2)
相关推荐
workflower10 分钟前
高质量数据集的类型
人工智能·机器学习·设计模式·自然语言处理·机器人
aneasystone本尊14 分钟前
学习 Headroom 的压缩管线
人工智能
wabs66617 分钟前
关于文献【MLEng/MLOps】
人工智能·文献
XGeFei26 分钟前
【AI大模型原理与API使用】
人工智能
weixin_4223293129 分钟前
Agent 评测的基本概念与经典方法
人工智能
云浪30 分钟前
给 AI Agent 加上语音交互:ASR + 流式 TTS 实战
前端·人工智能·后端
AI导出鸭PC端31 分钟前
AI 导出鸭一站式转换工具,ChatGPT 内容怎么生成 word 无需手动复制排版
人工智能·chatgpt·word·豆包·ai导出鸭
一次旅行32 分钟前
fzf+ripgrep+fd终端三合一实战:一套检索工具链,大幅提升大型项目开发效率
人工智能·python·github
m4Rk_32 分钟前
【论文阅读】Agent 记忆机制(27):MemRefine——用 LLM 事实判断将长期记忆压缩到固定预算
论文阅读·人工智能·学习
蓦然回首却已人去楼空40 分钟前
Build a Large Language Model (From Scratch) 附录 E 使用 LoRA 进行参数高效微调
人工智能·语言模型·自然语言处理