【昇思初学入门】第四天打卡

数据变换Transforms

心得体会

  1. MindSpore提供了丰富的数据变换工具,针对图像数据可以使用如Rescale、Normalize和HWC2CHW等,且使用Compose类允许我们定义一个变换序列,并将它们作为一个整体应用到数据上。
python 复制代码
composed = transforms.Compose(
    [
        vision.Rescale(1.0 / 255.0, 0),
        vision.Normalize(mean=(0.1307,), std=(0.3081,)),
        vision.HWC2CHW()
    ]
)
train_dataset = train_dataset.map(composed, 'image')
  1. MindSpore 还提供了处理文本数据常用步骤,分词(Tokenize)和词表映射(Lookup)
python 复制代码
# 分词
texts = ['Welcome to Beijing']
test_dataset = GeneratorDataset(texts, 'text')
def my_tokenizer(content):
    return content.split()
test_dataset = test_dataset.map(text.PythonTokenizer(my_tokenizer))
print(next(test_dataset.create_tuple_iterator()))

3.MindSpore 还支持Lambda函数对数据进行自定义处理

python 复制代码
test_dataset.map(lambda x: x * 2)
相关推荐
大模型任我行5 分钟前
阿里:通义千问3.8全能版发布
人工智能·语言模型·自然语言处理·论文笔记
周杰伦fans13 分钟前
轻量模型高并发推理优化技巧
开发语言·人工智能·c#
小小小小钰儿14 分钟前
2.3-云端API集成
人工智能·计算机·网络安全·操作系统·编程
盘古开天166619 分钟前
PPO算法原理详解(下):Clip机制深入剖析与实践指南
人工智能·算法·机器学习
虫无涯23 分钟前
大模型联动 CodeQL + Coverity 完整落地方案
人工智能·python·大模型·llm·codeql·coverity
Dawson Zhu24 分钟前
大语言模型对齐与微调:原理解析与工程实践
人工智能·语言模型·架构·aigc·agi
周杰伦fans27 分钟前
C#对话摘要降低Token消耗
人工智能·后端·c#
段一凡-华北理工大学33 分钟前
大模型与智能体在工业的应用~系列文章12:大模型 × 数字孪生 × 智能体的融合图景
大数据·人工智能·python·深度学习·大语言模型·python开发
程序员无隅36 分钟前
AI 辅助编程:怎样把完成的功能变成自己的开发经验
人工智能
胡家伟++37 分钟前
AI为《一片叶子的赋役与风流》配插图
人工智能·aigc