【昇思初学入门】第四天打卡

数据变换Transforms

心得体会

  1. MindSpore提供了丰富的数据变换工具,针对图像数据可以使用如Rescale、Normalize和HWC2CHW等,且使用Compose类允许我们定义一个变换序列,并将它们作为一个整体应用到数据上。
python 复制代码
composed = transforms.Compose(
    [
        vision.Rescale(1.0 / 255.0, 0),
        vision.Normalize(mean=(0.1307,), std=(0.3081,)),
        vision.HWC2CHW()
    ]
)
train_dataset = train_dataset.map(composed, 'image')
  1. MindSpore 还提供了处理文本数据常用步骤,分词(Tokenize)和词表映射(Lookup)
python 复制代码
# 分词
texts = ['Welcome to Beijing']
test_dataset = GeneratorDataset(texts, 'text')
def my_tokenizer(content):
    return content.split()
test_dataset = test_dataset.map(text.PythonTokenizer(my_tokenizer))
print(next(test_dataset.create_tuple_iterator()))

3.MindSpore 还支持Lambda函数对数据进行自定义处理

python 复制代码
test_dataset.map(lambda x: x * 2)
相关推荐
tachibana213 小时前
把RAGAS跑起来
数据库·人工智能·ai·架构·大模型·llm·rag
北京晶数信息科技13 小时前
加油机数据采集设备原厂 · OEM 定制 · 五位一体数据采集 · 成品油交易即开票全方案(一)
大数据·人工智能·物联网
AI发掘13 小时前
手写稿被AI检测误标58%?三款AI降重工具实测:只改疑似段,不动原创内容
人工智能·aigc
程序员差不多先生13 小时前
OpenAI 把 Codex Harness 开源:AI Agent 的“操作系统“之争正式开打
人工智能·开源
开发者导航13 小时前
【有趣网站】免费优质资源与实用工具导航:开发者导航
人工智能·程序人生
AI导出鸭PC端13 小时前
告别复制乱码:从「秘塔怎么复制表格」到「AI 导出鸭」的专业解法
人工智能·豆包·ai导出鸭
番茄不是西红柿kk13 小时前
deepseek-harness跨平台桌面端二开项目(四)安装完点“启动应用“却没反应?背后是 sidecar 的冷启动预算与杀软博弈
人工智能·agent·deepseek
雅菲奥朗13 小时前
开课通知|9月12-13日 FDE实战训练营:深耕AI落地实战,赋能职场能力进阶
人工智能·vibe coding·fde
武子康13 小时前
DeepSeek Harness 为什么不用 messages 数组保存一切
人工智能·llm·agent
bullkingluo13 小时前
# 大模型意图识别翻车后,我们换掉了词典和分类 Prompt
人工智能