目录

datasets的一些使用技巧

#加载某类文件作为数据集

dataset = load_dataset("json", data_files="./train_pair_1w.json", split="train")

#加载数据集中的子数据集

datasets = load_dataset("clue",name="afqmc",#trust_remote_code=True)

train_dataset=datasets["train"]

#load_dataset加载某类文件(json,csv,text)

ds=load_dataset("json",data_files="path.json")

data_files = {"train": "train.csv", "test": "test.csv"}

dataset = load_dataset("dataset_name", data_files=data_files)

#构造数据集

try_dataset=train_dataset[:10]

dataset = Dataset.from_dict(try_dataset)

dataset_dict = DatasetDict({'train': dataset})

Dataset_dict才可以使用map方法

#用脚本的方式加载dataset:

from datasets import load_dataset

ds = load_dataset('path/to/local/loading_script/loading_script.py', split='train')

#使用save_to_disk之后的加载方式:(必须是save_to_disk保存过的,不然不能这样加载,用load_datset加载)

ds.save_to_disk("path/to/dataset/directory")

ds = load_from_disk('path/to/dataset/directory')

#如果文件夹里面有train,test等多个文件夹,那么就需要用DatasetDict

c3 = DatasetDict.load_from_disk("./c3/")

更多加载方式以及参数:

https://huggingface.co/docs/datasets/v2.16.1/en/package_reference/main_classes#datasets.Dataset.save_to_disk

本文是转载文章,点击查看原文
如有侵权,请联系 xyy@jishuzhan.net 删除
相关推荐
知舟不叙28 分钟前
机器学习之PCA主成分分析详解
人工智能·机器学习
Francek Chen1 小时前
【现代深度学习技术】循环神经网络02:文本预处理
人工智能·pytorch·rnn·深度学习·神经网络·文本处理
b***25113 小时前
电池分选机:新能源时代的品质守护者|深圳比斯特自动化
大数据·人工智能·自动化
weixin_457885823 小时前
智能多媒体处理流水线——基于虎跃办公API的自动化解决方案
运维·数据库·人工智能·ai·自动化
IT科技观察4 小时前
金融壹账通推出大模型一体机,加速金融行业AI落地与应用
大数据·人工智能·金融·云计算
带娃的IT创业者5 小时前
《AI大模型应知应会100篇》第4篇:Transformer架构深入浅出:大模型的基石
人工智能·架构·transformer
L_cl5 小时前
【NLP 面经 6】
人工智能·自然语言处理
Jamence5 小时前
多模态大语言模型arxiv论文略读(六)
人工智能·深度学习·语言模型
百万蹄蹄向前冲7 小时前
三句话四分钟,豆包出题把吾秀
前端·人工智能·豆包marscode
_painter8 小时前
【深度学习与实战】3.1 逻辑回归模型
人工智能·深度学习·逻辑回归