DataWhale夏令营:Task2:建模方案解读与进阶

glob库的要点

glob库主要是方便查找搜索文件而生的,os库主要用来实现文件的基础操作,shutil主要用来实现文件的复制移动操作。

1. 3个通配符

* : 匹配0个或多个字符
**: 匹配所有文件,目录,子目录和子目录里的文件,常搭配recursive=True使用如glob.glob("**/*.txt",recursive=True)返回的就是递归搜索当前目录下的所有的txt文件
?: 匹配一个字符;
[]:匹配指定范围内的字符,如[0-9]匹配数字,[a-z]匹配小写字母

2. 3个函数

  • glob.glob():返回符合匹配条件的所有文件的路径list
  • glob.iglob(): i指的是iterator,返回一个迭代器对象,对于大型目录,一次性获取所有匹配的文件列表可能会占用大量内存。在这种情况下,可以使用iglob()函数来进行迭代获取
  • glob.escape():escape可以忽略所有特殊字符-----星号,问号,中括号,用处不大

应用: 在上节YOLO制作数据集时,使用glob进行搜索所有的.mp4文件和.json文件,然后通过sort进行升序排序,通过排序然后结合zip()方法可以轻松将mp4和anno对应起来。

python 复制代码
train_annos = glob.glob('训练集(有标注第一批)/标注/*.json') #返回所的标注文件路径的list
train_videos = glob.glob('训练集(有标注第一批)/视频/*.mp4') #返回所有的视频路径的list
train_annos.sort(); train_videos.sort()

category_labels = ["非机动车违停", "机动车违停", "垃圾桶满溢", "违法经营"]

for anno_path, video_path in zip(train_annos[:5], train_videos[:5]):
    #TODO:保存帧以及对应的标注

Warning库学习

忽略所欲ignore类型的警告信息。

python 复制代码
import warnings 
warnings.filterwarnings('ignore')

数据类型转换

1. json转pandas的DataFrame

如下,json->dataFrame

python 复制代码
anno_df = pd.read_json(anno_path)

2. torch的tensor转为numpy的Ndarray类型

通过.cpu.numpy()将tensor转为Ndarray类型

python 复制代码
       xyxy = boxes.xyxy.data.cpu().numpy().round()
        cls = boxes.cls.data.cpu().numpy().round()
        conf = boxes.conf.data.cpu().numpy()
python 复制代码
        xyxy = boxes.xyxy.data.cpu().numpy().round()
        cls = boxes.cls.data.cpu().numpy().round()
        conf = boxes.conf.data.cpu().numpy()
相关推荐
m0_734949795 小时前
MySQL如何配置定时清理过期备份文件_find命令与保留周期策略
jvm·数据库·python
Tutankaaa5 小时前
从被动接受到主动挑战:知识竞赛如何重塑学习价值
人工智能·经验分享·笔记·学习
m0_514520575 小时前
MySQL索引优化后性能没提升_通过EXPLAIN查看索引命中率
jvm·数据库·python
H Journey6 小时前
Python 国内pip install 安装缓慢
python·pip·install 加速
Jmayday6 小时前
机器学习基本理论
人工智能·机器学习
ZhengEnCi6 小时前
01b-上下文向量与信息瓶颈
人工智能
王_teacher6 小时前
机器学习 矩阵求导 完整公式+严谨推导
人工智能·线性代数·考研·机器学习·矩阵·线性回归
码以致用6 小时前
DeerFlow Memory架构
人工智能·ai·架构·agent
ting94520006 小时前
从零构建大模型实战:数据处理与 GPT-2 完整实现
人工智能
学点程序7 小时前
Manifest:帮个人 AI Agent 降低模型成本的开源路由器
人工智能·开源