检查数据集信息

影像(images)

  • ✅ 文件总数

  • ✅ 每个 .tif 的:

    • 宽 × 高

    • 通道数(Band 数)

    • 数据类型(uint16 / float32 / ...)

    • 像素最小 / 最大值

  • 是否存在尺寸不一致

  • 是否存在通道数不一致

📌 标注(masks)

  • ✅ 文件是否与 image 一一对应

  • ✅ mask 的:

    • 宽 × 高

    • 通道数

    • 唯一像素值(自动判断几类)

  • ✅ 是否存在:

    • 非单通道 mask

    • 非整数 mask

    • image / mask 尺寸不匹

python 复制代码
import os
import numpy as np
from osgeo import gdal
from collections import Counter


def read_tif_basic(path):
    ds = gdal.Open(path)
    if ds is None:
        raise FileNotFoundError(f"无法打开: {path}")

    w = ds.RasterXSize
    h = ds.RasterYSize
    bands = ds.RasterCount
    dtype = ds.GetRasterBand(1).DataType
    dtype_name = gdal.GetDataTypeName(dtype)

    arr = ds.ReadAsArray()

    return w, h, bands, dtype_name, arr


def check_split(root, split):
    print(f"\n{'='*60}")
    print(f"📂 检查 split: {split}")
    print(f"{'='*60}")

    img_dir = os.path.join(root, "images", split)
    mask_dir = os.path.join(root, "masks", split)

    img_files = sorted([f for f in os.listdir(img_dir) if f.endswith(".tif")])
    mask_files = sorted([f for f in os.listdir(mask_dir) if f.endswith(".tif")])

    print(f"Image 数量: {len(img_files)}")
    print(f"Mask  数量: {len(mask_files)}")

    # === 一一对应检查 ===
    missing_masks = set(img_files) - set(mask_files)
    missing_images = set(mask_files) - set(img_files)

    if missing_masks:
        print(f"❌ 缺失 mask 文件: {list(missing_masks)[:5]}")
    if missing_images:
        print(f"❌ 多余 mask 文件: {list(missing_images)[:5]}")
    if not missing_masks and not missing_images:
        print("✅ Image / Mask 文件名完全对应")

    img_shapes = []
    img_bands = set()
    mask_shapes = []
    mask_bands = set()
    mask_values = Counter()

    for i, name in enumerate(img_files[:20]):  # 只抽查前 20 个
        img_path = os.path.join(img_dir, name)
        mask_path = os.path.join(mask_dir, name)

        iw, ih, ib, idtype, img = read_tif_basic(img_path)
        mw, mh, mb, mdtype, mask = read_tif_basic(mask_path)

        img_shapes.append((iw, ih))
        img_bands.add(ib)
        mask_shapes.append((mw, mh))
        mask_bands.add(mb)

        if mask.ndim == 3:
            mask = mask[0]

        unique_vals = np.unique(mask)
        mask_values.update(unique_vals.tolist())

        print(f"\n[{i+1}] {name}")
        print(f"  Image : {iw}×{ih}, bands={ib}, dtype={idtype}, "
              f"min={img.min():.1f}, max={img.max():.1f}")
        print(f"  Mask  : {mw}×{mh}, bands={mb}, dtype={mdtype}, "
              f"unique={unique_vals[:10]}")

        if (iw, ih) != (mw, mh):
            print("  ❌ Image / Mask 尺寸不一致")

    print("\n📊 统计汇总")
    print(f"Image 尺寸集合: {set(img_shapes)}")
    print(f"Image 通道数集合: {img_bands}")
    print(f"Mask  尺寸集合: {set(mask_shapes)}")
    print(f"Mask  通道数集合: {mask_bands}")
    print(f"Mask 像素值统计(前 20 个): {mask_values.most_common(20)}")


if __name__ == "__main__":
    ROOT = r"D:\MengChenCode20251215\AI4Boundaries\sentinel2\orthos"

    for split in ["train", "val", "test"]:
        check_split(ROOT, split)
相关推荐
feng14562 分钟前
OpenSREClaw - 故障复盘和变更评审双 Agent 案例
运维·人工智能
普马萨特5 分钟前
室内外定位导航的最新趋势(基于国际大会观察)
人工智能
Black蜡笔小新6 分钟前
私有化本地化AI模型训推工作站/AI大模型训练工作站DLTM赋能安全监控迈入智能时代
人工智能
HackTwoHub11 分钟前
全新 AI 赋能网安平台 基于 Mitmproxy 流量分析自动化资产挖、轻量化综合渗透工具箱
人工智能·web安全·网络安全·系统安全·安全架构·sql注入
LaughingZhu12 分钟前
Product Hunt 每日热榜 | 2026-04-27
人工智能·经验分享·深度学习·产品运营
代码飞天20 分钟前
机器学习算法和函数整理——助力快速查阅
人工智能·算法·机器学习
jinanwuhuaguo36 分钟前
(第三十三篇)五月的文明奠基:OpenClaw 2026.5.2版本的文明级解读
android·java·开发语言·人工智能·github·拓扑学·openclaw
BU摆烂会噶40 分钟前
【LangGraph】持久化实现的三大能力——时间旅行
数据库·人工智能·python·postgresql·langchain
LaughingZhu1 小时前
Product Hunt 每日热榜 | 2026-04-26
人工智能·经验分享·深度学习·百度·产品运营
绛橘色的日落(。・∀・)ノ1 小时前
机器学习 单变量线性回归模型
人工智能·机器学习