TensorFlow文件读取 --TFRecords文件

TFRecords文件

是一种二进制文件,能够很好的利用内存,更方便复制和移动,并且不需要单独的标签文件

使用步骤

1)获取数据

2)将数据填入到Example协议内存块(protocol buffer)

3)将协议内存块序列化为字符串,并且通过 tf.python_io.TFRecordWriter写入到TFRecords文件

文件格式 *.tfrecords

Example结构

●tf. train. Example协议内存块(protocol buffer)(协议内存块包含了字段 Features )

●Features包含了一个Feature 字段

●Feature 中包含要写入的数据、并指明数据类型。

这是一个样本的结构,批数据需要循环存入这样的结构

  • tf.train.Example(features=None)

写入tfrecords文件

features: tf.train.Features类型的特征实例

return: example格式协议块

  • tf.train.Features(feature=None)

构建每个样本的信息键值对

feature: 字典数据,key为要保存的名字

value为tf.train.Feature实例

return: Features类型

  • tf.train.Feature(options)

options: 例如

bytes_ litftrain. BytesList(value=Bytes)

int64. lststf.train. Int64List(value=[Value)

支持存入的类型如下

tf.train.Int64List(value=Malue])

tf.train.BytesList(value=Bytes)

tf.train.FloatList(value=value

流程分析

1)构造存储实力 tf.python_io.TFRecordWriter(patch)

2)循环将数据填入到Example协议内存块(protocol buffer)

example解析

●tf.parse. single_ example(serialized, features=None, name=None)

解析一个单一的Example原型

serialized: 标量字符串Tensor, - 一个序列化的Example

features: dict字典数据,键为读取的名字,值为FixedLenFeature

return:一 个键值对组成的字典,键为读取的名字

●tf.FixedL enFeature(shape, dtype)

shape: 输入数据的形状,一般不指定,为空列表

dtype: 输入数据类型,与存储进文件的类型要一致

类型只能是float32, int64, string

案例:

写入:

读取:

流程:

1)构造文件名队列

2)读取和解码

读取

解析example

解码

3)构造批处理队列

相关推荐
南京云森杉木桩1 分钟前
水利木桩源头直供,质量可靠价格更优
大数据·python
Aaron - Wistron10 分钟前
Python基础教程2/4(复合数据结构)
python
数据智研11 分钟前
【数据分享】陕西区域统计年鉴(2012-2018)
大数据·人工智能·信息可视化·数据分析
小柯南敲键盘13 分钟前
跨境电商图片翻译与视频字幕翻译工具推荐
python·音视频
ZJU_统一阿萨姆16 分钟前
【推理优化进阶】通信关键路径:NCCL、RDMA 与计算通信重叠
开发语言·人工智能·语言模型·架构·系统架构
AI大法师19 分钟前
品牌焕新不只换 Logo:捷豹案例里的触点重构方法
大数据·人工智能·设计模式·新媒体运营
ZC跨境爬虫36 分钟前
LeetCode 13. 罗马数字转整数(多解法详解 + Java Python 实现)
java·python·leetcode
tuanxiang43 分钟前
在线AI生成率检测:平台投稿内容合规排查踩坑实录
人工智能
machnerrn1 小时前
智慧交通系列(一)-十字路口车辆闯红灯检测告警抓拍系统(附含数据+源码+模型)
人工智能·python·深度学习
现代野蛮人1 小时前
【深度学习实验】—— 利用 RNN 模型进行心脏病预测
pytorch·python·tensorflow·ml