元数据

平凡之大路1 个月前
dama·元数据
【数据管理】DAMA-元数据专题导读:元数据是关于数据的组织、数据域及其关系的信息,是描述数据的数据。在数据治理中,元数据扮演着至关重要的角色,是数据治理的基础和支撑。以下是对数据治理中元数据专题方案的详细介绍:
Android技术栈3 个月前
c语言·c++·音视频·harmonyos·媒体·openharmony·元数据
鸿蒙(API 12 Beta3版)【元数据(C/C++)】媒体相机开发指导元数据(Metadata)是对相机返回的图像信息数据的描述和上下文,针对图像信息,提供的更详细的数据,如照片或视频中,识别人像的取景框坐标等信息。
张永清3 个月前
数据资产管理·元数据·数据血缘
《数据资产管理核心技术与应用》读书笔记-第三章:数据血缘《数据资产管理核心技术与应用》是清华大学出版社出版的一本图书,全书共分10章,第1章主要让读者认识数据资产,了解数据资产相关的基础概念,以及数据资产的发展情况。第2~8章主要介绍大数据时代数据资产管理所涉及的核心技术,内容包括元数据的采集与存储、数据血缘、数据质量、数据监控与告警、数据服务、数据权限与安全、数据资产管理架构等。第9~10章主要从实战的角度介绍数据资产管理技术的应用实践,包括如何对元数据进行管理以发挥出数据资产的更大潜力,以及如何对数据进行建模以挖掘出数据中更大的价值。
Amd7943 个月前
用户体验·元数据·错误处理·自定义错误·vue组件·api路由·nuxt应用
使用 createError 创建错误对象的详细指南title: 使用 createError 创建错误对象的详细指南 date: 2024/8/8 updated: 2024/8/8 author: cmdragon
鲁鲁5174 个月前
元数据·梧桐数据库
梧桐数据库(WuTongDB):数据库中元数据表的常见信息元数据表是数据库系统中用于存储和管理元数据的表。这些表提供关于数据库对象(如表、列、索引、视图、存储过程等)的详细信息。以下是元数据表的一些常见类型及其详细解释:
张永清4 个月前
数据资产管理·元数据
《数据资产管理核心技术与应用》读书笔记-第二章:元数据的采集与存储《数据资产管理核心技术与应用》是清华大学出版社出版的一本图书,全书共分10章,第1章主要让读者认识数据资产,了解数据资产相关的基础概念,以及数据资产的发展情况。第2~8章主要介绍大数据时代数据资产管理所涉及的核心技术,内容包括元数据的采集与存储、数据血缘、数据质量、数据监控与告警、数据服务、数据权限与安全、数据资产管理架构等。第9~10章主要从实战的角度介绍数据资产管理技术的应用实践,包括如何对元数据进行管理以发挥出数据资产的更大潜力,以及如何对数据进行建模以挖掘出数据中更大的价值。
张永清4 个月前
数据资产管理·元数据
《数据资产管理核心技术与应用》读书笔记-第一章:认识数据资产《数据资产管理核心技术与应用》是清华大学出版社出版的一本图书,全书共分10章,第1章主要让读者认识数据资产,了解数据资产相关的基础概念,以及数据资产的发展情况。第2~8章主要介绍大数据时代数据资产管理所涉及的核心技术,内容包括元数据的采集与存储、数据血缘、数据质量、数据监控与告警、数据服务、数据权限与安全、数据资产管理架构等。第9~10章主要从实战的角度介绍数据资产管理技术的应用实践,包括如何对元数据进行管理以发挥出数据资产的更大潜力,以及如何对数据进行建模以挖掘出数据中更大的价值。
张永清4 个月前
大数据·数据资产管理·元数据·数据血缘
图书《数据资产管理核心技术与应用》分享《数据资产管理核心技术与应用》是由清华大学出版社出版的一本图书,该图书主要特点如下:1、依托于大数据技术,独家解密数据血缘的底层技术实现
华为云开发者联盟4 个月前
mysql·缓存·数据字典·元数据·华为云开发者联盟
解读MySQL 8.0数据字典缓存管理机制MySQL的数据字典(Data Dictionary,简称DD),用于存储数据库的元数据信息,它在8.0版本中被重新设计和实现,通过将所有DD数据唯一地持久化到InnoDB存储引擎的DD tables,实现了DD的统一管理。为了避免每次访问DD都去存储中读取数据,使DD内存对象能够复用,DD实现了两级缓存的架构,这样在每个线程使用DD client访问DD时可以通过两级缓存来加速对DD的内存访问。
妙BOOK言7 个月前
论文阅读·元数据·分布式文件系统
Finding a needle in Haystack: Facebook’s photo storage——论文泛读OSDI 2010 Paper 分布式元数据论文阅读笔记整理到2010年为止,用户已经在Facebook上传了超过650亿张照片,对于每个上传的照片,Facebook生成并存储四个不同大小的图像,导致目前存储了超过2600亿张图片,相当于超过20PB的数据。用户每周上传10亿张新照片(~60TB),Facebook在峰值时每秒提供超过100万张图片。庞大的数据量为图片存储提出了新的挑战。
妙BOOK言7 个月前
论文阅读·元数据·分布式文件系统
Cassandra - A Decentralized Structured Storage System——论文阅读SIGOPS 2010 Paper 分布式元数据论文阅读笔记整理Facebook生产环境中,在大量基础设施(数千个组件)上运行的分布式存储系统可能面临各种故障,因此,软件系统需要以一种将故障视为规范而非例外的方式进行构建,如何在这种情况下保证可靠性和可扩展性,同时保证不牺牲读性能下保证高写入吞吐量。
Laurence9 个月前
hive·flink·hudi·catalog·元数据·metastore·共用表
Flink Catalog 解读与同步 Hudi 表元数据的最佳实践在当前的大数据格局中,Spark / Hive / Flink 是最为主流的 ETL 或 Streaming 引擎,元数据方面,Hive Metastore 可以视为事实上的 Data Catalog 标准,而在数据湖存储格式上,又有 Hudi、Iceberg 这类新晋的框架,在这种复杂的格局下,用户希望能它们之间能相互打通,以便能根据应用场景灵活地选择技术栈,同时又不会出现技术上的“隔离”,一个非常典型的例子是:当我们选择了 Hudi 作为数据湖的统一存储格式后,我们希望不管是 Flink 还是 Spa
Tr0e9 个月前
云安全·元数据
SSRF漏洞给云服务元数据带来的安全威胁云服务器的实例元数据是指在实例内部通过访问元数据服务(Metadata Service)获取的实例属性等信息,如实例 ID、VPC 信息、网卡信息。元数据包含实例角色所对应的临时凭据的情况下,如果服务器所搭载的对外业务服务存在 SSRF 漏洞,将造成云服务器可被攻击者接管的风险。本文来具体实践、学习下 SSRF 漏洞给云服务元数据带来的安全威胁。
沧浪之水NaN1 年前
元数据·atlas
导入JDBC元数据到Apache Atlas前期实现了导入MySQL元数据到Apache Atlas, 由于是初步版本,且功能参照Atlas Hive Hook,实现的不够完美
尘隐神明1 年前
经验分享·音视频·元数据·批量剪辑·视频剪辑·剪辑高手·自媒体
文件元数据批量修改:mp3音频和mp4视频的元数据如何批量修改在数字媒体处理和管理的日常工作中,文件元数据的批量修改是一个常见的需求。元数据,或者称为文件信息,可以包括文件的创建日期、修改日期、文件名、文件大小、标签等。在音乐和视频处理领域,例如对mp3音频和mp4视频文件,元数据具有重要的应用价值。是在对文件进行分类、标签化和内容搜索时,元数据起到关键作用。今天详解云炫AI智剪如何批量修改音视频文件元数据的具体操作方法。
驰骋工作流1 年前
低代码·元数据·无代码
基于元数据的无代码平台存储设计业务系统都是围绕数据来进行的,数据是一切的核心,所以我们先从数据的角度,也就是从后端来设计系统,这个版本使用关系数据库,所以设计就在于关系数据库的规定下进行。
京东云技术团队1 年前
低代码·缓存·元数据
低代码平台探讨-MetaStore元数据缓存之前提到我们模型驱动的实现选择的是解释型,需要模型的元数据信息,在接到请求后动态处理逻辑.此外,应用的通用能力中还包括:页面dsl查询,菜单查询等.
vivo互联网技术1 年前
大数据·hive·tidb·元数据·横向扩展
MySQL到TiDB:Hive Metastore横向扩展之路作者:vivo 互联网大数据团队 - Wang Zhiwen本文介绍了vivo在大数据元数据服务横向扩展道路上的探索历程,由实际面临的问题出发,对当前主流的横向扩展方案进行了调研及对比测试,通过多方面对比数据择优选择TiDB方案。其次分享了整个扩展方案流程、实施遇到的问题及解决方案,对于在大数据元数据性能上面临同样困境的开发者本篇文章具有非常高的参考借鉴价值。