nifi

zhangjin12227 个月前
数据仓库·etl·nifi·updaterecord
ETL工具-nifi干货系列 第十二讲 nifi处理器UpdateRecord使用教程1、上一节课我们讲解了nifi处理器UpdateAttribute,专门用来更新flowFile的属性字段。本节课我们一起来学习UpdateRecord,该处理器用来更新flowFile的流文件内容数据,如下图所示
zhangjin12228 个月前
数据库·etl·nifi·etl工具
ETL工具-nifi干货系列 第八讲 处理器PutDatabaseRecord 写数据库(详细)1、本节通过一个小例子来讲解下处理器PutDatabaseRecord,该处理器的作用是将数据写入数据库。
zhangjin12228 个月前
数据仓库·etl·nifi
ETL工具-nifi干货系列 第四讲 Avro schema 序列化框架一、在使用nifi的过程中会使用到遇到avro schema、avro data、avroReader、avroWriter等,所以本节课和大家一起学习下avro相关知识。
G皮T1 年前
大数据·数据库·日志·nifi·数据同步·数据捕获·数据抽取
【大数据】常见的数据抽取方法数据抽取 是指从源数据源系统抽取需要的数据。实际应用中,数据源较多采用的是关系数据库。总体而言,数据抽取的常见方法有两大类,一是基于查询式的,一是基于日志的。
G皮T1 年前
大数据·nifi·数据同步·数据流·dataflow
【大数据】Apache NiFi 数据同步流程实践初衷:对于一些新接触 Apache NIFI 的小伙伴来说,他们急于想体验 NIFI,恨不得直接找到一篇文章,照着做就直接能够解决目前遇到的需求或者问题,回想当初的我,也是这个心态。其实这样的心态是不对的。好多加入 NIFI 学习群的新手同学都会有这个问题,一些基本的概念和知识点都没有掌握,然后提出了一堆很初级的问题,对于这些问题,我们可能已经回答了几十上百次,厌倦了,所以大家一般会说 “你先去看文档吧!”。其实,对于一个新手,直接看文档,也是一脸懵。所以在这里,我带领新手的你,新建一个同步的流程,并尽可
G皮T1 年前
大数据·数据处理·nifi·数据分发·数据流·dataflow
【大数据】Apache NiFi 助力数据处理及分发简单的说,NiFi 就是为了解决不同系统间数据自动流通问题而建立的。虽然 dataflow 这个术语在各种场景都有被使用,但我们在这里使用它来表示不同系统间的自动化的可管理的信息流。自企业拥有多个系统开始,一些系统会有数据生成,一些系统要消费数据,而不同系统之间数据的流通问题就出现了。这些问题出现的相应的解决方案已经被广泛的研究和讨论,其中企业集成 eip(Enterprise Integration Patterns) 就是一个全面且易于使用的方案。
浩瀚蓝天dep1 年前
http·nifi
NIFI使用InvokeHTTP发送http请求这里介绍四种平时常用的http请求方法:GET、POST、PUT、DELETE。在官方的介绍文档中关于InvokeHTTP处理器的描述是这么说的:
浩瀚蓝天dep1 年前
sql·json·nifi
NIFI实现JSON转SQL并插入到数据库表中本文中的NIFI是使用docker进行安装的,所有的配置参考:docker安装Apache NIFI现在有一个文件,里面存储的是一些json格式的数据,要求将文件中的数据存入数据库表中,以下是一些模拟的数据和对应的数据库建表语句。
浩瀚蓝天dep1 年前
apache·nifi
docker安装Apache NIFI系统:CentOS7.9nifi版本:1.23.2nifi的镜像比较大,大概有2G左右,下载时间根据个人网速而定