java整合kettle加载output json相关插件

问题异常:

2022/03/22 15:04:58 - JSON input.0 - ERROR (version 8.3.0.0-371, build 8.3.0.0-371 from 2019-06-11 11.09.08 by buildguy) : Can't run transformation due to plugin missing

ERROR2022-03-22T15:04:58.073+0800init of JSON input.0 (Thread-87) org.pentaho.di.trans.Trans : \[\] Can't run transformation due to plugin missing

2022/03/22 15:04:58 - JSON input.0 - ERROR (version 8.3.0.0-371, build 8.3.0.0-371 from 2019-06-11 11.09.08 by buildguy) : 错误初始化步骤JSON input

ERROR\]\[2022-03-22T15:04:58.073+0800\]\[init of JSON input.0 (Thread-87)\] org.pentaho.di.trans.Trans : \[\] 错误初始化步骤\[JSON input

2022/03/22 15:04:58 - 表输出.0 - Connected to database test (commit=1000)

2022/03/22 15:04:58 - ktr_sf_https_encrypt - ERROR (version 8.3.0.0-371, build 8.3.0.0-371 from 2019-06-11 11.09.08 by buildguy) : 步骤 JSON input.0 初始化失败!

ERROR2022-03-22T15:04:58.143+0800pool-3-thread-1 org.pentaho.di.trans.Trans : \[\] 步骤 JSON input.0 初始化失败!

ERROR2022-03-22T15:04:58.150+0800pool-3-thread-1 _undef||spanid=lathe-kettle||cspanid=||traceid=||running elt task error,message:

无法初始化至少一个步骤. 执行无法开始!

缺少JSON input 的plugin插件

解决方法一:

如果你是kettle官网下载的工具,一般不会报这个错,报的话,取工具包里查看plugin里是否有

kettle-json-plugin-core这个包以及包下是否有jar包等如图

代码实现的kettle功能此问题解决方法:

如果你是java代码实现的kettle功能,这里你要看下是是否代码集成了这个插件。

方法一:

在初始化类里加上这段内容

StepPluginType.getInstance().getPluginFolders().

add(new PluginFolder("/Users/desktop/data-integration/plugins/kettle-json-plugin",

false, true))

这种需要把你本地路径的插件包加载到项目中,运行可成功

因为是自己引入了kettle包实现的kettle核心同步功能,而且该包无法通过pom注入方式解决

而且项目发布上线的仓库里也没有该包,如果想再上面的代码可以发布需要人工把包上传到服务器,如果是容器,需要把包放到项目里,然后再通过项目脚本,把文件copy到项目文件下加载。

方法二:

通过copy kettle的源码,把插件类copy到项目中

Kettle工具:Download Pentaho from Hitachi Vantara from SourceForge.net

Kettle源码:GitHub - pentaho/pentaho-kettle: Pentaho Data Integration ( ETL ) a.k.a Kettle

我本次缺失的插件是JSON input 因此,我找到源码中的JSON input,把代码copy下来

路径如下图:

copy后的结构如下,没有继续分包了,上面的图里框住的都copy下来。注意:如果copy源码,pom里就不能注入下面的jar包。

<!--<dependency>

<groupId>org.pentaho.di.plugins</groupId>

<artifactId>kettle-json-plugin-core</artifactId>

<version>8.3.0.0-371</version>

<version>9.0.0.0-20181104.095715-119</version>

</dependency>-->

源码copy完成后,再初始化方法里,加载插件,我这里加入两个插件,一个es,一个jsoninput

其中registerCustom的参数,对应meta类的@Step 注解里的定义

/**

* 这里需要可以通过注解的形式来做

* 1 动态解析出插件的编码、名称等

*/

private void registryCustomPluginList(){

try {

StepPluginType.getInstance().registerCustom(ElasticSearchBulkMeta.class,

"ElasticSearchBulk.TypeLongDesc.ElasticSearchBulk",

"ElasticSearchBulk",

"ElasticSearchBulk.TypeLongDesc.ElasticSearchBulk",

"",null);

StepPluginType.getInstance().registerCustom(JsonInputMeta.class,

"JsonInput.name",

"JsonInput",

"JsonInput.name",

"",null);

} catch (KettlePluginException e) {

e.printStackTrace();

}

}

集成完毕后运行,成功。

相关推荐
AAA@峥4 分钟前
系统化学习 MySQL:数据类型、库表管理、增删改查全解析
数据库·学习·mysql
JL154 分钟前
Spring Boot vs Gin:Java 人搭第一个 Go REST API
java·spring boot·gin
神明不懂浪漫42 分钟前
【第七章】Java中的常用类
java·开发语言·前端·经验分享·笔记
流星白龙7 小时前
【Redis】2.Redis重大版本
数据库·redis·junit
流星白龙7 小时前
【Redis】7.Hash表
数据库·redis·哈希算法
流星白龙8 小时前
【Redis】4.基本全局命令
数据库·redis·缓存
王八八。9 小时前
Navicat 17破解版下载安装教程 附安装激活步骤(2026 最新版)
数据库·navicat
Jelena1577958579210 小时前
电商运营分析数据比价接口实战:多平台价格监控与智能决策系统
java·大数据·数据库
神明不懂浪漫11 小时前
【第五章】Java中的继承与多态
java·开发语言
流星白龙11 小时前
【Redis】3.Redis安装与命令行客户端
数据库·redis·缓存