java整合kettle加载output json相关插件

问题异常:

2022/03/22 15:04:58 - JSON input.0 - ERROR (version 8.3.0.0-371, build 8.3.0.0-371 from 2019-06-11 11.09.08 by buildguy) : Can't run transformation due to plugin missing

ERROR2022-03-22T15:04:58.073+0800init of JSON input.0 (Thread-87) org.pentaho.di.trans.Trans : \[\] Can't run transformation due to plugin missing

2022/03/22 15:04:58 - JSON input.0 - ERROR (version 8.3.0.0-371, build 8.3.0.0-371 from 2019-06-11 11.09.08 by buildguy) : 错误初始化步骤JSON input

ERROR\]\[2022-03-22T15:04:58.073+0800\]\[init of JSON input.0 (Thread-87)\] org.pentaho.di.trans.Trans : \[\] 错误初始化步骤\[JSON input

2022/03/22 15:04:58 - 表输出.0 - Connected to database test (commit=1000)

2022/03/22 15:04:58 - ktr_sf_https_encrypt - ERROR (version 8.3.0.0-371, build 8.3.0.0-371 from 2019-06-11 11.09.08 by buildguy) : 步骤 JSON input.0 初始化失败!

ERROR2022-03-22T15:04:58.143+0800pool-3-thread-1 org.pentaho.di.trans.Trans : \[\] 步骤 JSON input.0 初始化失败!

ERROR2022-03-22T15:04:58.150+0800pool-3-thread-1 _undef||spanid=lathe-kettle||cspanid=||traceid=||running elt task error,message:

无法初始化至少一个步骤. 执行无法开始!

缺少JSON input 的plugin插件

解决方法一:

如果你是kettle官网下载的工具,一般不会报这个错,报的话,取工具包里查看plugin里是否有

kettle-json-plugin-core这个包以及包下是否有jar包等如图

代码实现的kettle功能此问题解决方法:

如果你是java代码实现的kettle功能,这里你要看下是是否代码集成了这个插件。

方法一:

在初始化类里加上这段内容

StepPluginType.getInstance().getPluginFolders().

add(new PluginFolder("/Users/desktop/data-integration/plugins/kettle-json-plugin",

false, true))

这种需要把你本地路径的插件包加载到项目中,运行可成功

因为是自己引入了kettle包实现的kettle核心同步功能,而且该包无法通过pom注入方式解决

而且项目发布上线的仓库里也没有该包,如果想再上面的代码可以发布需要人工把包上传到服务器,如果是容器,需要把包放到项目里,然后再通过项目脚本,把文件copy到项目文件下加载。

方法二:

通过copy kettle的源码,把插件类copy到项目中

Kettle工具:Download Pentaho from Hitachi Vantara from SourceForge.net

Kettle源码:GitHub - pentaho/pentaho-kettle: Pentaho Data Integration ( ETL ) a.k.a Kettle

我本次缺失的插件是JSON input 因此,我找到源码中的JSON input,把代码copy下来

路径如下图:

copy后的结构如下,没有继续分包了,上面的图里框住的都copy下来。注意:如果copy源码,pom里就不能注入下面的jar包。

<!--<dependency>

<groupId>org.pentaho.di.plugins</groupId>

<artifactId>kettle-json-plugin-core</artifactId>

<version>8.3.0.0-371</version>

<version>9.0.0.0-20181104.095715-119</version>

</dependency>-->

源码copy完成后,再初始化方法里,加载插件,我这里加入两个插件,一个es,一个jsoninput

其中registerCustom的参数,对应meta类的@Step 注解里的定义

/**

* 这里需要可以通过注解的形式来做

* 1 动态解析出插件的编码、名称等

*/

private void registryCustomPluginList(){

try {

StepPluginType.getInstance().registerCustom(ElasticSearchBulkMeta.class,

"ElasticSearchBulk.TypeLongDesc.ElasticSearchBulk",

"ElasticSearchBulk",

"ElasticSearchBulk.TypeLongDesc.ElasticSearchBulk",

"",null);

StepPluginType.getInstance().registerCustom(JsonInputMeta.class,

"JsonInput.name",

"JsonInput",

"JsonInput.name",

"",null);

} catch (KettlePluginException e) {

e.printStackTrace();

}

}

集成完毕后运行,成功。

相关推荐
code2cat6 分钟前
【随笔】结构化输出:JSON格式过关,业务数据就能入库吗
json·大语言模型
2601_962106642 小时前
【Java Set综合实战】商品管理系统 + 图书收藏系统|Product、Book自定义类全套代码
java
RuoyiOffice2 小时前
SpringBoot+Vue3 凭证生命周期设计:审核、过账、冲销与反过账怎样保持账目一致
java·spring boot·事务·springboot3·财务系统·会计凭证·ruoyi office
2601_962106643 小时前
HashMap入门|工号-姓名键值存储、两种遍历方式、根据key/value查
java
杨凯凡3 小时前
Spring Framework 7 API 版本管理实战:请求头路由、兼容迁移与废弃策略
java·rest api·springframework·spring boot 4·api版本管理
T_Wizard4 小时前
同一个问题写了 4 遍:官方 SDK / HTTP / Spring AI / LangChain4j,到底该选哪个
java·ai编程
hai_android4 小时前
AudioTrack 深度解析:从原理到实战
android·java·kotlin
斯维赤4 小时前
限流、熔断、降级,你真的分得清吗?
java·后端·架构
Zan4 小时前
SQLite + SQLx 实战:为什么已经发布的数据库迁移文件,绝对不能再修改?
数据库·后端·面试
这个DBA有点耶5 小时前
数据同步的三个工程底线:DDL同步、断点续传、一致性校验——开源CDC的边界与KFS的路径
数据库·dba·代码规范