【ROMA核心特性数据、服务、消息、设备集成及统一运维】

1、数据集成

FDI旨在解决多种数据源的快速灵活集成能力,您可以在任意时间、任意地点、任意系统之间实现实时数据订阅和定时增量数据迁移。

(1)数据集成任务的生命周期管理

(2)FDI支持修改数据集成任务的信息、查看数据集成任务的运行报告、查看数据集成任务的运行日志、查看数据集成任务状态,完成数据集成任务的生命周期管理功能。

(1)灵活的数据读写

支持 MySQL、文本文件、消息、API等多种数据的分片读取和写入。定时读数据插件支持 Oracle,MySQL,SqlServer,PostgreSQL,Mongodb,Gauss 200,FI KAFKA,FI Hive,FI HDFS、FTP,MQS、API、LDAP。

(2)实时读插件支持MySQL、MQS、Kafka、FI Kafka。

(3)定时写数据插件支持Oracle、SqlServer、MySQL,MongoDB,Gauss 200,PostgreSQL,FI KAFKA,FI HIVE,FI HDFS,FTP,API,MQS,Redis,Kafka。

(4)实时写插件支持Oracle、SqlServer、MySQL,MongoDB,Gauss 200,PostgreSQL,FI KAFKA,FI HIVE,API, MQS,Redis,Kafka。

(5)如果服务意外中断 ,修复服务之后FDI支持自动修复任务。

(6)支持任务调度、任务监控、任务中断续读。

可靠的数据传输通道

FDI可以持续7*24小时不间断监听数据通道中的数据,支持100个以上的线程并发执行。实时监听消息队列,把数据实时写入目标队列。

灵活调度(定时、实时)

FDI提供全面、灵活、高可用的任务调度服务,支持通过API或以消息方式进行数据集成。按照时间、数据数量等任务触发规则来调度任务。根据任务配置,为插件分配任务,并监控和记录任务的执行状态。

2、服务集成

API Connect主要功能如下:

(1)API开发编排函数API

支持将函数服务以API形式开放使用。通过编写JS代码的方式,对多个服务进行编排和适配,封装为一个新的服务。

(2)数据API

通过编写SQL脚本的方式,将数据库提供的数据服务转换为REST API的能力。

(3)API测试

通过在线测试验证功能,服务开发封装好后,可以直接验证逻辑,快速发现业务契合度的问题,从而减少调测代码的编写,调试时间和人力投入。

(4)数据源管理

对数据源进行创建和修改,API开发通过引用统一创建的数据源,避免每个API单独创建数据连接,减少无价值的重复性工作,当数据源发生变化时,对数据源进行修改即可,从而避免每个API都修改。

(5)便捷的API生命周期管理

帮助您轻松构建、管理和部署任意规模的API,您不仅可以将API快速上线,还能随时回退和下线,确保服务稳定可靠。

(6)多层安全防护

API网关具备SSL传输、安全认证、IP黑白名单控制、请求参数校验、签名防重放攻击、多种审计等安全措施,全方位保护API安全调用。

(7)灵活的策略路由

API网关支持配置不同的后端,按照多种路由策略进行匹配转发。
默认路由 :包含URL、服务域。
策略路由 :通过判断HTTP Header/HTTP Parameter实现不同参数取值访问不同目标,当策略路由满足一定条件的时候(Header、Parameter),跳转到策略路由地址。
均衡路由:目前仅支持 polling策略, Polling对后端服务进行轮询,保证每个服务地址都有同等机会被调用,适用于无状态服务。

(8)流量控制

用于API网关限制对API访问请求量的控制,包含请求次数和访问流量控制,保护后端服务。

流量控制的时间单位可以是分钟、小时或天。

(9)API运行实时监控

提供实时、可视化的API监控,包括:API请求次数、API调用错误信息。

3、消息集成

(1)Topic管理。

支持对消息主题Topic的创建、修改、发布、订阅、查询等管理。

(2)发布订阅管理。

支持对发布、订阅的Topic进行修改、启停、日志、连接信息等配置管理,便于对消息主题的管理和维护。

(3)消息轨迹。

支持追踪消息生产与消费的完整链路信息,获取任一消息的当前状态,为排查生产问题提供有效数据支持。

(4)运维可视化。

支持消息消费进度、连接查询、连接日志、消息统计的可视化,极大提高系统管理员的运维效率,提早发现问题隐患并解决,使得系统运行更加稳定可靠。

(5)消息搬移。

通过路由配置,可将一个ROMA环境中的MQS消息搬移到另一个ROMA环境的MQS中,实现MQS消息跨区域搬移。

4、设备集成

LINK是一个设备集成服务,使用MQTT标准协议连接设备,实现设备快速接入、数据采集等物联网应用。

LINK主要功能如下:
(1)设备接入南向通过MQTT协议接入设备。

第三方厂商可以基于LINK南向提供的Agent SDK接口进行二次开发,将设备接入到LINK平台,并且可以进行设备数据上报,命令响应等操作。

北向应用通过HTTPS协议调用LINK开放的北向API注册设备、获取设备数据、下发命令。设备使用"一机一密"的方式安全接入,每个设备具备唯一的device ID、用户名和密码。LINK提供设备、应用授权认证及Topic的双向绑定授权,保障设备安全与唯一性。

(2)产品管理

提供可视化的产品定义(新增、修改、删除、查询、导入导出等)。

(3)设备管理

包括设备生命周期管理、设备访问授权、设备topic、设备分组、子设备管理、标签管理、设备批量操作、设备影子、设备实时状态监控、设备日志监控等特性。

(4)规则引擎

用户可以在控制台配置规则引擎,实现设备将Topic级别的消息转发到不同的服务中,如消息队列服务MQS和FI KAFKA等。同时支持配置使用类SQL的规则语言对转发的消息进行处理和筛选,满足不同业务对转发数据内容的要求,实现业务逻辑与应用程序的低耦合。

(5)运维可视

提供自助化的运维可视(设备的连接状态、日志信息、概览统计等)和告警机制能力,支撑用户日常的一些关键运维工作,提升设备的可维护性。

(6)数据存储

设备上报的设备在平台内默认存储7天,根据业务情况可进行配置。

(7)LINK可提供全方位的安全保障

业务层安全:具备身份认证、业务认证、完整性、机密性等安全保护措施。

平台层安全:具备软件完整性校验、操作系统加固、数据库加固等运营环境安全保护措施;具备组网隔离、防DOS攻击、IDS等组网部署安全保护措施;具备帐户管理、日志管理等运维安全保护措施;具备个人数据保护等数据安全保护措施。

接入层安全:具备身份认证、传输加密、防篡改、防抵赖等安全保护措施。

终端层安全:采用唯一性的device ID、用户名和密码对设备的接入进行安全鉴权。

5、统一运维

(1)告警监控

提供ROMA各组件告警监控信息,能够通过运维界面查看ROMA进程及业务故障信息,以直观的方式将应用产生的告警信息进行展示。

(2)错误日志检索

对ROMA的日志进行采集,并支持在Kibana进行日志检索展示,当前支持对error日志的检索展示。

(3)进程监控

对ROMA各应用组件的进程状态进行监控,在Kibana上展示结果。

(4)Ngnix日志监控

提供对Nginx的access和error日志进行采集和分析,并进行视图展示。ROMA Portal每个访问请求都会记录access日志(错误时记录error日志),通过该日志看出什么时候是业务高峰,辅助定位问题。

(5)节点资源使用情况监控

提供对所有ROMA服务所在的Linux节点的系统资源监控,包括内存,CPU、磁盘、网络等,并对资源情况进行分析和视图展示。

(6)JVM业务进程资源使用监控

提供对ROMA的JVM业务进程实例的内存(heap、non-heap)、gc、占用cpu进行监控,并进行分析和视图展示,以达到监控web容器的运行状态,从而预测内存泄露,fullgc太长导致业务中断等问题。

相关推荐
光芒再现dev10 分钟前
已解决,部署GPTSoVITS报错‘AsyncRequest‘ object has no attribute ‘_json_response_data‘
运维·python·gpt·语言模型·自然语言处理
AndyFrank23 分钟前
mac crontab 不能使用问题简记
linux·运维·macos
zmd-zk34 分钟前
kafka+zookeeper的搭建
大数据·分布式·zookeeper·中间件·kafka
激流丶36 分钟前
【Kafka 实战】如何解决Kafka Topic数量过多带来的性能问题?
java·大数据·kafka·topic
测试界的酸菜鱼1 小时前
Python 大数据展示屏实例
大数据·开发语言·python
时差9531 小时前
【面试题】Hive 查询:如何查找用户连续三天登录的记录
大数据·数据库·hive·sql·面试·database
Mephisto.java1 小时前
【大数据学习 | kafka高级部分】kafka中的选举机制
大数据·学习·kafka
苍老流年1 小时前
Hive中各种Join的实现
数据仓库·hive·hadoop
Mephisto.java1 小时前
【大数据学习 | kafka高级部分】kafka的优化参数整理
大数据·sql·oracle·kafka·json·database
道可云1 小时前
道可云人工智能&元宇宙每日资讯|2024国际虚拟现实创新大会将在青岛举办
大数据·人工智能·3d·机器人·ar·vr