腾讯云国际-如何使用对象存储COS在 CKafka 控制台创建数据异步拉取任务?腾讯云代充

操作场景

Datahub 支持接入各种数据源产生的不同类型的数据,统一管理,再分发给下游的离线/在线处理平台,构建清晰的数据通道。

本文以 COS 数据为例介绍如何在 CKafka 控制台创建数据异步拉取任务,并对任务进行修改配置,帮助用户更好地了解数据接入功能。

关联unirech注册腾讯云国际站账号,量大优惠且可以有多重优势,无-需-绑-定PayPal即可注册,代-充-值腾讯云国际站、阿里云国际站、AWS亚马逊云、GCP谷歌云,官方授权经销商!靠谱!T-G

飞机 @unirech_dingding

操作步骤

创建数据接入任务

前提条件
  • 已创建好目标 CKafka 实例和 Topic。
  • 已创建好存储桶和对象。
操作步骤:
  1. 登录 CKafka 控制台 。
  2. 在左侧导航栏单击数据流入,选择好地域后,单击新建任务。
  3. 在弹窗中数据源类型选择异步拉取 > COS。
  4. 单击下一步,填写任务详情。
  • 任务名称:只能包含字母、数字、下划线、"-"、"."。

  • CKafka 实例:选择 CKafka 实例。

  • 目标 CKafak topic:选择数据投递的目标 CKafka Topic。

  • 源存储桶:选择源数据存储桶。

  • 源对象:选择源数据对象,当前 Topic 支持的最大消息大小为12MB,单行文本数据超过12MB 会写入失败。

  • 角色授权:使用对象存储(COS)产品功能,您需要授予一个第三方角色代替您执行访问相关产品权限。

  1. 单击提交,完成任务创建。

更改数据源和数据目标

登录 CKafka 控制台 。

在左侧导航栏单击数据接入,单击目标任务的ID,进入任务基本信息页面。

单击数据目标模块右上角的更改数据目标,修改数据目标信息。

查看监控

登录 CKafka 控制台 。

在左侧导航栏单击数据接入,单击目标任务的ID,进入任务基本信息页面。

选择监控页签,可查看目标 Topic 监控数据。

暂停任务

在 数据接入 页面,单击目标任务的操作栏的暂停,可暂停任务。

说明: 当您发现数据接入任务影响了 CKafka 正常服务时,可以暂停数据接入。

恢复任务

在 数据接入 页面,单击目标任务的操作栏的恢复,可将暂停任务恢复。

说明: 处于暂停状态的任务可以重新启动,将继续转储数据。

删除任务

在 数据接入 页面,单击目标任务的操作栏的删除,在二次确认弹窗中单击确认,可删除任务。

说明: 删除任务表示停止数据接入并删除任务记录,不会影响到已经转储的数据和相关的 CKafka 实例。 任务一旦删除不可恢复,请您谨慎操作。

相关推荐
zone77391 天前
001:简单 RAG 入门
后端·python·面试
F_Quant1 天前
🚀 Python打包踩坑指南:彻底解决 Nuitka --onefile 配置文件丢失与重启报错问题
python·操作系统
允许部分打工人先富起来1 天前
在node项目中执行python脚本
前端·python·node.js
IVEN_1 天前
Python OpenCV: RGB三色识别的最佳工程实践
python·opencv
haosend1 天前
AI时代,传统网络运维人员的转型指南
python·数据网络·网络自动化
曲幽1 天前
不止于JWT:用FastAPI的Depends实现细粒度权限控制
python·fastapi·web·jwt·rbac·permission·depends·abac
Johny_Zhao1 天前
OpenClaw安装部署教程
linux·人工智能·ai·云计算·系统运维·openclaw
哈里谢顿1 天前
Kubernetes Operator核心概念、实现原理和实战开发
云原生
阿里云云原生2 天前
你的 OpenClaw 真的在受控运行吗?
云原生
NineData2 天前
数据库迁移总踩坑?用 NineData 迁移评估,提前识别所有兼容性风险
数据库·程序员·云计算