腾讯云国际-如何使用对象存储COS在 CKafka 控制台创建数据异步拉取任务?腾讯云代充

操作场景

Datahub 支持接入各种数据源产生的不同类型的数据,统一管理,再分发给下游的离线/在线处理平台,构建清晰的数据通道。

本文以 COS 数据为例介绍如何在 CKafka 控制台创建数据异步拉取任务,并对任务进行修改配置,帮助用户更好地了解数据接入功能。

关联unirech注册腾讯云国际站账号,量大优惠且可以有多重优势,无-需-绑-定PayPal即可注册,代-充-值腾讯云国际站、阿里云国际站、AWS亚马逊云、GCP谷歌云,官方授权经销商!靠谱!T-G

飞机 @unirech_dingding

操作步骤

创建数据接入任务

前提条件
  • 已创建好目标 CKafka 实例和 Topic。
  • 已创建好存储桶和对象。
操作步骤:
  1. 登录 CKafka 控制台 。
  2. 在左侧导航栏单击数据流入,选择好地域后,单击新建任务。
  3. 在弹窗中数据源类型选择异步拉取 > COS。
  4. 单击下一步,填写任务详情。
  • 任务名称:只能包含字母、数字、下划线、"-"、"."。

  • CKafka 实例:选择 CKafka 实例。

  • 目标 CKafak topic:选择数据投递的目标 CKafka Topic。

  • 源存储桶:选择源数据存储桶。

  • 源对象:选择源数据对象,当前 Topic 支持的最大消息大小为12MB,单行文本数据超过12MB 会写入失败。

  • 角色授权:使用对象存储(COS)产品功能,您需要授予一个第三方角色代替您执行访问相关产品权限。

  1. 单击提交,完成任务创建。

更改数据源和数据目标

登录 CKafka 控制台 。

在左侧导航栏单击数据接入,单击目标任务的ID,进入任务基本信息页面。

单击数据目标模块右上角的更改数据目标,修改数据目标信息。

查看监控

登录 CKafka 控制台 。

在左侧导航栏单击数据接入,单击目标任务的ID,进入任务基本信息页面。

选择监控页签,可查看目标 Topic 监控数据。

暂停任务

在 数据接入 页面,单击目标任务的操作栏的暂停,可暂停任务。

说明: 当您发现数据接入任务影响了 CKafka 正常服务时,可以暂停数据接入。

恢复任务

在 数据接入 页面,单击目标任务的操作栏的恢复,可将暂停任务恢复。

说明: 处于暂停状态的任务可以重新启动,将继续转储数据。

删除任务

在 数据接入 页面,单击目标任务的操作栏的删除,在二次确认弹窗中单击确认,可删除任务。

说明: 删除任务表示停止数据接入并删除任务记录,不会影响到已经转储的数据和相关的 CKafka 实例。 任务一旦删除不可恢复,请您谨慎操作。

相关推荐
xxie12379416 分钟前
Python 闭包的调用方法与实践
开发语言·python
HZZD_HZZD17 分钟前
用电行为异常检测VAE-基于PyTorch设计用电行为异常检测模型:从时序特征提取到变分自编码器部署的完整实战
人工智能·pytorch·python
楷哥爱开发20 分钟前
降低网络爬虫成本:基础设施优化指南
服务器·开发语言·php
鱼很腾apoc27 分钟前
【Linux】第7期 进程间通信 (IPC) 详解:管道 (匿名 / 命名) + System V
linux·服务器·c语言·学习·进程间通信·ipc
思-无-涯29 分钟前
AI Agent技能编写与质量保障
人工智能·python
AFinalStone35 分钟前
Android 7系统网络(一)全景图与调用链路概览
android·网络·frameworks
yxl8746464639 分钟前
PCTG-1015型Profinet转Ethernet/IP协议转换器
服务器·网络·物联网·网络协议·自动化·信息与通信
你觉得脆皮鸡好吃吗42 分钟前
【THM】JWT Security & Protocols and Servers(AI)
运维·服务器·网络
rcms152702692181 小时前
YASKAWA SGD7S-180AA0A伺服驱动器
网络
忡黑梨1 小时前
安装 Claude Code(使用 DeepSeek API)
网络·网络安全