腾讯云国际-如何使用对象存储COS在 CKafka 控制台创建数据异步拉取任务?腾讯云代充

操作场景

Datahub 支持接入各种数据源产生的不同类型的数据,统一管理,再分发给下游的离线/在线处理平台,构建清晰的数据通道。

本文以 COS 数据为例介绍如何在 CKafka 控制台创建数据异步拉取任务,并对任务进行修改配置,帮助用户更好地了解数据接入功能。

关联unirech注册腾讯云国际站账号,量大优惠且可以有多重优势,无-需-绑-定PayPal即可注册,代-充-值腾讯云国际站、阿里云国际站、AWS亚马逊云、GCP谷歌云,官方授权经销商!靠谱!T-G

飞机 @unirech_dingding

操作步骤

创建数据接入任务

前提条件
  • 已创建好目标 CKafka 实例和 Topic。
  • 已创建好存储桶和对象。
操作步骤:
  1. 登录 CKafka 控制台 。
  2. 在左侧导航栏单击数据流入,选择好地域后,单击新建任务。
  3. 在弹窗中数据源类型选择异步拉取 > COS。
  4. 单击下一步,填写任务详情。
  • 任务名称:只能包含字母、数字、下划线、"-"、"."。

  • CKafka 实例:选择 CKafka 实例。

  • 目标 CKafak topic:选择数据投递的目标 CKafka Topic。

  • 源存储桶:选择源数据存储桶。

  • 源对象:选择源数据对象,当前 Topic 支持的最大消息大小为12MB,单行文本数据超过12MB 会写入失败。

  • 角色授权:使用对象存储(COS)产品功能,您需要授予一个第三方角色代替您执行访问相关产品权限。

  1. 单击提交,完成任务创建。

更改数据源和数据目标

登录 CKafka 控制台 。

在左侧导航栏单击数据接入,单击目标任务的ID,进入任务基本信息页面。

单击数据目标模块右上角的更改数据目标,修改数据目标信息。

查看监控

登录 CKafka 控制台 。

在左侧导航栏单击数据接入,单击目标任务的ID,进入任务基本信息页面。

选择监控页签,可查看目标 Topic 监控数据。

暂停任务

在 数据接入 页面,单击目标任务的操作栏的暂停,可暂停任务。

说明: 当您发现数据接入任务影响了 CKafka 正常服务时,可以暂停数据接入。

恢复任务

在 数据接入 页面,单击目标任务的操作栏的恢复,可将暂停任务恢复。

说明: 处于暂停状态的任务可以重新启动,将继续转储数据。

删除任务

在 数据接入 页面,单击目标任务的操作栏的删除,在二次确认弹窗中单击确认,可删除任务。

说明: 删除任务表示停止数据接入并删除任务记录,不会影响到已经转储的数据和相关的 CKafka 实例。 任务一旦删除不可恢复,请您谨慎操作。

相关推荐
WJX_KOI1 小时前
Open Notebook 一个开源的结合AI的记笔记软件
python
0思必得02 小时前
[Web自动化] 反爬虫
前端·爬虫·python·selenium·自动化
2301_822382762 小时前
Python上下文管理器(with语句)的原理与实践
jvm·数据库·python
喵手3 小时前
Python爬虫实战:从零搭建字体库爬虫 - requests+lxml 实战采集字体网字体信息数据(附 CSV 导出)!
爬虫·python·爬虫实战·零基础python爬虫教学·csv导出·采集字体库数据·字体库字体信息采集
2301_790300963 小时前
Python深度学习入门:TensorFlow 2.0/Keras实战
jvm·数据库·python
程序员敲代码吗4 小时前
用Python生成艺术:分形与算法绘图
jvm·数据库·python
Yyyyy123jsjs5 小时前
如何通过免费的外汇API轻松获取实时汇率数据
开发语言·python
Cisco_hw_zte5 小时前
小型网络中部署Aruba无线
网络
喵手5 小时前
Python爬虫实战:GovDataMiner —— 开放数据门户数据集元数据采集器(附 CSV 导出)!
爬虫·python·爬虫实战·python爬虫工程化实战·零基础python爬虫教学·open data·开放数据门户数据集列表