腾讯云国际-如何使用对象存储COS在 CKafka 控制台创建数据异步拉取任务?腾讯云代充

操作场景

Datahub 支持接入各种数据源产生的不同类型的数据,统一管理,再分发给下游的离线/在线处理平台,构建清晰的数据通道。

本文以 COS 数据为例介绍如何在 CKafka 控制台创建数据异步拉取任务,并对任务进行修改配置,帮助用户更好地了解数据接入功能。

关联unirech注册腾讯云国际站账号,量大优惠且可以有多重优势,无-需-绑-定PayPal即可注册,代-充-值腾讯云国际站、阿里云国际站、AWS亚马逊云、GCP谷歌云,官方授权经销商!靠谱!T-G

飞机 @unirech_dingding

操作步骤

创建数据接入任务

前提条件
  • 已创建好目标 CKafka 实例和 Topic。
  • 已创建好存储桶和对象。
操作步骤:
  1. 登录 CKafka 控制台 。
  2. 在左侧导航栏单击数据流入,选择好地域后,单击新建任务。
  3. 在弹窗中数据源类型选择异步拉取 > COS。
  4. 单击下一步,填写任务详情。
  • 任务名称:只能包含字母、数字、下划线、"-"、"."。

  • CKafka 实例:选择 CKafka 实例。

  • 目标 CKafak topic:选择数据投递的目标 CKafka Topic。

  • 源存储桶:选择源数据存储桶。

  • 源对象:选择源数据对象,当前 Topic 支持的最大消息大小为12MB,单行文本数据超过12MB 会写入失败。

  • 角色授权:使用对象存储(COS)产品功能,您需要授予一个第三方角色代替您执行访问相关产品权限。

  1. 单击提交,完成任务创建。

更改数据源和数据目标

登录 CKafka 控制台 。

在左侧导航栏单击数据接入,单击目标任务的ID,进入任务基本信息页面。

单击数据目标模块右上角的更改数据目标,修改数据目标信息。

查看监控

登录 CKafka 控制台 。

在左侧导航栏单击数据接入,单击目标任务的ID,进入任务基本信息页面。

选择监控页签,可查看目标 Topic 监控数据。

暂停任务

在 数据接入 页面,单击目标任务的操作栏的暂停,可暂停任务。

说明: 当您发现数据接入任务影响了 CKafka 正常服务时,可以暂停数据接入。

恢复任务

在 数据接入 页面,单击目标任务的操作栏的恢复,可将暂停任务恢复。

说明: 处于暂停状态的任务可以重新启动,将继续转储数据。

删除任务

在 数据接入 页面,单击目标任务的操作栏的删除,在二次确认弹窗中单击确认,可删除任务。

说明: 删除任务表示停止数据接入并删除任务记录,不会影响到已经转储的数据和相关的 CKafka 实例。 任务一旦删除不可恢复,请您谨慎操作。

相关推荐
羲云网络15 分钟前
GPT Image 2.6 接入指南:Flare、Sunburst 怎么选,编辑失败如何排查
人工智能·python·aigc·图像生成·acedatacloud
承渊政道2 小时前
Linux网络学习【Reactor反应堆模式】
linux·网络·学习·ubuntu·reactor
橙橙笔记4 小时前
具身智能的学习 - 完成一个机械臂 第1节
python·学习·机械臂·具身智能
小小张说故事4 小时前
Python 的 class 语句到底执行了什么?拆开 __prepare__、metaclass.__new__ 和那个被讲反的 __set_name__ 顺序
python
讯捷蓝达4 小时前
戴尔R720xd服务器卡死在 “Configuring Memory...Done“,换了内存还是卡?问题根本不在内存
运维·服务器
天天被压力6 小时前
【A股分钟级高频数据完全手册 #07】北交所历史分钟K线接口:京市Pro版分时批量
java·人工智能·python
天天被压力6 小时前
【A股分钟级高频数据完全手册 #08】股票日、分时数据接口对比:普通分时与Pro版差异实测
java·人工智能·python
特立独行的猫A6 小时前
AI 时代,我为什么推荐用 cj-tauri 开发桌面应用
java·后端·python
小lo想吃棒棒糖7 小时前
把机器人训练从 GPU 搬到昇腾 NPU:启元 Q1 起身动作 PPO 训练全记录
python·机器人·昇腾·启元机器人
Thanks_ks7 小时前
【第 006 讲】搭建 PyCharm 开发环境:PyCharm 的下载与安装 | 初始设置与常用配置
ide·python·pycharm·开发工具·jetbrains·开发环境·集成开发环境