云原生最佳实践系列 1:如何快速实现kafka性能压测

消息队列 Kafka 版实例类型的性能表现除了跟实例本身的规格相关外,与创建实例时选择的云盘类型也强相关,本实验通过相同规格的实例,不同的云盘类型来验证该因素的影响。

消息队列 Kafka Serverless 版本身实例未提供具体的云盘类型来选择,其性能表现只与购买实例时预留的写入、读取的指标有关, 写入峰值为预留写入的 2 倍,读取峰值为读取预留的 2 倍。

应用场景

借助 CADT 迅速的搭建 Kafka 不同类型的实例,并构建压测环境,快速对不同的实例配置的性能进行压测,以验证不同配置对性能影响,帮助客户快速的做出具体规格的选型。

主要步骤:

  1. 通过 CADT 快速完成压测服务端环境部署,以及压测客户端的初始化

  2. 配置压测变量,并完成压测

  3. 压测结束释放环境

部署架构

架构说明

一台 ECS,挂载 EIP 以便于登录和拉取压测客户端的软件。本实验中压测软件采用 Kafka 官方提供的压测软件。

3 个 Kafka 实例:

产品介绍

专有网络 VPC(Virtual Private Cloud) :是用户基于阿里云创建的自定义私有网络, 不同的专有网络之间二层逻辑隔离,用户可以在自己创建的专有网络内创建和管理云产品实例,比如 ECS、负载均衡、RDS 等。

云速搭 CADT(Cloud Architect Design Tools) :是一款为上云应用提供自助式云架构管理的产品,显著地降低应用云上管理的难度和时间成本。本产品提供丰富的预制应用架构模板,同时也支持自助拖拽方式定义应用云上架构;支持较多阿里云服务的配置和管理。用户可以方便的对云上架构方案的成本、部署、运维、回收进行全生命周期的管理。

弹性公网 IP:弹性公网 IP 是独立的公网 IP 资源,可与阿里云专有网络 VPC 类型的云服务器 ECS、NAT 网关、ENI 网卡、私网负载均衡 SLB 绑定,并可以动态解绑满足灵活管理的要求。弹性公网 IP 可为您在云上部署的网站提供 Internet 访问服务。

消息队列 Kafka 版,云托管的 Kafka 服务。实例版本(创建时指定规格)可以提供与开源 Kafka 完全兼容的接口和能力。

消息队列 Kafka Serverless 云托管的 Kafka 服务 Serverless 版本(按照预留量+实际流量进行计费)。

前置条件

在进行操作之前,您需要完成以下准备工作:

1)注册阿里云账号,并完成实名认证。您可以登录阿里云控制台,并前往实名认证页面 account.console.aliyun.com/v2/#/authc/... 查看是否完成实名认证。

2)购买按量付费资源,阿里云账户余额需要大于 100 元。考虑到部署后每小时会产生费用,建议账号内余额或者代金卷金额大于 200 元。您可以登录阿里云控制台,前往账户总览页面 usercenter2.aliyun.com/home) 查看账户余额。

操作步骤

  1. 基础环境搭建

  2. 配置压测环境并压测

2.1. 打开部署好的应用获取 Kafka 的 endpoint

2.2. 登录 ECS 初始化客户端环境并压测

  1. 一键释放资源

最佳实践全部内容,请点击此处查看。对方案和产品感兴趣的朋友,可以加入钉钉群交流(群号:31852400)。

相关推荐
运维&陈同学6 小时前
【Kibana01】企业级日志分析系统ELK之Kibana的安装与介绍
运维·后端·elk·elasticsearch·云原生·自动化·kibana·日志收集
张铁铁是个小胖子9 小时前
消息中间件RabbitMQ和kafka
分布式·kafka·rabbitmq
time_silence9 小时前
微服务——数据管理与一致性
微服务·云原生·架构
颜淡慕潇12 小时前
【K8S问题系列 | 20 】K8S如何删除异常对象(Pod、Namespace、PV、PVC)
后端·云原生·容器·kubernetes
customer0812 小时前
【开源免费】基于SpringBoot+Vue.JS安康旅游网站(JAVA毕业设计)
java·vue.js·spring boot·后端·kafka·开源·旅游
didiplus14 小时前
Kubernetes 镜像拉取策略全解析:如何根据需求选择最佳配置?
云原生·容器·kubernetes
上海运维Q先生16 小时前
面试题整理17----K8s中request和limit资源限制是如何实现的
服务器·云原生·kubernetes
得谷养人17 小时前
flink-1.16 table sql 消费 kafka 数据,指定时间戳位置消费数据报错:Invalid negative offset 问题解决
sql·flink·kafka
会飞的土拨鼠呀18 小时前
Flannel是什么,如何安装Flannel
运维·云原生·kubernetes