分布式

zmd-zk1 小时前
大数据·分布式·python·学习·spark
shuffle——sparkshuffle过程本质上是磁盘读写的过程Spark Shuffle过程也叫作宽依赖过程特点:没有排序,只分区,每个Task按照ReduceTask个数生成多个文件【M * R】 优点:简单,数据量比较小,性能就比较高 缺点:小文件非常多,数据量比较大性能非常差
华纳云IDC服务商2 小时前
分布式
华纳云:虚拟服务器之间如何分布式运行?虚拟服务器之间的分布式运行(也称为分布式虚拟化)是指通过虚拟化技术在多个物理服务器上创建并管理多个虚拟服务器,从而实现资源的高效利用、负载均衡、弹性扩展、容错和高可用性等功能。这种分布式架构通常需要虚拟化平台和管理工具来协调各个虚拟服务器的运行。以下是虚拟服务器分布式运行的常见方法和技术:
明达技术3 小时前
运维·分布式·自动化·制造
MR30分布式IO模块:助力单晶炉高效生产的创新力量在高科技飞速发展的今天,单晶炉的生产效率和质量已成为衡量半导体行业技术水平的重要标准。然而,要实现单晶炉的高效生产,仅凭传统的控制方式已难以满足需求。近年来, IO模块与PLC(可编程逻辑控制器)的结合应用,为单晶炉的生产带来了革命性的突破。本文将为您介绍明达MR30分布式IO模块在单晶炉高效生产中的重要作用。
不务专业的程序员--阿飞4 小时前
分布式
秒杀业务中的库存扣减为什么不加分布式锁?说到秒杀业务的库存扣减,就还是得先确认我们的扣减基本方案。一般的做法是,先在Redis中做扣减,然后发送一个MQ消息,消费者在接到消息之后做数据库中库存的真正扣减及业务逻辑操作。
隔着天花板看星星5 小时前
大数据·分布式·spark
Spark-Streaming初识Spark Streaming是Spark的上一代流式计算引擎。Spark Streaming不再有更新,它是一个遗留项目。Spark中有一个更新且更易于使用的流式计算引擎:Structured Streaming。因此我们只要做到初步了解并简单使用Spark Streaming就可以了。
清酒伴风(面试准备中......)5 小时前
数据库·redis·分布式·面试·面经·实习·自测
面经自测——Redis分布式锁实现/Redis/用Redis实现消息队列的功能怎么做中的RedLock具体解决了什么问题本文是作者专门用来自测Java后端相关面试题的,所有问题都是在牛客、知识星球或网上找到的最近最新的面试题,全文回答都是作者按自己的真实水平仿照真实环境的回答,所以答案不一定真实(但回答一定真诚🤣),其他即将面试的小伙伴可以试试自测一下💪
帅气的人12312 小时前
分布式·zookeeper·云原生
自定义服务的服务注册- zookeeper服务注册使用 zookeeper 的大致过程如下
小马爱打代码13 小时前
分布式·rabbitmq
面试题-RabbitMQ如何保证消息不被重复消费?RabbitMQ本身并不直接提供防止消息重复消费的机制,但可以通过一系列的策略和措施来尽量避免或处理消息的重复消费。以下是一些常用的方法:
程序猿小柒15 小时前
大数据·分布式·spark
【Spark】Spark的两种核心Shuffle工作原理详解如果觉得这篇文章对您有帮助,别忘了点赞、分享或关注哦!您的一点小小支持,不仅能帮助更多人找到有价值的内容,还能鼓励我持续分享更多精彩的技术文章。感谢您的支持,让我们一起在技术的世界中不断进步!
zmd-zk18 小时前
大数据·数据库·分布式·spark
宽窄依赖/宽窄巷子——spark宽窄依赖是用于标记算子是否需要shuffle过程的——本质:只是一种标记,标记两个RDD之间的依赖关系,用于判断是否需要进行shuffle
龙哥·三年风水1 天前
分布式·vue·群控系统
websocket服务端开发模式-应用开发-页面端修改在根目录下.env.development中,修改VUE_APP_BASE_API地址,代码如下:在根目录下src文件夹中store文件夹下modules文件夹下user.js中,修改privateKey参数值,具体如下:
m0_675447081 天前
分布式·zookeeper·云原生
从SRE视角透视DevOps的构建精髓SRE 侧重系统稳定性,DevOps 强调开发运维协作。SRE 实践助力DevOps,提升系统稳定性与团队协作效率。
小林想被监督学习1 天前
linux·分布式·rabbitmq
RabbitMQ快速入门 - 生产者和消费者的简单实现RabbitMQ 默认的⽤于客户端连接的 TCP 端⼝号是 5672, 需要提前进⾏开放当⼀个新的 RabbitMQ 节点启动时,它会预声明(declare)⼏个内置的交换机,内置交换机名称是空字符串("").⽣产者发送的消息会根据队列名称直接路由到对应的队列.
龙哥·三年风水1 天前
分布式·php·群控系统
群控系统服务端开发模式-应用开发-获取登录者今天操作日志在根目录下route文件夹下app.php文件中,在perimission的group中添加如下代码:
04Koi.1 天前
数据库·redis·分布式
Redis--高并发分布式结构目录一、引言二、redis1.什么是redis?三、基础概念1.什么是分布式?2.应用服务和数据库服务分离
龙哥·三年风水1 天前
分布式·php·群控系统
websocket服务端开发模式-应用开发-api修改因为功能还是一样的,所以我直接重新启动了一套,没有在之前的那套上面修改。一定切记,步骤如下:在根目录下.env.development文件中,修改配置参数,代码如下:
.生产的驴1 天前
java·redis·分布式·nginx·缓存·docker·容器
Docker Compose 缓存Redis主从节点的搭建 分布式搭建单机模式下Redis并发能力有限使用主从集群模式可以很好的解决性能问题,主节点负责处理写操作(如 SET、DEL、INCR 等命令),而 从节点 主要负责读取操作(如 GET、HGET、HGETALL 等命令)。
喝醉酒的小白1 天前
分布式·kafka
Kafka 的配置文件broker.id=1:为 broker 指定一个唯一的 ID。listeners=PLAINTEXT://x.x.x.x:xxx:指定 broker 监听的协议、IP 地址和端口。
极客先躯2 天前
分布式·架构·rabbitmq·exchange·broker·queue·binding
rabbitMQ 架构详解RabbitMQ是一款使用Erlang语言开发的、实现了高级消息队列协议(AMQP)的开源消息中间件。以下是对其架构的详细解析: