分布式
-
深入浅出RabbitMQ:顺序消费、死信队列和延时队列
大家好,我是小❤,一个漂泊江湖多年的 985 非科班程序员,曾混迹于国企、互联网大厂和创业公司的后台开发攻城狮。 1. 引言 上篇文章(应对流量高峰的利器——消息中间件)中,我们已…
-
Spark Core–加强
RDD的持久化 RDD缓存 当RDD被重复使用,或者计算该RDD比较容易出错,而且需要消耗比较多的资源和时间的时候,我们就可以将该RDD缓存起来。 主要作用: 提升Spark程序的…
-
基于spark的Hive2Pg数据同步组件
一、背景 Hive中的数据需要同步到pg供在线使用,通常sqoop具有数据同步的功能,但是sqoop具有一定的问题,比如对数据的切分碰到数据字段存在异常的情况下,数…
-
springcloud:新一代分布式定时任务框架——PowerJob
0. 引言 之前我们讲解过主流的分布式定时任务框架xxl-job,随着技术的迭代更新,更多的定时任务框架也开始出现,今天我们来看一看新一代的定时任务框架PowerJob 1. Po…
-
【分布式】NCCL部署与测试 – 01
摆烂了整整一年。 工作的事情,真的影响心情。 目录 NCCL 相关系列 简述 背景 集合通讯 P2P,点对点通信 CC, 集合通信 Broadcast, 广播 Scatter,单发…
-
初始Sentinel(Sentinel的简单介绍及项目整合)
前言:大家好,我是小威,24届毕业生,在一家满意的公司实习。本篇文章将详细介绍Sentinel的概念,优点,与Hystrix的对比以及微服务中整合Sentinel,后续文章将详细介…
-
rabbitMQ发送消息,回调方法,查看是否进入交换机以及队列
http://t.csdn.cn/3xMJk 使用rabbitmq发送邮件。 接着上文使用rabbitmq发送邮件,本篇文章就讲讲,当发送消息失败,我们该怎么确认是那个环…
-
kafka基础知识总结
一、Kafka的基础 1、什么是kafka? Kafka是一个由Apache软件基金会开发的分布式流处理平台。它最初是为LinkedIn设计的,用于处理大规模的实时日志数据流。Ka…
-
zookeeper4==zookeeper源码阅读,FOLLOWER收到了需要LEADER执行的命令后各节点会执行什么
上面已经阅读并观察了节点确定自己的身份后会做些什么,大致就是比对双方信息然后完成同步。 本篇阅读, FOLLOWER收到了需要LEADER执行的命令后,怎么同步给LEADER的,并…
-
如何搭建一个简单的springCloudAlibaba项目,并实现基本的使用
文章目录 一、springcloudalibaba介绍 微服务简介 微服务架构的优点包括 微服务架构也存在一些挑战 SpringCloudAlibaba 为什么要使用SpringC…
-
大数据处理框架比较: Spark vs. Flink vs. Stor
1.背景介绍 大数据处理框架是现代数据处理领域中的核心技术,它们为处理海量数据提供了高效、可靠的方法。在过去的几年里,我们看到了许多这样的框架,如Apache Spark、Apac…
-
RabbitMQ 的基本概念
一 MQ 的基本概念 1 MQ概述 MQ全称 Message Queue(消息队列),是在消息的传输过程中保存消息的容器。多用于分布式系统之间进行通信。消息队列就是所谓的存放消息的…
-
RabbitMQ死信 03
目录 引言 1.RabbitMQ死信 1.1 什么是死信队列? 1.2 死信队列的应用场景 1.3 死信消息的处理与重试机制 2. RabbitMQ延迟队列深度剖析 2.1 延迟队…
-
Hadoop原理
Hadoop框架 分布式文件存储 – HDFS 即Hadoop内提供分布式数据存储的文件系统 分布式计算框架 – MapRe…
-
公有云中的数据仓库和大数据处理
1.背景介绍 随着互联网和数字化的发展,数据量不断增加,数据处理和分析成为企业和组织的关键能力。数据仓库和大数据处理技术在这个背景下崛起,成为关键技术之一。公有云在这个过程中也发挥…
