kafka
-
实际生产环境Apache RocketMQ消息体过大的解决方案
前言 官方定义消息体默认大小为 4MB,普通顺序消息类型。事务、定时、延时类消息默认大小为64KB。如果超过限制则会抛出异常! 但实际工作中,需要使用到MQ进行异步解耦,传输的业务…
-
热销上线,阿里出品Kafka从实战到源码手册,限时抢购
在当前的招聘季节中,我收到了许多关于Kafka的问题,可以看出Kafka在近两年的市场需求中呈现出水涨船高的趋势。 Kafka是由Apache软件基金会开发的一个开源流处理平台,由…
-
Kafka入门,手动提交offset,同步提交,异步提交,指定 Offset 消费(二十三)
手动提交offset 虽然offset十分遍历,但是由于其是基于时间提交的,开发人员难以把握offset提交的实际。因此Kafka还提供了手动提交offset的API 手动提交of…
-
使用JavaApi获取Kafka的topic、topic的分区数量与副本数量
目录 1、代码 2、结果 1、代码 package com.zsh.kafkatest.topic; import com.zsh.kafkatest.connect.KafkaC…
-
kafka伪集群部署,使用KRAFT模式
1:拉去管理kafka界面UI镜像 docker pull provectuslabs/kafka-ui 2:拉去管理kafka镜像 docker pull bitnami/kaf…
-
kafka 详细介绍
目录 前言 分布式架构: 消息发布-订阅模型: 持久性存储: 分区和副本: 水平扩展: 高性能: 生态系统: 我的其他博客 前言 Kafka 是由 Apache 软件基金会开发的一…
-
flink1.17.0 集成kafka,并且计算
前言 flink是实时计算的重要集成组件,这里演示如何集成,并且使用一个小例子。例子是kafka输入消息,用逗号隔开,统计每个相同单词出现的次数,这么一个功能。 一、kafka环境…
-
【Kafka】Suppressed: java.nio.file.AccessDeniedException问题的解决
【Kafka】Suppressed: java.nio.file.AccessDeniedException问题的解决 目录 前言 一、错误发生的原因 二、问题如何解决 前言 …
-
基于scala使用flink将kafka数据写入mysql示例
使用Flink消费Kafka中ChangeRecord主题的数据,统计每三分钟各设备状态为“预警”且未处理的数据总数。将结果存入MySQL的shtd_industry.threem…
-
Kafka 知识点学习
概览 名词 解释 Broker 一个 Kafka 节点就是一个 Broker,一个或者多个 Broker 可以组成一个 Kafka 集群 Topic Kafka 根据 Topic …
-
电商系统设计到开发03 引入Kafka异步削峰
一、前言 系统设计:电商系统设计到开发01 第一版设计到编码-CSDN博客 接着上篇文章:电商系统设计到开发02 单机性能压测-CSDN博客 本篇为大制作,内容有点多,也比较干货,…
-
Kafka知识梳理
什么是kafka 一款开源的分布式数据流处理平台,可以实时发布、订阅、存储和处理数据流。 作用与特点 Kafka 主要起到削峰、系统解耦的作用。 主要特点有: 高吞吐、低延时:这是…
-
处理大数据的基础架构,OLTP和OLAP的区别,数据库与Hadoop、Spark、Hive和Flink大数据技术
处理大数据的基础架构,OLTP和OLAP的区别,数据库与Hadoop、Spark、Hive和Flink大数据技术 2022找工作是学历、能力和运气的超强结合体,遇到寒冬,大厂不招人…
-
kafka个人笔记
大部分内容源于https://segmentfault.com/a/1190000038173886, 本人手敲一边加强印象方便复习 消息系统的作用 解耦 冗余 扩展性 灵活性(峰…
-
kafka之集群工作机制理解
回想一下,我们搭建kafka集群是如何搭建?修改kafka得配置文件,多个Kafka服务注册到同一个zookeeper集群上的节点,会自动组成集群。 …
