kafka
-
kafka使用详解、最佳实践和问题排查
kafka是一个常用的分布式消息中间件,与RabbitMQ对比,特点是可以无限横向扩容,并保持高可靠性、高吞吐量和低延迟,因此比RabbitMQ有更高的市场占有率(网上搜了一下,k…
-
使用Apache Kafka进行分布式流处理
1.背景介绍 分布式流处理是现代大数据技术中的一个重要领域,它涉及到实时处理大规模数据流,以支持各种应用场景,如实时数据分析、实时推荐、实时监控等。在这些场景中,数据处理需要在高吞…
-
Go语言与消息队列:RabbitMQ与Kafka
1.背景介绍 1. 背景介绍 消息队列是一种在分布式系统中实现解耦的一种方式,它允许不同的系统或服务通过异步的方式传递消息。在现代分布式系统中,消息队列是非常重要的组件,它可以帮助…
-
CentOS7部署Kafka
CentOS7部署Kafka 一、部署 1、前置条件 2、下载与解压 3、修改配置 4、启动kafka 二、使用详解 1、创建一个主题 2、展示所有主题 3、启动消费端接收消息 4…
-
eBPF系列之:DeepFlow 扩展协议解析实践(MongoDB协议与Kafka协议)
原文:https://blog.mickeyzzc.tech/posts/ebpf/deepflow-agent-proto-dev MongoDB 目前使用广泛,但是缺乏有效的可…
-
ubuntu安装kafka
一、前提,先去安装java环境 二、安装kafka wget http://www.apache.org/dyn/closer.cgi?path=/kafka/2.8.0/kafk…
-
Kafka(三)【Broker 存储】
目录 前言 Kafka Broker 1、工作流程 1.1、Zookeeper 存储的 Kafka 信息 1.2、Kafka Broker 的总体工作流程 1.3、Broke 重要…
-
ZooKeeper+Kafka+ELK+Filebeat集群搭建实现大批量日志收集和展示
大致流程:将nginx 服务器(web-filebeat)的日志通过filebeat收集之后,存储到缓存服务器kafka,之后logstash到kafka服务器上取出相应日志,经过…
-
一百六十八、Kettle——用海豚调度器定时调度从Kafka到HDFS的kettle任务脚本(持续更新追踪、持续完善)
一、目的 在实际项目中,从Kafka到HDFS的数据是每天自动生成一个文件,按日期区分。而且Kafka在不断生产数据,因此看看kettle是不是需要时刻运行?能不能按照每日自动生成…
-
基于Filebeat+Kafka+ELK实现Nginx日志收集并采用Elastalert2实现钉钉告警
目录 基于Filebeat+Kafka+ELK实现Nginx日志收集 1.规划好项目架构图 2.部署前端web集群 3.部署ES集群 集群介绍 环境准备 集群搭建 分片和副本 4….
-
linux环境配置kafka
下载软件 首先先下载kafka的包,kafka是apache基金会的一部分,官网下载 我原本下载的是最新的3.6.0,但是部署时发生了错误,所以回退到了2.6.0版本 安装包名:k…
-
wsl kafka的简单应用
安装并配置单机版kafka所需环境 wsl2 环境可用性较高,如下介绍在该环境中安装单机版本kafka的详细过程。 启动命令行工具 启动wsl:wsl –user ro…
-
SeaTunnel本地运行以及kafka发送到redis说明
下载 Seatunnel2.3.1源码 Idea中的目录结构 编译 通过maven进行代码编译 编译命令 mvn clean package -pl seatunnel-dist …
-
kafka与beanstalk的区别
Kafka(Apache Kafka)和Beanstalk(Beanstalkd)是两个不同的消息中间件系统,它们在设计和用途上有一些显著的区别。 架构和设计目标: Kafka: …
-
内网离线搭建之—-kafka-manager集群监控
工具介绍: 为了简化开发者和服务工程师维护Kafka集群的工作,yahoo构建了一个叫做Kafka管理器的基于Web工具,叫做 Kafka Manager。 这个管理工具可以很容易…
