hadoop
-
java.net.NoRouteToHostException No route to host的排查与解决思路分享
相信很多朋友曾经都遇到过这个问题,最近也是被这个错误折磨的怀疑人生。在执行HiveSQL的时候总是时不时报错,could not find status of job 然后进入ya…
-
2024.1.11 Kafka 消息队列,shell命令,核心原理
目录 一 . 消息队列 二. Kafka 三 . 启动命令 四 . Kafka的Shell 命令 五 . Kafka的核心原理 1. Topic的分区和副本机制 2 . 消息存…
-
Hadoop从入门到宕机
Hadoop 1.介绍&概览 Hadoop是一个开源的分布式计算平台,用于存储和处理大规模数据集。它的核心组件包括HDFS(Hadoop分布式文件系统)用于存储大数据集,Y…
-
服务攻防-数据库安全-服务应用的安全问题以及测试流程-Mysql&Hadoop&未授权访问&RCE-漏洞复现
目录 一、服务应用的安全问题 1、配置不当——未授权访问 2、安全机制——特定安全漏洞 3、安全机制——弱口令爆破攻击 二、服务应用的安全测试思路 1、判断服务是否开放 2、判断服…
-
虚拟机集群部署hadoop
搭建hadoop虚拟机集群 一,虚拟机环境准备 以三台虚拟机为例,配置如下: 1.台虚拟机:内存2G,处理2 硬盘50G ,如图 (电脑配置参考:8核16线程+32运行内存) 2….
-
hadoop报错ERROR: Cannot set priority of namenode process
现象: 解决: 1.看Hadoop的日志: 查看namenode日志:tail -n 200 hadoop-xinjie-namenode-VM-0-9-centos.log (文…
-
Hive-SQL语法大全
Hive SQL 语法大全 基于语法描述说明 CREATE DATABASE [IF NOT EXISTS] db_name [LOCATION] ‘path’; SELECT e…
-
1.2 Hadoop概述
小肥柴的Hadoop之旅 1.2 Hadoop概述 目录 1.2 Hadoop概述 1.2.1 回归问题 1.2.2 Google的三篇论文 1.2.3 Hadoop的诞生过程 1…
-
数据架构的大数据处理:Hadoop 与 Spark 的结合
1.背景介绍 大数据处理是现代数据科学和工程的核心技术,它涉及到处理海量、高速、多源、不确定性和不可靠性的数据。随着互联网、人工智能、物联网等领域的快速发展,大数据处理的重要性日益…
-
mac上搭建 hadoop 伪集群
1. hadoop介绍 Hadoop是Apache基金会开发的一个开源的分布式计算平台,主要用于处理和分析大数据。Hadoop的核心设计理念是将计算任务分布到多个节点上,以实现高度…
-
服务攻防-数据库安全-服务应用的安全问题以及测试流程-Mysql&Hadoop&未授权访问&RCE-漏洞复现
目录 一、服务应用的安全问题 1、配置不当——未授权访问 2、安全机制——特定安全漏洞 3、安全机制——弱口令爆破攻击 二、服务应用的安全测试思路 1、判断服务是否开放 2、判断服…
-
Hadoop(02) Hadoop-3.3.6 集群的配置教程
当使用Hadoop的分布式模式进行部署和运行时,通常使用分布式文件系统HDFS进行存储。在这种情况下,HDFS的名称节点(NameNode)和数据节点(DataNode)位于不同的…
-
大数据开发之Spark(完整版)
第 1 章:Spark概述 1.1 什么是spark 回顾:hadoop主要解决,海量数据的存储和海量数据的分析计算。 spark是一种基于内存的快速、通用、可扩展的大数据分析计算…
-
VMware执行命令hadoop-daemon.sh start journalnode报错hadoop-daemon.sh: 未找到命令…
首先启动hadoop1节点的Zookeeper服务 然后启动hadoop1节点的Journalnode执行命令hadoop-daemon.sh start journalnode报…
-
【2023】通过docker安装hadoop以及常见报错
💻目录 1、准备 2、安装镜像 2.1、创建centos-ssh的镜像 2.2、创建hadoop的镜像 3、配置ssh网络 3.1、搭建同一网段的网络 3.2、配置…
