开源大数据集群部署(一)集群实施规划

news/2024/7/10 19:37:21 标签: 开源, 大数据

作者:櫰木

本次集群规划信息

本次实际生产业务体量存在巨大差异,但集群规划内容相同,因此建议实际生产环境按照按照一定比例扩展即可。

主机操作系统要求

软件信息参数
配置8C16G
操作系统版本CentOS Linux release 7.8.2003 (Core)
java版本java version “1.8.0_281”
hadoop版本hadoop 3.2.4

集群版本规划

集群组建版本
HDFS3.2.4
YARN3.2.4
MapReduce23.2.4
Hive3.1.2
HBase2.1.0
ZooKeeper3.7.1
Trino389

主机角色规划

服务器IP角色
hd1.dtstack.com(管理节点)172.16.104.226namenode/resourcemanager/journalnode/zkfc//hive_metastore/hiveserver2
hd2.dtstack.com(管理节点)172.16.106.252namenode/resourcemanager/journalnode/zkfc/hamster/ranger
hd3.dtstack.com(数据节点)172.16.107.127datanode/nodemanager/journalnode/
hd1.dtstack.com(kerberos节点)172.16.106.165freeipaserver

配置目录规划

所有安装包目录为/opt/hadoop 类似

组件目录名称目录
HADOOPhadoop datanode目录/data/hadoop/dfs/data
hadoop namenode目录/data/hadoop/dfs/name
hadoop临时目录/data/hadoop/tmp
ZOOKEEPERzookeeper数据目录/data/zookeeper/data/
zookeeper日志目录/data/zookeeper/log/

组件系统用户规划

组件启动用户所属组
hdfs(namenode/datanode/zkfc/journalnode)hdfshadoop
yarn(reourcemanager/nodemanager/)yarnhadoop
zookeeperzookeeperzookeeper
hivehivehadoop
hbasehbasehadoop
mysqlmysqlmysql
rangerrangerranger
grafanagrafanagrafana
prometheusprometheusprometheus
trinotrinohadoop

更多技术信息请查看云掣官网https://yunche.pro/?t=yrgw


http://www.niftyadmin.cn/n/5302979.html

相关文章

OpenHarmony鸿蒙原生应用开发,ArkTS、ArkUI学习踩坑学习笔记,持续更新中。

一、AMD处理器win10系统下,DevEco Studio模拟器启动失败解决办法。 结论:在BIOS里面将Hyper-V打开,DevEco Studio模拟器可以成功启动。 二、ArkTS自定义组件导出、引用实现。 如果在另外的文件中引用组件,需要使用export关键字导…

电气产品外壳常用材质PA、PC、PBT、ABS究竟是什么?

在如今工业制造领域,各种改性塑料、复合材料以及轻质合金材料的运用日趋成熟。在电气领域,不同电气产品的外壳、组件材质采用不同材料,以同为科技(TOWE)电气产品为例,工业连接器系列产品采用PA6外壳材质、机…

BERT(从理论到实践): Bidirectional Encoder Representations from Transformers【2】

这是本系列文章中的第二弹,假设你已经读过了前文。先来简单回顾一下BERT的想法: 1)在Word2Vec【1】中,每个单词生成的Embedding是固定的。但这就带来了一个显而易见的问题:同一个单词在不同上下文中的意思是不同的。例如mouse,可以是鼠标的意思,也可以是老鼠的意思。但…

3.10 Android eBPF HelloWorld调试(四)

一,读取eBPF map的android应用程序示例 1.1 C++源码及源码解读 /system/memory/bpfmapparsed/hello_world_map_parser.cpp //基于aosp android12#define LOG_TAG "BPF_MAP_PARSER"#include <log/log.h> #include <stdlib.h> #include <unistd.h&g…

基于EPICS modbus模块的单通道电压监测项目

先介绍在本项目中使用到的硬件&#xff1a; 1&#xff09;开发板&#xff1a;为香橙派Zero2&#xff0c;安装系统如下&#xff1a; Distributor ID: Ubuntu Description: Ubuntu 22.04.2 LTS Release: 22.04 Codename: jammy 2&#xff09; USB转485模块&…

带你搞懂多模态大模型应用技术!!

▼最近直播超级多&#xff0c;预约保你有收获 今晚直播&#xff1a;《多模态大模型微调技术案例实战》 —1— Gemini 多模态大模型技术&#xff01; Google 新的多模态模型家族 Gemini&#xff0c;它在文本、图像、音频、视频等方面具有卓越的能力。 Gemini 模型是基于 Transfo…

Eureka相关面试题及答案(2024)

1、什么是Eureka&#xff1f; Eureka是一个由Netflix开发的服务发现&#xff08;Service Discovery&#xff09;工具&#xff0c;它是Spring Cloud生态系统中的一个关键组件。服务发现是微服务架构中的一个重要概念&#xff0c;它允许服务实例在启动时注册自己&#xff0c;以便…

数据库:园林题库软件(《园林建筑设计》答题卷三 )

《园林建筑设计》答题卷三 一、单项选择题 1、在园林建筑设计的方法与技巧中&#xff0c;承德避暑山庄最注重的是&#xff08;立意&#xff09;。 2、颐和园中的建筑物&#xff0c;都是按照当时的&#xff08;清代营造则例&#xff09;中规定的法式建造的。 3、园林建筑空间…