国产自研开源大数据管理平台DataSophon

news/2024/7/10 20:13:02 标签: 开源

【背景】

几天在朋友圈看到开源社区Datavane发布了一个新开源项目DataSophon;一个致力于快速实现部署、管理、监控以及自动化运维大数据云原生平台,帮助快速构建起稳定、高效、可弹性伸缩的大数据云原生平台;从介绍内容来看非常优秀,先转来给大家看看,懂的也参详参详;我打算等我的E5主机搞定后就用这个安装大数据平台,之前是考虑用Apache开源的Hadoop、Spark自己搭建的。

DataSophon是什么

DataSophon也是个类似的管理平台,只不过与智子不同的是,智子的目的是锁死人类的基础科学阻碍人类技术爆炸,而DataSophon是致力于自动化监控、运维、管理大数据基础组件和节点的,帮助您快速构建起稳定,高效的大数据集群服务。

主要特性有:

  • 快速部署,可快速完成300个节点的大数据集群部署
  • 兼容复杂环境,极少的依赖使其很容易适配各种复杂环境
  • 监控指标全面丰富,基于生产实践展示用户最关心的监控指标
  • 灵活便捷的告警服务,可实现用户自定义告警组和告警指标
  • 可扩展性强,用户可通过配置的方式集成或升级大数据组件

 

整体架构

集成组件​

 

各集成组件均进行过兼容性测试,并稳定运行于300+个节点规模的大数据集群,日处理数据量约4000亿条。在海量数据下,各大数据组件调优成本低,平台默认展示用户关心和需要调优的配置。

序号

名称

版本

描述

1

HDFS

3.3.3

分布式大数据存储

2

YARN

3.3.3

分布式资源调度与管理平台

3

ZooKeeper

3.5.10

分布式协调系统

4

FLINK

1.15.2

实时计算引擎

5

DolphoinScheduler

3.1.1

分布式易扩展的可视化工作流任务调度平台

6

StreamPark

1.2.3

流处理极速开发框架,流批一体&湖仓一体的云原生平台

7

Spark

3.1.3

分布式计算系统

8

Hive

3.1.0

离线数据仓库

9

Kafka

2.4.1

高吞吐量分布式发布订阅消息系统

10

Trino

367

分布式Sql交互式查询引擎

11

Doris

1.1.5

新一代极速全场景MPP数据库

12

Hbase

2.4.16

分布式列式存储数据库

13

Ranger

2.1.0

权限控制框架

14

ElasticSearch

7.16.2

高性能搜索引擎

15

Prometheus

2.17.2

高性能监控指标采集与告警系统

16

Grafana

9.1.6

监控分析与数据可视化套件

17

AlertManager

0.23.0

告警通知管理系统

总结

上面是贴的官方的介绍文案,从支持的组件来看,的确非常全面,可以说部署大数据集群,只要这一个平台就够了。同类型的平台,CDH被Ambari收购了,HDP不给下载了,要想使用CDH或者HDP只能去下载之前别人保存的安装包,Ambari公司把CDH跟HDP合并一下,又搞出一个收费版本CDP来,DataSophon出来的可以说是正当其时

官方地址如下:

  • 官网:https://datasophon.github.io/datasophon-website/
  • 源码:https://github.com/datavane/datasophon

http://www.niftyadmin.cn/n/1007692.html

相关文章

php执行centos命令的方法

1、php exec() 函数 exec() 函数是PHP中执行系统命令的一种常用方法。它可以执行一个命令,并将结果输出到一个数组中。 $output array(); exec(ls -l, $output); //输出的结果会传递给$output变量 print_r($output); 2、php shell_exec() 函数 shell_exec() 函…

中国国债发行数据集(2002-2023)

国债是由国家发行的债券,由于国债的发行主体是国家,所以它具有最高的信用度,被公认为是最安全的投资工具。国债按照交易市场的不同分为三类,即银行间市场国债、交易所市场国债和柜台市场国债;按照交易方式的不同分为三…

opencv的MAT赋值方法

C Mat矩阵赋值方法&#xff0c;如下&#xff1a; 错误赋值方法&#xff1a; Mat mat_Mat::zeros(Size(width,height),CV_8UC1); for(int i0;i<height;i)for(int j0;j<width;j){mat_<uchar>(i,j)value;}正确赋值方法&#xff1a; Mat mat_Mat::zeros(Size(width,hei…

抖音矩阵号/抖音短视频SEO矩阵系统源码开发及开发者思路分享....

抖音矩阵号短视频系统&#xff0c;抖音矩阵号系统源码开发,思路分享&#xff0c;说一点开发者掏心窝子的话...... 一套优秀的短视频获客系统&#xff0c;支持短视频智能剪辑、短视频定时发布&#xff0c;短视频排名查询及优化&#xff0c;短视频智能客服等&#xff0c;那么短视…

【Servlet学习二】Servlet原理(Tomcat) ServletAPI

目录 &#x1f31f;一、Servlet运行原理 &#x1f308;1、Servlet的执行原理&#xff08;重点&#xff09; &#x1f308;2、Tomcat伪代码的简单理解 2.1 Tomcat初始化流程 2.2 Tomcat处理请求流程 2.3 Servlet 的 service 方法的实现 &#x1f31f;二、Servlet API 详…

HTML是什么?HTML的介绍

目录 导语 什么是HTML&#xff1f; HTML的结构 HTML相关要求 总结 导语 引出&#xff1a;在我们使用电脑的时候&#xff0c;我们会利用电脑打游戏&#xff0c;听音乐&#xff0c;聊天&#xff0c;更多的时候要进行网页的浏览&#xff0c;那你有没有想过&#xff0c;网页为…

go语言学习笔记1

go语言简介 ​ GoLang是一种静态强类型、编译型、并发型&#xff0c;并具有垃圾回收功能的编程语言&#xff1b;它可以在不损失应用程序性能的情况下极大的降低代码的复杂性&#xff0c;还可以发挥多核处理器同步多工的优点&#xff0c;并可解决面向对象程序设计的麻烦&#x…

行业分析| 无人机电力巡检技术的应用

随着现代生活水平的不断提升&#xff0c;人们对各行各业的发展都提出了更高的品质要求&#xff0c;对于电力的需求不断上涨&#xff0c;因此也加速了电力行业的转型升级。基于这一发展状况&#xff0c;我国电力行业逐渐开始选择应用无人机电力巡检等现代高科技技术。 无人机电…