Minio开源高性能高可靠存储搭建

news/2024/7/10 20:24:54 标签: 开源, linux, centos, 服务器

在这里插入图片描述

一、minio的特征

1、高性能

MinIO 是一种高性能、S3 兼容的对象存储。它专为大规模 AI/ML、数据湖和数据库工作负载而构建,并且它是由软件定义的存储。不需要购买任何专有硬件,就可以在云上和普通硬件上拥有分布式对象存储。MinIO拥有开源 GNU AGPL v3 和商业企业许可证的双重许可。

2、简单

简单性是百万兆次级数据基础设施的基础 - 无论是在技术上还是在操作上。MinIO使用和部署非常简单,没有其他对象存储可以让您在最快的时间内实现下载到生产环境的部署。

3、高速率

MinIO 是世界上最快的对象存储,没有之一。在 32 个 NVMe 驱动器节点和 100Gbe 网络上发布的 GET/PUT 结果超过 325 GiB/秒和 165 GiB/秒。

4、公有云、私有云支持

通过原生 Kubernetes 运营商集成,MinIO 支持公共云、私有云和边缘云上所有主要的 Kubernetes 发行版。

5、高可靠性

Minio是轻量级的软件,所以架构上也没有这么复杂,他使用操作系统的文件系统作为存储介质,我们在向任意节点写数据的时候,minIO会自动同步数据到另外的节点,而机制叫做erasure code(纠删码)来保证集群的稳定,保证数据可用,所以我们建议至少使用4个节点来构建集群。
如果一个N节点的分布式MinIO,只要有N/2节点在线,数据就是安全的。不过至少需要N/2+1个节点才能进行写操作。比如:我们的集群有3个节点,每个节点上一块盘,就算有1两个节点宕机,这个集群仍然是可读的,但是,我们需要2个节点才能让集群写数据。这就是为什么我们至少要有3个以上的节点来构建集群。
Minio采用Reed-solomon code将对象拆分成N/2数据和N/2奇偶检验快,这就意味着如果是12块盘,一个对象将会被分成6个数据块、6个奇偶检验快,可以丢失任意6块盘(不管存放的数据快还是奇偶检验快),当然可以从剩下的盘中的数据恢复。

6、去中心化

Minio采用去中心化的无共享架构,对象数据被打散存放在不同节点的多块硬盘,对外提供统一命名空间访问,并通过负载均衡或者DNS轮询在各个服务器之间实现负载均衡。MINIO整个集群是由多个角色完全相同的节点组成,没有特殊节点,任何一个节点宕机,都不会影响整个集群,对象被分片打散之后存放在不同节点的多块硬盘上,对外提供统一的命名空间,通过Web负载均衡或DNS轮询(Round Robin)的方式在各个节点上实现负载均衡。每个节点都能兼容S3接口
在这里插入图片描述

7、统一域名访问

Minio集群扩展加入了新的集群或者桶后,对象存储的客户端程序需要通过统一的域名/url来访问数据对象,这个过程涉及了etcd与CoreDns
在这里插入图片描述

8、lambda计算与持续备份

Minio支持lambda计算通知机制,即桶中的对象支持事件通知机制。当前支持的事件类型有:对象上传、对象下载、对象删除、对象复制等。当前支持事件接受系统有:redis、NATS、AMQP、Kafka、mysql、elasticsearch等。
 对象通知机制增强了Minio的扩展性,可以让用户通过自行开发来实现某些Minio未实现的功能。比如基于元数据的检索、与用户业务相关的计算等。同时也可以通过这个机制进行快速有效的增量备份。

9、对象存储网关

Minio除了可以作为存储系统服务外,还可以作为网关,后端可以与NAS系统、HDFS系统等分布式文件系统或者S3、OSS这样的第三方存储系统。有了Minio网关,就可以为这些后端系统添加S3兼容的API,便于管理和移植,因为S3API已经是对象存储界事实的标注。
在这里插入图片描述

10、统一的命名空间

Minio有两种集群部署方式,一种是常见的本地分布式集群部署,一种是联盟模式部署。本地分布式集群部署即在多个本地服务器节点部署Minio服务,并将其组成单套分布式存储集群,并提供统一命名空间和标注的S3访问接口。联盟部署则是将多个本地Minio集群在逻辑上组成了统一命名空间,实现近乎无线的扩展与海量的数据规模管理,这些集群都可以在本地或者分布在不同地域的数据中心。
在这里插入图片描述
Minio详解:https://www.minio.org.cn/

二、单点minio存储搭建

1、下载minio镜像
https://dl.min.io/server/minio/release/linux-amd64/minio

2、创建保存的目录,并赋予权限
/home/minio:将下载的minio放入此目录
/home/mindata:指定minio存储数据的目录
在这里插入图片描述

3、编辑/etc/systemd/system/minio.service,输入以下内容
[Unit]
Description=MinioService
Documentation=https://docs.minio.io/

[Service]
Environment=“MINIO_ACCESS_KEY=admin”
Environment=“MINIO_SECRET_KEY=12345678”
ExecStart=/home/minio/minio server /home/mindata/
Restart=on-failure
RestartSec=15

[Install]
WantedBy=multi-user.target
配置说明:
1.1 配置用户为admin:Environment=“MINIO_ACCESS_KEY=admin”
1.2 配置用户密码为12345678:Environment=“MINIO_SECRET_KEY=12345678”
1.3 配置启动minio文件的路径以及存储数据的目录:ExecStart=/home/minio/minio server /home/mindata/
1.4 配置启动失败重启:Restart=on-failure RestartSec=15

4、启动Minio服务
(1)启动服务:systemctl start minio.service
(2)查看启动日志:journalctl -u minio.service –f
在这里插入图片描述

(3)查看mino服务状态:systemctl status minio.service
在这里插入图片描述

5、登录minio的管理端
(1)打开IE浏览器,在地址栏输入http://192.168.0.101:9000
(2)出现以下登录界面,输入/etc/systemd/system/minio.service配置文件中定义的用户名和密码
在这里插入图片描述
(4)登录后的状态,如下图:

在这里插入图片描述

6、开启防火墙对应的端口号:
在这里插入图片描述
本文至此结束,后续完成集群部署,再分享部署环境。


http://www.niftyadmin.cn/n/5227028.html

相关文章

Java 常用工具类(35) : json转表结构ddl

import com.alibaba.fastjson.JSONObject; import com.alibaba.gts.flm.base.util.MysqlUtil; import com.alibaba.gts.flm.base.util.StringUtils;import java.util.Set;public class Json转表结构 {private static JSONObject j;public static void main(String[] args) {j …

外汇天眼:在QOINTEC投资需缴纳分成费才给出金?这合理么?

一般来说,在正规的平台上申请出金是不需要缴纳什么费用的,除非有一些特殊情况,像低额出金、没有交易就申请出金等情况下,或许会让你缴纳一定的手续费或者隔夜利息费等(不同的平台有不同的规则),…

Ubuntu部署jmeter与ant

为了整合接口自动化的持续集成工具,我将jmeter与ant都部署在了Jenkins容器中,并配置了build.xml 一、ubuntu部署jdk 1:先下载jdk-8u74-linux-x64.tar.gz,上传到服务器,这里上传文件用到了ubuntu 下的 lrzsz。 ubunt…

docker基础操作及部署springboot项目流程

一、安装docker及基础命令 1.centos系统安装https://www.runoob.com/docker/ubuntu-docker-install.html curl -fsSL https://get.docker.com | bash -s docker --mirror Aliyun2.启动docker服务 systemctl start docker3.查看docker服务是否启动成功 docker info4.设置开机…

ASO优化之多久更新一次应用程序

应用程序更新代表对移动应用程序的形式或功能的更改,包括新的用户界面、功能和错误修复。需要注意大多数更新都需要应用程序市场的批准流程。 1、更新应用程序的原因。 更新应用程序的主要原因有错误修复、功能发布、设计更改、差评和竞争。即使应用程序本身没有发…

光学3D表面轮廓仪超0.1nm纵向分辨能力,让显微形貌分毫毕现

在工业应用中,光学3D表面轮廓仪超0.1nm的纵向分辨能力能够高精度测量物体的表面形貌,可用于质量控制、表面工程和纳米制造等领域。 与其它表面形貌测量方法相比,光学3D表面轮廓仪达到纳米级别的相移干涉法(PSI)和垂直扫描干涉法(VSI)&#x…

Java学习笔记45——类的加载和反射机制

类的加载和反射机制 类加载器类加载类的加载类的连接类的初始化 类的初始化步骤类的初始化时机 类加载器 反射反射概述获取Class类对象反射获取构造方法反射练习反射练习——暴力反射反射获取成员变量并使用反射获取成员方法并使用 类加载器 类加载 当程序要使用某个类时&…

Ubuntu网络问题的解决

这里写目录标题 ubuntu 显示网络已连接,但是打不开浏览器:imagemagickimagemagick的安装imagick查看版本号imagemagick的命令介绍 ceres solver 介绍 ubuntu 显示网络已连接,但是打不开浏览器: sudo service network-manager sto…