网易开源分布式存储系统Curve性能可达Ceph的1.84倍

释放双眼,带上耳机,听听看~!

7月16日,网易公司旗下云服务商网易数帆宣布开源一款名为 Curve 的高性能分布式存储系统,官方称其性能可达 Ceph 的 1.84 倍。

网易开源分布式存储系统Curve性能可达Ceph的1.84倍

据官方介绍,Curve 的定位是提供一个高性能、低延迟的存储底座,基于这个存储底座,企业可以打造适用于不同应用场景的存储系统,如块存储、对象存储、云原生数据库等。

CURVE 的设计开发始终围绕三个理念:

一是顺应当前存储硬件设施发展趋势,做到软硬件结合打造顶级的存储产品;

二是秉持 “Simple Can be harder than complex”,了解问题本质情况下选择最简单的方案解决问题;

三是拥抱开源,在充分调研的前提下使用优秀的开源项目组件,避免造轮子。

当前网易基于 CURVE 已经实现了高性能块存储系统,支持快照克隆和恢复 ,支持 QEMU 虚拟机和物理机 NBD 设备两种挂载方式, 在网易内部作为高性能云盘使用。

开源地址: https://opencurve.github.io/

项目开源地址: https://github.com/opencurve/curve

核心特性

高性能

高性能是 CURVE 的一大特点,也是我们创建CURVE项目的初衷。RPC 层面 CURVE 采用了高性能和低延迟并且已开源的 brpc;在一致性层面 选择了基于 quorum 机制并且开源的 braft,从协议层面来说 quorum 机制在延迟方面天生优于多副本强一致的方式。实现上CURVE 对 braft 快照的实现进行了优化,在状态机的实现上采用 chunkfilepool 的方式 ( 初始化集群的时候格式化出指定比例的空间用作 chunk ) 使得底层的写入放大为 0;此外CURVE还在chunk上进行更细力度的地址空间hash以达到读写分离、减小 IO碰撞等的效果,从而进一步提升IO性能。
高可用

高可用是CURVE的另一大特点。MDS、ChunkServer 以及 SnapShotCloneServer都支持多实例部署,部分实例异常不影响整个集群的可用性。

MDS

MDS是无状态的,推荐至少部署两个实例。通过Etcd进行选主。多个MDS实例通过Etcd进行选主,当单个实例失效时,可以秒级切换到另外一个实例。失效实例上正在处理的请求,Client和SnapShotCloneServer都会对其进行重试,以达到不影响集群可用性的效果。

SnapShotCloneServer

SnapShotCloneServer与MDS类似, 也是通过Etcd进行选主,不同的是,它通过负载均衡对外提供服务。失效期间的请求失败重试都是幂等的,不影响任务的正确性以及集群的可用性。

ChunkServer

ChunkServer是一个集群,通过Raft协议保持数据一致性,并通过MDS做负载均衡。单个节点失效时,会影响到这个节点上存储的所有Copyset。对于Copyset上的Leader节点,会中断服务,等待重新选举;对于Copyset上的follower节点,服务不会受影响。当某个Chunkserver节点失效且在一段时间内无法恢复,MDS会将其上的数据迁移到其他节点

给TA打赏
共{{data.count}}人
人已打赏
安全工具

Pan局域网共享软件1.0

2020-2-23 15:19:24

安全工具

GitHub代码泄露监控开源系统-码小六

2020-7-19 15:13:59

个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索