CURVE(分布式存儲(chǔ)系統(tǒng)) v0.1.3 官方版

軟件介紹

CURVE是一款由網(wǎng)易公司自主設(shè)計(jì)研發(fā)的分布式存儲(chǔ)系統(tǒng)，我們可以通過(guò)這款軟件來(lái)為不同的應(yīng)用場(chǎng)景來(lái)打造存儲(chǔ)系統(tǒng)，并且還可以用來(lái)快速克隆和恢復(fù)存儲(chǔ)系統(tǒng)里的數(shù)據(jù)信息，讓你能夠更好地管理各種重要的內(nèi)容資料。

軟件簡(jiǎn)介

curve的設(shè)計(jì)開(kāi)發(fā)始終圍繞三個(gè)理念：一是順應(yīng)當(dāng)前存儲(chǔ)硬件設(shè)施發(fā)展趨勢(shì)，做到軟硬件結(jié)合打造頂級(jí)的存儲(chǔ)產(chǎn)品；二是秉持“Simple Can be harder than complex”，了解問(wèn)題本質(zhì)情況下選擇最簡(jiǎn)單的方案解決問(wèn)題；三是擁抱開(kāi)源，在充分調(diào)研的前提下使用優(yōu)秀的開(kāi)源項(xiàng)目組件，避免造輪子。

當(dāng)前網(wǎng)易基于curve已經(jīng)實(shí)現(xiàn)了高性能塊存儲(chǔ)系統(tǒng)，支持快照克隆和恢復(fù) ,支持QEMU虛擬機(jī)和物理機(jī)NBD設(shè)備兩種掛載方式, 在網(wǎng)易內(nèi)部作為高性能云盤(pán)使用。

CURVE軟件功能

1、高性能

高性能是curve的一大特點(diǎn)，也是項(xiàng)目團(tuán)隊(duì)創(chuàng)建curve項(xiàng)目的初衷。RPC層面curve采用了高性能和低延遲并且已開(kāi)源的brpc；在一致性層面選擇了基于quorum機(jī)制并且開(kāi)源的braft，從協(xié)議層面來(lái)說(shuō)quorum機(jī)制在延遲方面天生優(yōu)于多副本強(qiáng)一致的方式。實(shí)現(xiàn)上curve對(duì)braft快照的實(shí)現(xiàn)進(jìn)行了優(yōu)化，在狀態(tài)機(jī)的實(shí)現(xiàn)上采用chunkfilepool的方式(初始化集群的時(shí)候格式化出指定比例的空間用作chunk)使得底層的寫(xiě)入放大為0；此外curve還在chunk上進(jìn)行更細(xì)力度的地址空間hash以達(dá)到讀寫(xiě)分離、減小IO碰撞等的效果，從而進(jìn)一步提升IO性能。

2、高可用

高可用是curve的另一大特點(diǎn)。MDS、ChunkServer以及SnapShotCloneServer都支持多實(shí)例部署，部分實(shí)例異常不影響整個(gè)集群的可用性。

2.1、MDS

MDS是無(wú)狀態(tài)的，推薦至少部署兩個(gè)實(shí)例。通過(guò)Etcd進(jìn)行選主。多個(gè)MDS實(shí)例通過(guò)Etcd進(jìn)行選主，當(dāng)單個(gè)實(shí)例失效時(shí)，可以秒級(jí)切換到另外一個(gè)實(shí)例。失效實(shí)例上正在處理的請(qǐng)求，Client和SnapShotCloneServer都會(huì)對(duì)其進(jìn)行重試，以達(dá)到不影響集群可用性的效果。

2.2、SnapShotCloneServer

SnapShotCloneServer與MDS類(lèi)似, 也是通過(guò)Etcd進(jìn)行選主，不同的是，它通過(guò)負(fù)載均衡對(duì)外提供服務(wù)。失效期間的請(qǐng)求失敗重試都是冪等的，不影響任務(wù)的正確性以及集群的可用性。

2.3、ChunkServer

ChunkServer是一個(gè)集群，通過(guò)Raft協(xié)議保持?jǐn)?shù)據(jù)一致性，并通過(guò)MDS做負(fù)載均衡。單個(gè)節(jié)點(diǎn)失效時(shí)，會(huì)影響到這個(gè)節(jié)點(diǎn)上存儲(chǔ)的所有Copyset。對(duì)于Copyset上的Leader節(jié)點(diǎn)，會(huì)中斷服務(wù)，等待重新選舉；對(duì)于Copyset上的follower節(jié)點(diǎn)，服務(wù)不會(huì)受影響。當(dāng)某個(gè)Chunkserver節(jié)點(diǎn)失效且在一段時(shí)間內(nèi)無(wú)法恢復(fù)，MDS會(huì)將其上的數(shù)據(jù)遷移到其他節(jié)點(diǎn)上。