2020年分布式存儲以其獨特的姿態涌入我們的視野之中,可是我們好像從來沒有思考過,究竟什么是分布式存儲?而我們為什么需要分布式存儲?
實際上采用分布式存儲可以說是“被迫”的,因為面對越發飛速發展的互聯網、整個生態應用不斷創新、用戶數量不斷龐大、數據階梯式增長這些無疑不給現有的本地存儲帶來巨大的壓力。因此,必須通過采用其他分布式存儲系統去緩解相應的壓力,所以分布式存儲和分布式文件系統應運而生。
今天我們這篇文章將對于分布式存儲進行介紹,并對Filecoin進行深入研究。
定義
分布式存儲系統,是將數據分散存儲在多臺獨立的設備上。傳統的網絡存儲系統采用集中的存儲服務器存放所有數據,存儲服務器成為系統性能的瓶頸,也是可靠性和安全性的焦點,不能滿足大規模存儲應用的需要。分布式網絡存儲系統采用可擴展的系統結構,利用多臺存儲服務器分擔存儲負荷,利用位置服務器定位存儲信息,它不但提高了系統的可靠性、可用性和存取效率,還易于擴展。
分布式存儲簡介
現代計算處于高度集中的階段,在過去的十年時間中,一些大型存儲公司通過將傳統計算機系統劃分云存儲產品獲得了巨大的財富。這側面反映了現代化網絡中心化集中的現象——如果其中一個供應商發生問題時,便會衍生成重大的互聯網事件。比如:2017年Amazon網絡突然中斷;2020年6月Github長時間中斷;2020年10月Microsoft多周云服務出現問題等等。
火幣尖峰對話|今天,我們為什么要討論DeFi?:7月30日,由金色財經作為獨家戰略媒體支持的火幣尖峰對話DeFi系列首場AMA將于15:00線上開啟。
此次對話以“今天,我們為什么要談論DeFi?”為主題,金色財經合伙人佟揚將與火幣去中心化事業部運營負責人高潮深度探討DeFi發展的那些事,為行業從業者呈現真實的DeFi發展圖景。
更多詳情見原文鏈接查看。[2020/7/30]
而我們托管在這些服務上的內容也值得我們擔心,它們被隱藏在經常斷開的脆弱鏈接之后面,這對我們構建的計算機系統以及越來越依賴它們的社會具有深遠的影響。集中式架構之所以成功,部分原因在于它們易于構建。為了阻止合并,開發人員需要同樣容易組成的基礎新構建塊。分布式存儲就是這樣的基石,是分布式Web的前提。
分布式存儲的基本特征
1.彈性
現代互聯網非常脆弱。如今,Web內容隱藏在URL后面,每個URL在任何給定時刻都屬于一臺確定的服務器,一旦供應商出于原因中斷網絡連接,其指向的內容將不可訪問。集中化會增加這種影響,造成單一節點故障并為審查提供方便。結果,在當今的互聯網中,普遍存在著互聯網鏈接失效的現象,就好像當一個鏈接斷開或永久不可用,國家級審查和分布式拒絕服務攻擊破壞可以訪問任何文件。
在理想的分散系統中,運營商的損失不應阻止用戶對先前存儲和服務的內容的訪問。通過將責任分散到網絡的許多節點上,分散式系統還可以自然地抵抗審查制度和其他拒絕服務的嘗試,因為沒有集中的目標可以使攻擊者大量獲取資源。
現場 | ITAM GAMES CCO:無論什么協議,一定是內容為王:金色財經現場報道,4月30日,ITAM GAMES CCO 邊振炯(音)在由金色財經和cointime主辦的金色沙龍第五期現場發表演講時表示,現在區塊鏈領域有很多不同的協議,有人說總有一種協議會成為王者,或者是以太坊,或者是EOS。但是,他認為無論什么協議,一定是內容為王,同時分發是王后,也非常重要。[2019/4/30]
集中存儲系統易于受到審查的影響,一個典型的案例是當西班牙的17個自治社區之一的加泰羅尼亞,舉行獨立公投時,反對獨立計劃的西班牙政府封鎖了擁有ISP級別投票信息的網站,通過切斷這些關鍵的鏈接,政府有效地阻止了許多個人訪問這些信息。
然而,許多網站也使用對等存儲網絡星際文件系統進行了鏡像。任何運行IPFS節點的人都可以從網絡上的其他節點下載經過審查的信息,并開始自己分享。IPFS的分散化本質與西班牙政府阻止訪問這些文件的企圖背道而馳——只要一個節點被封鎖,另一個節點就可以輕易地取代它。通常,分布式存儲系統使網絡級阻塞變得更加困難。
2.效率
所有計算系統體系結構都有其優點和缺點,并且沒有單一的解決方案適合所有可能的用例。不幸的是,現代網絡對集中化的重視沒有什么不同。如今,全球少數城市中的一些集中式數據中心存儲的內容最多。例如,如果同一網絡上的兩個用戶希望彼此發送消息,這些消息通常將發送到其中一個數據中心;如果100個用戶在一個房間里用他們的設備觀看同一段視頻,他們每個人都會訪問一個中央服務器并下載100份副本,而不是下載一份副本并在本地網絡上共享它。
聲音 | BM:李嘉圖合約意在用簡單英語告知用戶代碼將會做什么:4月18日晚,BM發推稱,李嘉圖合約(Ricardian contracts)意在用簡單英語告知用戶代碼將會做什么。在大多數情況下,他們不應該添加額外的無法執行的法律條款。安全的錢包應在你簽名之前顯示此說明,否則該應用可能會欺騙你。(注:近日,Block.one在Github發布李嘉圖合約說明(Ricardian Contract Specifications)和模板工具箱(Template Toolkit)[2019/4/18]
最簡單的說法是:分布式存儲使得共享文件變得更容易,而不需要在互聯網上向特定的幾個數據中心發送請求。取而代之的是,節點之間通過盡可能少的中間人建立連接。例如,連接到其他國家的節點仍然需要幾次跳轉,但是同一網絡上的節點可以直接共享文件。分布式存儲的最終目標是建立眾多的節點,從而使每個人都可以通過本地對等的節點來獲取信息。
分布式存儲解決方案可以將基本的新效率引入此類活動。通過繞過數據中心,分布式系統可以使節點放置在比現代內容分發網絡更接近終端用戶的地方,甚至比現代內容交付網絡都更靠近最終用戶,從而大大加快了文件檢索速度。通過本地網絡進行點對點文件共享還可以節省帶寬,特別是在對更廣泛的互聯網訪問有限的地區。
分布式存儲的理想特性
盡管彈性和效率是分布式存儲的標志,但理想的存儲系統可能還具有許多其他特征:
ofo內部員工:不明白公司做區塊鏈要達到什么目的:據《長江商報》消息,一位ofo內部員工表示,區塊鏈項目在公司還是機密,沒有對外公開。“其實我也沒明白,ofo做區塊鏈,具體是要做什么,怎么做,達到什么目的。”此前ofo已確認涉足區塊鏈。5月17日,ofo宣布成立區塊鏈研究院,將在全球范圍內應用區塊鏈技術賦能大數據、物聯網,連接企業、政府、用戶等多方主體,解決共享單車投放、調度、停放、維修等運營痛點,協助解決共享單車的城市治理難題。[2018/6/4]
1.可訪問
理想的分布式系統應該是可訪問的。參與網絡應該很容易,允許盡可能多的節點代表網絡存儲和分發文件。
如果您正在閱讀本文并想知道:我可以是一個節點嗎?答案是:視情況而定。借助Filecoin,任何相對精通技術的人都應該能夠運行客戶端節點以與網絡進行交互。至于運行存儲礦工節點,并不是所有人都能做的,因為您需要具有滿足特定規格的硬件。
對于IPFS,節點的硬件要求較低,這意味著有可能有更多的用戶通過運行節點,或許通過運行內置的Web瀏覽器,對網絡做出貢獻。云服務提供商使廉價,可靠的存儲比以往任何時候都更容易使用。它們成功的一個主要方面是能夠通過API通過代碼配置和管理存儲的能力。任何競爭性系統都應該能夠提供相同級別的便利。
2.內容尋址
如前所述,URL體現了一些內在的設計折衷。它們描述的是數據的位置,而不是數據的內容。為了解釋集中式系統是如何使查找數據變得困難的——假設您想下載一只毛茸茸的小貓的照片。考慮以下兩個URL:
金色財經現場報道 圓桌環節嘉賓關于區塊鏈3.0時代的發展方向是什么的觀點:金色財經現場報道,今日在紐約舉行的2018區塊鏈無國界峰會上金色財經合伙人佟揚主持了圓桌環節,討論了有關區塊鏈3.0時代的發展方向。對此,Certik聯合創始人哥大助理教授顧榮輝表示,區塊鏈1.0是存儲數據的區塊鏈,區塊鏈2.0存儲的是可以操作數據的程序,而區塊鏈3.0意味著可以在區塊鏈之上繼續加載區塊鏈,是終極的區塊鏈。星云鏈聯合創始人鐘馥百表示,區塊鏈3.0偏重區塊鏈技術的落地,區塊鏈3.0面臨經濟模型和技術方面的挑戰。區塊鏈3.0可以在經濟模型上激勵更多的人,提供門檻更低的開發平臺。IOST聯合創始人及CEO鐘家鳴表示,比特幣仍然是最適應區塊鏈的,區塊鏈3.0包含目前區塊鏈還不包括的一些功能。 Hydro Protocol聯合創始人王博聞表示,以太坊區塊鏈的效率低下,需要解決TPS問題,下一代的區塊鏈技術需要解決是否能使TPS以指數增長的問題。[2018/5/13]
https://example1.com/cat.jpeg
https://example2.com/cat.jpeg
這些URL都引用了一個名為cat.jpeg的文件,但不能保證這兩個文件相同。如果example1.com離線,則無法確定example2.com是否滿足您的需求-cat.jpeg可能完全不同。事實上,它甚至可能是一張狗的照片!URL和它引用的內容之間沒有固有的關系。
因此,你沒有辦法問今天的互聯網,“有人有這個文件嗎?”因為除了它的位置之外,你對文件一無所知。
當您使用URL共享文件時,可能會出現問題。服務器可能會從該URL開始提供不同的文件,或者有人會執行中間人攻擊并修改文件(奇怪的是,這種攻擊并不少見)。很難確認訪問URL的每個人都收到了他們想要的文件。
相比之下,內容尋址基于內容標識符(CIDs)查找文件,CIDs作為文件的數字指紋。用這種方式尋址文件解決了位置尋址的問題。當客戶端需要一個文件時,他們向網絡中的節點詢問具有特定CID的文件,而不是向一個服務器詢問URL。客戶端下載文件后,便會自己對其進行指紋識別。
回顧我們前面的例子,就好像所有網站都對輸入cat.jpeg時要交付的文件有共同的理解。因此,雖然不能保證任何節點都具有特定的cat.jpeg,但這些節點將檢查該文件的指紋以嘗試找到匹配項。
盡管像指紋識別這樣的步驟需要比普通人要多的技術知識,但Filecoin和IPFS客戶可以輕松地使此過程自動化。這樣一來,客戶就可以保證他們已收到所需的文件-在此系統中,查找數據的備用提供者很簡單。
主要要點:CIDs意味著您可以找到集中式系統中可能丟失的內容,CIDs還可以防止中間人攻擊或服務器在特定URL處突然更改文件。
3.獨立性
無信任系統允許雙方進行合作,而不需要了解對方或尋求第三方。她認為,系統的激勵促使參與者朝著網絡運行所必需的行為前進。
4.可驗證
理想的存儲系統應該能夠輕松地持續證明節點正在存儲它們所承諾的精確數據。這種類型的可審核性是實現不信任的關鍵。如果您總是能夠確定數據被正確地存儲,那么您就不太需要信任提供存儲的一方。
5.開放性
最后,理想的分布式存儲系統是開放的:它的代碼是開放源代碼的,并且是可審計的。此外,存儲系統不應該是單塊的。相反,它應該公開一個任何人都可以實現和構建的開放協議,而不是鼓勵鎖定。
案例研究:Filecoin如何體現這些特征
Filecoin項目是一個分布式存儲系統,旨在滿足這些特性。在2014年的描述中,Filecoin協議最初是作為一個激勵層開發的星際文件系統(IPFS),一個對等存儲網絡。與IPFS一樣,Filecoin是一種開放協議,它基于其較早版本的屬性,利用相同的底層對等和內容尋址功能。
Filecoin節點網絡為文件的檢索和存儲提供了一個分散的存儲市場。這個網絡是由一個新的區塊鏈支持的,它記錄了網絡參與者所做的承諾。用戶使用區塊鏈的加密貨幣FIL在網絡上進行交易。
1.檢索市場
在檢索市場上,被稱為檢索礦工的節點競爭將文件盡快提供給客戶端。檢索礦工通過少量的FIL費用獲得獎勵。這使得位于關鍵位置的節點有了加入網絡的動機,并促進了文件的快速分發。它還鼓勵建立一個穩健的網絡來復制和保存急需的文件。
2.存儲市場
在Filecoin的存儲市場中,被稱為存儲礦工的節點被授權在各種特性上競爭,比如價格和位置,為客戶提供指定時間內的文件托管合同。存儲礦工在接受合同前,必須先進行抵押FIL;如果存儲礦工未能履行其對客戶的義務,則此功能可用于自動向客戶償還費用。
當存儲礦工和他們的客戶達成協議時,客戶將他們的數據傳輸給存儲礦工。存儲礦工將其數據添加到一個扇區,扇區是Filecoin中存儲的基本單位。然后礦工執行計算密集型操作,以創建該扇區數據的唯一副本。
如果客戶希望存儲其數據的多個唯一副本,那么封裝過程將確保每個副本都具有惟一的指紋,而獲取該指紋所需的計算量將防止節點從基礎數據重新生成指紋,從而避免作弊。數據最終用于向Filecoin區塊鏈發布復制證明。
在存儲交易期間,需要定期要求存儲礦工向區塊鏈提交時空證明。礦工使用隨機性,密封扇區和發布到區塊鏈的復制證明來獲得這些證明。這些證據為客戶端提供了一個強有力的概率論證,即存儲礦工擁有完整,唯一的數據副本。這是一個非常有力的保證-甚至是現代云存儲提供商也無法提供其客戶。
客戶通過支付FIL作為交易費來獎勵Filecoin存儲礦工。還為存儲礦工提供了為區塊鏈挖掘區塊的機會,這既需要FIL獎勵,也可以向希望在開采塊中包含消息的其他人收取交易費用。Filecoin的證明系統意味著礦工需要一些額外的硬件,但對于技術熟練的個人來說,要求仍然很低。作為客戶端參與網絡的硬件要求是適當的,Filecoin節點還公開了一個用于與網絡進行編程交互的API,允許第三方服務在核心網絡功能之上構建。
結論
分布式存儲提供了一種與傳統的集中式存儲相對應的強有力的選擇。它為開發人員提供了探索設計計算空間的機會,從而強調了內容存儲和交付的穩定性和效率。Filecoin表明,通過分布式存儲可以不僅可以讓數據更加安全;也可以讓Web3.0網絡為更多人使用。
今天是十二月二十九號,農歷十一月十五,星期二。昨天好有意思,無論是白天的波卡突然在幣安上首頁了,頂替了ETH,還是晚上的Cover事件,都是能單獨拿出來聊個天的那種.
1900/1/1 0:00:00憑借行業領先的OKLink區塊鏈瀏覽器和今年9月上線區塊鏈安全系統“鏈上天眼”優異表現,區塊鏈產業集團歐科云鏈斬獲“2020年度最佳安全服務機構”獎項.
1900/1/1 0:00:00最近溝通的朋友都有一個共性對于一些在市場上已經虧損的不行,但是最后依舊在堅持著自己的做法不去改變,很多人在別人眼里,看起來總是怪怪的,曾經我碰到一個交易愛好者,我認為自己已經入魔,但看看人家.
1900/1/1 0:00:00Circles歷時7年制作完成,自10月17日發布以來,熱度不斷,截止今天,依舊是我見過的最活躍的區塊鏈社群項目.
1900/1/1 0:00:00周末的市場總是“陰晴不定”出乎意料的事情比較多,就在剛剛,筆者所在的城市下雪了,一場突如其來的大雪讓整座城市變的冷得起來,這場大雪比以往來的稍微早一些,或許是人們的期盼感動了上天.
1900/1/1 0:00:00活動規則 活動時間:2020年12月21日18:00-2021年1月6日18:00(HKT)OKEx DeFi播報:DeFi總市值104.8億美元,OKEx平臺SFG領漲:據OKEx統計.
1900/1/1 0:00:00