如果我們想在去中心化互聯網更進一步,最終將需要這三大支柱:共識、存儲以及計算。如果人類成功將這三個領域去中心化,我們將踏向互聯網的下一階段征程:Web3。
圖1:每個Web3支柱的項目示例存儲,作為第二大支柱,正迅速成熟,各種存儲解決方案已經應用到使用場景中。本文,將進一步探討去中心化存儲這一支柱。此篇文章是完整篇幅的一個總結,完整篇幅可從去中心化存儲Arweave和CrustNetwork下載。去中心化存儲的需求
區塊鏈的視角
從區塊鏈的視角來看,我們需要去中心化存儲是因為區塊鏈本身并不是被設計用來存儲大體量數據的。獲得區塊共識的機制依賴小數量的數據,這些數據被放置于在區塊中,并迅速分享至網絡供節點驗證。首先,在區塊中存儲數據非常昂貴。在撰文時,在layer1上存儲一個完整的BAYC#3368需要花費超過18000美元。
圖2:具有活躍主網的項目。選擇200年的存儲期限來符合Arweave對永久性的定義。來源:網絡文檔、Arweave存儲計算器其次,如果我們想要在這些區塊中存儲大量套利數據,網絡擁堵將會變得嚴重,這會在使用網絡時引起gas戰從而導致價格上漲。這就是區塊的隱含時間價值的后果,如果用戶需要在某一特定時間向網絡提交交易,他們會需要付額外的gas費來使得他們的交易被優先處理。因此,建議將NFT的元數據以及圖像數據、dApp的前端進行鏈下存儲。中心化網絡的視角
如果鏈上存儲數據如此昂貴,為什么不直接在中心化網絡鏈下存儲數據呢?中心化網絡容易受到審查并且具有可變性。這要求用戶信任數據提供方能維護數據的安全。誰都不能確保中心化網絡的運營方真的不會辜負用戶對他們的信任:數據可能會因為有意或出于意外被抹除。例如可能會因為數據提供商改變政策、硬件故障或被第三方攻擊。NFTs
隨著NFT藏品的地板價超過10萬美元,一些NFT每kb圖像數據價值高達7萬,僅僅通過承諾不足以確保數據每時每刻的可獲得性。需要更強的保證來確保底層NFT數據的不變性和持久性。
圖3:基于上次銷售的CryptoPunk底價;CryptoPunk圖像大小基于CryptoPunksV2鏈上字節字符串的字節長度。數據截至2022年5月10日。來源:OpenSea、鏈上數據、IPFS元數據NFT并不真正包含任何圖像數據,相反,它們只有指向存儲在鏈下的元數據和圖像數據的指針。但需要保護的正是這些元數據和圖像數據,如果這些數據消失,NFT將只是一個空蕩蕩的容器。
派盾:過去3年跨鏈橋攻擊事件中約19.2億美元被盜:金色財經報道,據派盾監測,Multichain已經損失價值1.26億美元的加密貨幣,在跨鏈橋漏洞排行榜上排名第六。此外,Poly Network被盜用2500萬美元,排在第8位。截至目前,在過去3年里,與跨鏈橋相關的攻擊事件中約19.2億美元被盜。[2023/7/7 22:23:42]
圖4:區塊鏈、區塊、NFT和鏈下元數據的簡化圖示可以說,NFT的價值并不主要由它們所指的元數據和圖像數據驅動,而是由圍繞藏品而推動的運動和生態系統的社區所驅動。雖然這可能是正確的,但如果沒有基礎數據,NFT將無意義,無意義的社區根本無法形成。除了個人資料圖片和藝術收藏品,NFT還可以代表現實世界資產的所有權,例如房地產或金融工具。此類數據具有外在的現實世界價值外,由于是通過NFT代表其價值,因此保存NFT每一個字節數據的價值不會低于鏈上NFT的價值。dApps
如果NFT是存在于區塊鏈上的商品,那么dApp可以被認為是存在于區塊鏈上并促進與區塊鏈交互的服務。dApp是存在于鏈下的前端用戶界面和存在于網絡上并與區塊鏈交互的智能合約的組合。有時它們還有一個簡單的后端,可以將某些計算轉移到鏈下以減少所需的gas,從而減少最終用戶對某些交易產生的成本。
圖5:dApp與區塊鏈交互的簡化圖示盡管dApp的價值應當根據dApp的背景來考慮,dApps帶來的價值是驚人的。在撰文時的過去30天內,DappRadar上排名前10位的dApp共同促成了超過1500億美元的轉賬。
圖6:截至2022年5月11日,DappRadar報告的按美元數量計算的最受歡迎的dApp盡管dApp的核心機制由智能合約執行,終端用戶可通過前端確保用戶可訪問性。因此,在某種意義上,確保dApp前端的可訪問性在于確保底層服務的可用性。
圖7:Aave創始人StaniKulechov在推特上表示,AavedApp前端于2022年1月20日下線,但仍可通過IPFS托管的網站副本訪問去中心化存儲減少了服務器故障、DNS黑客、以及中心化實體刪除對dApp前端的訪問。即使停止dApp的開發,也可以通過前端繼續訪問智能合約。去中心化存儲圖景
拜登政府著手研究是否需要對AI工具進行審查:4月11日消息,拜登政府已經開始研究是否需要對ChatGPT等人工智能工具進行審查,因為人們越來越擔心這種技術可能造成歧視或傳播有害信息。作為潛在監管的第一步,美國商務部周二正式公開征求意見,就其所謂的問責措施發表意見,包括有潛在風險的新AI模型在發布前是否應該通過認證程序。(華爾街日報)[2023/4/11 13:56:24]
如比特幣以太坊這樣的區塊鏈的存在主要是為了促進價值轉移。當涉及到去中心化存儲網絡時,一些網絡也采用了這種方法:它們使用原生區塊鏈來記錄和跟蹤存儲訂單,這代表了價值轉移以換取存儲服務。然而,這只是眾多潛在方法中的一種——存儲領域廣闊,多年來出現了具有不同權衡和用例的不同解決方案。
圖8:一些任意選擇的去中心化存儲協議概述盡管存在許多差異,但上述所有項目都有一個共同點:這些網絡都沒有在所有節點上復制所有數據,比特幣和以太坊區塊鏈就是這種情況。在去中心化存儲網絡中,存儲數據的不變性和可用性不是借由大多數網絡存儲并驗證相繼鏈接的數據實現的,比特幣和以太坊就是這種情況。盡管如前所述,許多網絡選擇使用區塊鏈來跟蹤存儲訂單。去中心化存儲網絡上的所有節點都存儲所有數據是不可持續的,因為運行網絡的間接成本會使用戶的存儲成本迅速提高,并最終推動網絡的中心化,轉向少數能夠負擔得起硬件費用的節點運營商。因此,去中心化存儲網絡需要克服非同尋常的挑戰。去中心化存儲的挑戰
回顧前面提到的關于鏈上數據存儲的限制,很明顯去中心化存儲網絡必須以不影響網絡價值轉移機制的方式存儲數據,同時確保數據保持持久性、不可變性和可訪問性。從本質上講,去中心化存儲網絡必須能夠存儲數據、檢索數據和維護數據,同時確保網絡中的所有參與者都受到他們所做的存儲和檢索工作的激勵,同時還要維護去中心化系統的去信任性。這些挑戰可被總結為如下問題:數據存儲格式:存儲完整文件還是文件碎片?數據復制:跨多少個節點存儲數據?存儲跟蹤:網絡如何知道從哪里檢索文件?存儲數據的證明:節點是否存儲了他們被要求存儲的數據?隨時間推移的數據可用性:數據是否仍隨時間推移而存儲?存儲價格發現:存儲成本如何確定?持久數據冗余:如果節點離開網絡,網絡如何確保數據仍然可用?數據傳輸:網絡帶寬是有代價的——如何確保節點在被詢問時檢索數據?網絡代幣經濟學:除了確保數據在網絡上可用之外,網絡如何確保網絡長期存在?作為本研究的一部分,已探索的各種網絡采用了廣泛的機制,并通過某些權衡來實現去中心化。
圖9:審計的存儲網絡的技術設計決策摘要有關上述網絡對于每個挑戰的深入比較,以及每個網絡的詳細配置文件,可于Arweave或CrustNetwork閱讀完整研究文章。數據存儲格式
前CFTC專員Jill Sommers加入FTX US Derivatives董事會:9月1日消息,前 CFTC(商品期貨交易委員會)專員 Jill Sommers 加入 FTX US Derivatives(“公司”)董事會,該公司是 FTX 旗下受 CFTC 監管的數字資產期貨和期權交易所。Sommers 此前連續兩屆擔任商品期貨交易委員會委員。除了擔任 CFTC 專員之外,Sommers 女士在其整個職業生涯中還在衍生品行業擔任過多種職務,包括擔任國際掉期和衍生品協會 (ISDA) 的政策總監和政府事務負責人以及芝加哥商品交易所的監管事務。[2022/9/2 13:03:19]
圖10:數據復制和擦除編碼在這些網絡中,有兩種主要的方法用于在網絡上進行存儲數據:存儲完整文件和使用糾刪碼:Arweave和CrustNetwork存儲完整文件,而Filecoin、Sia、Storj和Swarm都使用糾刪碼。在擦除編碼中,數據被分解成固定大小的片段,每個片段都被擴展并用冗余數據編碼。保存到每個片段中的冗余數據使得只需要片段的一個子集來重建原始文件。數據復制
在Filecoin、Sia、Storj和Swarm中,網絡確定擦除編碼片段的數量以及要存儲在每個片段中的冗余數據的范圍。然而,Filecoin還允許用戶確定復制因子,該因子決定了作為與單個存儲礦工的存儲交易的一部分,應該在多少個單獨的物理設備上復制擦除編碼片段。如果用戶想用不同的存儲礦工存儲文件,那么用戶必須進行單獨的存儲交易。Crust和Arweave讓網絡決定復制,而在Crust上手動設置復制因子是可能的。在Arweave上,存儲證明機制激勵節點存儲盡可能多的數據。因此,Arweave的復制上限是網絡上存儲節點的總數。
圖11:數據存儲格式將影響檢索和重建用于存儲和復制數據的方法將影響網絡檢索數據的方式。存儲跟蹤
在數據以網絡存儲它的任何形式分布在網絡中的節點之后,網絡需要能夠跟蹤存儲的數據。Filecoin、Crust和Sia都使用本地區塊鏈來跟蹤存儲訂單,而存儲節點還維護本地網絡位置列表。Arweave使用類似區塊鏈的結構。與比特幣和以太坊等區塊鏈不同,在Arweave上,節點可以自行決定是否存儲來自區塊的數據。因此,如果比較Arweave上多個節點的鏈,它們將不完全相同——相反,某些節點上的某些塊會丟失,而在其他節點上可以找到。
以太坊Layer2總鎖倉量回落至51.3億美元,7日跌幅4.19%:8月29日消息,據L2BEAT數據顯示,當前以太坊Layer2總鎖倉量回落至51.3億美元,7日跌幅4.19%。其中,鎖倉量前五分別為:Arbitrum(25.1億美元,7日跌幅6.24%);Optimism(15.8億美元,7日跌幅1.32%);dYdX(5.01億美元,7日漲幅2.80%);Loopring(1.60億美元,7日跌幅9.61%);MetisAndromeda(1.34億美元,7日跌幅8.17%)。[2022/8/29 12:55:18]
圖12:blockweave中三個節點的圖示最后,Storj和Swarm使用了兩種完全不同的方法。在Storj中,稱為衛星節點的第二種節點類型充當一組存儲節點的協調器,用于管理和跟蹤數據的存儲位置。在Swarm中,數據的地址直接嵌入到數據塊中。檢索數據時,網絡根據數據本身知道在哪里查找。存儲數據證明
在證明數據的存儲方式時,每個網絡都采用自己獨特的方法。Filecoin使用復制證明——一種專有的存儲證明機制,它首先將數據存儲在存儲節點上,然后將數據密封在一個扇區中。密封過程使得相同數據的兩個復制片段可以證明彼此是唯一的,從而確保正確數量的副本存儲在網絡上。Crust將一段數據分解成許多小塊,這些小塊被散列到Merkle樹中。通過將存儲在物理存儲設備上的單個數據的散列結果與預期的Merkle樹散列值進行比較,Crust可以驗證文件是否已正確存儲。這類似于Sia的方法,不同之處在于Crust將整個文件存儲在每個節點上,而Sia存儲擦除編碼的片段。Crust可以將整個文件存儲在單個節點上,并且仍然可以通過使用節點可信執行環境(TEE)來實現隱私,這是一個即使硬件所有者也無法訪問的密封硬件組件。Crust將這種存儲證明算法稱為「有意義的工作證明」,而有意義表示僅在對存儲的數據進行更改時才計算新的哈希值,從而減少了無意義的操作。Crust和Sia都將Merkle樹根哈希存儲在區塊鏈上,作為驗證數據完整性的真實來源。Storj通過數據審計檢查數據是否已正確存儲。數據審計類似于Crust和Sia如何使用Merkle樹來驗證數據片段。在Storj上,一旦有足夠節點返回他們的審計結果,網絡就可以根據多數響應確定哪些節點有故障,而不是與區塊鏈的事實來源進行比較。Storj中的這種機制很有意,因為開發人員認為,通過區塊鏈減少網絡范圍內的協調可以在速度和帶寬使用方面提升性能。Arweave使用加密工作證明難題來確定文件是否已存儲。在這種機制中,為了讓節點能夠挖掘下一個區塊,他們需要證明他們可以訪問前一個區塊和網絡區塊歷史中的另一個隨機區塊。因為在Arweave中上傳的數據直接存儲在塊中,通過證明對前一個塊的訪問證明存儲提供者確實正確保存了文件。最后,在Swarm上也使用Merkle樹,不同之處在于Merkle樹不用于確定文件位置,而是將數據塊直接存儲在Merkle樹中。在swarm上存儲數據時,樹的根哈希證明文件已正確分塊和存儲。隨時間推移的數據可用性
Celsius再次償還4120萬枚DAI,已還清Maker借款:金色財經報道,鏈上數據顯示,加密借貸平臺Celsius Network再次向去中心化借貸協議 Maker 償還其余 4120 萬枚 DAI 借款,已取出全部抵押品 21,962 枚 WBTC。[2022/7/7 1:58:24]
同樣,在確定數據存儲在特定時間段內時,每個網絡都有獨特的方法。在Filecoin中,為了減少網絡帶寬,存儲礦工需要在要存儲數據的時間段內連續運行復制證明算法。每個時間段的結果哈希證明在特定時間段內存儲空間已被正確的數據占用,因此是「時空證明」。Crust、Sia和Storj定期對隨機數據片段進行驗證,并將結果報告給他們的協調機制——Crust和Sia的區塊鏈,以及Storj的衛星節點。Arweave通過其訪問證明機制確保數據的一致可用性,這要求礦工不僅要證明他們可以訪問最后一個塊,還要證明他們可以訪問一個隨機的歷史塊。存儲較舊和稀有的區塊是一種激勵措施,因為這增加了礦工贏得工作量證明難題的可能性,該難題是訪問特定區塊的先決條件。另一方面,Swarm定期運行抽獎活動,獎勵節點隨著時間的推移持有不那么受歡迎的數據,同時還為節點承諾要在更長時間內存儲的數據運行所有權證明算法。Filecoin、Sia和Crust需要節點存入抵押品才能成為存儲節點,而Swarm只需要它用于長期存儲請求。Storj不需要前期抵押品,但Storj將代扣礦工的部分存儲收入。最后,所有網絡在節點可證明存儲數據的時間段內定期向節點付款。存儲價格發現
為了確定存儲價格,Filecoin和Sia使用存儲市場,存儲供應商設置他們的要價,存儲用戶設置他們愿意支付的價格,以及其他一些設置。然后,存儲市場將用戶與滿足其要求的存儲提供商聯系起來。Storj采用了類似的方法,主要區別在于沒有一個單一的網絡范圍的市場可以連接網絡上的所有節點。相反,每顆衛星都有自己的一組與之交互的存儲節點。最后,Crust、Arweave和Swarm都讓協議來決定存儲價格。Crust和Swarm可以根據用戶的文件存儲要求進行某些設置,而Arweave上的文件則是永久存儲。持久數據冗余
隨著時間的推移,節點將離開這些開放的公共網絡,當節點消失時,它們存儲的數據也會消失。因此,網絡必須積極地在系統中保持一定程度的冗余。Sia和Storj通過收集片段子集、重建基礎數據然后重新編碼文件來重新創建丟失的片段,通過補充丟失的擦除編碼片段來實現冗余。在Sia中,用戶必須定期登錄Sia客戶端才能補充碎片,因為只有客戶端才能區分哪些數據碎片屬于哪條數據和用戶。而在Storj上,Satellite會始終在線并定期運行數據審計以補充數據片段。Arweave的訪問證明算法確保數據始終在整個網絡中定期復制,而在Swarm上,數據被復制到彼此靠近的節點。在Filecoin上,如果數據隨著時間的推移而消失并且剩余的文件碎片低于某個閾值,則存儲訂單將被重新引入存儲市場,允許另一個存儲礦工接管該存儲訂單。Crust的補貨機制目前正在開發中。激勵數據傳輸
隨著時間的推移,數據被安全存儲后,用戶會想要檢索數據。由于帶寬是有代價的,因此必須在需要時提供數據對存儲節點進行激勵。Crust和Swarm使用債務和信用機制,其中每個節點跟蹤入站和出站流量與他們交互的節點是如何流動的。如果一個節點只接受入站流量,但不接受出站流量,則它會被取消優先級以供將來通信,這可能會影響其接受新存儲訂單的能力。Crust使用IFPSBitswap機制,而Swarm使用名為SWAP的專有協議。在Swarm的SWAP協議上,網絡允許節點用郵票來償還他們的債務,這可以用來兌換他們的實用代幣。
圖13:群記帳協議(SWAP),資料來源:Swarm白皮書這種對節點慷慨性的跟蹤也是Arweave確保數據在請求時傳輸的方式。在Arweave中,這種機制稱為野火,節點將優先考慮排名更好的對等節點,并相應地合理化帶寬使用。最后,在Filecoin、Storj和Sia上,用戶最終會為帶寬付費,從而激勵節點在請求時交付數據。代幣經濟
代幣經濟設計確保了網絡的穩定性,也確保了網絡將長期存在,因為最終數據只與網絡一樣永久。在下表中,我們可以找到代幣經濟學設計決策的簡要總結,以及嵌入在相應設計中的通貨膨脹和通貨緊縮機制。
圖14:已審計的存儲網絡的代幣經濟設計決策。哪一個是最佳網絡?
不能說一個網絡在客觀上比另一個網絡更好。在設計去中心化存儲網絡時,存在無數的權衡。雖然Arweave非常適合永久存儲數據,但Arweave不一定適合將Web2.0行業參與者遷移到Web3.0-并非所有數據都需要永久保存。但是,一個強大的數據子領域的確需要永久性:NFT和dApp。最終,設計決策會基于該網絡的目的。以下是各種存儲網絡的總結概況,它們在下面定義的一組尺度上相互比較。使用的尺度反映了這些網絡的比較維度,但是應該注意的是,克服去中心化存儲挑戰的方法在許多情況下并沒有好壞之分,而只是反映了設計決策。存儲參數靈活性:用戶控制文件存儲參數的程度存儲持久性:文件存儲在多大程度上可以通過網絡實現理論上的持久性冗余持久性:網絡通過補充或修復來保持數據冗余的能力數據傳輸激勵:網絡確保節點慷慨傳輸數據的程度存儲跟蹤的普遍性:節點之間對數據存儲位置的共識程度有保證的數據可訪問性:網絡確保存儲過程中的單個參與者無法刪除對網絡上文件的訪問的能力分數越高表明上述各項的能力越強。Filecoin的代幣經濟學支持增加整個網絡的存儲空間,用于以不可變的方式存儲大量數據。此外,他們的存儲算法更適用于不太可能隨時間發生很大變化的數據。
圖15:Filecoin總結概況Crust的代幣經濟學確保超冗余和快速檢索,使其適用于高流量dApp并適用于快速檢索流行NFT的數據。Crust在存儲持久性方面的得分較低,因為沒有持久冗余,它提供永久存儲的能力會受到嚴重影響。盡管如此,仍然可以通過手動設置極高的復制因子來實現持久性。
圖16:Crust總結概況Sia是關于隱私的。之所以需要用戶手動恢復健康,是因為節點不知道自己存儲了哪些數據片段,以及這些片段屬于哪些數據。只有數據所有者才能從網絡中的分片中重建原始數據。
圖17:Sia總結概況相比之下,Arweave是關于持久性的。這也反映在它們的稟賦設計中,這使得存儲成本更高,但也使它們成為NFT存儲的極具吸引力的選擇。
圖18:Arweave的總結概況Storj的商業模式似乎在很大程度上影響了他們的計費和支付方式:亞馬遜AWSS3用戶更熟悉按月計費。通過移除基于區塊鏈的系統中常見的復雜支付和激勵系統,StorjLabs犧牲了一些去中心化,但顯著降低了AWS用戶關鍵目標群體的進入門檻。
圖19:Storj總結概況Swarm的聯合曲線模型確保隨著更多數據存儲在網絡上,存儲成本保持相對較低,并且它與以太坊區塊鏈的接近使其成為更復雜的基于以太坊的dApp的主要存儲的有力競爭者。
圖20:Swarm總結概況對于去中心化存儲網絡面臨的各種挑戰,沒有單一的最佳方法。根據網絡的目的和它試圖解決的問題,它必須在網絡設計的技術和代幣經濟學方面進行權衡。
圖21:已審查存儲網絡的強大用例總結最后,網絡的目的和它試圖優化的特定用例將決定各種設計決策。下一個篇章
回到Web3基礎設施支柱,我們看到去中心化存儲空間擁有少數強大的參與者,他們已針對特定用例將自己定位在市場中。這并不排除新網絡優化現有解決方案或占領新的利基市場,但這確實提出了一個問題:下一步是什么?答案是:計算。實現真正去中心化互聯網的下一個前沿是去中心化計算。目前,只有少數解決方案能夠將去信任、去中心化計算的解決方案推向市場,這些解決方案可以為復雜的dApp提供支持,這些解決方案能夠以遠低于在區塊鏈上執行智能合約的成本進行更復雜的計算。互聯網計算機和Holochain是在撰寫本文時在去中心化計算市場中占據強勢地位的網絡。盡管如此,計算空間并不像共識和存儲空間那樣擁擠。因此,強大的競爭對手遲早會進入市場并相應地定位自己。Stratos就是這樣的競爭對手之一。Stratos通過其分散式數據網格技術提供獨特的網絡設計。我們將去中心化計算,特別是Stratos網絡的網絡設計視為未來研究的領域。結尾
感謝您閱讀這篇關于去中心化存儲的研究文章。如果您喜歡旨在發掘構建我們共同的Web3未來的基本模塊的研究,可以考慮在Twitter上關注@FundamentalLabs。如果我遺漏了任何有價值的概念或其他信息?請在Twitter@0xPhillan上與我聯系,以便我們共同鞏固此項研究。完整作品可在Arweave、CrustNetwork上獲得。披露:Fundamentallabs和我們團隊的成員已經投資并可能持有本報告中提到的代幣倉位。這些聲明旨在披露所有利益沖突,不應被誤解為購買任一代幣的建議。此內容僅供參考,您不應僅根據它做出決定。這并非投資建議。原地址
作者|秦曉峰編輯|郝方舟出品|Odaily星球日報 一、整體概述 EthHub聯合創始人sassal.eth發推表示,以太坊Goerli測試網將于8月8日至10日左右進行合并過渡.
1900/1/1 0:00:006月26日,攻擊者利用合約漏洞攻擊,造成XCarnival平臺直接損失3087ETH。XCarnival團隊成員不斷努力,經過與攻擊者多輪談判,首期追繳到1467個ETH.
1900/1/1 0:00:00如果說上一個牛市最后的敘事是公鏈,那么在本輪牛市最后的謝幕表演中,Layer2尤其是zkRollups是當之無愧的主角.
1900/1/1 0:00:00介紹 最近的清算浪潮使得加密市場中正蔓延著擔憂,從ThreeArrowsCapital蔓延到CelsiusNetwork、BabelFinance、BlockFi和VoyagerDigital等.
1900/1/1 0:00:00作者|十文編輯|郝方舟出品|Odaily星球日報加密貨幣市場第二季度出現較大波動。宏觀層面,美聯儲已確定加息75個基點至1.75%,單次加息幅度創1994年以來近三十年新高.
1900/1/1 0:00:00經Odaily星球日報不完全統計,6月20日-6月26日當周公布的海內外區塊鏈融資事件共24起,較前一周有一定減少;已披露融資總額約為6.3億美元,較前一周有大幅增加.
1900/1/1 0:00:00