原文來自:Modulus Labs
編譯:DeFi 之道
很高興終于可以與你們分享我們的第一篇論文,該論文是通過以太坊基金會的資助完成的,它的名稱是《The Cost of Intelligence: Proving Machine Learning Inference with Zero-Knowledge?》(或 paper0,這是酷孩子們的叫法)。
沒錯,這些都是真數字!有圖表!論文還討論了理論結構及其對性能的影響!事實上,paper0 是第一個跨通用 AI 原語套件對 ZK 證明系統進行基準測試的研究工作,你現在就可以閱讀整篇論文。
而這篇文章,你可以將其視為論文的總結,有關詳細信息,請參閱原論文。
事不宜遲,讓我們深入了解:
事實上,計算的未來將大量使用復雜的人工智能。看看我的文本編輯器:
Notion 的提示告訴我,他們的 LLM 可以讓這句話變得更好
數據:Arbitrum Nova橋接交易總量突破20萬筆:金色財經報道,Dune Analytics最新數據顯示,Arbitrum基于AnyTrust技術的新鏈Arbitrum Nova橋接交易總量已突破20萬筆,本文撰寫是達到201,393筆,橋接存儲ETH總量為20,942枚,按照當前價格計算約合4000萬美元,獨立存款用戶數量168,149個。[2023/6/2 11:54:39]
然而,鏈上不存在功能性神經網絡,甚至連最小的推薦系統或匹配算法都不存在。真見鬼!甚至連實驗也沒有一個……當然,原因是非常明顯的,因為這太貴了,畢竟,即使運行價值數十萬 FLOP 的計算(僅夠在微型神經網絡上進行一次推理)的成本也是數百萬 gas,目前相當于數百美元。
那么,如果我們想將 AI 范式帶入無需信任的世界,我們該怎么做?我們會翻車(roll-over),然后放棄(give up)嗎?當然不是…等等!Roll-over)……Give up……
如果像 Starkware、Matter Labs 和其他公司這樣的 Rollup 服務,正在使用零知識證明來大規模擴展計算,同時保持密碼學安全,那么我們能為 AI 做同樣的事情嗎?
日本央行已開始其預定的CBDC試點項目:金色財經報道,日本銀行 (BOJ) 發布了其央行數字貨幣 (CBDC) 概念驗證 (PoC) 實驗第二階段的結果。 據日本央行報告,第二階段測試了CBDC持有量實施上限的技術,以防銀行賬戶突然轉移到 CBDC。這包括單個用戶在多個中介機構擁有多個帳戶的情況。還檢查了用戶在啟動和安排付款方面的便利性。PoC被宣布成功實現了預期的結果,報告證實日本央行已開始其預定的CBDC 試點項目。[2023/5/30 11:48:14]
這個問題成為推動我們在 paper0 中工作的激勵種子。 劇透警報,以下是我們發現的:
paper0 總結
這是眾所周知的秘密:AI 性能幾乎總是與模型大小成比例。 這種趨勢看起來也沒有放緩。 只要這種情況仍然存在,對于我們這些 web3 中的人來說,這將是特別痛苦的。
畢竟,計算成本是我們最終、不可避免的噩夢來源。
Nvidia 發布用于創建安全 AI 模型的工具:金色財經報道,Nvidia 推出 NeMo Guardrails 工具,以幫助開發人員確保生成 AI 的準確性、相關性和安全性。NeMo Guardrails 允許開發人員對其語言模型 (LLM) 應用三種不同類型的限制。據 Nvidia 稱,NeMo Guardrails 適用于所有語言模型,包括 ChatGPT。該公司還聲稱幾乎所有軟件開發人員都可以使用該工具。[2023/4/26 14:28:30]
今天的 ZKP 已經可以支持小模型了,但中型到大型模型打破了范式
對于 paper0,我們關注任何零知識證明系統中的 2 個基本指標:
證明生成時間:prover 創建 AI 推理的伴隨證明所需的時間,以及
prover 內存使用峰值:證明者在證明期間的任何給定時間用于生成推理證明的最大內存;
這主要是一個實際的選擇,并且是從我們構建 Rockybot 的經驗中做出的(證明時間和內存使用是確定任何無需信任人工智能用例可行性的直接優先事項)。 此外,所有測量都是針對證明生成時間進行的,并且沒有考慮預處理或 witness 生成。
英國最終敲定加密貨幣行業監管計劃:金色財經報道,據悉,英國財政部正在敲定監管加密貨幣行業的一攬子全面規則計劃。大臣們不久將就新的監管體制展開磋商,此前,FTX的崩潰為政府整頓金融業的承諾注入了新的緊迫性。消息人士表示,該計劃將使英國金融行為監管局(FCA)能夠更廣泛地監督加密貨幣,包括監督公司如何運營和為其產品做廣告,從海外向英國市場銷售比特幣也將受到限制。[2022/12/6 21:24:50]
當然,還有其他方面的成本需要跟蹤。 這包括驗證者運行時間和證明大小。我們將來可能會重新審視這些指標,但將它們視為 paper0 的范圍之外。
至于我們測試的實際證明系統,通過投票,我們選定了 6 個:
Paper0 測試的證明系統匯總表,以及協助我們的作者
最后,我們創建了兩套用于基準測試的多線性感知器(MLP)——值得注意的是,MLP 相對簡單,主要由線性運算組成。這包括一套隨著參數數量增加而擴展的架構(最多 1800 萬參數和 22 GFLOP),以及第二套隨著層數增加而擴展(最多 500 層)的架構。如下表所示,每個套件都測試了證明系統以不同方式擴展的能力,并大致代表了從 LeNet5(6 萬參數,0.5 MFLOP)到 ResNet-34(2200 萬參數,3.77 GFLOP)的知名深度學習(ML)架構的規模。
BITO和BITI兩個比特幣ETF交易量突然飆升,總交易額已接近10億美元:11月9日消息,據彭博高級ETF分析師Eric Balchunas在社交媒體披露,兩個主要的比特幣交易所交易基金“ProShares比特幣策略ETF(BITO)”和“ProShares做空比特幣策略ETF(BITI)”今日交易量突然大幅飆升,兩個ETF的總交易額億接近10億美元,但這兩個ETF都顯示出非常明顯的折價或溢價,目前交易價格都接近基礎資產的價格。[2022/11/9 7:23:30]
參數和深度基準套件
對于以上 6 個證明系統的參數和深度范圍的證明生成時間結果
對于以上 6 個證明系統的參數和深度范圍內的峰值內存結果
有關這些結果的完整內容,以及對每個系統內瓶頸的深入分析,請參閱 paper0 的第 4 節。
好吧,以上是一些非常簡潔的圖表,而以下則是要點:
那這在實踐中究竟意味著什么? 我們將重點介紹 2 個示例:
1、Worldcoin:Worldcoin 正在構建世界上第一個“隱私保護身份證明協議”(或 PPPoPP),換句話說,通過將身份驗證與一種非常獨特的生物特征(虹膜)聯系起來來解決女巫攻擊問題。這是一個瘋狂的想法,它使用卷積神經網絡來壓縮、轉換和證明存儲的虹膜數據。雖然他們當前的設置涉及 orb 硬件中安全飛地內的可信計算環境,但他們希望改為使用 ZKP 來證明模型的正確計算。這將允許用戶對自己的生物特征數據進行自我保護,并提供加密安全保證(只要在用戶的硬件上進行處理,比如手機)。
現在具體一點:Worldcoin 的模型具有 180 萬參數和 50 層。 這是區分 100 億個不同虹膜所必需的模型復雜性。 哎呀!
雖然在計算優化的云 CPU 上證明 Plonky2 等系統,可以在幾分鐘內為這種規模的模型生成推理證明,但證明者的內存消耗將超過任何商用移動硬件(數十 GB 的 RAM)。
事實上,沒有一個測試系統能夠在移動硬件上證明這個神經網絡……
2. AI Arena:AI Arena 是一款類似于《任天堂明星大亂斗》風格的鏈上平臺格斗游戲,其具有一個獨特的特點:玩家并不是操作化身實時進行對抗,而是讓玩家擁有的 AI 模型相互競爭和戰斗,是的,這聽起來很酷。
隨著時間的推移,AI Arena 的出色團隊正努力將他們的游戲轉向一個完全無需信任的錦標賽計劃。但問題是,這涉及驗證每次游戲數量驚人的 AI 計算的挑戰。
比賽以每秒 60 幀的速度運行,持續 3 分鐘時間。這意味著每輪比賽,兩個玩家模型之間的推理結果超過 20000 個。以 AI Arena 的一個策略網絡為例,一個相對較小的 MLP 需要大約 0.008 秒來執行一次前向傳遞,使用 zkCNN 證明該模型需要 0.6 秒,即,每采取一次動作就需要增加 1000 倍的計算。
這也意味著計算成本將增加 1000 倍。隨著單元經濟對鏈上服務變得越來越重要,開發人員必須平衡去中心化安全的價值與證明生成的實際成本。
https://aws.amazon.com/ec2/pricing/
無論是上面的例子,ZK-KYC,DALL-E 風格的圖像生成,還是智能合約中的大型語言模型,ZKML 的世界中都存在著一個完整的用例世界。然而,要真正實現這些,我們強烈認為 ZK prover 仍需要大量改進。特別是對于自我完善的區塊鏈的未來。
那么,我們該何去何從?
我們有具體的表現數據,我們知道在證明神經網絡時哪些技術往往表現最好。當然,我們開始發現各種用例,這些用例激勵了我們不斷成長的社區。
我想知道接下來會發生什么……
很快就會為你們提供更多更新;)
隔夜的粥
個人專欄
閱讀更多
金色財經
金色早8點
Odaily星球日報
Arcane Labs
澎湃新聞
歐科云鏈
深潮TechFlow
MarsBit
BTCStudy
鏈得得
Tags:PAPAPEBITPAPERPAPADOGE價格apenft幣的未來價值bitcv幣威ToiletPaper.Finance
本篇研報共分為三部分。 第一部分定義和闡釋了流動性主體(在此特指美聯儲資產負債表)與作為風險資產的廣義虛擬貨幣市場之間的相關性。 第二部分詳細地剖析了源自美聯儲資產負債表的流動性的驅動因素.
1900/1/1 0:00:00目前尚未有政策落地,但我們仍然需要注意風險。2 月 9 日,疑受美國監管消息影響,加密貨幣市場短時急跌.
1900/1/1 0:00:00區塊鏈技術的發展已經有十多年歷程,近年來,它的應用和用例不斷增加,尤其是在游戲、金融和藝術行業。本文將探討區塊鏈領域在2023年的主要趨勢,包括web3游戲、零知識證明和第2層協議.
1900/1/1 0:00:00原文來源:IntoTheBlock這一次,我們重點關注一下加密行業中持續時間最長的敘事之一:比特幣減半。隨著比特幣接近其第四次減半,投資者可能正試圖搶占這個在歷史上保持看漲的事件.
1900/1/1 0:00:002022年10月19日,NFT市場迎來一個新的平臺。這個被精心設計的NFT交易市場和聚合器被命名為Blur。與其他NFT平臺不同,Blur旨在提升專業交易者的NFT交易體驗.
1900/1/1 0:00:00眾所周知,加密市場是由敘事推動的,人工智能 (AI) 是目前最火爆的話題。借著ChatGPT的熱度,推特上一些加密大V喊單稱,基于人工智能的代幣可能會引領下一個牛市周期.
1900/1/1 0:00:00