方法論、工具與團隊：如何成為一名Web3數據分析師？_WEB:API3

本文假設你是一個剛接觸web3的數據分析師，開始組建你的 web3 分析團隊，或者剛剛對 web3 數據產生興趣。無論采用哪種方式，你都應該已經大致熟悉了 APIs、數據庫、轉換和模型在 web2 中的工作方式。

在這本新指南中，我將盡量簡明扼要地闡述我的三個觀點:

思考：為什么開放的數據渠道會改變數據發揮效用的方式

工具：web3 數據棧中的工具概述，以及如何利用它們

團隊：web3 數據團隊的基本考慮和技能

讓我們先總結一下如何在 web2 中構建、查詢和訪問數據（即訪問 Twitter 的 API）。我們有四個步驟來簡化數據渠道:

觸發 API 事件（發送了一些推文）

更新到數據庫（連接到現有的用戶模型/狀態更改）

特定產品/分析用例的數據轉換

模型訓練和部署（用于管理你的 Twitter feed）

當數據是開源的時候，唯一需要的步驟是在轉換完成之后。Kaggle（1000個數據科學/特征工程競賽）和 hugs Face（26,000 個頂級 NLP 模型）等社區使用一些公開的數據子集來幫助企業構建更好的模型。有一些特定領域的情況，比如在前面的三個步驟中開放數據的開放街道地圖，但是它們仍然有寫權限的限制。

百度數字人生成方法專利獲授權，可應用于元宇宙等場景:金色財經報道，北京百度網訊科技有限公司申請的“生成數字人的方法、模型的訓練方法、裝置、設備和介質”專利獲授權。專利摘要顯示，本公開涉及人工智能領域，具體涉及自然語言處理、深度學習、計算機視覺、圖像處理、增強現實和虛擬現實等技術領域，可應用于元宇宙等場景。[2023/6/9 21:26:19]

我想聲明的是，我只是在這里談論數據，我并不是說 web2 完全沒有開源。像大多數其他的工程角色一樣，web2 數據有大量的開源工具來構建他們的管道（dbt, apache, TensorFlow）。我們仍然在 web3 中使用所有這些工具。總之，他們的工具是開放的，但他們的數據是封閉的。

Web3 也將數據開源，這意味著不再只有數據科學家在開放環境下工作，分析工程師和數據工程師也在開放環境下工作！每個人都參與到一個更連續的工作流程中，而不是一個幾乎是黑盒的數據循環。

工作的形式已經從 web2 數據大壩到 web3 數據河流、三角洲和海洋。同樣重要的是需要注意，生態系統中的所有產品都會同時受到這個循環的影響。

讓我們看一個 web3 分析師如何一起工作的例子。有幾十家交易所使用不同的交易機制和費用，允許你將代幣 A 交換為代幣 B。如果這些是典型的交易所，如納斯達克，每個交易所將報告自己的數據在 10k 或一些 API，然后其他一些服務，比如 capIQ，會把所有交換數據放在一起，然后收取費用，讓你訪問他們的 API。也許有時候，他們會舉辦一次創新競賽，這樣他們就可以在未來收取額外的數據/圖表功能。

動態 | 中科院發布地球大數據報告，采用區塊鏈等技術方法系統分析典型案例:中科院27日在京召開發布會，正式發布由中科院組織編寫的《地球大數據支撐可持續發展目標報告》。報告采用多源數據采集、云數據分析、人工智能和區塊鏈等技術方法，系統分析從全球到地方尺度的典型案例，構建全球和區域SDGs空間評估指標體系，動態評估相關SDGs的全球和國別進展。（人民網）[2019/9/28]

在 web3 交易所中，我們有這樣的數據流：

dex.trades 是 Dune 上的一個表格（由許多社區分析工程師隨著時間的推移整理而成），所有的 DEX 交換數據都被聚合在一起，所以你可以很容易地在所有交易所中搜索單個代幣的交易量。

一名數據分析師通過社區開源查詢創建了一個儀表盤，所以現在我們對整個 DEX 行業有了一個公開的概述。即使所有的查詢看起來都是由一個人寫的，你可以猜測這是在discord上經過大量的爭論，才準確地將其拼湊在一起得。

DAO 科學家查看儀表板，并開始在他們自己的查詢中分割數據，查看特定的對，比如穩定幣。他們會觀察用戶行為和商業模式，然后開始建立假設。由于科學家可以看到哪個 DEX 在交易量中占據了更大的份額，他們將提出一個新的模型，并提議改變治理參數，以便在鏈上進行投票和執行。

之后，我們可以隨時查看公眾查詢/儀表板，看看提案如何創造出更具競爭力的產品。

動態 | 朝鮮Lazarus黑客集團采用PowerShell新方法進行加密攻擊:據cointelegraph報道，網絡安全和反病公司卡巴斯基實驗室于3月26日發布的一份新報告稱，朝鮮Lazarus黑客集團采用新方法繼續進行加密攻擊。該報告顯示，自去年11月以來，黑客組織Lazarus積極開展新業務，使用PowerShell管理和控制Windows和macOS惡意軟件。據報道，Lazarus團隊開發了自定義PowerShell腳本，可與C2惡意服務器交互并執行來自運營商的命令。[2019/3/27]

在未來，如果另一個 DEX 出現（或升級到一個新版本），這個過程將重復。有人將創建插入查詢來更新這個表。這將反過來反映在所有的儀表板和模型（沒有任何人必須回去和手動修復/更改任何東西）。任何其他分析師/科學家都可以以別人已經完成的工作為基礎。

由于共享的生態系統，討論、協作和學習在一個更緊密的反饋循環中發生。我承認這有時會讓人難以承受，我認識的分析師基本上都在輪換數據耗盡。然而，只要我們中的一個人繼續推動數據向前（例如，某人創建了插入 DEX 查詢），那么其他人都會受益。

它并不總是必須是復雜的抽象視圖，有時它只是實用功能，如使它容易搜索 ENS 反向解析器或工具的改進，如自動生成大多數 graphQL 映射與一個 CLI 命令！所有這些都可以被每個人重用，并且可以在某些產品前端或您自己的個人交易模型中進行 API 的使用。

聲音 | 狗狗幣聯合創始人：開發人員須找到鼓勵轉為DApps用戶的方法:據CCN報道，狗狗幣聯合創始人Jackson Palmer表示：“加密社區的開發人員現在必須找到一種方法來鼓勵集中式系統用戶轉換為去中心化應用程序（DApps）的用戶。與集中式平臺相比，去中心化系統和應用程序在處理信息方面效率顯著降低。因此，激勵集中式平臺用戶切換到DApp可能比開發去中心化替代方案更困難。”[2018/9/10]

雖然這里開啟的可能性是驚人的，我確實承認，輪子還沒有平穩地運行。與數據工程相比，數據分析師/科學領域的生態系統仍然很不成熟。我認為有以下幾個原因：

數據工程是web3多年來的核心焦點，從客戶端 RPC API 的改進到基本的 SQL/graphQL 聚合。像 theGraph 和 Dune 這樣的產品就是他們在這方面所付出努力的例證。

對于分析師來說，要理解 web3 獨特的跨協議關系表是非常困難的。例如，分析人員可以理解如何只分析 Uniswap，但卻很難在混合中添加聚合器、其他 DEXs 和不同的代幣類型。最重要的是，實現這一切的工具直到去年才真正出現。數據科學家通常習慣于收集原始數據并獨自完成所有的工作（建立他們自己的管道）。我認為他們不習慣在開發初期與分析師和工程師進行如此密切和公開的合作。對我個人來說，這花了一段時間。

除了學習如何協同工作之外，web3 數據社區還在學習如何跨這個新的數據堆棧工作。你不再需要控制基礎設施，或者慢慢地從 excel 構建到數據池或數據倉庫，只要你的產品上線，你的數據就會到處上線。你的團隊基本上是被扔到了數據基礎設施的最深處。

RSA首席技術官：不相信目前許多區塊鏈應用案例無法用傳統的方法解決:據ZDNet的報道，RSA首席技術官Zulfikar Ramzan在采訪中稱，不相信目前許多區塊鏈應用案例無法用傳統的方法解決，例如數據庫。他表示，在許多情況下，區塊鏈是一種“重型模式”，可解決缺乏信任的情況，但通常區塊鏈解決方案中存在許多信任假設。Ramzan同時稱，區塊鏈現在被視為魔術，人們認為它可以解決一切問題，但可以不代表應該。“你可以買一把大錘把圖釘插入墻上，你也可以用你的拇指，這是一個更便宜的解決方案，也可能因其他原因而更好，我認為這就是我們目前的問題所在。”[2018/5/3]

以下是一些數據工具匯總：

下面我們看看每種類型以及用法：

交互+數據源：這主要用于前端、錢包和較低層次的數據攝取。1

客戶端：雖然以太坊的底層實現是相同的，但每個客戶端都有不同的額外特性。例如，Erigon 對數據存儲/同步進行了大量優化，Quorum 支持隱私鏈。

節點即服務：你不必選擇運行哪個客戶端，但使用這些服務將為你節省維護節點和 API 正常運行的麻煩。節點的復雜性取決于你想要捕獲多少數據（輕節點→全節點→歸檔節點）。

查詢+數據映射：這一層中的數據要么作為 URI 在合約中引用，要么來自使用合約 ABI 將交易數據從字節映射到表模式。合約 ABI 告訴我們合約中包含哪些函數和事件，否則，我們只能看到部署的字節碼（沒有這個 ABI，你無法反向工程/解碼合約交易）。

交易數據：這些是最常用的，主要用于儀表板和報告。theGraph 和 Flipside API 也在前端中使用。有些表是合約的 1:1 映射，有些表允許模式中額外的轉換。

元數據“協議”：這些并不是真正的數據產品，而是用于存儲 DIDs 或文件存儲的。大多數 NFT 將使用其中的一個或多個數據源，我認為今年我們將開始越來越多地使用這些數據源來增強我們的查詢。

專業提供商：其中一些是非常健壯的數據流產品，Blocknative 用于 mempool 數據，Parsec 用于鏈上交易數據。其他的聚合鏈上和鏈外數據，比如 DAO 治理或國庫數據。

高維度數據提供商：你不能查詢/轉換他們的數據，但是他們已經幫你完成了所有繁重的工作。

如果沒有強大的、杰出的社區來配合這些工具，web3 就不會出現！我們可以看到每種類型對應的杰出社區：

Flashbots：專注于 MEV 上，提供從保護交易的自定義 RPC 到專業白帽服務的所有事宜。MEV 主要指的是槍跑問題，當有人支付比你更多的 Gas（但直接給礦商），這樣他們就可以搶先執行他們的交易。

Dune 數據精英：專注于為 Dune 的數據生態做貢獻的數據分析精英。

Flipside 數據精英：專注于為 Web3 數據升天做貢獻的數據分析精英。

MetricsDAO：跨生態工作，處理多個鏈上的各種數據獎勵。

DiamondDAO：專注于 Stellar 的數據科學工作，主要在治理、財政庫以及代幣管理方面。

IndexCoop：專注于代幣等特定領域的分析，以制定加密貨幣行業最好的指數。

OurNetwork：每周對各類協議以及 ?Web3 的數據覆蓋。

注：以上 DAO 的參與聯系方式詳看原文。

每個社區都做了大量的工作來改善 web3 的生態系統。毫無疑問，擁有社區的產品將以 100 倍的速度增長。這仍然是一個被嚴重低估的競爭優勢，我認為除非人們在這些社區中建立了一些東西，否則他們不會獲得這個優勢。

不用說，你也應該在這些社區中尋找可以加入你的團隊的人。讓我們進一步分析重要的web3數據技能和經驗，這樣你就能真正知道你在搜索什么。如果你想被雇傭，把這看作是你追求的技能和經驗！

至少，分析師應該是 Etherscan 偵探，知道如何閱讀 Dune 儀表盤。這可能需要 1 個月的時間來適應悠閑的學習，如果你真的要瘋狂學習，則需要2周的時間。

除此之外，你還需要考慮更多的內容，特別是時間分配和技能轉移。

時間方面：在 web3 中，數據分析師大約有 30-40% 的時間將花在與生態系統中的其他分析師和協議保持同步上。請確保你不會氣暈他們，否則，這將成為對每個人的長期損害。與更大的數據社區一起學習、貢獻和構建是必要的。

可轉移性方面：在這個領域，技能和領域都是高度可轉移的。如果使用不同的協議，可能會減少上手時間，因為鏈上數據的表模式都是一樣的。

記住，知道如何使用這些工具并不重要，每個分析師或多或少都應該會寫 SQL 或創建數據儀表盤。這一切都是關于如何做出貢獻并與社區合作。如果你正在面試的人不是任何 web3 數據社區的一員（而且似乎對這一塊沒有任何興趣），你可能要問問自己這是否是一個危險信號。

原文鏈接：

https://ath.mirror.xyz/w2cxg5OP1OEcqvSgsEjSSyKRJhPmam0w-fXGogiG-8g

作者?|?Andrew Hong

譯者：GaryMa 吳說區塊鏈

Tags：WEBWEB3APIDEXWEBFOURWeb3CampAPI3IDEX Membership

芝麻開門交易所