姚前：警惕算法經濟的隱含風險及作惡的可能_區塊鏈:人工智能

“算法經濟大幅改善市場經濟的匹配效率和交易成本。人們一方面歡迎和享受智能算法帶來的便利，另一方面卻擔心被智能算法替代，導致個人價值喪失。不僅如此，隨著算法經濟的快速發展，算法的滲透力和影響力越趨強大，其背后隱含的風險以及作惡的可能引起了關注。”2021年9月3日，中國證監會科技監管局局長姚前在2021年服貿會金融服務專題展期間舉行的“2021中國國際金融科技論壇”上表示。

姚前稱，首先是算法濫用。算法規則的背后是商業利益。為了追求利益最大化，算法有可能違背社會公平、道德和人性，比如大數據殺熟，同樣的商品或服務，老客戶的價格反而比新客戶要貴。只推薦給人們能潛在帶來商業利益的東西，而不是最適合、最恰當的東西。可能濫用人性弱點，過度激發、勸服、誘導客戶，使人習慣于被喂養，不自覺地對算法投放的產品沉迷上癮。只有算法邏輯，沒有考慮人性，將人“異化”為簡單的數據、商品和工具。算法的具體原理和參數只有運營企業的少部分人才能知道，有可能產生利益侵占問題。有的企業可能利用算法作惡，比如為了擴大流量，推送聳人聽聞的虛假信息；推薦虛假產品。

姚前：央行數字貨幣基于賬戶和基于代幣不是非此即彼的關系:證監會科技監管局、前央行數字貨幣研究所所長姚前今日在國際金融論壇（IFF）2021年春季會議上表示，央行數字貨幣基于賬戶和基于代幣的兩條技術路線不是非此即彼的關系。實際上代幣也是一種賬戶，只不過是新型的賬戶，我們稱之為加密賬戶。相比傳統賬戶，用戶對加密賬戶的自主掌控能力更強。（鳳凰網財經）[2021/5/30 22:56:47]

其次是算法偏見。算法的數據可能不一定全面，片面的數據得到的結果必然導致某種偏見。算法的設計者是人，算法設計師乃至企業管理者、價值觀的偏見可能被嵌入算法。算法的“技術光環”容易讓人盲從所謂的“科學”，但實質上有些算法卻存在很大程度的不可解釋性，比如類似“黑箱子”的機器學習算法；機器學習算法側重于相關性分析，而不是因果分析，可能產生錯誤的勾連與判斷；基于歷史數據的機器學習算法隱含著“過去決定未來”邏輯，以歷史宿命論定義和標簽每個人，某種程度上也是一種偏見。

姚前：區塊鏈技術值得數據跨境流動及其監管各方深入研究:《中國金融》2020年第22期，中國證監會科技監管局局長姚前刊文《數據跨境流動的制度建設與技術支撐》表示，支付標記化技術將個人數據的“匿名化”交由可信第三方負責，而區塊鏈技術則創造了用戶完全自主可控的數據隱私保護新思路。用戶的私鑰可以本地生成，通過公鑰計算發布有效的賬戶地址，從而隔斷賬戶地址和賬戶持有人真實身份的關聯。通過控制私鑰，用戶可以在區塊鏈上自主完成交易，雖然在區塊鏈網絡上能夠看到每一筆交易的細節，但無法對應到現實世界中的具體某個人。區塊鏈技術從根本上打破中心化模式下數據控制者對數據的天然壟斷，賦予用戶真正的數據隱私保護權。區塊鏈技術還可與先進密碼學技術結合，發展出各類隱私保護方案。比如，利用基于環簽名、群簽名等密碼學方案保護簽名方身份；采用高效的同態加密方案實現密文的多方處理，隱藏用戶交易金額等敏感信息；采用零知識證明方案，使交易數據能被審查和驗證，但又不能被真實探知。區塊鏈技術這一自主可控的隱私保護新思路，值得數據跨境流動及其監管各方深入研究。[2020/11/24 21:56:04]

另外，算法鴻溝也值得重視。算法通常是隱秘的，或是專利，或是商業秘密。即便公開，也因技術門檻，也不是每個人都能看懂。這就形成新的數字鴻溝。不懂算法的人群在利益受損時有可能并不知情，即便知情，也可能無力舉證和對抗。

姚前：基于現實環境，聯盟鏈或是應用落地的較優選擇:8月6日，螞蟻鏈、羅漢堂、新浪財經共同策劃的《尋找區塊鏈力量》系列訪談第一集正式開播，中國證監會科技監管局局長姚前、螞蟻集團董事長井賢棟共話區塊鏈如何賦能信任。姚前指出，基于區塊鏈的可信數據是高質量數字化轉型的關鍵，如果數字時代的數據不可信，那么所有的數字化建設都是空中樓閣。他建議要嚴把區塊鏈入口，防止大量垃圾數據和低價值數據上鏈。

姚前建議，首先，設計適應性的頂層政策。立足數字中國建設目標，開展國家層面的頂層設計，系統性地編制區塊鏈發展總體方案、路線圖、任務單和時間表；由政府主導、有組織定向的開展區塊鏈基礎研究和關鍵核心技術創新，推動協同攻關，構建新一代的數字技術生態體系；深化政企共建，走出一條產業融合發展的道路。

其次，監管與自律并重，探索公共部門與市場協同創新的機制。治理要寬嚴相濟，建設要激勵相容，要探索公共部門與市場協同創新的新命題。

最后，要牽住區塊鏈“數據治理”的牛鼻子，推動區塊鏈高質量發展。基于現實環境，聯盟鏈或許是應用落地的較優選擇。要加強國產密碼算法的應用和創新發展，以保障我國區塊鏈安全可控。

姚前指出，當前最重要的是提倡區塊鏈的高質量發展。為此，需要加強鏈上和鏈下的數據治理，建立有效的區塊鏈治理體系。[2020/8/6]

姚前還表示，在特定領域，算法還可能引致特定風險。比如在金融領域，智能算法給出的資產配置建議有可能是推薦了與金融機構自身利益高度攸關的產品，涉嫌利益侵占；智能算法形成信息繭房，強化投資者偏見，容易掩蓋金融風險復雜性，引誘過度消費和負債，甚至誤導投資者；智能算法若存在歧視，則損害投資者公平性；智能算法趨同導致“羊群效應”，加大金融順周期風險等。

聲音 | 姚前：穩定幣與央行業務的潛在關聯性更強:日前，中國人民銀行數字貨幣研究所姚前、孫浩梳理了數字穩定代幣的分類，并剖析其背后的穩定機制和潛在影響，以及對央行業務的啟示。其一，穩定代幣希望“錨定”法定貨幣體系，以求獲得代幣價值的穩定，較之其他虛擬貨幣產品，與支付清算、貨幣市場、跨境資本流動等中央銀行業務的潛在關聯性更強。其二，穩定代幣可能對跨境資本管理框架帶來挑戰。其三，政府監管的穩定代幣與民間穩定代幣或有質的不同。其四，在數字資產的世界里，數字法幣的缺失是問題的根本，穩定代幣的出現一定程度上是這一癥結的體現。[2018/10/9]

因算法背后有一些風險，各國的監管部門高度關注算法隱含的風險。例如，歐盟《一般數據保護條例》第22條對自動化決策加以限制，如果某種包括數據分析在內的自動化決策會對數據主體產生法律效力或對其造成類似的重大影響，數據主體有權不受上述決策的限制。又例如，針對智能算法在投資顧問中的應用，美國證券交易委員會、英國金融業監管局、澳大利亞證券和投資委員會出臺了具體的智能投顧監管指引。

對于中國而言，也采取也一些措施。2018年發布的《關于規范金融機構資產管理業務的指導意見》也提出，要避免智能算法順周期性風險、羊群效應等相關規定。2020年12月，中共中央印發《法治社會建設實施綱要》，提出要制定完善算法推薦、深度偽造等新技術應用的規范管理辦法，要加強對大數據、云計算和人工智能等新技術研發應用的規范引導。網信辦就《互聯網信息服務算法推薦管理規定》向社會公開征求意見指出，算法推薦服務提供者應當落實算法安全主體責任，建立健全相應管理制度，制定并公開算法推薦相關服務規則，配備與算法推薦服務規模相適應的專業人員和技術支撐。應當堅持主流價值導向，加強信息內容管理，同時，算法推薦服務提供者不得利用算法實施自我優待、不正當競爭、影響網絡輿論或者規避監管。

“總的來說，智能算法已在很多行業大量采用，考慮到其生態規模巨大、潛在風險和社會影響不容忽視。而我國算法監管制度正逐步完善和健全，但具體內容有待細化完善。從機理看，算法監管的具體內容至少包括以下內容。”姚前表示。

一是信息披露，即作為算法的設計者和控制方，相關主體及利益相關者應該披露算法設計、執行、使用過程中可能存在的偏見和漏洞、數據來源以及可能對個人和社會造成的潛在危害。

二是解釋，即作為采用算法自動化決策的機構，相關主體及利益相關者有義務解釋算法運行原理以及算法具體決策結果。

三是留痕與可審計，即算法系統的設計、測試、運行表現及變動留有記錄，全程監測，并可審計。

四是質詢和申訴，即確保受到算法決策負面影響的個人或組織享有對算法進行質疑并申訴的權力。

五是內部治理。相關主體應建立清晰、有效的內部治理框架、內部控制機制和責任體系，防止算法濫用，防范算法風險，并提高算法對抗性，避免算法攻擊。

六是加強行業自律。通過行業自律機制，加強算法道德和算法倫理建設。

姚前表示，不可否認，算法催生了新的經濟模式，帶來社會整體效益的提升，有其獨特優勢，但“有一利必有一弊”，近年來算法濫用、算法作惡、算法道德、算法倫理等問題已引起廣泛關注。馬克思曾在《1844年經濟學哲學手稿》中對機器工業化時代人類“異化”現象提出警示，就像機器流水線凌駕于工人之上，算法亦有可能凌駕于蕓蕓眾生之上，其中風險同樣值得關注與警惕。為此，加強算法監管，以監管科技應對新型科技，既是順應之策，又是必然之舉。

文｜《財經》記者陳洪杰

Tags：區塊鏈數字貨幣聯盟鏈人工智能數字人民幣與區塊鏈數字貨幣平臺超級聯盟鏈《人工智能》電影解析

MATIC