網信辦新動作 事關每一家AIGC平臺算法備案_區塊鏈:人工智能

核心提示

2023年6月20日，國家互聯網信息辦公室公布了中國境內第一批深度合成算法備案名錄，眾多大廠及AIGC行業先行者成功上榜。這既是中國算法與人工智能風險治理的關鍵一步，也是AIGC行業合規的重大突破。

今天颯姐團隊就為大家詳解什么是深度合成算法備案，以及AIGC行業在什么情況下需要備案、如何備案等問題。

一、什么是深度合成算法備案？

截至目前，我國針對AIGC工具的專門性立法有兩部，均由國家互聯網信息辦公室制訂并發布：

1. 《互聯網信息服務深度合成管理規定》（以下簡稱“《深度合成規定》”）；

2. 《生成式人工智能服務管理辦法（征求意見稿）》（以下簡稱《管理辦法草案》）

由于AIGC本身具有較強的引導或者說誘導能力，借助信息網絡技術傳播速度快、傳播面廣的特性，很可能導致AIGC內容在短時間內實現病式擴散，例如不久前某自媒體平臺利用ChatGPT制造假新聞并廣泛傳播博取流量并不當引導部分地區民眾輿論的案件，已經明確的向我們展示了AIGC工具本身作為一種輿論引導工具抑或說欺詐工具的風險。正是基于該特性，我國監管機關基于維持社會公共秩序的長期和諧穩定的這一法益出發，賦予AIGC企業對自身算法進行備案的義務。

中央網信辦熊希賢：堅持真應用，避免炒概念蹭熱點為了用區塊鏈而用區塊鏈:12月26日，2021CCF中國區塊鏈技術大會在海南海口舉辦，中央網信辦信息化發展局政策規劃處熊希賢發表致辭時分享了區塊鏈創新應用工作的幾點體會。

一是要堅持真創新，強化原始創新、集成創新和應用創新，加強對國際區塊鏈技術發展和應用前沿的跟蹤研究。

二是堅持真應用，避免炒概念蹭熱點，為了用區塊鏈而用區塊鏈。要聚焦數字技術與實體經濟深度融合的重點難點問題，挖掘真正適合區塊鏈應用的場景。

三是構建良好生態，堅持胸懷全國，強化全局性謀劃，前瞻性布局，整體性推進，統籌協調政企學研用國防資源共主開放友好，和持續的區塊鏈技術生態和多方協同的產業生態。[2021/12/26 8:04:52]

那么首先我們需要明白所謂深度合成技術指的是什么。根據《深度合成規定》第二十三條之規定，深度合成技術是指利用深度學習、虛擬現實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網絡信息的技術，包括但不限于：

網信辦：加強對《區塊鏈信息服務管理規定》等法規規章的宣傳解讀:金色財經報道，中央網絡安全和信息化委員會辦公室印發《網信系統法治宣傳教育第八個五年規劃（2021-2025年）》，其中指出要加強對《關鍵信息基礎設施安全保護條例》《互聯網信息服務管理辦法》《互聯網新聞信息服務管理規定》《區塊鏈信息服務管理規定》等法規規章的宣傳解讀。[2021/11/18 6:57:19]

（一）篇章生成、文本風格轉換、問答對話等生成或者編輯文本內容的技術；

（二）文本轉語音、語音轉換、語音屬性編輯等生成或者編輯語音內容的技術；

（三）音樂生成、場景聲編輯等生成或者編輯非語音內容的技術；

（四）人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態操控等生成或者編輯圖像、視頻內容中生物特征的技術；

（五）圖像生成、圖像增強、圖像修復等生成或者編輯圖像、視頻內容中非生物特征的技術；

聲音 | 網信辦副主任劉烈宏：大力培育人工智能、區塊鏈等新技術:2019年國家網絡安全宣傳周在天津梅江會展中心開幕。中央網信辦副主任、國家網信辦副主任劉烈宏出席了網絡安全技術高峰論壇并發表致辭，他表示，大力培育新技術、新應用，積極利用法律法規和標準進行規范引導。當前新技術、新應用不斷涌現，帶來的新問題、新挑戰層出不窮。要加強技術創新，大力培育互聯網、人工智能、5G、區塊鏈等新技術、新應用，審時度勢、精心謀劃、超前布局，加快發展。同時要加強新技術、新應用相關法律法規和標準規范的研究制訂，從技術自身安全、網絡安全、隱私倫理等方面引導規范及健康發展，確保安全、透明、可控的服務于全人類的利益。[2019/9/20]

（六）三維重建、數字仿真等生成或者編輯數字人物、虛擬場景的技術。

以上列舉式的六類應用外，根據《管理辦法草案》第六條之規定：利用生成式人工智能產品向公眾提供服務前，應當按照《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》向國家網信部門申報安全評估，并按照《互聯網信息服務算法推薦管理規定》履行算法備案和變更、注銷備案手續。

動態 | 國家網信辦發布的《數字中國建設發展報告（2018年）》:據人民網消息，5月6日-8日，第二屆數字中國建設峰會在福州召開，國家網信辦發布的《數字中國建設發展報告（2018年）》顯示，2018年我國數字經濟規模達到31.3萬億元，較去年增長20.9%，占GDP比重達34.8%。據埃森哲公司分析，數字化程度每提高10%，人均GDP將增長0.5%-0.62%。據預測，數字技能和技術的應用將使全球經濟到2020年有望累計增加2萬億美元；到2025年，全球經濟總值的一半來自于數字經濟。

中國人民銀行數字貨幣研究所原所長姚前指出，法定數字貨幣是數字經濟發展的基石。他還透露，當前中國人民銀行正在開展央行數字貨幣研發試驗。

按照國際貨幣基金組織（IMF）總裁拉加德的說法，為數字經濟提供貨幣或將成為一項國家任務。[2019/5/13]

因此在《管理辦法草案》生效后，如果該條款沒有大的變動，我們還應當根據該管理法版第二條之規定，將涉及“算法、模型、規則生成文本、圖片、聲音、視頻、代碼等內容的技術。”囊括入“深度合成技術“的范疇內。

聲音 | 律師觀點：網信辦新規級別高于央行公告，是區塊鏈第一部規章級別法律文件:徐凱律師稱，國家網信辦，是經國務院授權負責全國互聯網信息內容管理工作，并負責監督管理執法的機構，可以在其權限范圍內制定規章。在該規定之前，與區塊鏈領域密切相關的，有兩份“其他規范性文件”：一是2013年12月央行等五部委發布的《關于防范比特幣風險的通知》；二是2017年9月，央行等七部委發布的《關于防范代幣發行融資風險的公告》。2013年通知和2017年公告都不是正式的法律淵源，屬于《行政訴訟法》規定的“其他規范性文件”，效力在規章之下，并且可以成為司法一并審查的對象，而規章及以上的法律淵源不能成為司法一并審查的對象。由上述背景知識可以得出的結論是：該規定的法律層級，高于2013年通知和2017年公告，是區塊鏈領域第一部規章級別的法律淵源。[2018/10/21]

二、哪些深度合成技術算法需要備案？

颯姐團隊提示，并非所有的深度合成技術都需要其服務提供商進行備案登記，在技術中立原則的指導下，僅有滿足特定條件的深度合成技術服務提供商才需要對其算法進行備案。

具體來說，進行深度合成算法備案的AIGC行業主要集中在《深度合成規定》第十九條規定的“具有輿論屬性或者社會動員能力的深度合成服務提供者”這一范圍中。但在實踐中關于什么是“具有輿論屬性或者社會動員能力”的界定標準卻相對較為模糊。

根據《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》第二條，具有輿論屬性或社會動員能力的互聯網信息服務，包括下列情形：

（一）開辦論壇、博客、微博客、聊天室、通訊群組、公眾賬號、短視頻、網絡直播、信息分享、小程序等信息服務或者附設相應功能；

（二）開辦提供公眾輿論表達渠道或者具有發動社會公眾從事特定活動能力的其他互聯網信息服務。

嚴格意義上講，AIGC并不屬于上述第一款中服務提供者所提供的任何一項服務，大多數的AIGC目前也并沒有將自己只作為一種社交媒體平臺。一家之言，颯姐團隊認為，在基于前述AIGC本身在社交媒體平臺上具有廣泛傳播的風險的情況下，從實質性監管的角度來看，其大概率符合“公眾輿論表達渠道或者具有發動社會公眾從事特定活動能力的其他互聯網信息服務”的這一兜底性條款。

因此，從這個角度來說，基本AIGC行業的所有賽道的服務提供者們都可能涉及深度合成算法備案，包括而不限于文本生成、圖像生成、視頻生成、音頻生成等。最重要的判斷標準在于用戶群體的開放程度，如果該服務提供者面向不特定公眾提供服務，那么基本上就在《深度合成規定》的輻射范圍內。

三、如何進行深度合成算法備案

首先，備案方式為網上備案。根據《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》的要求，符合備案要求的服務提供者應當在安全管理服務平臺（地址；http://www.beian.gov.cn/）上進行備案。

在備案過程中，影響備案成功率最重要的一份材料就是深度合成服務提供者遞交的《評估報告》。深度合成服務提供者和技術支持者提供兩類特定功能的模型、模板等工具的，必須提供自評估或委托專業機構進行安全評估后出具的《評估報告》：

1. 生成或者編輯人臉、人聲等生物識別信息的；

2. 生成或者編輯可能涉及國家安全、國家形象、國家利益和社會公共利益的特殊物體、場景等非生物識別信息的。

由于以上兩類服務涉及的領域及信息較為敏感，評估具體內容應當在基本評估維度之上，增加與《個人信息保護法》《網絡安全法》及《數據安全法》相符合的評估標準。

一般而言，評估標準有七大項，分別為：

（1）安全管理負責人、信息審核人員及安全管理機構設立情況；

（2）用戶真實身份核驗及注冊信息留存措施；

（3）對用戶賬號、操作時間、操作類型、網絡源地址和目標地址、網絡源端口、客戶端硬件特征等日志信息，以及用戶發布信息記錄的留存措施；

（4）對用戶賬號和通訊群組名稱、昵稱、簡介、備注、標識，信息發布、轉發、評論和通訊群組等服務功能中違法有害信息的防范處置和有關記錄保存措施；

（5）個人信息保護以及防范違法有害信息傳播擴散、社會動員功能失控風險的技術措施；

（6）建立投訴、舉報制度，公布投訴、舉報方式等信息，及時受理并處理有關投訴和舉報的情況；

（7）建立為監管部門和執法部門依法履職提供技術、數據支持和協助的工作機制的情況。

 寫在最后

深度合成備案制度是我國人工智能及算法風險治理的一項重要創舉及新突破，颯姐團隊建議，AIGC行業務必在咨詢專業合規人士的情況下進行算法安全評估以及深度合成算法備案。

肖颯lawyer

個人專欄

閱讀更多

金色早8點

Odaily星球日報

金色財經

Block unicorn

DAOrayaki

曼昆區塊鏈法律

Tags：區塊鏈AIGIGC人工智能區塊鏈幣圈幣種知識大全AIGPT幣TIGC幣學人工智能后悔死了

XMR