從基于深度合成(deep sythesis)技術的Deepfake出現開始,深度合成技術一直就飽受爭議。從ZAO的換臉引起公眾警覺,到“假靳東”的詐騙案件,不斷降低的深度合成技術使用門檻讓傳統上“有圖有真相”發展到“有視頻都未必有真相”。此外,元宇宙、虛擬人(數字人)等基于深度合成技術的理念也伴隨著商業熱度滾滾而來,要求法律與監管部門不能忽視這一生機勃勃的技術。
2022年1月28日,網信部門發布了《互聯網信息服務深度合成管理規定(征求意見稿)》,標志著監管部門為虛擬空間打造的又一塊拼圖已具備雛形。該征求意見稿的發布,是監管部門對算法、元宇宙等近期熱點領域已知與潛在風險的回應。
《互聯網信息服務深度合成管理規定(征求意見稿)》并不是我國法規首次關注深度合成內容,此前在《互聯網信息服務算法推薦管理規定》《網絡音視頻信息服務管理規定》《網絡信息內容生態治理規定》等法律法規中均涉及深度合成內容,但這些法規更多是從音視頻或較為宏觀的角度關注,而此次公開的《互聯網信息服務深度合成管理規定(征求意見稿)》則針對深度合成內容的特點,更有針對性地進行規制。
全國政協委員吳杰莊:目前對元宇宙、虛擬世界金融支付、NFT缺乏成熟的監管:金色財經報道,2023年全國兩會,全國政協委員、香港特區立法會議員吳杰莊提交了一份《關于促進元宇宙產業健康發展的提案》。吳杰莊介紹,當前,元宇宙產業發展中存在著挑戰。一方面,先進技術“雙刃劍效應”凸顯,傳統信息安全與意識形態保護受到挑戰。另一方面,目前對元宇宙資本運作方式、虛擬世界金融支付、NFT缺乏成熟的監管。目前,美國元宇宙發展速度較快,我國在理念上與之接近,并具有較大市場,日、韓等國也在積極推動元宇宙發展。為此,吳杰莊建議我國以“數字貨幣”發展為前車之鑒,充分重視元宇宙發展與治理問題,積極推動支撐元宇宙發展的技術進步和基礎設施建設,同時關注元宇宙前瞻治理問題。[2023/3/12 12:57:36]
《互聯網信息服務深度合成管理規定(征求意見稿)》將深度合成技術定義為:“利用以深度學習、虛擬現實為代表的生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等信息的技術。”與其說是定義,不如說是描述。
扎克伯格:Meta正與蘋果展開元宇宙競爭,這將決定互聯網發展方向:7月28日消息,Meta CEO馬克·扎克伯格近日在公司內部會議上表示,Meta與蘋果正在元宇宙領域展開一場“深刻的、理念性的競爭”,這場競爭將決定“互聯網應該往哪個方向發展”。扎克伯格還表示,Meta將自己定位成更加開放、實惠的蘋果替代品。
扎克伯格表示,Meta和蘋果在競爭方向和理念上不同。具體而言,蘋果認為,通過親力親為和整合自己的產品,能夠提供更好的消費者體驗。但Meta認為,不同的公司在各自的專長領域有很多可以做的事情,這將幫助建立一個更大的生態系統。(The Verge)[2022/7/28 2:43:37]
征求意見稿將以下使用深度學習的技術列為規制范圍:
Yuga Labs元宇宙項目Otherside虛擬地塊Otherdeed #33以333.33 ETH成交:5月6日消息,據 NFTGo.io 最新數據顯示,Yuga Labs 元宇宙項目 Otherside 虛擬地塊 Otherdeed #33 以 333 ETH 被買家 vis.eth 購得,約合 982,322.34 美元,刷新該系列的歷史最高交易記錄。截止目前,Otherdeed 虛擬地塊 NFT 總交易額已經達到 7.4573 億美元,市值約為 5.9021 億美元,地板價地址 3.49 ETH,24 小時跌幅 8.09%。[2022/5/6 2:53:28]
當然,使用傳統技術、未涉及深度學習技術的相關場景不在《互聯網信息服務深度合成管理規定(征求意見稿)》的調整范圍之內。
隨著深度合成技術的廣泛使用,《互聯網信息服務深度合成管理規定(征求意見稿)》的調整范圍遠不只是Deepfake,而是包括了數字化工作的各個維度:客服平臺的聊天機器人與營銷機器人、廣泛運用于地震等突發事件或體育賽事中的寫稿機器人、相機(APP)中的美顏功能、游戲中3D場景或捏臉功能、元宇宙所構建的虛擬空間……不一而足。
Meta提交8項商標申請,涉及元宇宙內的加密交易、區塊鏈軟件等:3月23日消息,元宇宙商標律師Michael Kondoudis周三在ExpertClick發文稱,Meta Platforms, Inc.(前 Facebook)已經為其新Logo提交八份新的商標注冊申請,表明這家社交媒體巨頭計劃擴展到各種加密貨幣、虛擬產品和服務,如加密貨幣、代幣、加密交易、區塊鏈軟件、虛擬貨幣錢包和虛擬貨幣交易所。
Michael Kondoudis評論稱,“這些文件反映了該公司進軍元宇宙的戰略。Meta顯然對推動虛擬經濟的發展有著重要的計劃。”(Finbold)[2022/3/23 14:14:06]
《互聯網信息服務深度合成管理規定(征求意見稿)》所設定的合規義務框架圍繞著“深度合成服務提供者”與“深度合成服務使用者”兩方主體搭建。
元宇宙價值指數今日為597.43點:金色財經報道,據同伴客數據顯示,8月27日元宇宙價值指數為597.43點,較前日上漲4.27點,跌幅為0.71%。
構成元宇宙價值指數成分的上市企業或NFT平臺皆為目前在虛擬經濟領域表現出巨大市場價值和未來潛力的頭部機構,該指數能夠有效反映元宇宙虛擬經濟整體價值的發展趨勢。
注:2021年3月10日主要成份股roblox上市并產生第一個收盤價,故選取3/11日為本指數首次推出的基準日,初始值為100。[2021/8/27 22:41:07]
梳理后合規義務框架如下:
征求意見稿將服務提供者視為類似社交媒體平臺的角色,有義務對平臺內的用戶行為進行監督。但是,在現實中深度合成服務提供者的技術同樣依賴于第三方的提供,如可能會需要使用外部的引擎來支持自己的服務,在這樣的場景下,如何定位各方的主體角色可能是需要推敲論證的,可能更應該將之視為征求意見稿之外的技術開發者,而非服務提供者更加合適。
基于此前我們為該領域企業提供法律服務的經驗,我們建議企業可以依據以下思路開展合規工作:
企業可以通過問卷、訪談等形式,結合業務場景,全面梳理企業深度學習技術的使用情況。在梳理的過程中,可能需要特別關注用戶較多的使用場景。
就相關技術的使用進行風險評估。對算法、深度合成技術的評估主要通過:查閱材料、查看系統、訪談人員、系統測試、攻擊測試、算法測試、查看算法等方式進行。如涉及個人信息的處理,可能還需要將個人信息保護影響評估納入評估機制中。
在主體責任、算法審核、用戶注冊、信息內容、數據安全和個人信息保護、未成年人保護、教育培訓等領域將深度合成技術的風險管控納入考量。此外,還需要建立內容審核、事件響應、辟謠、協助調查等機制。
針對深度識別技術的使用,要求使用者在使用時:1)不得合成違法違規的內容;2)不得將合成內容用于違法或侵權用途;3)不得將合成內容謊稱為自然內容;4)用于合成的素材應當合法合規,對人像、聲音等生物識別信息獲取單獨同意并完成個人信息保護影響評估;5)對生成內容的知識產權的歸屬、數據處理的權限進行約定;6)其他需要約定或聲明的內容。
通過添加水印、電子簽名等方式,對深度合成內容進行標識,避免公眾誤認。在此過程中,更重要的是設計該法定提示如何在有效告知公眾的基礎上,避免對業務的正常開展造成過大的沖擊。
在法規正式實施后,盡快在相關系統完成算法備案,對備案中可能需要填寫的服務提供者的名稱、服務形式、應用領域、算法類型、算法自評估報告、擬公示內容等信息,公司可以提前起草進行準備,以便在相關系統上線后盡快完成備案。
發現未作顯著標識的算法生成合成信息的,應當作出顯著標識后,方可繼續傳輸(第9條)
不得生成合成虛假新聞信息(第13條)
網絡信息內容服務使用者和網絡信息內容生產者、網絡信息內容服務平臺不得利用深度學習、虛擬現實等新技術新應用從事法律、行政法規禁止的活動。(第23條)
網絡音視頻信息服務提供者基于深度學習、虛擬現實等新技術新應用上線具有媒體屬性或者社會動員功能的音視頻信息服務,或者調整增設相關功能的,應當按照國家有關規定開展安全評估。(第10條)
網絡音視頻信息服務提供者和網絡音視頻信息服務使用者利用基于深度學習、虛擬現實等的新技術新應用制作、發布、傳播非真實音視頻信息的,應當以顯著方式予以標識。(第11條第1款)
網絡音視頻信息服務提供者和網絡音視頻信息服務使用者不得利用基于深度學習、虛擬現實等的新技術新應用制作、發布、傳播虛假新聞信息。轉載音視頻新聞信息的,應當依法轉載國家規定范圍內的單位發布的音視頻新聞信息。(第11條第2款)
網絡音視頻信息服務提供者應當加強對網絡音視頻信息服務使用者發布的音視頻信息的管理,部署應用違法違規音視頻以及非真實音視頻鑒別技術,發現音視頻信息服務使用者制作、發布、傳播法律法規禁止的信息內容的,應當依法依約停止傳輸該信息,采取消除等處置措施,防止信息擴散,保存有關記錄,并向網信、文化和旅游、廣播電視等部門報告。(第12條第1款)
網絡音視頻信息服務提供者發現不符合本規定第十一條第一款要求的信息內容的,應當立即停止傳輸該信息,以顯著方式標識后方可繼續傳輸該信息。(第12條第2款)
網絡音視頻信息服務提供者應當建立健全辟謠機制,發現網絡音視頻信息服務使用者利用基于深度學習、虛擬現實等的虛假圖像、音視頻生成技術制作、發布、傳播謠言的,應當及時采取相應的辟謠措施,并將相關信息報網信、文化和旅游、廣播電視等部門備案。(第13條)
Tags:元宇宙METAMETETA元宇宙投資是真的假的MetasensethnographyasamethodusedMETAX價格
近日,Avalanche上的DeFi協議Wonderland以為聯合創始人OxSifu被證實就是之前跑路倒閉的加拿大加密貨幣交易所QuadrigaCX的在世聯合創始人Michael Patryn.
1900/1/1 0:00:00周四,美聯儲發布了一份新的央行數字貨幣白皮書。雖然該白皮書在很大程度上回避了加密貨幣的話題,但它暗示,美國 CBDC 可能與“私人數字貨幣”競爭.
1900/1/1 0:00:00元宇宙已經被一些地方寫入“十四五”產業規劃。近日,微軟以687億美元全現金方式收購動視暴雪一事,再次讓元宇宙成為關注的焦點.
1900/1/1 0:00:00這是一場全方位、多維度的競賽。企業并購的目的無非就是人(團隊人才技術)、錢(現金流)、業務(產業鏈上下游的縱向擴張和橫向擴張)。當然,還有門口的野蠻人.
1900/1/1 0:00:00熱血、瘋狂、暴跌、暴漲……元宇宙還沒有到來,NFT卻坐上了火箭,一飛沖天。“自從玩了NFT之后,就沒睡過什么好覺.
1900/1/1 0:00:00又是一年春節來到,自數年前某大廠開啟“集五福”活動以來,這項活動似乎已經漸漸成為當代春節的“新習俗”。諸多平臺的陸續加入與獎金池的攀比加碼,讓這項“集郵”活動逐漸充滿著某種神秘的儀式感.
1900/1/1 0:00:00