“AI換臉”詐騙430萬 如何用“法”打敗“魔法”？_APE:OIN

核心提示

“AI 換臉 10 分鐘狂騙 430 萬”新聞中直接利用 AI 換臉騙取錢款的行為人構成詐騙罪，若 AI 換臉技術的提供方與行為人共謀，則 AI 換臉技術提供方（自然人）構成詐騙罪的共同正犯。若雙方無共謀，則 AI 換臉技術提供方則有可能構成幫助信息網絡犯罪活動罪。

“AI 換臉 10 分鐘狂騙 430 萬”新聞中提及的技術即 AI 深度合成技術，是廣義的 AIGC（人工智能生成內容）技術群的組成部分，目前在我國，深度合成技術直接受到《互聯網信息服務深度合成管理規定》的規制。今年 4 月，國家互聯網信息辦公室管理《生成式人工智能服務管理辦法（征求意見稿）》亦公開征求意見，該意見稿定稿發布后，深度合成技術將受到進一步規制。

除刑事犯罪外，未經允許運用 AI 換臉等深度合成技術還可能構成侵犯肖像權、侵犯名譽權等民事侵權糾紛，目前司法實務中已經存在 AI 換臉技術構成民事侵權的判決例。

涉及深度合成等技術的 AIGC 創業公司需要遵守信息發布審核、個人信息保護等 20 個合規義務，以確保自身業務合規，具體合規內容可見文末。

AI 換臉新騙局，中國互聯網協會發文提醒

ApeCoin DAO擬推出“ApeCoin膠囊”，持20枚APE的錢包將有資格申領:2月17日消息，ApeCoin DAO已發起一項全新提案AIP-150并啟動投票，擬推出全新“ApeCoin膠囊（ApeCoin Capsules）”，該膠囊中將包含4份貼紙、1個Patch和1份海報，總計1000份，其中250份將作為贈品由ApeCoin保留，持有20枚APE的錢包將有資格申領，但每個錢包/實體地址僅能申領1個“膠囊”。本次投票將于2月23日結束，當前贊成率為100%。[2023/2/17 12:12:38]

就在幾天前，內蒙古包頭等地出現 AI 換臉新騙局，被害人好友突然通過微信視頻聯系被害人，并稱自己在外地競標，需要 430 萬保證金，且需要對公賬戶過賬，需要借被害人的公司走賬。被害人基于對好友的信任，加之已經視頻聊天確認了其身份，便分兩筆將 430 萬轉到了好友的銀行卡上。事后被害人撥打好友電話才知道被騙。在該案中，騙子通過 AI 換臉技術將自己在微信視頻中偽裝成被害人好友的樣子，再利用聲音合成技術合成被害人好友的聲音，進而對被害人實施詐騙。

針對日漸猖獗的 AI 換臉詐騙事件，多地發文提醒公眾注意防騙風險。5 月 23 日，四川綿陽市反電信網絡詐騙中心發出預警，提醒公眾注意相應的詐騙風險。就在昨天，中國互聯網協會向公眾發出預警，今年以來，伴隨著深度合成技術的開放開元，深度合成產品和服務逐漸增多，利用“AI 換臉”、“AI 換聲”等虛假音視頻進行詐騙、誹謗等的違法行為屢見不鮮。

以太坊聯創Anthony Di Iorio將推出區塊鏈計算機新項目“Andiami”:金色財經報道，以太坊聯合創始人 Anthony Di Iorio 宣布將推出一個名為“Andiami”的新項目，讓那些沒有技術專長的人可以輕松運行完整節點，來對抗區塊鏈中心化。通過將游戲理論和尖端硬件相結合，Andiami公布的計劃包括：

1、2023年，推出側重于游戲理論的全新組件：一款名為“The Quest for Liberty”的游戲、玩家套件以及玩家在游戲中賺取的數字生活 Token；

2、2024年到2025年，將重點轉移到Andiami的旗艦硬件產品“The Cube”，這是一個即插即用的區塊鏈計算機，運行比特幣和以太坊等網絡的完整節點。Di Iorio希望The Cube的即插即用特性，加上精心設計的游戲產品，讓用戶輕松運行自己喜愛的網絡的完整節點，從而進一步去中心化區塊鏈基礎設施。（ coindesk ）[2022/11/8 12:30:57]

目前世界范圍內有據可查的第一起利用深度合成技術的詐騙案件發生在 2019 年。

深度合成詐騙第一案

2019 年 3 月，一家國際能源公司首席執行官接到了一個未知來電，很快，他就認出了電話那頭的人——德國母公司的 CEO，也是他的頂頭上司。在這通電話中，母公司 CEO 表示當前公司出現運營危機，急需世界各地分公司緊急提供 220000 歐元或 243000 美元的資金支援，隨后這位母公司 CEO 提供了一個匈牙利的銀行賬戶，并宣稱該筆資金需要直接支付給某匈牙利供應商，母公司將在資金周轉過來后為分公司報銷這筆支出。雖然該指示聽起來不是既不合規又不靠譜，又涉及如此大的一筆資金流轉，但被害人考慮再三還是選擇了執行命令，原因很簡單：電話里的聲音確實是自己的頂頭上司無誤，甚至連那標志性的輕微德國口音和語氣習慣都與自己老板平時說話時毫無區別。至此，雖然受害人還有所懷疑，但依然向“老板”電話中提供的匈牙利賬戶完成了轉賬。在這起案件中，被轉出的資金從匈牙利流向墨西哥，然后再被分散到其他地方，截至 2023 年 5 月，涉案資金仍未追回。

Chainge CEO通過Escrow以0.8個BTC購買域名“anyswap.com”:據官方消息，12月29日，Fusion&Chainge創始人DJ QIAN通過Chainge去中心化資金托管合約從素未謀面的Kabir S Rawat先生手中以0.8BTC的價格購買了域名：anyswap.com，整個交易過程在 10 分鐘內完成，目前該域名已可以直接訪問Chainge finance官網。

Chainge獨創的去中心化資產托管合約，使全球用戶能夠自由快速交易，不必再擔心安全問題和繁瑣的傳統流程，并可以提供給任何想要購買或出售（資產/商業商品/服務）的人使用，同時具有督促對手方履約的安全性。[2021/12/29 8:12:30]

正因上述案件在全球范圍內層出不窮，傳統的技術中立觀點在法學界已經鮮有支持，各國對于深度合成技術亦逐步加強監管。《互聯網信息服務深度合成管理規定》是我國專門規制深度合成技術的規范性文件。除此之外，《網絡安全法》《數據安全法》《個人信息保護法》《互聯網信息服務管理辦法》《網絡信息內容生態治理規定》《互聯網信息服務算法推薦管理規定》《網絡音視頻信息服務管理規定》等亦涉及到對深度合成技術的規管。當然，《刑法》作為最后的保護手段，亦有諸多罪名可規制利用 AI 深度合成技術犯罪的行為。

李蘭娟院士：“AI+區塊鏈”將對打造一體化公共衛生應急響應發揮作用:近日，在2020世界人工智能健康云峰會上，中國工程院院士、傳染病診治國家重點實驗室主任李蘭娟表示，疫情防控中，AI在公共衛生、疫情研判、情緒管理、地圖服務、基因檢測、藥物研發、互聯網醫院等發揮了非常重要的作用。未來的AI，加上區塊鏈，將對打造全國一體化的公共衛生應急響應會產生更加重要的作用。（中國城市報）[2020/7/20]

AI 換臉技術服務提供者有構成幫信罪的刑事風險

不可否認目前深度合成技術是“朝陽產業”，隨著技術迭代深度合成技術成本急劇降低，相關企業甚至可以達到通過“走量”賺取暴利，根據調查，目前制作一套“露臉且說話”視頻的成本低至數十元，且只需要提供正面照片就能生成視頻，生成的視頻不僅眼睛、嘴巴、頭會動，如果提供文字和聲音內容，甚至口型都能對得上，而這一切只需要幾小時就可完工。有商家稱利用照片生成一段 1 分鐘時長的視頻僅需要 30 元，質量要求不高的幾元就可以做到。

值得注意的是，這類行為具有巨大的刑事風險，《中華人民共和國刑法》第二百八十七條之二規定了幫助信息網絡犯罪活動罪。幫助信息網絡犯罪活動罪即明知他人利用信息網絡實施犯罪，為其提供互聯網接入、服務器托管、網絡存儲、通訊傳輸等技術支持，或者提供廣告推廣、支付結算等幫助，情節嚴重的行為。此處的“明知”在實務中往往通過客觀證據即可認定，而不依賴于行為人的主觀說辭，同時，為客戶提供 AI 換臉技術，亦可以被解釋為“為其提供……等技術手段”。換言之，在 AI 換臉技術引發的電信詐騙案件如此猖獗的情況下，客戶無正當理由，且沒有顯著證據證明其獲得了照片人的認可而要求 AI 換臉技術提供者利用照片生成視頻，而相關技術提供者制作了視頻，又被客戶用以行騙時，AI 換臉技術提供者極易陷入幫助信息網絡犯罪活動罪的刑事風險之中。

火幣：與“AMBC”平臺沒有任何合作關系 請用戶注意防范詐騙風險:據官方消息，火幣近期收到不少用戶咨詢及投訴，稱從火幣提幣至“AMBC”平臺后，無法打開該平臺軟件。

火幣相關負責人表示，火幣與“AMBC”沒有任何合作關系。請廣大用戶注意防范詐騙風險，防止資產損失。

為防止不法分子借用火幣全球站名義進行詐騙，用戶可通過官方驗證通道確認聯系電話、微信等是否為火幣官方渠道。[2020/7/12]

未經允許的 AI 換臉技術亦有可能構成嚴重的民事侵權

除上述構成幫助信息網絡犯罪活動罪之刑事風險外，未經允許的 AI 換臉技術亦有可能構成嚴重的民事侵權行為，實際上這種判決例已經出現。如在（2022）滬 0116 民初 13856 號肖像權糾紛判決中，被告上海某科技有限公司在其運營的“AI 換臉”軟件中使用了古風漢服模特廖某所拍攝的古風造型視頻模板。本案中，原告廖某對肖像享有肖像權，并且被告雖然將原告視頻中的人物形象的臉部進行替換，但仍能通過其他未修改的相應場景和細節識別出對應主體為原告廖某。原告據此主張被告構成肖像權侵權。AI 換臉技術作為一種典型的與肖像有關的技術，其破壞了肖像和主體的同一性，一方面肖像主體有權拒絕其身體形象被冠以他人面目，另一方面肖像主體也有權拒絕將其面部形象嫁接至他人身體之上。結合一般肖像權侵權的構成要件，以 AI 換臉技術侵害肖像權的構成要件為：1.自然人對特定肖像享有肖像權；2.行為人無論是否具有盈利目的，未經他人同意利用信息技術手段對權利人的肖像進行篡改、偽造和自動生成，產生難以甄別的效果。

除肖像權侵權外，利用 AI 換臉技術制作惡意丑化他人的視頻、圖片并在互聯網上廣泛傳播的，則有可能構成名譽權侵權。如在實際生活當中存在大量利用換臉視頻調侃明星、網紅的情形，例如制作換臉惡搞視調侃某明星唱、跳、打籃球的技巧問題，就有可能構成名譽權侵權。

寫在最后

深度合成技術作為人工智能領域最有生命力的運用，其必將會在今后迸發出極大的生產力，也正因如此，該領域的合規問題必須受到重視，這是深度合成技術健康發展的前提，在當今法學界，純粹的技術中立學說已經鮮有人主張，技術本身具有自己的價值傾向性已經深入人心，基于深度合成技術的各種風險，颯姐團隊總結了相關從業者的合規邊界以及 20 個合規義務，以此助力深度合成產業健康發展并供從業者參考：

生成內容的合規邊界

不得從事涉政涉黃；

不得合成虛假新聞，非持牌不得傳播非國家規定范圍內的單位發布的新聞；

不得違背公序良俗（例如第三者如何搶奪原配家產）；

不得生成違法和不良信息，這方面可以健全相應“特征庫”，篩選健康信息；

不得惡意貶損他人名譽和企業商譽（法律后果是會被起訴名譽權侵權）；

對于不可控的創作內容，及時刪除降低社會危害。

具體的合規義務

健全用戶注冊制度；

算法機制機理審核；

科學倫理審查；

信息發布審核；

數據安全管理制度；

個人信息保護制度；

反電信詐騙制度；

應急處置管理制度；

在 App 或網站，公開管理規則、平臺公約，完善服務協議，以顯著方式提示各方承擔信息安全義務;

健全用于識別違法和不良信息的特征庫，留存日志；

發現違法和不良信息，有向主管機關報告的義務；

發現違法和不良信息，對使用者依法依約，采取處置措施；

全辟謠機制；

設置便捷申訴和舉報入口，及時反饋結果；

加強訓練數據管理；

定期審核、評估、驗證生成合成類算法機制機理；

依法自行或委托專業機構開展安全評估；

對生成內容，采取技術措施添加不影響用戶使用的標識；

不得刪除、篡改、隱匿深度合成標識；

按照《互聯網信息服務算法推薦管理規定》履行備案、變更、注銷備案手續。

肖颯lawyer

個人專欄

閱讀更多

金色財經

澎湃新聞

金色薦讀

金色財經 善歐巴

鏈得得

LD Capital

深潮TechFlow

Odaily星球日報

Foresight News

BTCStudy

iBox

Tags：APEOINCOICOINNew Year ApePomi Coinbitcoin交易所有哪幾家coinwatch手表價格圖片

萊特幣