若AI有“過失” Web3時代何以追責？_NEXT:BLUEY

毫無疑問，科技的進步往往是最受人關注的。這不僅是因為科技進步本身代表著人類不斷向前躍進的步伐，還因為科技進步往往會促進人類社會和時代的發展，極大地改善人類的生活。于是，AI、Web3.0、區塊鏈、元宇宙等成了當下最為火熱的話題，究其根本在于這些概念代表著科技的進步，代表著新的科技正在被投入使用。

這無疑是令人欣喜的，但同樣也是令人擔憂的。與快速成長的科技相對的，是法律的滯后和人類認知的滯后，前者使得科技所帶來的法律風險越發難以解決，后者使得科技所帶來的法律風險越發難以預防。由此，除去那些故意利用科技進行違法犯罪的情況，不得不考慮的一個問題是，如果一種科學技術在實用過程中，由于某種過失性的原因導致了風險的發生，是否都應當進行追責？

颯姐團隊今日文章便以AI系統為例，為大家分析一下新時代下科技所引發的過失犯罪的追責問題。

一、AI與“過失犯罪”

所謂AI，即人工智能（Artificial Intelligence），根據《網絡安全標準實踐指南——人工智能倫理安全風險防范指引》的規定，是指利用計算機或其控制的設備，通過感知環境、獲取知識、推導演繹等方法，對人類智能的模擬、延伸或擴展。在學界中，根據學者高銘暄、王紅的觀點，AI即“人工”和“智能”，前者是指由人類制造的機器或開發的程序系統，后者是指模擬人腦能動性的思維和智慧，簡言之，即“智慧機器”，人工智能本身旨在研究和開發可以模擬人腦智慧的機器應用或程序系統。

Connext和Alchemix推出跨鏈代幣標準以減少黑客攻擊損失:金色財經報道，Connext 跨鏈橋接協議宣布聯合Alchemix推出了新的代幣標準，以減少跨鏈橋黑客攻擊造成的損失。根據公告，新的“xERC-20”標準允許代幣發行者維護官方橋接列表，并控制每個橋可以鑄造的代幣數量。公告稱，除了Connext之外，DeFi平臺Alchemix Finance將部署xERC-20代幣標準。

Connext 在公告中表示，新的標準將防止安全性較差或過度中心化的橋梁受到攻擊，因為代幣發行者現在可以靈活地隨著時間的推移詳細更新他們對支持橋的偏好。跨鏈橋不再優先考慮建立流動性壟斷，或試圖通過鎖定代幣發行者（或在某些情況下整個鏈）來壟斷市場份額，而是被迫持續關注其安全性和服務質量，以免被摘牌。[2023/7/25 15:56:32]

而對于AI所引發的“過失犯罪”，筆者認為應當從兩個視角來進行解讀。

（一）作為技術的AI

AI本身作為一種技術，為人類所運用，因此在運用過程中，很可能存在由于相關人員的過失而導致相應風險的發生。考慮到AI行業暫時缺乏相關的法律法規進行明確的規范，因此現階段對于該領域的規制仍然要以現有的法律體系為主，從而在過失犯罪領域，相關人員可能構成過失致人死亡罪、過失致人重傷罪以及過失以危險方法危害公共安全罪等。

跨鏈交易平臺zkLink的Discord服務器已被入侵:金色財經報道，據CertiK監測，跨鏈交易平臺zkLink的Discord服務器已被入侵，有黑客發布了網絡釣魚鏈接。在團隊確認重獲對服務器的控制之前，請勿點擊任何鏈接。[2023/4/19 14:12:23]

同時應當注意的是，針對不同的人群，過失犯罪的體現可能不同。

（1）針對AI系統的所有者、使用者

對于AI的直接所有者、直接使用者而言，他們本身應當嚴格遵守AI產品的安全操作規范，以保障AI產品的安全、有序運行。這是因為AI的智能系統是有嚴格的編制程序的，其啟動與運行有賴于相關的操作規范，因此未遵循AI產品的安全操作規范很可能會導致AI產品出現異常的情形。如因違反安全管理義務而過失性引發嚴重的危害后果，此時當然應當由所有者、使用者或者管理者承擔相應的過失責任。

（2）針對AI系統的生產者

如前所述，考慮到相關的標準尚未建立完備，因此，對于生產者而言，仍然應當從傳統過失犯的角度出發，判斷其有無觸犯刑法。

因此，如果生產者已經知道或者應當知道其生產的產品可能因為缺陷發生致人損害的結果，應當采取必要的召回措施以防止損害結果的進一步擴大，從而保護其他社會民眾免受缺陷產品的再次或者繼續侵害，那么當生產者未履行結果回避義務，造成擴大的結果發生，生產者對損害結果的擴大至少應當承擔過失責任。

NFT市場Blur發布Token代碼符號，或暗示將推出Token:金色財經報道，NFT市場Blur在社交媒體上發布“$BLUR”字樣動態，并附言提示用戶打開推文推送通知，或為暗示將推出Token。

此前報道，3月29日，專注于優化專業交易者體驗的NFT市場Blur宣布完成1100萬美元種子輪融資，Paradigm領投。[2022/10/19 17:31:35]

（3）針對企業中所屬集體的監督者、管理者

在滿足責任事故類犯罪如刑法第一百三十四條規定的重大責任事故罪的構成要件的基礎上，因為使用AI而導致他人損害的行為人的監督者和管理者，需要承擔監督過失或管理過失而導致的刑事責任。

（二）作為產品的AI

以上是從使用AI的行為人本身存在過失從而導致損害出現的角度對涉及的過失類犯罪以及可能的責任主體進行的說明，這是作為技術的AI，是行為人手中的工具。但實際上，由于AI目前仍然較多地具有產品屬性，因而在考慮AI的過失時還得考慮作為產品的AI的過失。這種情況下的AI所造成的損害，更多的是因為AI算法或者程序或其他設置設備上存在缺陷。事實上，在AI產品存在缺陷時，便可能導致AI系統運行故障，進而導致嚴重危害社會的結果發生。

菲律賓監管機構：投資者不要與未注冊加密貨幣公司進行交易:金色財經報道，菲律賓中央銀行（BSP）是該國加密貨幣行業的主要監管機構，它警告投資者不要與未注冊的外國加密貨幣服務提供商交易。監管機構說，它們“可能會對當地客戶執行法律追索，消費者保護及補救機制方面等帶來額外的挑戰”。此外，該央行警告說，政府不保證對加密貨幣價格波動所帶來的財務損失提供保護。菲律賓中央銀行強調，公眾應謹慎行事，自身進行盡職調查，并在參與虛擬資產相關活動之前始終注意風險。（Bitcoin.com）[2022/8/19 12:35:57]

而此時，一旦此種過失性因素使得AI產品構成缺陷產品，便可以從產品缺陷的角度追究生產者或者銷售者的刑事責任。具體而言，生產或銷售有缺陷的AI產品的行為可能構成第146條規定的生產、銷售不符合安全標準的產品罪。

刑法第一百四十六條的規定，生產不符合保障人身、財產安全的國家標準、行業標準的電器、壓力容器、易燃易爆產品或者其他不符合保障人身、財產安全的國家標準、行業標準的產品，或者銷售明知是以上不符合保障人身、財產安全的國家標準、行業標準的產品，造成嚴重后果的，處五年以下有期徒刑，并處銷售金額百分之五十以上二倍以下罰金；后果特別嚴重的，處五年以上有期徒刑，并處銷售金額百分之五十以上二倍以下罰金。

Ripple在加拿大開設第一家辦事處:金色財經報道，Ripple宣布在多倫多開設一個新辦事處，這是其在加拿大的第一個辦事處，將作為支持其在北美發展的工程中心。這家分布式賬本技術公司周三表示，計劃在多倫多招聘50名工程師，目標是擴大到數百名區塊鏈軟件工程師，包括應用機器學習科學家、數據科學家和產品經理。

聲明稱，雖然業內其他人已經宣布裁員，但Ripple的首要任務仍然是引進能夠幫助我們在未來幾年進行創新的人才。多倫多辦事處的開設進一步加強了Ripple對該地區的承諾，該地區已經是一個技術中心，在那里它可以利用當地的人才庫并招募工程師來促進加密創新。（theblock）[2022/6/27 1:33:07]

雖然本罪屬于故意犯罪，似乎不能被歸類為AI所引發的“過失犯罪”之中，但筆者認為，只要AI本身的缺陷是過失所致，而生產者或銷售者在明知的情況下仍然銷售，那么仍然可以被認定為是AI所引發的“過失犯罪”之中。事實上，大多數高新科技的缺陷往往一開始便是因人類的認知滯后而未有發現，由此帶來了一定的實際損害，盡管生產者或銷售者可能并不因此承擔責任，但若在其明知該缺陷之后仍然為銷售，那么就應當受到刑法處罰。

因此，根據本條規定，只要行為人生產的商品或者銷售的商品是不符合保障人身、財產安全的國家標準、行業標準的產品而行為人對此明知，那么生產者和銷售者也會承擔刑事責任。AI當然也屬于其中。

綜上，這就需要生產者和銷售者們時刻關注AI產品領域相關的國家標準、行業標準。考慮到現在我國的國家標準和行業標準尚在制定之中，因此，應當結合國外已經出現過的國際標準以及我國有關政策的要求，合理確定企業自身的標準，以此預防可能發生的犯罪結果。

二、被允許的風險

如此看來，在過失犯罪領域，似乎AI所帶來的風險和以往的傳統過失犯罪并無區別。但實際上，隨著科技的發展，越來越多技術上的不可預測性使得這種過失犯罪的判斷極為困難，我們應當去思考，如何衡量這種技術上的過失，換言之，僅在過失犯罪的領域，AI所造成的所有風險是否最后都應當進行追責？

關于這個問題的答案我們可以從被允許的風險的理論出發來解答。

所謂被允許的風險（或被允許的危險），是指隨著科學技術的發展，社會生活中不可避免地存在的具有侵害法益的危險行為，基于其對社會的有用性，即使發生了法益侵害結果，也應當在一定范圍內允許。

該理論起源于19世紀末的德國產業革命時期。在19世紀后半葉，隨著科學技術的發展，工業化進程加快，德國的礦山、煤氣、鐵道等企業發展迅速，但同時一些技術發展帶來的損害也隨之而來。學者巴爾意識到，社會生活中不可避免地存在一定的危險行為。如果為了完全防止實害發生而要求采取過度的預防措施，就排除了所有企業活動的可能性，這是不合理的。因此，他提出，即使行為人懈怠了過度的預防措施，也不成立犯罪。此后，學者米里卡也提出，與社會目的相適應的危險是“正常危險”，超出了“正常危險”的危險，才具有刑法意義。艾克斯勒也指出，如果要求人們回避一切可能預見的損害，就會否定所有科學技術的進步。而最后確立被允許的危險的法理的是賓丁，他承認日常性的法益侵害的不可避免性，提倡“適度的危險”概念，還提出了危險與不可缺少的行為的法的價值之間的比例關系。

隨著討論的不斷進行，在刑法領域，被允許的風險理論最先在過失犯領域發揮了作用，由此催生出了所謂的新過失論。新過失論認為隨著產業革命的發展，許多危險行為對社會的發展具有有用性與必要性；只要行為人遵守了相關的行為規則，即使造成了法益侵害結果，也不能認定為過失犯。

而AI系統實際上也是科技發展的產物，雖然它的過失可能會導致一定風險的發生，但是同時也需要考慮到它所代表的技術革新性以及為生活所帶來的便利性。因此，在涉及AI系統的過失犯罪上，我們應當在一定程度上允許一定風險的存在，從而允許AI系統、AI技術乃至于其他科技的運用，從而在實踐中不斷進步和完善。故而就AI的過失犯罪領域，考慮被允許的風險理論并適用新過失論是未來的一種可行的途徑。

寫在最后

科技的發展必然會給法律帶來諸多挑戰，但這并不意味法律應當予以排斥予以否定，也不意味著滯后的法律無法應對科技所帶來的風險。除了盡快完善有關立法外，法律工作者在這時候真正需要去做的，是在權衡利弊中不斷完善相關的理論，并在實踐中予以運用，讓科技真正成為推動人類社會發展的良好動力。

肖颯lawyer

個人專欄

閱讀更多

金色財經Maxwell

Bankless

金色薦讀

FastDaily

中國金融雜志

巴比特資訊

元宇宙之道

Tags：NEXT加密貨幣PPLBLUNEXTEP加密貨幣f行情ripple幣是數字加密貨幣嗎BLUEY

Coinw