科學家警告稱，遏制算法不會停止超級智能人工智能_AIN:RAINI

一組計算機科學家使用理論計算來證明算法無法控制超級智能AI。

他們的研究解決了牛津哲學家尼克·博斯特羅姆所說的控制問題：我們如何確保超智能機器為我們的利益服務？

研究人員構想了一種理論上的遏制算法，該算法可以通過模擬AI的行為并在程序的動作變得有害時停止程序來解決該問題。

Polkatrain：此次黑客事件系市場科學家利用類似滑點問題惡意攻擊:據官方最新消息，Polkatrain團隊已經查明并核實，此次黑客事件是一起針對POLT項目的黑客利用類似滑點問題惡意攻擊行為，并非之前慢霧、幣世界、金色財經等聲稱的所謂薅羊毛事故（通過調用swap函數薅取返傭獎勵），對于這些不實言論，Polkatrain團隊將保留自己的追究權利。在社區的共同努力下，關于黑客盜取約5萬個DOT的事件（項目方近4萬個DOT，用戶近1萬個DOT），Polkatrain目前已經有重大進展，后續將持續跟蹤此事情。[2021/4/6 19:50:46]

但是，他們的分析發現，建立一種可以控制這種機器的算法從根本上來說是不可能的，人類與機器中心主任IyadRahwan說：

動態 | 科學家破解迄今最長RSA密鑰并對最大整數離散對數進行匹配計算:密碼學達到一個新的里程碑，研究人員解開了有史以來人類計算過的最長RSA密鑰，并對有史以來最大的整數離散對數進行了匹配計算。這次的突破不是來自硬件性能的提升，而要歸功于軟件和算法的改進。這次的新記錄包括RSA-240的分解。RSA-240密鑰有240個十進制位，大小為795 bits。同一組研究人員還計算了同樣大小的離散對數。與以前的里程碑相比，這次的里程碑更少地受到摩爾定律的驅動，而更多地受到數域篩選軟件改進的驅動。為了證明效率的提高，研究人員在與2016年計算768位離散對數相同的硬件上運行他們的軟件。他們發現，使用舊的硬件篩選795-bit大小的記錄所需的時間比使用相同的設備執行768-bit DLP計算所需的時間減少了25%。（Arstechnica）[2019/12/7]

如果將問題分解為理論計算機科學的基本規則，就會發現，命令AI不破壞世界的算法可能會無意中止其自身的運行。如果發生這種情況，您將不知道遏制算法是否仍在分析威脅，或者它是否已停止遏制有害的AI。實際上，這使遏制算法無法使用。

上海證券交易所原總工程師白碩教授任職世界區塊鏈組織首席科學家:據WBO News Agency (世界區塊鏈新聞社）3月20日消息，上海證券交易所原總工程師白碩教授受邀擔加入世界區塊鏈組織 （World Blockchain Organization, 簡稱“WBO”），任職首席科學家。[2018/3/21]

研究發現，由于計算的基本局限性，沒有一種算法可以計算出AI是否會危害世界：

假設超級智能將包含一個程序，該程序包含通用圖靈機在輸入時可能會像世界狀況一樣復雜地執行的所有程序，那么嚴格的圍堵要求對該程序進行仿真，這在理論上是不可能的。

到目前為止，這種類型的AI仍僅限于幻想領域。但是研究人員指出，這項技術正在朝著科幻小說作家所設想的超級智能系統的類型邁進。

研究的合著者，馬克斯·普朗克人類發展研究所的曼努埃爾·塞布里安說：“已經有機器獨立執行某些重要任務，而程序員卻沒有完全了解他們是如何學習的。”

“因此提出了一個問題，在某個時候這是否可能變得不可控制并且對人類構成危險。”

Tags：AINPOLATRRAINcichainPOLVEN價格VATRENIRAINI

FTX