谷歌痛失大將：“AI教父” Geoffrey Hinton離職，只為給人類敲響警鐘？_TON:NTON

文|Juny??編輯|VickyXiao

進入2023年以來，科技界里彷佛沒有了大事，只剩下了人工智能。人人都在談論ChatGPT、科技圈開卷大模型、OpenAI估值節節攀升、大公司你追我趕硝煙四起……

而這一切繁榮的背后，其實都離不開三位人工智能研究者的工作———曾因提出和發展深度學習神經網絡，在2019年獲得計算機界最高榮譽“圖靈獎”的GeoffreyHinton、YoshuaBengio、YannLeCun。

可以說，沒有這三位學者的研究，我們今天根本看不到ChatGPT、Bard的出現，也不會這么快的就能在日常生活中使用語音識別、人臉識別、圖片檢索、機器翻譯、自動駕駛等技術。

其中，GeoffreyHinton是“三巨頭”中最核心的人物，被業界譽為“人工智能教父”。他在2013年加入谷歌，把深度學習技術帶進了谷歌的多項業務，直接推動谷歌成為了AI技術最出色的公司之一。同時，他還親自培養了一大批機器學習相關的人才，包括了如今OpenAI的聯合創始人和首席科學家IlyaSutskever。

谷歌兩個月前已經以1億美元收購推特持股的Alter:10月28日消息，據知情人士向透露，谷歌已經以約1億美元的價格收購了人工智能(AR)虛擬形象初創公司Alter，以豐富谷歌游戲的內容。Alter幫助創作者和品牌表達他們的虛擬身份。該消息人士稱，收購已于約兩個月前完成，但兩家公司均未向公眾披露。Alter的一些高管已經更新了他們的LinkedIn資料，分享他們已經加入谷歌的事情，但沒有提及這樁收購。據悉，Alter獲得了來自Play Ventures、Roosh Ventures和推特等投資者的300萬美元種子資金。（財聯社）[2022/10/28 11:50:28]

“深度學習三大先驅”，圖片來自于推特

而就在加入谷歌的第十年、深度學習迎來爆發式發展的當下，幾周前，現年75歲的GeoffreyHinton辭去了他在谷歌的工作。而離職的原因，用他的原話來講，是想要沒有任何負擔的給所有人講一些他關于人工智能發展的“真心話”。

來自“人工智能教父”的擔憂和警告

如果說誰最熱愛深度學習相關的人工智能研究，GeoffreyHinton一定是最有發言權的那一位。從上個世紀70年代至今，GeoffreyHinton作為計算機神經網絡的開拓者，已經在這個領域默默耕耘了近50年。

谷歌云與CryptoWire合作開發區塊鏈和加密生態系統:1月6日消息，63 Moons Technologies的子公司TickerPlant已與Google Cloud達成合作，共同開發CryptoWire生態系統。CryptoWire將探索Google Cloud的高級解決方案，包括智能數據分析、機器學習和人工智能，以提供卓越的客戶體驗。（BusinessLine）[2022/1/6 8:29:27]

對于GeoffreyHinton來說，從無到有的創造一個全新概念和技術的過程曾經無比艱難。

從上個世紀80年代他提出神經網絡理論開始，一直到本世紀初，長達20多年的時間里，學術界對神經網絡理論都充滿質疑，同時，受制于當時數據集規模限制以及計算機算力的不足，相關研究的進展也一度非常緩慢。在這個漫長的過程中，一些人放棄了、一些人轉了研究方向，但GeoffreyHinton從未放棄過關于深度學習神經網絡的研究。

但如今，深度學習終于守得云開見月明，所有人都開始向深度學習里瘋狂砸人力、砸資金，堅守了多年的GeoffreyHinton這時卻想要大家都暫停腳步，甚至對自己付出了一生心血的研究感到有些后悔，為什么？

數據顯示比特幣價格與谷歌搜索量的相關性增強:搜索量和購買零售比特幣的人數過去一直是相關的，我們可能會在2020年看到類似的情況。根據SemRush的說法，搜索引擎正看到比特幣查詢量攀升至2017年的水平，當時BTC價格飆升至2萬美元。

分析指出，2017年1月，谷歌用戶搜索比特幣330萬次。此時，比特幣價格只有1000美元。但到2017年12月比特幣達到2萬美元時，用戶對“比特幣”一詞的搜索次數達到4550萬次。后來，在2020年3月價格下跌時，谷歌上的“比特幣”搜索量驟降至610萬，跌幅達86％。報告還發現，當股市動蕩或傳統金融業受沖擊時，比特幣相關搜索量也會大幅增長。（Zycrypto）[2020/6/21]

在最近接受紐約時報的專訪中，GeoffreyHinton表示，自己此次從谷歌離職并不是因為要批判谷歌，而是他能夠在不影響谷歌的情況下，去真實地談論AI的潛在風險。

在他看來，作為AI技術的領軍者，過去這些年谷歌一直扮演著一位“負責任的管家”的角色，小心翼翼地保留和控制著那些可能造成傷害的技術。但由于微軟極快的將Bing和ChatGPT結合并向公眾發布，挑戰了谷歌核心的搜索引擎的業務，所以谷歌也無法像過去那樣繼續保持著發展節奏，科技巨頭陷入了一場可能無法停止的競爭之中。

動態 | 谷歌商店出現數幣相關惡意應用程序:據thenextweb報道，Google Play商店中出現了名為Easy Rates Converter的數字貨幣相關惡意應用程序。該軟件偽裝成貨幣轉換工具，實際上是為了竊取許多合法應用程序的用戶個人數據。[2018/11/2]

在這樣的情況下，他需要以一名研究者而不是谷歌員工的身份站出來，給大家發出警告。結合整個采訪來看，Hinton主要有以下幾個方面的擔憂。

一是在人工智能技術的支持下，他認為互聯網將很快被各種虛假信息淹沒。這些信息包括文字、照片、視頻等，而普通人將越來越難分辨這些信息的真假，引發社會的失序。

二是就業市場可能在就業市場還沒有準備好的情況下被顛覆，造成失業潮的爆發。雖然目前像ChatGPT這樣的聊天機器人還只是對人類工作的補充，但按照人工智能的發展速度，它們將很快可以取代律師助理、翻譯、行政助理等其他任何基礎的、重復性的工作。“它消除了苦差事，但帶走的可能遠不止于此。”Hinton表示。

谷歌或已著手收購和投資一些從事分布式電子賬本的公司:彭博社近日報道，據知情人透露谷歌正在研究與區塊鏈相關的技術，用來支持它的云業務，保障數據存儲的安全。其中一位人士表示，谷歌正在開發自己的分布式電子賬本，第三方可以借此來發布和驗證交易。到目前為止，任何產品發布的時間還不明確，但谷歌計劃通過此項服務將谷歌云服務與競爭對手區分開，同時，也據內部人士透露，谷歌已經在著手收購和投資一些從事分布式電子賬本的公司。[2018/3/27]

此外，他還擔心人工智能技術的接下來的發展會對人類社會構成威脅。他承認，在他們過去的研究之中，人工智能常常能從大量數據中學習進而產生出很多讓人意想不到的行為。而當前，包括個人和公司在內的很多使用者們不僅讓人工智能自主生成代碼，也讓人工智能運行和管理著代碼。在這種不斷的訓練之中，很有可能讓“自主殺手機器人”真的成為現實。

“很多人都覺著這很遙遠，我曾經也是這么認為的，覺得至少還要有30-50年我們才會走到那一天。但就我目前所了解到的信息而言，我已經不這么想了。”Hinton認為，谷歌和微軟以及其他大型公司之間的競爭，將很快升級為一場全球性競爭，如果沒有某種監管，這場競爭將不會停止，人工智能發展的速度會遠超我們的想象，并最終走向失控。

呼吁AI監管的聲音越來越強

如果以上這些話從別人口中說出來，大家可能仍然會覺得這些觀點帶著危言聳聽的意味。但當如今世界上人工智能領域最權威的專家、深度學習的奠基人GeoffreyHinton也這么說時，也引發了更多人開始認真思考和關注這個問題。

實際上，在此次GeoffreyHinton發聲之前，最近幾個月來人工智能領域就已經發起過兩波大型的聯名，呼吁謹慎地發展人工智能技術。

一次是由馬斯克、YoshuaBengio等數千名來自學術界和企業界的大佬呼吁至少暫停6個月比GPT-4更強模型的研究的公開信。另一次則是由擁有40多年歷史、人工智能領域最權威學術機構之一的人工智能促進協會的19名現任及前任領導人所發布的聯名信，其中也包括了微軟現任首席科學家、人工智能研究專家EricHorvitz。

雖然此前馬斯克他們暫停模型研發的呼吁在業界受到了爭議，包括YannLeCun、吳恩達在內的研究者都對停止研發“一刀切”的做法表示了反對，甚至也有人質疑馬斯克等人提出暫停研發是為了私利。但目前看來，關于共同加強AI監管、預防潛在性危險發生的觀點，大家的看法幾乎都是一致的。

在今天GeoffreyHinton的報道發出后，吳恩達第一時間轉發了GeoffreyHinton的推特表示支持，感謝Hinton對于人工智能技術所做出的不可估量的貢獻，以及對人工智能在虛假信息、自動機器和勞動力影響方面的發聲。

一些AI的投資人、研究者今天也紛紛轉發了GeoffreyHinton的訪談，呼吁學界、工業界、政府監管機構應該快速行動起來，趁當前技術還在可控范圍內，盡快制定好監管框架和應用方案等。

當然，也有研究者并不認同AI威脅論，其中就包括了GeoffreyHinton曾經的學生、研究的伙伴YannLeCun。他此前多次表示，大語言模型根本不算什么，要想真正通往AGI之路，還需要構建“世界模型”。

對此，很多人也很希望這些對于人工智能發展持有不同觀點的研究泰斗們能夠很快來一場深度對談，讓人們更多的了解當前人工智能發展前方的機遇和風險。

AI會成為新時代的“原子彈”嗎？

在此次的訪談中，一個尤其引人關注的地方在于GeoffreyHinton在談到AI風險時，多次提及了核武器。從一定程度上來看，GeoffreyHinton或許認為AI對人類社會的潛在危險并不亞于核武器。

他表示，跟核武器研究不同，現在AI研究更危險的地方在于，我們目前幾乎沒有辦法知道有哪些組織或者國家正在秘密研究這項技術。理想的情況下，全球各國組織和科學家們應該共同進行合作和對技術進行控制，但顯然現在很難做到這一點。

作為深度學習技術的發起人，GeoffreyHinton坦言自己目前甚至有些后悔進行了這項技術的研究。當潘多拉魔盒被打開，作為研究人員很難去防止不好的人利用這些技術去做不好的事。

而Hinton的這種說法也讓人不由地想起了當年“原子彈之父”羅伯特·奧本海默相似的心路歷程。當年，美國在廣島長崎投放原子彈兩個月之后，奧本海默辭去了職務，之后他在擔任美國原子能委員會顧問期間一直致力于游說國際機構對軍備進行管制，并運用影響力宣揚控制核武器和核不擴散運動。

GeoffreyHinton說，以前人們問他如何從事具有潛在危險的技術時，他總會會引用奧本海默的話：“當你看到一個東西擁有美妙的技術前景時，就盡管去做吧。”但現在，他已經不會再那樣說了。

“人們不應該快速擴大AI研究的規模，直到足夠了解自己是否能夠控制它，”GeoffreyHinton說道。

*參考資料：

https://www.nytimes.com/2023/05/01/technology/ai-google-chatbot-engineer-quits-hinton.html

Tags：TONNTONHINTINTOshengtongcoinENTONEHINT幣cic幣takepointonm

UNI