人類生成 or 機器生成？ChatGPT 引發了一場真假辯論_GPT:XGPT價格

原文：英國《金融時報》

像ChatGPT這樣的大型語言模型是合理性的提供者。許多聊天機器人基于所謂的生成式人工智能，經過訓練可以通過在互聯網上搜索相關信息并收集連貫的答案來回答用戶的問題，從而生成令人信服的學生論文、權威的法律文件和可信的新聞報道。

但是，由于公開可用的數據包含錯誤信息和虛假信息，一些機器生成的文本可能不準確或不真實。這引發了人們爭相開發工具來識別文本是由人還是機器起草的。科學也在努力適應這個新時代，現場討論是否應該允許聊天機器人撰寫科學論文，甚至產生新的假說。

區分人工智能和人類智能的重要性與日俱增。本月，瑞銀分析師透露，ChatGPT是歷史上增長最快的網絡應用程序，1月份每月活躍用戶達到1億。一些部門已經決定沒有必要鎖住穩定的大門：周一，國際文憑組織表示，學生將被允許使用ChatGPT撰寫論文，前提是他們注明引用了它。

觀點：加密貨幣可能是人類歷史上最偉大的發明之一:今年比特幣經歷了強烈的波動，因為新冠肺炎震撼了市場。雖然這種波動讓許多人對這個領域不感興趣，但一些人表示，當前的宏觀經濟和地緣趨勢使得比特幣比以往任何時候都更加重要。

Uber、推特和Identity等公司的天使投資人、AngelList聯合創始人兼董事長Naval Ravikant最近接受采訪時提到他目前關于比特幣、加密貨幣的想法。“我認為加密貨幣可能是人類歷史上最偉大的發明之一，它們之所以有趣，是因為如果你看看科技行業，科技在不受監管的空間里發揮作用。”

他解釋稱，“從金融角度來看，2020年發生的最可怕的事情可能是共和黨和民主黨都認為，‘哦，實際上我們可以印很多很多的錢。當我們印刷1美元時，70%的通貨膨脹沖擊效應成本由世界其他地方承擔，而不是由我們自己承擔。所以美國政府已經解決了這個問題。’”他還提到，“我不想做價格預測，但我覺得現在的持有者比以往任何時候都要多。”（NewsBTC）[2020/10/17]

平心而論，這項技術的創造者坦率地指出了它的局限性。OpenAI首席執行官薩姆奧特曼(SamAltman)去年12月警告說，ChatGPT“在某些方面足夠出色，足以給人一種偉大的誤導印象”。我們在穩健性和真實性方面還有很多工作要做。”該公司正在為其內容輸出開發加密水印，這是一種機器可讀的秘密標點符號、拼寫和詞序序列；并且正在磨練一個“分類器”來區分合成文本和人工生成的文本，使用兩者的例子來訓練它。

聲音 | 中美交流基金會理事：人類生活在數字化時代 中國在數字貨幣等都走在前面:據騰訊財經報道，9月7日，由中國發展研究基金會主辦的中國發展高層論壇專題研討會在北京召開，中美交流基金會理事、弘毅投資董事長趙令歡對媒體表示，人類生活在數字化時代，而中國超越了所有國家，已經建立了最好的基礎設施，中國最值得重視的先進的地方是數字基礎設施、互聯互通基礎設施、老百姓的消費觀念，以及不管是數字貨幣，還是在新的時代里消費信息的使用和保護，包括怎么把互聯網用于發展國家目標，而不是倍加受發展困擾，這些中國都走在前面。[2019/9/8]

斯坦福大學的研究生EricMitchell認為分類器需要大量的訓練數據。他與同事一起提出了DetectGPT，這是一種發現差異的“零樣本”方法，這意味著該方法不需要事先學習。相反，該方法會自行啟動聊天機器人，以嗅探出自己的輸出。

聲音 | Vlad Zamfir：以太坊明顯缺乏有效控制和人類參與:據newsbtc報道，以太坊基金會首席研究員Vlad Zamfir認為，以太坊明顯缺乏有效控制和人類參與，以及存在遵守Szabo定律的傾向。Zamfir反對Szabo規定的協議改進或改變技術維護的想法。他認為，“代碼即法律”（Code is Law）的看法是用詞不當，是“過于徹底的反法律，以至于不適合作為合理加密合法制度的一部分”。因此，他仍然反對區塊鏈所代表的自治。[2019/3/21]

它是這樣工作的：DetectGPT詢問聊天機器人它對示例文本的“喜歡”程度，“喜歡”是示例與其自己的創作有多相似的簡寫。DetectGPT然后更進一步——它“擾亂”了文本，稍微改變了措辭。假設是聊天機器人在“喜歡”更改后的人工生成文本方面比更改后的機器文本更具可變性。研究人員聲稱，在早期測試中，該方法在95%的時間內正確地區分了人類和機器作者。

需要注意的是：這些結果尚未經過同行評審；該方法雖然優于隨機猜測，但在所有生成式AI模型中的工作可靠性并不相同。對合成文本進行人為調整可能會愚弄DetectGPT。

這一切對科學意味著什么？科學出版是研究的命脈，將想法、假設、論據和證據注入全球科學經典。一些人很快就將ChatGPT作為研究助理，一些有爭議的論文將AI列為合著者。

Meta甚至推出了一款名為Galactica的科學專用文本生成器。三天后它被撤回了。在它被使用的這段時間，構建了一段熊在太空旅行的虛構歷史。

Tübingen的馬克斯普朗克智能系統研究所的邁克爾·布萊克教授當時在推特上表示，他對Galactica對有關他自己研究領域的多項詢問的回答感到“困擾”，包括將虛假論文歸咎于真正的研究人員。“在所有情況下，都是錯誤的或有偏見的，但聽起來是正確和權威的。我認為這很危險。”

危險來自于看似合理的文本滑入真正的科學提交，用虛假引用充斥文獻并永遠歪曲經典。《科學》雜志現在完全禁止生成文本；《自然》雜志則允許使用它，前提是必須對使用進行了聲明，但禁止將其列為共同作者。

話又說回來，大多數人不會查閱高端期刊來指導他們的科學思維。如果狡猾的人如此傾向，這些聊天機器人可以按需噴出大量引用偽科學，解釋為什么疫苗不起作用，或者為什么全球變暖是個騙局。在線發布的誤導性材料可能會被未來的生成人工智能吞噬，產生新的謊言迭代，進一步污染公共話語。

販賣懷疑的商人肯定已經摩拳擦掌，迫不及待了。

Tags：GPTATGCHACHATXGPT價格Catgirl AIhotchainCHAT價格

Bitcoin