ChatGPT類產品安全隱患解決？英偉達發布開源工具包_CHA:SAINT

隨著ChatGPT等AI聊天機器人自去年底以來迅速走紅，對于它們安全問題的相關警告也層出不窮。盡管背后的開發者也在竭盡全力地想辦法解決這些問題，比如實施資訊過濾和人類糾正那些被標記的問題，但效果都不盡人意。

有鑒于此，英偉達公司（Nvidia Corp.）周二正式發布了一個名為NeMo Guardrails的開源工具包，可以禁止AI聊天機器人提供那些受限的信息，使人工智能驅動的應用程序更加準確、適當、符合主題和安全。

上市礦企HIVE Blockchain向嘉楠科技訂購6500臺Avalon比特幣礦機:10月29日消息，上市礦企HIVE Blockchain向嘉楠科技訂購了6500臺Avalon比特幣礦機，這批礦機將在今年12月、2022年1月以及2022年2月分批接入并投入運行。HIVE表示，該批礦機購買將使HIVE的比特幣挖礦能力到12月達到2EH/s，到2022年3月達到3EH/s，該公司目前約為1.2EH/s。

此前報道，HIVE Blockchain在今年1月向嘉楠科技購買了6400臺礦機，今年8月向嘉楠科技購買了4000臺礦機。[2021/10/30 6:20:44]

每個人都意識到了大型生成語言模型的力量，英偉達應用研究副總裁Jonathan Cohen說，以一種安全可靠的方式部署它們非常重要。

BlockchainArmy推出BCA ID，利用區塊鏈跟蹤新冠病相關數據:BlockchainArmy創始人總裁EROL USER宣布推出BCA ID，以幫助政府和人民克服新冠肺炎造成的阻礙。BCA ID是一個基于區塊鏈的數字ID，幫助用戶跟蹤新冠病的傳播，并提供信息和電子服務。其移動應用程序正在利用區塊鏈存儲用戶健康數據并使用新冠肺炎患者的測試記錄。（Pressat）[2020/5/8]

英偉達表示，NeMo Guardrails將作為終端用戶和人工智能程序之間的一層防護墻。將其與傳統軟件混合，該系統將能夠識別用戶提出的事實問題，并檢查機器人是否能夠和應該回答這個問題。系統還將確定生成的答案是否基于事實，并控制聊天機器人給出回答的方式。

動態 | Circle報告：加密資產Bread、Chainlink本周表現最佳:加密金融服務公司Circle發布了本周的加密市場研究報告，加密資產Bread、Chainlink本周表現最佳。報告顯示，截至發稿時，總加密市值約為2567億美元（-10％w/w）。比特幣的交易價格為10510美元（-11.6％ w/w），ETH為186美元（-12.7％w/w）。BVOL（由BitMEX 計算的滾動30天年化比特幣波動率）為 66.8％，這一數據低于上周的96.5％。 根據MESSARI數據顯示，在排名前100的加密資產中，本周表現最好的五個加密資產分別為Bread、Chainlink、FunFair、Dent、Enjin Coin。其中Bread和Chainlink流動市值分別增長了約15%和4%左右。而FunFair、Dent以及Enjin Coin流動市值單周變化率為負。[2019/8/18]

例如，假設一名員工詢問人力資源聊天機器人，公司是否為想要領養孩子的員工提供支持。這將通過NeMo Guardrails并返回包含公司相關利益的文本。詢問同一個機器人有多少員工利用了這一福利，可能會引發拒絕指令，因為這些數據是保密的。Cohen還表示，英偉達已經在Guardrails的底層系統上工作了"多年"，但就在大約一年前意識到它很適合GPT-4和ChatGPT這樣的模型。"從那時起，我們一直在朝著NeMo Guardrails的這個版本發展，"他說，"人工智能模型安全工具對于那些為企業用途部署的模型至關重要。"

財聯社

媒體專欄

閱讀更多

金色薦讀

金色財經 善歐巴

Chainlink預言機

白話區塊鏈

金色早8點

Odaily星球日報

歐科云鏈

深潮TechFlow

MarsBit

Arcane Labs

Tags：CHAAINHAIChainTale Of ChainSAINTFLOKICHAINsanjinchain

Coinw