科學家警告稱，遏制算法不會停止超級智能人工智能_OBE:Obee Network

一組計算機科學家使用理論計算來證明算法無法控制超級智能AI。

他們的研究解決了牛津哲學家尼克·博斯特羅姆所說的控制問題：我們如何確保超智能機器為我們的利益服務？

研究人員構想了一種理論上的遏制算法，該算法可以通過模擬AI的行為并在程序的動作變得有害時停止程序來解決該問題。

IBM高級研究科學家：IBM已完成全同態加密領域的實地試驗:IBM高級研究科學家FlavioBergamaschi表示，IBM已成功完成全同態加密（FullyHomomorphicEncryption，簡稱FHE）領域的實地試驗。IBM與一家大型美國銀行和一家大型歐洲銀行簽約，利用實時數據對FHE技術進行了實地試驗。其中，關于美國銀行的FHE試驗是基于機器學習模型來預測發放貸款的可能性，并為大量客戶提供零售銀行、貸款和投資信息。數據集由364000個條目組成，有幾百個特征點，模型需要識別數據集中相對罕見的事件（約1%）。試驗的成功表現在，得到了具有類似精度的與基數相當的加密數據預測、具有類似精度的變量選擇以及可接受范圍內的計算成本。注：FHE是一種能保護數據隱私的加密算法，允許對加密過數據直接進行數學運算，并且解密后結果依然是正確的，2009年IBM的CraigGentry首次提出一種基于理想格的全同態算法。（arstechnica.com）[2020/8/3]

但是，他們的分析發現，建立一種可以控制這種機器的算法從根本上來說是不可能的，人類與機器中心主任IyadRahwan說：

聲音 | 計算機科學家：DApp開發人員低估了區塊鏈的復雜性:據cryptoglobe報道，理論計算機科學家Dr. Jerome Rousselet指出，DApp開發公司最近有創建自己的區塊鏈的趨勢，而不是使用以太坊的網絡，這些公司低估了運行此類項目的復雜性，并高估了他們目前的可尋址市場。[2018/10/7]

如果將問題分解為理論計算機科學的基本規則，就會發現，命令AI不破壞世界的算法可能會無意中止其自身的運行。如果發生這種情況，您將不知道遏制算法是否仍在分析威脅，或者它是否已停止遏制有害的AI。實際上，這使遏制算法無法使用。

北斗未來首席科學家：區塊鏈可以解決反洗錢工作痛點:據上證報報道，北斗未來大數據集團首席科學家李立中認為，人工智能解決不了識別精準問題和跨機構數據斷流問題，而區塊鏈的特性正好可以解決這個痛點。據悉，該公司目前申請了區塊鏈技術解決數字貨幣反洗錢問題的創新底層專利，通過頂層設計為未來數字貨幣添加識別基因，如果未來可以形成國際標準，會大大降低反洗錢的成本、提升反洗錢的效率。[2018/5/25]

研究發現，由于計算的基本局限性，沒有一種算法可以計算出AI是否會危害世界：

假設超級智能將包含一個程序，該程序包含通用圖靈機在輸入時可能會像世界狀況一樣復雜地執行的所有程序，那么嚴格的圍堵要求對該程序進行仿真，這在理論上是不可能的。

到目前為止，這種類型的AI仍僅限于幻想領域。但是研究人員指出，這項技術正在朝著科幻小說作家所設想的超級智能系統的類型邁進。

研究的合著者，馬克斯·普朗克人類發展研究所的曼努埃爾·塞布里安說：“已經有機器獨立執行某些重要任務，而程序員卻沒有完全了解他們是如何學習的。”

“因此提出了一個問題，在某個時候這是否可能變得不可控制并且對人類構成危險。”

Tags：區塊鏈OBECRYPTDAPP區塊鏈運用的技術中不包括哪一項技術Obee Network0XENCRYPT價格DappRadar

LTC