一文了解 ZK 在推進鏈上 AI 的作用_APE:PAPER

原文來自：ModulusLabs

編譯：DeFi之道

很高興終于可以與你們分享我們的第一篇論文，該論文是通過以太坊基金會的資助完成的，它的名稱是《TheCostofIntelligence:ProvingMachineLearningInferencewithZero-Knowledge?》（或paper0，這是酷孩子們的叫法)。

沒錯，這些都是真數字！有圖表！論文還討論了理論結構及其對性能的影響！事實上，paper0是第一個跨通用AI原語套件對ZK證明系統進行基準測試的研究工作，你現在就可以閱讀整篇論文。

而這篇文章，你可以將其視為論文的總結，有關詳細信息，請參閱原論文。

事不宜遲，讓我們深入了解：

Paper0:我們的調查要點

事實上，計算的未來將大量使用復雜的人工智能。看看我的文本編輯器：

過去24小時0x335開頭地址從Circle提取3.5億枚USDC，并轉到幣安:金色財經報道，據Lookonchain監測數據顯示，過去的24小時內，0x335開頭的某疑似基金/機構地址從Circle提取了3.5億枚USDC，并轉移到幣安。[2023/2/14 12:05:33]

Notion的提示告訴我，他們的LLM可以讓這句話變得更好

然而，鏈上不存在功能性神經網絡，甚至連最小的推薦系統或匹配算法都不存在。真見鬼！甚至連實驗也沒有一個……當然，原因是非常明顯的，因為這太貴了，畢竟，即使運行價值數十萬FLOP的計算的成本也是數百萬gas，目前相當于數百美元。

那么，如果我們想將AI范式帶入無需信任的世界，我們該怎么做？我們會翻車，然后放棄嗎？當然不是…等等！Roll-over）……Giveup……

如果像Starkware、MatterLabs和其他公司這樣的Rollup服務，正在使用零知識證明來大規模擴展計算，同時保持密碼學安全，那么我們能為AI做同樣的事情嗎？

這個問題成為推動我們在paper0中工作的激勵種子。劇透警報，以下是我們發現的：

Glassnode宣布收購加密投資組合追蹤平臺Accointing.com:10月26日消息，據官方消息，Glassnode 宣布已收購投資組合追蹤及稅務報告平臺 Accointing.com。Glassnode表示，該平臺旨在建立加密領域領先的市場和投資組合智能平臺，使投資者能夠增值和保護他們的數字資產，本次收購是實現這一目標的重要里程碑。

Accointing 是一個加密投資組合跟蹤和加密稅務報告生成平臺，擁有數十萬名用戶。該平臺使用戶更便捷的追蹤其加密資產，并簡化了加密稅收報告的創建過程。[2022/10/26 11:45:31]

“現代ZK證明系統的性能越來越高，并且越來越多樣化。它們已經可以支持成本在某種程度上是合理的人工智能操作。事實上，有些系統在證明神經網絡方面比其他系統好得多。然而，所有這些仍然達不到實際應用所需的性能，并且對于神奇的用例來說是嚴重不足的。換句話說，如果不進一步加速用于AI操作的ZK系統，用例就會非常有限。“

HashKey Capital在首個PoS區塊寫入寄語：支持下一代區塊鏈創新:9月15日消息，HashKey Capital在合并后的第一個PoS區塊中（區塊高度為15537394）寫入Memo：支持下一代區塊鏈創新。[2022/9/15 6:58:21]

paper0總結

這是眾所周知的秘密：AI性能幾乎總是與模型大小成比例。這種趨勢看起來也沒有放緩。只要這種情況仍然存在，對于我們這些web3中的人來說，這將是特別痛苦的。

畢竟，計算成本是我們最終、不可避免的噩夢來源。

今天的ZKP已經可以支持小模型了，但中型到大型模型打破了范式

基準：實驗設計

對于paper0，我們關注任何零知識證明系統中的2個基本指標：

證明生成時間：prover創建AI推理的伴隨證明所需的時間，以及

prover內存使用峰值：證明者在證明期間的任何給定時間用于生成推理證明的最大內存；

Jadu AVA NFT系列近24小時交易額增幅超7000%:金色財經消息，OpenSea數據顯示，Jadu AVA NFT系列NFT近24小時交易額為389 ETH，24小時交易額增幅達7299%。近24小時交易額排名位列OpenSea第6。[2022/9/8 13:17:27]

這主要是一個實際的選擇，并且是從我們構建Rockybot的經驗中做出的。此外，所有測量都是針對證明生成時間進行的，并且沒有考慮預處理或witness生成。

當然，還有其他方面的成本需要跟蹤。這包括驗證者運行時間和證明大小。我們將來可能會重新審視這些指標，但將它們視為paper0的范圍之外。

至于我們測試的實際證明系統，通過投票，我們選定了6個：

Paper0測試的證明系統匯總表，以及協助我們的作者

最后，我們創建了兩套用于基準測試的多線性感知器——值得注意的是，MLP相對簡單，主要由線性運算組成。這包括一套隨著參數數量增加而擴展的架構，以及第二套隨著層數增加而擴展的架構。如下表所示，每個套件都測試了證明系統以不同方式擴展的能力，并大致代表了從LeNet5到ResNet-34的知名深度學習架構的規模。

因反對加密貨幣，歐洲央行行長的言論引發多方不滿:5月26日消息，在荷蘭的一個脫口秀節目中，歐洲央行行長Christine Lagarde表示，加密貨幣“一文不值”，因為沒有基礎資產提供支持。此外，Lagarde對那些投資于加密貨幣的人表示擔憂，并呼吁進行監管。

對此，Crypto Council for Innovation的首席執行官Sheila Warren表示，她對Lagarde的言論感到失望，但并不驚訝。根據Warren的說法，“新的數字經濟將在數字貨幣的組合上運行，包括加密貨幣、穩定幣和CBDCs”。

與此同時，加密貨幣分析師Lark Davis引用Lagarde的話，Davis發推表示，他認為與其說是加密貨幣，不如說Lagarde是在“描述歐元”，因為它是“憑空印出來的”。

推特用戶ByzGeneral分享了一段顯示Lagarde承認她自己的兒子從事加密貨幣交易的視頻，并稱Lagarde是一只“恐龍”。ByzGeneral在推特上寫道，這些“恐龍”沒有意識到他們的時代已經結束了。（Cointelegraph）[2022/5/26 3:44:03]

參數和深度基準套件

結果：迅如閃電

對于以上6個證明系統的參數和深度范圍的證明生成時間結果

對于以上6個證明系統的參數和深度范圍內的峰值內存結果

有關這些結果的完整內容，以及對每個系統內瓶頸的深入分析，請參閱paper0的第4節。

用例和最終要點

好吧，以上是一些非常簡潔的圖表，而以下則是要點：

“在證明時間方面，Plonky2是迄今為止表現最好的系統，因為它使用了基于FRI的多項式承諾和Goldilocks域。事實上，對于我們最大的基準架構，它比Halo2快3倍。然而，這是以prover內存消耗為顯著代價的，Plonky2的性能始終較差，有時會使Halo2的峰值RAM使用量翻倍。在證明時間和內存方面，基于GKR的zkCNNprover似乎最適合處理大型模型——即使沒有優化的實現。”

那這在實踐中究竟意味著什么？我們將重點介紹2個示例：

1、Worldcoin：Worldcoin正在構建世界上第一個“隱私保護身份證明協議”，換句話說，通過將身份驗證與一種非常獨特的生物特征聯系起來來解決女巫攻擊問題。這是一個瘋狂的想法，它使用卷積神經網絡來壓縮、轉換和證明存儲的虹膜數據。雖然他們當前的設置涉及orb硬件中安全飛地內的可信計算環境，但他們希望改為使用ZKP來證明模型的正確計算。這將允許用戶對自己的生物特征數據進行自我保護，并提供加密安全保證。

現在具體一點：Worldcoin的模型具有180萬參數和50層。這是區分100億個不同虹膜所必需的模型復雜性。哎呀！

雖然在計算優化的云CPU上證明Plonky2等系統，可以在幾分鐘內為這種規模的模型生成推理證明，但證明者的內存消耗將超過任何商用移動硬件。

事實上，沒有一個測試系統能夠在移動硬件上證明這個神經網絡……

2.AIArena：AIArena是一款類似于《任天堂明星大亂斗》風格的鏈上平臺格斗游戲，其具有一個獨特的特點：玩家并不是操作化身實時進行對抗，而是讓玩家擁有的AI模型相互競爭和戰斗，是的，這聽起來很酷。

隨著時間的推移，AIArena的出色團隊正努力將他們的游戲轉向一個完全無需信任的錦標賽計劃。但問題是，這涉及驗證每次游戲數量驚人的AI計算的挑戰。

比賽以每秒60幀的速度運行，持續3分鐘時間。這意味著每輪比賽，兩個玩家模型之間的推理結果超過20000個。以AIArena的一個策略網絡為例，一個相對較小的MLP需要大約0.008秒來執行一次前向傳遞，使用zkCNN證明該模型需要0.6秒，即，每采取一次動作就需要增加1000倍的計算。

這也意味著計算成本將增加1000倍。隨著單元經濟對鏈上服務變得越來越重要，開發人員必須平衡去中心化安全的價值與證明生成的實際成本。

https://aws.amazon.com/ec2/pricing/

無論是上面的例子，ZK-KYC，DALL-E風格的圖像生成，還是智能合約中的大型語言模型，ZKML的世界中都存在著一個完整的用例世界。然而，要真正實現這些，我們強烈認為ZKprover仍需要大量改進。特別是對于自我完善的區塊鏈的未來。

那么，我們該何去何從？

我們有具體的表現數據，我們知道在證明神經網絡時哪些技術往往表現最好。當然，我們開始發現各種用例，這些用例激勵了我們不斷成長的社區。

我想知道接下來會發生什么……

很快就會為你們提供更多更新；）

Tags：PAPERPAPAPERENFlyPaperPapel TokenDAPEPEren幣未來前景

聚幣