以太坊交易所 以太坊交易所
Ctrl+D 以太坊交易所
ads
首頁 > FIL幣 > Info

區塊鏈數據如何歸檔?冷熱分離方案了解一下_區塊鏈:Paradise Defi

Author:

Time:1900/1/1 0:00:00

——Part1?現狀——

區塊鏈可以視作一個在分布式環境下眾多可信節點共同維護的且不可篡改的賬本。在區塊鏈系統中,數據以區塊作為基本單位,區塊鏈系統利用levelDB基于Key-Value結構的數據庫存取數據,通過多節點冗余存儲實現賬本可信,然而隨著區塊鏈運行時間的增長,區塊鏈的存儲容量將呈線性增長,且這種數據的增長速度甚至會超過存儲介質容量增長的速度,因此,區塊鏈數據存儲將成為限制區塊鏈技術發展的重要因素。

面對這一棘手的問題,數據歸檔技術應運而生,什么是數據歸檔呢?

——Part2?什么是數據歸檔——

數據備份的概念大家應該是比較了解的,隨著數字化的推進,企業對數據的敏感度逐漸增強,數據備份系統已經成為各大中型企業的必備系統。然而正如我們對數據歸檔認知的不足,企業對于數據歸檔的使用也不如數據備份廣泛。

備份的目的是為了恢復,保證在系統出現意外情況時業務的連續進展。對于企業來說,每天產生的大量數據,其實絕大部分的使用率很低,但是,出于一些特殊原因,這些數據卻必須保留以備查詢。簡言之,歸檔的目的是為了服務品質和保證數據的可管理,使得運行、維護、投入整體的成本降低,如何最大化使用存儲,保證數據的訪問。數據歸檔,即數據的使用。然而如何規范的歸檔數據呢?我們就得具備相應的歸檔原則。

GAMEE Bozena Rezab:區塊鏈游戲仍應關注游戲本身屬性:據官方消息,9月23日,GAMEE CEO&聯合創始人Bozena Rezab在《HyperPay 焦點》第21期,主題為“《走進元宇宙》系列:揭秘鏈游和NFT熱潮背后的‘幕后推手’”專場AMA中提到:元宇宙是一種現實體驗(experiential reality),其中一種體驗是參與游戲。隨著區塊鏈游戲的普及,應該期待新的游戲經濟和游戲類型的出現。但是在利用區塊鏈技術塑造游戲的未來時,不應該忽視游戲的核心吸引力是玩法而非技術。[2021/9/23 17:01:13]

數據存儲:無論是備份還是歸檔,數據的完整性必須得到保證,且需在規定時間內保證數據的安全存儲。保證數據的完整性、時效性及存儲的安全性。

數據易讀取:雖然大部分數據重復讀取可能性低,但歸檔系統依舊不是一個備份系統,必須保證在需要的時候能方便地讀取數據。保證系統數據的可讀性。

數據可擴展:由于存在不同種類的數據,且數據也是實時變化且增長迅猛,因此為滿足企業需求,還應具備可擴展的要求。

凱諾資本創始人:正在籌備一只10億規模以上專投區塊鏈版權市場的基金:9月22日消息,9月21日,凱諾資本創始人、總裁韓田新在第五屆國際電影IP授權與衍生產業開發論壇上介紹道,我們正在籌備一只專投區塊鏈版權市場這類的基金,可能至少10億規模以上。當前文化產業的侵權無處不在,所以必須在創作過程中把所發生的各項版權價值進行明確,實現對創作市場合法權益的保護。具體從影視行業看,在拍攝過程中,實際上就形成了相關的區塊,能夠把這個版權所代表的屬性和基本價值分裝在一個想象的盒子,在傳播和分享、應用的過程中,自動計量這個價值。區塊鏈相當于自動形成了積分卡,比如我今天在工廠勞動了兩個小時,那我應該得到多少分,或者制作圖片、拍電影,都可以形成統一的計量方式。至少目前的技術可以實現這種方式。(經濟觀察報)[2021/9/22 16:57:37]

數據合法:任何的企業系統運作都應該遵守各項規章制度,要遵守政府和行業指定的各項法律、法規及各種規章。

——Part3實現難點——

西南首個“區塊鏈智慧產業園”落地成都:5月29日,由四川省國資委與中國移動四川公司聯合舉辦的“國有資本布局數字經濟發展推進會”在成都召開。四川能投黨委副書記、總經理王誠代表省屬企業發言,就能投集團區塊鏈等數字經濟發展做了詳細介紹。值得一提的是,四川能投與中信集團所屬中信建設宣布將聯手打造西南首個技術領先、面向全國的以“區塊鏈存儲+科技創新+產業孵化”為主的超大規模數字經濟智慧產業園。據悉,該園區包括超大規模區塊鏈數據中心、科技創新中心、數字產業孵化中心三大功能區,通過建立大數據與人工智能實驗室等一系列舉措促進重大技術攻關、知識產權申報和知識成果轉化,有力提升四川IDC產業在全國的發展排位,成為數字產業孵化集聚區的核心陣地。

同時,園區將重點引入云計算、大數據、人工智能、物聯網、VR/AR等領域創新企業入駐,目前已分別與阿里、華為等10余家大型IT企業及清華、北大等知名高校開展數字產業戰略合作,聚焦落地區塊鏈行業應用。(封面新聞)[2020/5/29]

正如大家所知,區塊鏈存在數據單向增長的特性,這樣數據量的增多會導致系統磁盤空間占用率高,所以需要研發區塊鏈專用數據歸檔技術,將數據進行“冷熱分離”,保障系統的高效可靠運轉;

動態 | 浙江區塊鏈領域全球專利數量居全國第三:浙江省網信辦、經信廳和省通信管理局聯合編著的《浙江省互聯網發展報告2018》(以下簡稱報告)正式發布。報告顯示,浙江區塊鏈領域全球專利數量居全國第三,互聯網上市企業數量占全國9.2%的杭州,人才凈流入率居全國第一,是“北上廣深”數字經濟人才流出的第一目的地。[2019/5/28]

另外,因為區塊鏈是一個在分布式環境下眾多可信節點共同維護的且不可篡改的賬本,所以傳統的數據歸檔技術無法解決多個節點數據歸檔某一范圍數據而賬本狀態保持一致性的問題,在實際情況中還存在區塊鏈上單一節點數據歸檔導致的多節點數據同步時賬本狀態一致性的問題。

總結:

1.區塊鏈存在數據單向增長,需要進行冷熱分離存儲;

2.分布式環境下,難以保證所有節點實時進行數據歸檔且保證數據狀態的一致性;

3.單一節點數據歸檔導致多節點數據同步時狀態一致性難以保證。

動態 | 在美上市區塊鏈移動支付公司Square聯合創始人去世:據外媒報道,在美上市區塊鏈移動支付公司Square的聯合創始人特里斯坦-奧蒂爾尼(Tristan O'Tierney)的家人證實,年僅35歲的特里斯坦已于2月23日去世。[2019/3/3]

——Part4?數據歸檔的架構解讀——

了解了數據歸檔的基本概念,那么,在區塊鏈中它是如何運作的呢?數據歸檔功能的主要職責是將一部分舊的線上數據移到線下轉存。對此,趣鏈科技提出了區塊鏈數據歸檔的方法,使得整個區塊鏈系統能在不停機情況下,將區塊鏈數據劃分為鏈上、鏈下兩部分,熱數據仍保留在鏈上,但冷數據可以存儲在低成本的硬件設備上,進行動態的數據歸檔。而且,通過數據調度層,可以很好地實現熱數據和冷數據的靈活訪問,熱數據直接通過平臺訪問,冷數據則通過歸檔數據瀏覽技術瀏覽。另外,每個節點可以自主、多次地對數據進行歸檔,從而使得系統的鏈上數據量維持在一個穩定水平,有效釋放磁盤空間。

為更形象地講解數據歸檔技術,我們以趣鏈數據歸檔為講解內容進行:

區塊鏈的數據歸檔方式是一種基于狀態備份的歸檔方法。

簡單來說,用戶想要對某一個區塊鏈節點做數據歸檔,必須在過去某一時刻對區塊鏈制作一個狀態快照;

進行數據歸檔時,可以將快照點之前所有的區塊鏈數據進行歸檔轉儲,以實現區塊鏈節點存儲壓力的減負。后續未歸檔第一個區塊的節點成為新鏈的1號區塊。

▲?數據歸檔流程

制作快照:

1.系統獲取最近距離的快照,即比當前要做快照的區塊號小的最大的高度,返回該快照的信息。若沒有任何快照,則以0號區塊數據為基礎新建快照并作為start,其制作的高度為end。

2.快照拷貝以單純的磁盤io拷貝一份第一步獲得的賬本到新文件夾,并作為后續賬本操作的基礎。

3.根據日志數據,遍歷線上,制作到賬本,且同時遍歷區塊的merkleRoot,保證賬本的正確性。

檢查快照:

遍歷snashot數據庫中的狀態數據,重新計算出bucketTree的根哈希,與最新的區塊哈希對比,以保證制作的快照與實際的賬本是否一致。

數據歸檔:

如圖,用戶發起數據歸檔請求,要求將快照點前所有的區塊鏈數據進行轉儲歸檔。該節點將所需轉儲的區塊數據以及相應的交易回執等數據轉儲,且將本地的創世狀態內容更新為之前備份得到的快照狀態。

如果說區塊鏈正常的狀態變遷是狀態終點不停向前更新的過程,那么數據歸檔就是一個區塊鏈狀態起點向終點更新的過程。下面是一個比較典型的相關數據平臺應用案例:

數百家中心數據,存量數據4T,日均10GB,年均3.6T數據上鏈,由于鏈上存儲通常采用SSD硬盤,導致存儲成本高昂。針對此問題,我們采用定期歸檔的方式對鏈上數據進行歸檔,由圖可見,我們采用了分段存儲的方式,平臺可對任意的某段數據進行歸檔操作并保證各節點數據狀態的一致性。保證鏈上數據穩定在1T左右,有效地釋放磁盤空間的同時,極大地降低了成本,增加了系統性能。

上述的數據歸檔主要是針對區塊鏈數據,而部署在區塊鏈上的智能合約,同樣有較大的存儲需求用來記錄龐大的業務數據。針對于這部分數據,趣鏈提供了另外一種歸檔機制,用戶僅需發起一筆帶有特殊標記的交易,調用智能合約中自定義的歸檔函數,即可實現合約數據的轉儲。合約編碼者可以在合約中實現任意邏輯的歸檔函數,以滿足不同的業務需求。

——?Part5總結?——

在本片中較為詳細地講解了數據歸檔技術在區塊鏈中的使用,不僅實現了數據的冷熱分離存儲,保證了單一節點的數據歸檔而保持整個區塊鏈所有節點的賬本狀態的一致性,而且實現了分段存儲的模式,使得數據在任意范圍內被歸檔。

從設計角度來看,數據歸檔后不影響原先鏈上數據的正確性與連續性,而且支持不同節點、不同分區自定義歸檔序列的范圍。

從功能角度來看,數據歸檔主要解決區塊鏈鏈上數據的冗余問題。減少鏈上數據存儲壓力,將過期數據和歷史數據進行線下的存儲,突破鏈上存儲的限制。并且,并發執行數據歸檔過程中的各種操作,提升了歸檔的效率。

從應用場景來看,數據歸檔適用于數據冗余存儲、鏈式遞增、時效有限等情況導致的存儲資源被大量過期數據占用的痛點。對于數據歸檔或者區塊鏈技術有興趣的小伙伴,添加小助加入技術交流群,歡迎您和我們共享觀點,共論區塊鏈的無限未來~

作者簡介

陳少蔚

趣鏈科技基礎平臺部文檔工程師

Tags:區塊鏈ARTPARTPAR影視幣區塊鏈有哪些SMART幣SpartanParadise Defi

FIL幣
Cardano將于下周從Alonzo blue過渡到Alonzo White_CARD:BABYDRIP

據Ambcrypto6月27日消息,IOHK技術經理KevinHammond?表示,Cardano將于下周從Alonzoblue過渡到AlonzoWhite.

1900/1/1 0:00:00
Vitalik: 區塊鏈信任模型

來源|?ETH中文站 作者|VitalikButerin 大多區塊鏈應用最有價值的屬性之一就是“免信任”(trustlessness).

1900/1/1 0:00:00
思考 | 為什么區塊鏈物聯網被頻頻重提?_Chain:銀行區塊鏈

什么是物聯網 物聯網(IoT)是指能夠通過互聯網的無線網絡交換數據和指令的聯網設備或物體。現代計算機、智能音箱、智能手表和智能手機可以被視為物聯網的基礎.

1900/1/1 0:00:00
Robinhood 遞交IPO申請尋求上市!稱加密相關收入大部分歸功于狗狗幣_BIN:HOO

美國股票及加密交易應用程序公司RobinhoodMarkets,Inc周四下午向美國證券交易委員會提交了S-1文件,以期進行首次公開募股,文件顯示擬最多籌資1億美元.

1900/1/1 0:00:00
美聯儲決議公布,對數字貨幣市場影響幾何?_ENT:Sentinel Protocol

北京時間昨天深夜,美聯儲公布了最新的決議。幾乎所有投資市場的投資者都在關注這個協議,因為它將決定未來一段時間美元的流動性和整個金融環境的寬松程度.

1900/1/1 0:00:00
閃電網絡鎖定比特幣已達1525.6枚,約合6115萬美元_比特幣:COM

巴比特訊,16日下午5點,1ml.com網站數據顯示,目前閃電網絡鎖定了1525.6枚比特幣,約合6115萬美元。而目前閃電網絡建立了50019個通道,共有21521個節點.

1900/1/1 0:00:00
ads