騰訊雲深度歸檔讓數據從磁帶走向雲端
在數字化轉型浪潮中,如何存儲和利用好數據,是企業面臨的首要問題。相比於傳統互聯網全面擁抱雲,產業互聯網在數字化轉型過程中,通常第一步是利用雲存儲來歸檔數據。
隨著業務的增長,企業積攢了大量重要數據,一些數據在經過清洗和處理後,需要長期保存,以備將來進一步分析;一些數據則是出於行業監管和合規的要求,需要長期保存。典型的數據歸檔業務場景包括:
- 金融交易:交易日誌、票據影像、雙錄影片;
- 影片監控:安防監控、交通監控、個人影片監控;
- 生命科學:醫療影像數據、電子病例、基因測序數據;
- 廣告營銷:電子商務日誌、廣告營銷日誌;
- 娛樂遊戲:短影片、社交數據、遊戲日誌;
- 媒資影片:影片影像、在線課程影片;
- 自動駕駛:影片採集、遙感監控、光學雷達;
- 科研教育:天文觀測、高能物理、海洋監控、油氣勘探、地震預測。
談到數據歸檔,就繞不過磁帶庫。
一、磁帶庫的問題和挑戰
從第一款磁帶機面世,磁帶技術已經有50多年歷史了。雖然磁帶技術經過多輪演進,並在企業級數據歸檔存儲市場上佔有特殊地位,但是仍然面臨很多問題和挑戰:
- 前期投入大,需要一次性投入購買磁帶庫,需要複雜的管理和運維工作;
- 磁帶長期保存需要特殊的物理環境條件,一旦受潮,磁帶會退化或者霉變,即使看起來完好無損,數據也可能無法恢復,數據丟失的風險非常高;
- 雖然磁帶具備比較長的壽命,為了保證數據可靠性,需要定期進行數據遷移,這是一項耗時費力的任務;
- 數據恢復時間長,對於離線保持的磁帶,需要人工參與恢複流程;
公有雲發展到今天,雲存儲產品通過不斷的創新,在保證安全、可靠的基礎上,存儲成本得到持續降低。對比傳統磁帶庫歸檔方案,客戶有了更具性價比的選擇。
二、騰訊雲深度歸檔介紹
騰訊雲近期發布了深度歸檔存儲,一款新的對象存儲COS類型,可以提供低成本、安全持久的數據存儲服務。相比於低頻存儲和歸檔存儲,其價格更低,適用於存儲訪問頻率極低(如半年一次)但需要持久存儲的數據,如日誌審計數據,安防監控數據等。其安全性、持久性、低價格等特性,能最大程度的滿足冷數據存儲的訴求。
深度歸檔存儲在軟體架構、硬體設備、任務管理系統上都進行了全新升級,通過全新的架構最大程度的提升設備的利用率,為用戶降低存儲成本。深度歸檔存儲費用僅為0.01元/GB/月,對比磁帶歸檔,總體TCO下降20%。
深度歸檔提供兩種數據恢複選項:
- 標準模式:數據可以在12小時內完成恢復;
- 批量模式:恢復成本低,數據可以在48小時內完成恢復;
對比傳統磁帶庫,雲上歸檔提供了更簡單、更快速的數據恢復服務。
同時,深度歸檔存儲具備99.999999999%(11個9)的數據持久性,比傳統磁帶庫提供更高的可靠性。
三、雲上歸檔解決方案
1、結合商業備份軟體服務
當前,主流商業備份軟體都完成了與騰訊雲對象存儲COS的對接認證,客戶可以根據歸檔數據的保存時長、訪問頻率、恢復時間等條件,選擇合適的對象存儲COS類型作為歸檔介質庫。
在不改變現有歸檔業務流程的情況下,通過備份軟體上創建對象存儲COS歸檔介質庫,並配置訪問Bucket相應的許可權認證資訊,就可以將數據直接歸檔上雲。
架構上,備份軟體通常由備份管理伺服器、備份伺服器和備份客戶端構成。備份伺服器直接訪問對象存儲COS,支援類型包括標準存儲、低頻存儲、歸檔存儲和深度歸檔存儲。
備份伺服器將數據壓縮、去重後,可以直接寫入深度歸檔存儲,或者先寫入標準存儲後,通過生命周期管理自動沉降到深度歸檔存儲。例如,7天以內的數據保存在標準存儲,便於隨時恢複數據;7 ~ 30天的數據沉降到低頻存儲,作為溫數據以備突發訪問;超過30天後,沉降到深度歸檔,進行長期歸檔存儲。
雲上歸檔解決方案提供端到端的加密服務,確保數據安全。默認情況下,數據通過HTTPS協議加密傳輸上雲,保證數據傳輸過程中的安全。通過備份軟體自身的加密功能,或者對象存儲COS的加密服務,數據加密後存儲,保證數據存儲過程中的安全。
2、通過文件存儲網關歸檔
如果備份軟體還不兼容對象存儲COS,可以藉助CSG文件存儲網關,通過備份軟體創建NAS歸檔介質庫,間接歸檔數據到雲上深度歸檔存儲。
文件存儲網關(Cloud Storage Gateway,CSG)是一種混合雲存儲服務,CSG 使用標準文件共享協議訪問位於對象存儲 COS 中的數據,無縫接入公有雲,實現數據的上雲。可以根據業務需求靈活地部署在雲上或者本地,輕鬆地進行數據的上雲、歸檔以及災難恢復。
CSG會快取熱數據來保證本地訪問性能,同時會將全量數據保存至 COS 中以確保數據的安全持久性。CSG 能夠根據時段分配調度上傳下載的頻寬,在頻寬資源緊張時,可以限制網關佔用的頻寬,以免影響自有業務;而在業務空閑時則可放開限制,充分利用頻寬資源。
數據上雲後,同樣藉助COS生命周期管理功能,完成數據沉降到深度歸檔,進行長期歸檔存儲。
3、離線數據搬遷上雲
如果本地數據中心還沒有拉通專線,或者存量歸檔數據規模比較大,可以通過雲數據遷移服務CDM專用設備,進行大規模離線遷移數據上雲,從而獲得深度歸檔帶來的好處。
雲數據遷移(Cloud Data Migration,CDM)是騰訊雲提供的 TB~PB 級別的數據遷移上雲服務。提供安全可靠的離線遷移專用設備,解決本地數據中心通過網路傳輸時間長、成本高的問題。
CDM 遷移設備使用標準的電源,支援 ext4、NFS、CIFS、HDFS 等多種文件系統,用戶無需擔心數據中心環境兼容問題。
採用256位加密密鑰對數據進行自動加密,保證第三方無法從磁碟獲取文件資訊。遷移完成後,對設備上的數據進行徹底擦除,確保數據不會被泄露讀取。
四、雲上歸檔的主要優勢
1、更高的可靠性
深度歸檔對象存儲提供數據跨多數據中心、多設備冗餘存儲,為用戶數據提供異地歸檔容災服務,實現高達99.999999999%(11個9)的數據持久性,數據的耐久性遠高於磁帶庫。
2、端到端的加密保障數據安全
對於數據的存儲,對象存儲服務端加密可以對存儲的數據進行加密,保證用戶的隱私,用戶訪問時會自動解密。對於數據的傳輸,對象存儲提供用 HTTPS 部署 SSL 證書實現加密的功能,在傳輸鏈路層上建立加密層,確保數據在傳輸過程中不會被竊取及篡改。
3、成本低、免運維
使用深度歸檔存儲,您無需採購硬體、部署和運維,避免前期高額投入,節省了運維工作和託管成本。對象存儲支援按需按量使用,您無需預先支付任何預留存儲空間的費用,對比磁帶庫總體TCO降低20%。
4、數據恢復時間短
整個數據恢複流程完全自動化,無需人工參與。採用標準恢復模式下,數據可以在12小時內完成恢復。
5、支援跨區域數據複製功能
通過配置對象存儲跨地域複製規則,可以在異地區域的存儲桶中自動、非同步地複製數據,滿足行業對歸檔數據跨地域保存的合規性要求。
6、兼容性主流備份軟體
目前,支援對象存儲COS的主流商業備份軟體廠商包括:Commvault、Veritas、Veeam、愛數、鼎甲、雲信達、木浪雲、科力銳等。後續會有更多的廠商完成對接和認證。
五、寫在最後
數字化轉型為企業業務的快速增長提供原動力,數據作為企業核心資產,需要高可靠、低成本的歸檔方案。隨著騰訊雲COS深度歸檔的發布,結合商業備份軟體、雲存儲網關、離線遷移工具,騰訊云為企業的核心數據資產提供了高性價比的歸檔解決方案,助力企業數字化轉型。