什么是大數(shù)據(jù)?為什么要大數(shù)據(jù)?
“大數(shù)據(jù)”通常指的是那些數(shù)量巨大、難于收集、處理、分析的數(shù)據(jù)集，亦指那些在傳統(tǒng)基礎(chǔ)設(shè)施中長(zhǎng)期保存的數(shù)據(jù)。這里的“大”有幾層含義，它可以形容組織的大小，而更重要的是，它界定了企業(yè)中IT基礎(chǔ)設(shè)施的規(guī)模。業(yè)內(nèi)對(duì)大數(shù)據(jù)應(yīng)用寄予了無(wú)限的期望商業(yè)信息積累的越多價(jià)值也越大只不過(guò)我們需要一個(gè)方法把這些價(jià)值挖掘出來(lái)。
與以往相比，我們除了有能力存儲(chǔ)更多的數(shù)據(jù)量之外，還要面對(duì)更多的數(shù)據(jù)類型。這些數(shù)據(jù)的來(lái)源包括網(wǎng)上交易、網(wǎng)絡(luò)社交活動(dòng)、自動(dòng)傳感器、移動(dòng)設(shè)備以及科學(xué)儀器等等。除了那些固定的數(shù)據(jù)生產(chǎn)源，各種交易行為還可能加快數(shù)據(jù)的積累速度。比如說(shuō)，社交類多媒體數(shù)據(jù)的爆炸性增長(zhǎng)就源于新的網(wǎng)上交易和記錄行為。數(shù)據(jù)永遠(yuǎn)都在增長(zhǎng)之中，但是，只有存儲(chǔ)海量數(shù)據(jù)的能力是不夠的，因?yàn)檫@并不能保證我們能夠成功地從中搜尋出商業(yè)價(jià)值。
大數(shù)據(jù)的存儲(chǔ)及處理能力挑戰(zhàn)
當(dāng)前，我國(guó)大數(shù)據(jù)存儲(chǔ)、分析和處理的能力還很薄弱，與大數(shù)據(jù)相關(guān)的技術(shù)和工具的運(yùn)用也相當(dāng)不成熟，大部分企業(yè)仍處于IT產(chǎn)業(yè)鏈的低端。我國(guó)在數(shù)據(jù)庫(kù)、數(shù)據(jù)倉(cāng)庫(kù)、數(shù)據(jù)挖掘以及云計(jì)算等領(lǐng)域的技術(shù)，普遍落后于國(guó)外先進(jìn)水平。
在大數(shù)據(jù)存儲(chǔ)方面，數(shù)據(jù)的爆炸式增長(zhǎng)，數(shù)據(jù)來(lái)源的極其豐富和數(shù)據(jù)類型的多種多樣，使數(shù)據(jù)存儲(chǔ)量更龐大，對(duì)數(shù)據(jù)展現(xiàn)的要求更高。而目前我國(guó)傳統(tǒng)的數(shù)據(jù)庫(kù)，還難以存儲(chǔ)如此巨大的數(shù)據(jù)量。在大數(shù)據(jù)的分析處理方面，由于針對(duì)具體的應(yīng)用類型，需要采用不同的處理方式，因此必須通過(guò)建立高級(jí)大數(shù)據(jù)的分析模型，來(lái)實(shí)現(xiàn)快速抽取大數(shù)據(jù)的核心數(shù)據(jù)、高效分析這些核心數(shù)據(jù)并從中發(fā)現(xiàn)價(jià)值，而這些數(shù)據(jù)分析能力我國(guó)還很欠缺。
因此，如何提高我國(guó)對(duì)大數(shù)據(jù)資源的存儲(chǔ)和整合能力，實(shí)現(xiàn)從大數(shù)據(jù)中發(fā)現(xiàn)、挖掘出有價(jià)值的信息和知識(shí)，是當(dāng)前我國(guó)大數(shù)據(jù)存儲(chǔ)和處理所面臨的挑戰(zhàn)。
處理大數(shù)據(jù)存儲(chǔ)挑戰(zhàn)的建議
通過(guò)隔離管理大數(shù)據(jù)存儲(chǔ)
如果您在您的企業(yè)中有多個(gè)存儲(chǔ)箱，那么將數(shù)據(jù)庫(kù)、線交易處理(OLTP)和微軟Exchange應(yīng)用到特定的存儲(chǔ)系統(tǒng)絕對(duì)是一個(gè)好主意。而專其它存儲(chǔ)系統(tǒng)則用于大數(shù)據(jù)應(yīng)用，如門(mén)戶網(wǎng)站，在線流媒體應(yīng)用，等等。
如果您的企業(yè)負(fù)擔(dān)不起分隔的存儲(chǔ)系統(tǒng)，將特定的前端存儲(chǔ)端口到數(shù)據(jù)庫(kù)，OLTP，等等;致力于大數(shù)據(jù)應(yīng)用到其他端口。背后的基本原理是使用專用端口，而大數(shù)據(jù)流量是以千字節(jié)或兆字節(jié)衡量，OLTP應(yīng)用流量是以每秒的輸入/輸出操作(IOPS)衡量，因?yàn)閿?shù)據(jù)塊的大小是比大數(shù)據(jù)更大而比OLTP應(yīng)用程序更小。OLTP應(yīng)用程序是CPU密集型的，而大數(shù)據(jù)應(yīng)用程序更多的使用前端端口。因此，更多的端口可以專注于大數(shù)據(jù)應(yīng)用。
專業(yè)的大數(shù)據(jù)存儲(chǔ)管理
如今，很多公司提供兼容數(shù)據(jù)管理的存儲(chǔ)系統(tǒng)。你應(yīng)該在尋找你的大數(shù)據(jù)存儲(chǔ)管理解決方案時(shí)評(píng)估這些公司。如EMCIsilon的集群存儲(chǔ)系統(tǒng)對(duì)于大數(shù)據(jù)存儲(chǔ)管理是一個(gè)更好的選擇，因?yàn)樵谝粋€(gè)單一的文件系統(tǒng)中大數(shù)據(jù)能增長(zhǎng)到多字節(jié)的數(shù)據(jù)。
大數(shù)據(jù)分析
除了存儲(chǔ)，大數(shù)據(jù)管理的另一項(xiàng)大的挑戰(zhàn)是數(shù)據(jù)分析。一般的數(shù)據(jù)分析應(yīng)用程序無(wú)法很好的處理大數(shù)據(jù)，畢竟涉及到大量的數(shù)據(jù)。
目前，諸如EMCGreenplum這樣的公司就在采用專門(mén)針對(duì)大數(shù)據(jù)的管理和分析的工具。這些應(yīng)用程序運(yùn)行在集群存儲(chǔ)系統(tǒng)上，緩解大數(shù)據(jù)的管理。建議選擇應(yīng)用程序可同時(shí)工作在群集存儲(chǔ)系統(tǒng)，并迅速有效地分析數(shù)據(jù)?？焖偎饕?，確保元數(shù)據(jù)始終駐留在固態(tài)硬盤(pán)(SSD)，如果存儲(chǔ)箱為您提供了這樣的選擇的話。
管理大數(shù)據(jù)的另一個(gè)需要重點(diǎn)考慮的是未來(lái)的數(shù)據(jù)增長(zhǎng)。你的大數(shù)據(jù)存儲(chǔ)管理系統(tǒng)應(yīng)該是可擴(kuò)展的，足以滿足未來(lái)的存儲(chǔ)需求。
大數(shù)據(jù)的存儲(chǔ)管理和云計(jì)算
許多公司正在尋找云計(jì)算服務(wù)來(lái)進(jìn)行存儲(chǔ)和管理海量數(shù)據(jù)。而選擇云服務(wù)來(lái)大型數(shù)據(jù)存儲(chǔ)管理，可以確保數(shù)據(jù)的所有權(quán)仍然是你的。
你應(yīng)該有權(quán)選擇將您的數(shù)據(jù)移入或移出云服務(wù)，而不被供應(yīng)商鎖定。其他重要的考慮因素是供應(yīng)商的數(shù)據(jù)安全指南。
a&s傳媒是全球知名展覽公司法蘭克福展覽集團(tuán)旗下的專業(yè)媒體平臺(tái)，自1994年品牌成立以來(lái)，一直專注于安全&自動(dòng)化產(chǎn)業(yè)前沿產(chǎn)品、技術(shù)及市場(chǎng)趨勢(shì)的專業(yè)媒體傳播和品牌服務(wù)。從安全管理到產(chǎn)業(yè)數(shù)字化，a&s傳媒擁有首屈一指的國(guó)際行業(yè)展覽會(huì)資源以及豐富的媒體經(jīng)驗(yàn)，提供媒體、活動(dòng)、展會(huì)等整合營(yíng)銷服務(wù)。
粵公網(wǎng)安備 44030402000264號(hào)
