“大數據”是近年來(lái)IT行業(yè)的熱詞，大數據在各個(gè)行業(yè)的應用逐漸變得廣泛起來(lái)，如2014年的兩會(huì )，我們聽(tīng)得最多的也是大數據分析，那么，什么是大數據呢，大數據時(shí)代怎么理解呢，一起來(lái)看看吧。 ?
互聯(lián)網(wǎng)時(shí)代的大數據 ?
大數據的定義。大數據，又稱(chēng)巨量資料，指的是所涉及的數據資料量規模巨大到無(wú)法通過(guò)人腦甚至主流軟件工具，在合理時(shí)間內達到擷取、管理、處理、并整理成為幫助企業(yè)經(jīng)營(yíng)決策更積極目的的資訊。 ?
大數據的特點(diǎn)。數據量大、數據種類(lèi)多、 要求實(shí)時(shí)性強、數據所蘊藏的價(jià)值大。在各行各業(yè)均存在大數據，但是眾多的信息和咨詢(xún)是紛繁復雜的，我們需要搜索、處理、分析、歸納、總結其深層次的規律。
大數據的采集?？茖W(xué)技術(shù)及互聯(lián)網(wǎng)的發(fā)展，推動(dòng)著(zhù)大數據時(shí)代的來(lái)臨，各行各業(yè)每天都在產(chǎn)生數量巨大的數據碎片，數據計量單位已從從Byte、KB、MB、GB、TB發(fā)展到PB、EB、ZB、YB甚至BB、NB、DB來(lái)衡量。大數據時(shí)代數據的采集也不再是技術(shù)問(wèn)題，只是面對如此眾多的數據，我們怎樣才能找到其內在規律。 ?
大數據的挖掘和處理。大數據必然無(wú)法用人腦來(lái)推算、估測，或者用單臺的計算機進(jìn)行處理，必須采用分布式計算架構，依托云計算的分布式處理、分布式數據庫、云存儲和虛擬化技術(shù)，因此，大數據的挖掘和處理必須用到云技術(shù)。 ?
大數據的應用。大數據可應用于各行各業(yè)，將人們收集到的龐大數據進(jìn)行分析整理，實(shí)現資訊的有效利用。舉個(gè)本專(zhuān)業(yè)的例子，比如在奶?；驅用鎸ふ遗c產(chǎn)奶量相關(guān)的主效基因，我們可以首先對奶牛全基因組進(jìn)行掃描，盡管我們獲得了所有表型信息和基因信息，但是由于數據量龐大，這就需要采用大數據技術(shù)，進(jìn)行分析比對，挖掘主效基因。例子還有很多。 ?
大數據的意義和前景?？偟膩?lái)說(shuō)，大數據是對大量、動(dòng)態(tài)、能持續的數據，通過(guò)運用新系統、新工具、新模型的挖掘，從而獲得具有洞察力和新價(jià)值的東西。以前，面對龐大的數據，我們可能會(huì )一葉障目、可見(jiàn)一斑，因此不能了解到事物的真正本質(zhì)，從而在科學(xué)工作中得到錯誤的推斷，而大數據時(shí)代的來(lái)臨，一切真相將會(huì )展現在我么面前。 ?
什么是大數據 ?
從技術(shù)上看，大數據[1]與云計算的關(guān)系就像一枚硬幣的正反面一樣密不可分。大數據必然無(wú)法用單臺的計算機進(jìn)行處理，必須采用分布式計算架構。它的特色在于對海量數據的挖掘，但它必須依托云計算的分布式處理、分布式數據庫、云存儲和/或虛擬化技術(shù)。(在維克托·邁爾-舍恩伯格及肯尼斯·庫克耶編寫(xiě)的《大數據時(shí)代[4]》中大數據指不用隨機分析法(抽樣調查)這樣的捷徑，而采用所有數據的方法)大數據的4V特點(diǎn)：Volume(大量)、Velocity(高速)、Variety(多樣)、Value(價(jià)值)。 ?
早在1980年，著(zhù)名未來(lái)學(xué)家阿爾文·托夫勒便在《第三次浪潮》一書(shū)中，將大數據熱情地贊頌為第三次浪潮的華彩樂(lè )章。不過(guò)，大約從2009年開(kāi)始，大數據才成為互聯(lián)網(wǎng)信息技術(shù)行業(yè)的流行詞匯。美國互聯(lián)網(wǎng)數據中心指出，互聯(lián)網(wǎng)上的數據每年將增長(cháng)50%，每?jì)赡瓯銓⒎环?，而目前世界?0%以上的數據是最近幾年才產(chǎn)生的。此外，數據又并非單純指人們在互聯(lián)網(wǎng)上發(fā)布的信息，全世界的工業(yè)設備、汽車(chē)、電表上有著(zhù)無(wú)數的數碼傳感器，隨時(shí)測量和傳遞著(zhù)有關(guān)位置、運動(dòng)、震動(dòng)、溫度、濕度乃至空氣中化學(xué)物質(zhì)的變化，也產(chǎn)生了海量的數據信息。 ?
大數據的意義是由人類(lèi)日益普及的網(wǎng)絡(luò )行為所伴生的，受到相關(guān)*、企業(yè)采集的，蘊含數據生產(chǎn)者真實(shí)意圖、喜好的，非傳統結構和意義的數據 。2013年5月10日，阿里巴巴集團董事局主席馬云在淘寶十周年晚會(huì )上，將卸任阿里集團CEO的職位，并在晚會(huì )上做卸任前的演講，馬云說(shuō)，大家還沒(méi)搞清PC時(shí)代的時(shí)候，移動(dòng)互聯(lián)網(wǎng)來(lái)了，還沒(méi)搞清移動(dòng)互聯(lián)網(wǎng)的時(shí)候，大數據時(shí)代來(lái)了。 ?
大數據的常用公式 ?
跨粒度計算(In-DatabaseComputing) ?
Z-Suite支持各種常見(jiàn)的匯總，還支持幾乎全部的專(zhuān)業(yè)統計函數。得益于跨粒度計算技術(shù)，Z-Suite數據分析引擎將找尋出*化的計算方案，繼而把所有開(kāi)銷(xiāo)較大的、昂貴的計算都移動(dòng)到數據存儲的地方直接計算，我們稱(chēng)之為庫內計算(In-Database)。這一技術(shù)大大減少了數據移動(dòng)，降低了通訊負擔，保證了高性能數據分析。 ?
并行計算(MPP Computing) ?
Z-Suite是基于MPP架構的商業(yè)智能平臺，她能夠把計算分布到多個(gè)計算節點(diǎn)，再在指定節點(diǎn)將計算結果匯總輸出。Z-Suite能夠充分利用各種計算和存儲資源，不管是服務(wù)器還是普通的PC，她對網(wǎng)絡(luò )條件也沒(méi)有嚴苛的要求。作為橫向擴展的大數據平臺，Z-Suite能夠充分發(fā)揮各個(gè)節點(diǎn)的計算能力，輕松實(shí)現針對TB/PB級數據分析的秒級響應。
?
列存儲 (Column-Based) ?
Z-Suite是列存儲的?；诹写鎯Φ臄祿?，不讀取無(wú)關(guān)數據，能降低讀寫(xiě)開(kāi)銷(xiāo)，同時(shí)提高I/O 的效率，從而大大提高查詢(xún)性能。另外，列存儲能夠更好地壓縮數據，一般壓縮比在5 -10倍之間，這樣一來(lái)，數據占有空間降低到傳統存儲的1/5到1/10 。良好的數據壓縮技術(shù)，節省了存儲設備和內存的開(kāi)銷(xiāo)，卻大大了提升計算性能。 ?
內存計算 ?
得益于列存儲技術(shù)和并行計算技術(shù)，Z-Suite能夠大大壓縮數據，并同時(shí)利用多個(gè)節點(diǎn)的計算能力和內存容量。一般地，內存訪(fǎng)問(wèn)速度比磁盤(pán)訪(fǎng)問(wèn)速度要快幾百倍甚至上千倍。通過(guò)內存計算，CPU直接從內存而非磁盤(pán)上讀取數據并對數據進(jìn)行計算。內存計算是對傳統數據處理方式的一種加速，是實(shí)現大數據分析的關(guān)鍵應用技術(shù)。 ?
分析其含義 ?
首先簡(jiǎn)介一下大數據能夠干什么：首先舉個(gè)例子，大家都喜歡上淘寶買(mǎi)東西，淘寶網(wǎng)站會(huì )記錄每個(gè)人在它網(wǎng)站上都買(mǎi)了什么，瀏覽了什么。。。等等一系列信息。然后分析什么產(chǎn)品賣(mài)的火爆，哪個(gè)客戶(hù)喜歡買(mǎi)什么，那個(gè)商家盈利高等等，挖掘一系列有潛在價(jià)值 ?
其次分析一下大數據的含義，大數據既然含有數據這個(gè)詞匯，就表明他是和數據相關(guān)的，而數據無(wú)非就是如何存儲數據和如何使用存儲的數據這兩個(gè)問(wèn)題 ?
首先說(shuō)一下如何存儲：傳統的數據都是保存在關(guān)系型數據庫，比如oracle和mysql等，這些數據庫存儲空間是有限的，并且數據庫的東西多了之后，查詢(xún)存取的速度會(huì )變得很慢，根本做數據分析等。此外傳統數據都安裝在一臺服務(wù)器上，一旦服務(wù)器宕機了，數據庫的內容就全部銷(xiāo)毀了，無(wú)法恢復 ?
大數據的含義就是說(shuō)數據量很大，數據量達到pb級別，大公司也許需要幾千臺服務(wù)器才能存儲，用的是分布式存儲技術(shù)。所謂的分布式存儲技術(shù)是指，同樣一份文件，分別存儲在3臺不同的服務(wù)器上，假設其中服務(wù)器掛機了，還有另外兩臺服務(wù)器工作，并且迅速備份一份文件，始終保證相同文件有3臺服務(wù)器提供工作 ?
大數據的使用主要是指根據公司需求，對現有的數據進(jìn)行挖掘分析。而挖掘分析做的最多的就是查詢(xún)數據，大數據的查詢(xún)速度是非?？斓?，因為底層用的是類(lèi)似于lucene技術(shù)。但是大數據不適合修改存儲的文件。因為大數據存儲數據是以文件的形式存儲的，如果想修改數據，它會(huì )把原先的文件刪掉，然后重新寫(xiě)入。 ?
