無(wú)論是在構建大數據的應用程序，還是僅僅只想從開(kāi)發(fā)的移動(dòng)應用中得到一點(diǎn)點(diǎn)啟發(fā)，程序員現在比以往任何時(shí)候都需要數據分析工具。這絕對是一個(gè)好東西，所以很多公司從程序員的需求和技能出發(fā)，構建了一些數據分析工具。GigaOm的記者Derrick Harris列舉了幾個(gè)工具，以下是小編為你整理的大數據分析怎么自學(xué) ?

BitDeli：BitDeli是今年11月份在舊金山成立的一家初創(chuàng )公司。它能衡量出任何使用Python腳本的應用程序的指標，聯(lián)合創(chuàng )始人兼CEO Ville Tuulos告訴Derrick，腳本可以很簡(jiǎn)單，也可以很復雜——甚至未來(lái)可以延伸到機器學(xué)習。不過(guò)和“重量級選手”Hadoop相比，BitDeli自認為是一個(gè)輕量級的Ruby。 ?

Continuuity：Continuuity是前Yahoo首席云架構師Todd Papaioannou和Facebook HBase的工程師Jonathan Gray的心血結晶，Continuuity想讓所有的公司都能像Yahoo、Facebook一樣運營(yíng)。該團隊創(chuàng )建了一個(gè)大數據工具，它可以簡(jiǎn)化Hadoop以及HBase集群的復雜性，而且包含一系列開(kāi)發(fā)套件，旨在幫助程序員開(kāi)發(fā)大數據應用，該平臺采用Hadoop技術(shù)，允許開(kāi)發(fā)者在防火墻內外對大數據應用軟件進(jìn)行部署、擴展和管理。公司聯(lián)合創(chuàng )始人兼首席執行官Todd Papaioannou表示，作為一家初創(chuàng )企業(yè)，Continuuity正在試圖掀起下一波大數據應用軟件的浪潮，公司所提供的工具能夠大大提高處于開(kāi)發(fā)狀態(tài)的軟件不同部分與階段的擴展性。

Flurry：Flurry是移動(dòng)應用統計分析領(lǐng)域里的標桿，正因為在行業(yè)內獨特的優(yōu)勢，它每年的營(yíng)收高達一億美元。Flurry擁有非常全面的功能，不僅僅只是幫助開(kāi)發(fā)者構建移動(dòng)應用，它還幫助開(kāi)發(fā)者分析所有的數據，進(jìn)而產(chǎn)生更大的效益。其實(shí)數據也支撐了該公司的廣告網(wǎng)絡(luò )，他們通過(guò)數據分析可以幫助開(kāi)發(fā)者推送準確的廣告到需要的用戶(hù)面前。不過(guò)單純從移動(dòng)應用的數據統計功能來(lái)看，Flurry絕對是處于領(lǐng)先地位。其功能模塊設置合理，分析維度全面，分析流程也易于理解。 ?

為什么你應該關(guān)心? ?

Drill和Dremel相比Hadoop更好的分析即席查詢(xún)。Hadoop僅僅提供批量的數據處理工作流，這些也是缺點(diǎn)。 ?

Hadoop生態(tài)圈使得MapReduce作為一個(gè)很親切有利的工具應用于廣告分析。從Sawzall到Pig到Hive,很多接口層應用的建立使得Hadoop更為友好，更接近業(yè)務(wù)，但是，像SQL體系，這些抽象層忽略一個(gè)重要的事實(shí)–MapReduce(或Hadoop)是為了系統化數據處理流程而存在的。如果你不擔心跑的哪些任務(wù)? 如果你不關(guān)心這些產(chǎn)生的問(wèn)題和去尋求答案，那就保持沉默,保持洞察力?！凹聪剿鳌?— 如果你已經(jīng)承擔數據處理，你這么優(yōu)化處理的速度?你不應該運行一個(gè)新的任務(wù)或者是等待，有時(shí)候考慮的時(shí)間還不如在問(wèn)個(gè)新的問(wèn)題。

?

在堆對比的工作流基礎的方法論中，很多業(yè)務(wù)驅動(dòng)的BI和分析查詢(xún)都是很基本的和臨時(shí)交互的，低延時(shí)分析。寫(xiě)Map/Reduce工作流在很多業(yè)務(wù)分析中是被禁止的。等待幾分鐘等Jobs啟動(dòng)，在等幾個(gè)小時(shí)等執行完成這些無(wú)溢于數據的交互體驗，這些對比，和縮放比較最終產(chǎn)生了基本的新的視野。一些數據科學(xué)家早已經(jīng)推測Drill和Dremel將優(yōu)于Hadoop，并達成共識，也有一些還在考慮中，還有少部分的狂熱者立即擁抱變化，但是這些是主要的優(yōu)點(diǎn)在更面向查詢(xún)的和低延時(shí)的情況下。在Infochimps我們喜歡使用Elasticsearch全文索引引擎來(lái)實(shí)現數據庫的數據搜索，但是真的在大數據處理中我們認為Drill將成為主流。 ?

R是開(kāi)源的強大的統計編程語(yǔ)言。自1997年以來(lái)，超過(guò)200萬(wàn)的統計分析師使用R。這是一門(mén)誕生自貝爾實(shí)驗室的在統計計算領(lǐng)域的現代版的S語(yǔ)言并迅速地成為了新的標準的統計語(yǔ)言。R使得復雜的數據科學(xué)變得更廉價(jià)。R是SAS和SPASS的重要的領(lǐng)頭者，并作為*秀的統計師的重要工具。 ?

Yarn(分布式資源管理器) ?

YARN是下一代MapReduce，即MRv2，是在*代MapReduce基礎上演變而來(lái)的，主要是為了解決原始Hadoop擴展性較差，不支持多計算框架而提出的。 ?

Yarn是下一代 Hadoop 計算平臺，yarn是一個(gè)通用的運行時(shí)框架，用戶(hù)可以編寫(xiě)自己的計算框架，在該運行環(huán)境中運行。 ?

用于自己編寫(xiě)的框架作為客戶(hù)端的一個(gè)lib，在運用提交作業(yè)時(shí)打包即可。該框架為提供了以下幾個(gè)組件： ?

- 資源管理：包括應用程序管理和機器資源管理 ?

- 資源雙層調度 ?

- 容錯性：各個(gè)組件均有考慮容錯性 ?

- 擴展性：可擴展到上萬(wàn)個(gè)節點(diǎn) ?

Mesos(分布式資源管理器) ?

Mesos誕生于UC Berkeley的一個(gè)研究項目，現已成為Apache項目，當前有一些公司使用Mesos管理集群資源，比如Twitter。 ?

與yarn類(lèi)似，Mesos是一個(gè)資源統一管理和調度的平臺，同樣支持比如MR、steaming等多種運算框架。 ?

Tachyon(分布式內存文件系統) ?

Tachyon(/'t?ki:??n/ 意為超光速粒子)是以?xún)却鏋橹行牡姆植际轿募到y，擁有高性能和容錯能力， ?

能夠為集群框架(如Spark、MapReduce)提供可靠的內存級速度的文件共享服務(wù)。 ?

Tachyon誕生于UC Berkeley的AMPLab。 ?