迄今為止,Hadoop和大數(shù)據(jù)實(shí)際上是同義詞。然而隨著大數(shù)據(jù)的炒作不斷升溫,出現(xiàn)了很多對Hadoop如何應(yīng)用于大數(shù)據(jù)的誤解。
Hadoop是一種用于存儲和分析大型數(shù)據(jù)集開源軟件框架,可處理分布在多個(gè)現(xiàn)有服務(wù)器中的數(shù)據(jù)。Hadoop適合處理來自手機(jī)、電子郵件、社交媒體、傳感器網(wǎng)絡(luò)和其它不同渠道的多樣化、大負(fù)荷的數(shù)據(jù),因此通常被認(rèn)為是一種大數(shù)據(jù)操作系統(tǒng)。而這正是第一個(gè)誤解的來源:
1、Hadoop是一個(gè)完整的解決方案。
事實(shí)并非如此。無論你把它稱為“框架”或“平臺”都可以,只是不能認(rèn)為Hadoop可以解決大數(shù)據(jù)方面的所有問題。
“市場上沒有標(biāo)準(zhǔn)的Hadoop產(chǎn)品,”《太大而無法忽略:大數(shù)據(jù)的商業(yè)案例》一書的作者菲爾·西蒙說:“這不像別的東西,你可以從IBM或SAP那里,得到一個(gè)標(biāo)準(zhǔn)的數(shù)據(jù)庫。”
然而西蒙不認(rèn)為這是一個(gè)長期的問題。首先,由于Hadoop是開源項(xiàng)目,許多其他Hadoop相關(guān)的項(xiàng)目,如Cassandra和HBase,都可以滿足特定的需求。HBase提供的分布式數(shù)據(jù)庫,支持大數(shù)據(jù)表的結(jié)構(gòu)化數(shù)據(jù)存儲。
此外,正像紅帽、IBM和其他廠商將Linux打包成各種用戶友好的產(chǎn)品一樣,有很多大數(shù)據(jù)方面的創(chuàng)業(yè)公司,正在對Hadoop做同樣的事情。所以,雖然Hadoop本身不是一個(gè)完整的解決方案,大多數(shù)企業(yè)實(shí)際上還是會在比較完整的大數(shù)據(jù)解決方案中遇到它。
2、Hadoop是一種數(shù)據(jù)庫。
Hadoop是經(jīng)常被當(dāng)作數(shù)據(jù)庫,但事實(shí)并非如此。Damballa安保公司的一名軟件工程師,MarshallBockrath-Vandegrift說:“Hadoop核心中沒有任何類似于查詢或索引的核心平臺。”Damballa公司利用Hadoop來分析實(shí)時(shí)的安全風(fēng)險(xiǎn)。
“我們使用HBase來幫助我們的風(fēng)險(xiǎn)分析師針對被動DNS數(shù)據(jù)運(yùn)行實(shí)時(shí)查詢。HBase和其他實(shí)時(shí)技術(shù)不僅與Hadoop是互補(bǔ)的,而且多數(shù)依賴Hadoop核心的分布式存儲技術(shù)(HDFS)來實(shí)現(xiàn)高性能的分布式數(shù)據(jù)集的訪問。”他補(bǔ)充說。
BloomReach數(shù)據(jù)營銷分析公司的科學(xué)家PrateekGupta也表示:“Hadoop不是為替代數(shù)據(jù)庫系統(tǒng)而生的,但卻可以用來建立數(shù)據(jù)庫系統(tǒng)。”
3、企業(yè)級Hadoop應(yīng)用過于冒險(xiǎn)。
許多企業(yè)擔(dān)心Hadoop太新,未經(jīng)考驗(yàn),不適合企業(yè)級應(yīng)用。沒有什么想法比這更錯(cuò)誤的了。別忘了,Hadoop是基于谷歌文件系統(tǒng)的分布式存儲平臺和運(yùn)行于該文件系統(tǒng)上的GoogleMapReduce數(shù)據(jù)分析工具建立的。雅虎在Hadoop上投入了資金和精力,并于2008年推出其第一個(gè)大型Hadoop應(yīng)用,一種搜索“站點(diǎn)地圖”,可對所有已知的網(wǎng)頁和相應(yīng)的元數(shù)據(jù)進(jìn)行索引,從而完成對這些頁面的搜索。
現(xiàn)在,Hadoop被包括Netflix、Twitter和eBay等公司所采用,包括微軟、IBM和甲骨文這樣的公司都有Hadoop工具出售。目前,將Hadoop稱為“成熟”的技術(shù)還為時(shí)尚早,這一點(diǎn)與任何大數(shù)據(jù)平臺的情況類似,然而它確實(shí)已經(jīng)得到了大型企業(yè)的采納和驗(yàn)證。
這不意味著它是一種沒有風(fēng)險(xiǎn)的平臺,安全問題本身就是一個(gè)比較棘手的問題。但企業(yè)遠(yuǎn)不該就因此被Hadoop平臺的年輕而嚇跑。
4、要使用Hadoop,就得請一堆程序員。
取決于你要做的事情,這個(gè)說法或許是對的。如果你計(jì)劃開發(fā)優(yōu)秀的下一代Hadoop大數(shù)據(jù)套件,可能需要專業(yè)的Java和MapReduce編程人員。反過來,如果你愿意利用他人的成就,編程就不是一個(gè)問題。數(shù)據(jù)集成供應(yīng)商Syncsort的建議分析師們利用Hadoop兼容的數(shù)據(jù)集成工具來運(yùn)行高級查詢,這樣做無需任何編碼工作。
大多數(shù)數(shù)據(jù)集成工具都有圖形化界面,可以屏蔽MapReduce編程的復(fù)雜性,很多還帶有預(yù)置的模板。此外,包括AlpineDataLabs、Continuuity和Hortonworks在內(nèi)的創(chuàng)業(yè)型公司,還提供可以簡化大數(shù)據(jù)和Hadoop應(yīng)用的工具。
5、Hadoop不適合中小企業(yè)。
許多中小企業(yè)擔(dān)心會被“大數(shù)據(jù)”的趨勢拒之門外。IBM、甲骨文等大型廠商自然傾向于兜售大而昂貴的解決方案。這并不意味著市場上沒有適合中小企業(yè)的相關(guān)工具。
云計(jì)算正在迅速推動一些尖端技術(shù)的大眾化應(yīng)用。“云計(jì)算正將資本支出轉(zhuǎn)化為運(yùn)營成本,”《大數(shù)據(jù)》的作者菲爾·西蒙指出。“你可以和Netflix利用相同的云服務(wù)。同樣的事情也開始發(fā)生在大數(shù)據(jù)領(lǐng)域,一個(gè)只有五個(gè)員工的企業(yè),照樣可以使用Kaggle。”
Kaggle稱自己為“在數(shù)據(jù)問題和數(shù)據(jù)方案間搭建橋梁的市場。”例如,創(chuàng)業(yè)公司Jetpac以5000美元懸賞一種算法,以找出最有吸引力的度假照片。多數(shù)度假照并不好,而從中篩選是一個(gè)繁瑣,耗時(shí)的過程。
Jetpac讓人手工評選出了30000張照片,并且尋求一種能夠與人工方式類似,只是通過分析元數(shù)據(jù)(照片大小、標(biāo)題,描述信息)來進(jìn)行排序的算法。如果該公司自行開發(fā)這一算法,花的錢絕對不止5000美元。而且他們只能得到一種方案,而不是從各種方案中優(yōu)選。Jetpac的圖像處理工具,最終幫助其獲得了240萬美元的風(fēng)投資金。
6、Hadoop比較便宜。
這個(gè)誤解對任何開放源代碼的軟件都適用。省下最初的采購成本,并不意味著你一定會省錢。例如,云計(jì)算的問題之一就是,要在亞馬遜平臺上建立一個(gè)科研項(xiàng)目非常容易,以致于很多人都在AWS建立了自己的項(xiàng)目,在持續(xù)付費(fèi)的同時(shí),卻忘了這些項(xiàng)目本身。
虛擬服務(wù)器的盲目擴(kuò)張,已經(jīng)使物理服務(wù)器的增加相形見絀。雖然Hadoop可以幫助你存儲和分析數(shù)據(jù),但你又如何將老的數(shù)據(jù)導(dǎo)入到新的系統(tǒng)中?如何實(shí)現(xiàn)數(shù)據(jù)的可視化?如何分享數(shù)據(jù)?對于這些會更多被大家分享的數(shù)據(jù),你又如何去保護(hù)它?
Hadoop實(shí)際上一種東拼西湊的解決方案。你可以從Cloudera這樣的公司獲得完整的企業(yè)級解決方案,也可以著手建立自己高度定制化的解決方案。無論你選擇的路線如何,都要認(rèn)真做好預(yù)算,因?yàn)槊赓M(fèi)軟件從來都不是真正免費(fèi)的。
核心關(guān)注:拓步ERP系統(tǒng)平臺是覆蓋了眾多的業(yè)務(wù)領(lǐng)域、行業(yè)應(yīng)用,蘊(yùn)涵了豐富的ERP管理思想,集成了ERP軟件業(yè)務(wù)管理理念,功能涉及供應(yīng)鏈、成本、制造、CRM、HR等眾多業(yè)務(wù)領(lǐng)域的管理,全面涵蓋了企業(yè)關(guān)注ERP管理系統(tǒng)的核心領(lǐng)域,是眾多中小企業(yè)信息化建設(shè)首選的ERP管理軟件信賴品牌。
轉(zhuǎn)載請注明出處:拓步ERP資訊網(wǎng)http://www.ezxoed.cn/
本文標(biāo)題:有關(guān)Hadoop的六大誤解