大數(shù)據(jù)是當(dāng)今科技行業(yè)發(fā)展速度最快的領(lǐng)域之一大數(shù)據(jù)具有前所未有的大量化、快速化和多樣化三大特點(diǎn),這些是許多新技術(shù)背后的驅(qū)動(dòng)力,這些技術(shù)可幫助企業(yè)處理大數(shù)據(jù)帶來的多種新問題
在諸多的新興解決方案中,Hadoop和MapReduce被視為兩種大有希望的方法,可高效管理和分析大數(shù)據(jù)。但目前針對(duì)MapReduce應(yīng)用的運(yùn)行時(shí)引擎還無法提供足夠功能來滿足食業(yè)希單在生產(chǎn)環(huán)境中部署MapReduce應(yīng)用的實(shí)際需求。
對(duì)企業(yè)IT部門來說,先進(jìn)的運(yùn)行時(shí)引擎應(yīng)該是這樣一種管理工具:它可以住滿足高標(biāo)準(zhǔn)服務(wù)水平協(xié)議( SLA)的同時(shí),支持企業(yè)里的各業(yè)務(wù)部門。這類管理工具應(yīng)該能夠支持混合類型的工作負(fù)載,包括MapReduce應(yīng)用及業(yè)務(wù)部門在共享式網(wǎng)格上智能化提交的其他應(yīng)用。
此外,如今的IT部門正在經(jīng)歷重大轉(zhuǎn)變?cè)谠S多情況下,IT部門不再只是個(gè)成本中心,相反,它被視為支持企業(yè)里各業(yè)務(wù)部門的服務(wù)提供者預(yù)算有限、工作負(fù)載需求加大,使得IT部門面臨巨大的壓力,必須進(jìn)一步允分利用現(xiàn)有的基礎(chǔ)架構(gòu),最大限度地提高總的資源利用率
為了支持MapReduce應(yīng)用等新型應(yīng)用,IT部門迫切需要一種共享式服務(wù)運(yùn)行時(shí)平臺(tái)以獲得更好的性能、更高的資源利用率、自動(dòng)監(jiān)控和診斷功能,同時(shí)也需要IT基礎(chǔ)架構(gòu)能提供更高級(jí)的應(yīng)用生命周期支持
何謂共享式服務(wù)模型?
共享式服務(wù)模型是指這樣一種基礎(chǔ)架構(gòu)平臺(tái):它允許多個(gè)應(yīng)用(無論其類型和要求是什么)能夠在共享式基礎(chǔ)架構(gòu)上并行執(zhí)行,共享式服務(wù)模型常常由一種先進(jìn)的應(yīng)用調(diào)度和資源管理引擎來管理,為它所支持的企業(yè)里的多個(gè)業(yè)務(wù)部門提供有保障的服務(wù)。
共享式服務(wù)IT模型提供以下幾個(gè)好處:少花錢多辦事、迅速獲得基礎(chǔ)架構(gòu)方面的投資回報(bào)、提供更好的可管理性、有更好的可擴(kuò)展性和靈活性以支持不斷變化的應(yīng)用需求、利用收費(fèi)政策,讓IT部門的角色從成本中心轉(zhuǎn)變成盈利中心。
現(xiàn)有的Hadoop MapReduce運(yùn)行時(shí)引擎面臨的挑戰(zhàn)
遺憾的是,目前MapReduce運(yùn)行時(shí)引擎的Hadoop實(shí)現(xiàn)無法提供上述的共享式服務(wù)功能,這歸因于Hadoop作業(yè)跟蹤器(HadoopJobTracker)的基本架構(gòu)設(shè)計(jì)-Hadoop作業(yè)跟蹤器是一個(gè)管理層,在運(yùn)行期間為MapReduce作業(yè)提供必要的服務(wù)。
目前的Hadoop作業(yè)跟蹤器還無法把作業(yè)調(diào)度邏輯與資源管理邏輯分離開來,這直接導(dǎo)致了下列重大缺陷:
·缺少企業(yè)級(jí)能力。在任何一個(gè)時(shí)間,只有一個(gè)MapRedure應(yīng)用可以在集群上運(yùn)行。因而,資源變成了靜態(tài)的和用途單一的;而應(yīng)用也是串行執(zhí)行,而不是并行執(zhí)行,導(dǎo)致無法有效地利用資源、形成煙囪式的IT環(huán)境,限制了可擴(kuò)展性。
·作業(yè)跟蹤器成為單一故障點(diǎn)。如果作業(yè)跟蹤器出現(xiàn)故障,所有運(yùn)行中的作業(yè)都將停止。
很顯然,目前Hadoop作業(yè)跟蹤器能力有限,無法提供IT部門生產(chǎn)級(jí)環(huán)境中都暑MapReduce應(yīng)用所需的共享式服務(wù)功能。如何部署共享式服務(wù)模型?
企業(yè)應(yīng)該視不同的業(yè)務(wù)要求使用以下方法部署共享式服務(wù)模型:
1.“煙囪式共享模型”——為不同的業(yè)務(wù)部門提供有保障的資源。IT部門根據(jù)不同業(yè)務(wù)部門的特定需求,為它們提供有保障的資源業(yè)務(wù)部門向集中式IT部門請(qǐng)求一定數(shù)量的資源,專門供自己使用:然后,那些請(qǐng)求被定義為策略,加入到資源分配方案中。不同業(yè)務(wù)部門之間不共享資源,集中式IT部門負(fù)責(zé)管理資源分配,系統(tǒng)監(jiān)控和故障排除
2.“代理式共享模型”——企業(yè)內(nèi)部跨各職能領(lǐng)域的資源共享。企業(yè)內(nèi)部的不同職能部門共享一組通用的IT資源,資源共享策略根據(jù)不同業(yè)務(wù)部n的特定需求來予以定義,然后加入到資源分配方案中,不是為某個(gè)業(yè)務(wù)部門單獨(dú)分配靜態(tài)資源,而是通過動(dòng)態(tài)共享整個(gè)基礎(chǔ)架構(gòu),從而為用用戶提供有保障的資源。
核心關(guān)注:拓步ERP系統(tǒng)平臺(tái)是覆蓋了眾多的業(yè)務(wù)領(lǐng)域、行業(yè)應(yīng)用,蘊(yùn)涵了豐富的ERP管理思想,集成了ERP軟件業(yè)務(wù)管理理念,功能涉及供應(yīng)鏈、成本、制造、CRM、HR等眾多業(yè)務(wù)領(lǐng)域的管理,全面涵蓋了企業(yè)關(guān)注ERP管理系統(tǒng)的核心領(lǐng)域,是眾多中小企業(yè)信息化建設(shè)首選的ERP管理軟件信賴品牌。
轉(zhuǎn)載請(qǐng)注明出處:拓步ERP資訊網(wǎng)http://www.ezxoed.cn/
本文標(biāo)題:共享式服務(wù)應(yīng)對(duì)大數(shù)據(jù)挑戰(zhàn)
本文網(wǎng)址:http://www.ezxoed.cn/html/support/1112156006.html