4-2、固態(tài)硬盤工作過(guò)程
本小節(jié)我們要解決一個(gè)關(guān)鍵問(wèn)題:既然機(jī)械硬盤和固態(tài)硬盤從工作原理、制作工藝、技術(shù)規(guī)范等多個(gè)方面都完全不一樣,那為什么無(wú)論硬件層是使用機(jī)械硬盤還是固態(tài)硬盤操作系統(tǒng)卻都可以進(jìn)行識(shí)別,并在其上進(jìn)行數(shù)據(jù)讀寫呢?
這個(gè)問(wèn)題中,計(jì)算機(jī)系統(tǒng)不同層次對(duì)數(shù)據(jù)操作最小單位的定義不一致都還是一個(gè)小問(wèn)題:雖然機(jī)械硬盤上數(shù)據(jù)操作單元為512字節(jié)、固態(tài)硬盤上數(shù)據(jù)操作單元為4KB、操作系統(tǒng)層面定義的數(shù)據(jù)操作單元可能是1KB\2KB\4KB\8KB等等。但是只要這些層次上的文件起始地址都是固定的,則各層的地址對(duì)應(yīng)關(guān)系就可以找到的。也就是說(shuō)操作系統(tǒng)上的地址X可以映射到機(jī)械硬盤的地址Y又或者映射到固態(tài)硬盤的地址Z,只不過(guò)存儲(chǔ)小文件時(shí)的真實(shí)可用空間可能產(chǎn)生誤差。
但是這里有一個(gè)固態(tài)硬盤上的操作規(guī)則會(huì)引起比較大的問(wèn)題,這就是固態(tài)硬盤對(duì)數(shù)據(jù)的刪除操作:固態(tài)硬盤在進(jìn)行數(shù)據(jù)刪除時(shí)是按照“塊”單位進(jìn)行的,一個(gè)“塊”包含128個(gè)或者256個(gè)Flash Page。當(dāng)進(jìn)行刪除操作時(shí),SSD主控芯片會(huì)首先將這個(gè)塊中還“有效”的數(shù)據(jù)移動(dòng)到屬于其它“塊”的另一些Flash Page中,然后再進(jìn)行“無(wú)效”數(shù)據(jù)的清理。也就是說(shuō)以前操作系統(tǒng)通過(guò)地址X的可以讀取的文件數(shù)據(jù),現(xiàn)在通過(guò)地址X就可能讀取不到了。那么這些固態(tài)硬盤的底層操作過(guò)程對(duì)于操作系統(tǒng)來(lái)說(shuō)應(yīng)該是完全透明的,否則操作系統(tǒng)就不能將固態(tài)硬盤當(dāng)成機(jī)械硬盤進(jìn)行操作。
這就是說(shuō),對(duì)于操作系統(tǒng)來(lái)說(shuō)以前使用地址X進(jìn)行存儲(chǔ)的文件,無(wú)論什么是否都能夠再通過(guò)地址X讀取到。這里提到了兩種地址:一種是操作系統(tǒng)讀寫文件的地址——稱為邏輯地址;另一種是固態(tài)硬盤進(jìn)行文件操作的真實(shí)地址——稱為物理地址。
FTL(Flash translation layer)閃存地址轉(zhuǎn)換是SSD固態(tài)硬盤控制芯片需要負(fù)責(zé)的主要工作之一,F(xiàn)TL的主要作用就是記錄物理地址和邏輯地址的轉(zhuǎn)換關(guān)系,F(xiàn)TL的核心是一張物理地址和邏輯地址的映射表,這張映射表存儲(chǔ)在固態(tài)硬盤一個(gè)專門的SRAM/DRAM芯片上或者若干獨(dú)立的NAND Flash Page 上。正是SSD固態(tài)硬盤的控制芯片有這樣一個(gè)轉(zhuǎn)換過(guò)程,操作系統(tǒng)才能將固態(tài)硬盤當(dāng)做機(jī)械硬盤進(jìn)行操作,并且SSD固態(tài)硬盤主控制芯片上FTL算法的性能直接影響著整個(gè)SSD固態(tài)硬盤的性能。請(qǐng)看下圖的FTL轉(zhuǎn)換示例:
-
操作系統(tǒng)對(duì)磁盤讀寫操作的最小單位為“簇”(EXT文件系統(tǒng)稱為block size)。以NTFS文件系統(tǒng)為例,默認(rèn)的“簇”大小為4K(當(dāng)然您可以選擇更大的“簇”大小,這樣會(huì)浪費(fèi)更多的存儲(chǔ)空間,但是可以加快讀寫性能)。即使一個(gè)文件的大小不到4K,也會(huì)占用一個(gè)“簇”的大小。如果一個(gè)文件為210KB,那么理論上就需要占用53個(gè)“簇”空間(4KB),或者需要占用105個(gè)“簇”空間(2KB)。
-
當(dāng)一個(gè)210KB大小文件的寫請(qǐng)求從操作系統(tǒng)層傳來(lái)時(shí),都以邏輯地址進(jìn)行描述。當(dāng)SSD固態(tài)硬盤主控芯片收到這個(gè)文件的寫請(qǐng)求時(shí),會(huì)到FTL映射表中尋找53個(gè)空閑的Flash Page來(lái)存儲(chǔ)這些數(shù)據(jù),并將物理位置和邏輯位置的映射關(guān)系記錄到FTL映射表中;當(dāng)一個(gè)210KB大小文件的讀請(qǐng)求從操作系統(tǒng)傳來(lái)時(shí),SSD固態(tài)硬盤控制芯片會(huì)首先在FTL映射表中尋找邏輯為止對(duì)應(yīng)的若干物理位置,以便知曉到固態(tài)硬盤的哪些Flash Page去讀取數(shù)據(jù)。
-
還需要注意,在進(jìn)行數(shù)據(jù)寫操作時(shí),如果沒(méi)有尋找到足夠的空閑的Flash Page位置那么有兩種可能:第一種可能是,在SSD固態(tài)硬盤上確實(shí)已經(jīng)沒(méi)有210KB的空間了,這時(shí)操作系統(tǒng)就會(huì)收到磁盤空間已滿的信息;另一種情況是有部分空間被“無(wú)效”數(shù)據(jù)占用(這些“無(wú)效”數(shù)據(jù)來(lái)是前被操作系統(tǒng)刪除的數(shù)據(jù)),這時(shí)固態(tài)硬盤就要進(jìn)行無(wú)效數(shù)據(jù)清理。SSD固態(tài)硬盤的數(shù)據(jù)清理是將若干Flash Page的區(qū)域全部清理,稱為塊。清理操作過(guò)程已經(jīng)在上文中大致介紹過(guò)。這也是為什么固體硬盤在使用一段時(shí)間后(特別是存儲(chǔ)空間被占用滿后),固態(tài)硬盤的性能會(huì)出現(xiàn)明顯下降的原因。
-
最后需要注意,實(shí)際上由操作系統(tǒng)傳來(lái)的數(shù)據(jù)和操作請(qǐng)求也不是直接就發(fā)送到SSD主控芯片了,而是需要經(jīng)過(guò)軟件和硬件的多層傳遞。在硬件層面上來(lái)說(shuō),數(shù)據(jù)一般需要通過(guò)主板上的南橋芯片(在經(jīng)過(guò)磁盤陣列控制芯片)才能傳送到SSD固態(tài)硬盤的外部接口(例如SATA3.0、USB3.0等),最后再達(dá)SSD主控芯片。
5、磁盤陣列方案
單塊硬盤進(jìn)行數(shù)據(jù)存儲(chǔ)可能會(huì)存在以下問(wèn)題:
-
硬盤容量有限制,當(dāng)容量不足時(shí)不能進(jìn)行硬件擴(kuò)容,F(xiàn)在磁盤技術(shù)在磁盤容量上已經(jīng)有了長(zhǎng)足的發(fā)展,目前(2016)機(jī)械硬盤的主流容量已經(jīng)達(dá)到6TB,固態(tài)硬盤的主流容量也達(dá)到512GB。但是單塊硬盤始終都存在較嚴(yán)重的容量擴(kuò)充問(wèn)題,除非讀者在擴(kuò)容時(shí)手動(dòng)遷移數(shù)據(jù)。
-
數(shù)據(jù)可靠性性問(wèn)題。單塊硬盤不存在任何備份機(jī)制,雖然現(xiàn)在有很多扇區(qū)檢測(cè)軟件可以幫助開發(fā)人員/運(yùn)維人員提前發(fā)現(xiàn)硬盤損壞的磁道,但是都不能保證99.99%的運(yùn)行可靠性。一旦硬盤由于各種原因損壞(電壓不穩(wěn)、磁頭位移等),存儲(chǔ)在其上的數(shù)據(jù)就可能永久丟失。
-
讀寫性能瓶頸。這個(gè)問(wèn)題在SSD固態(tài)硬盤上還不太明顯,目前主流的固態(tài)硬盤的外部傳輸速度可達(dá)到550MB/S,這個(gè)速度基本上達(dá)到了SATA 3/USB 3.0接口規(guī)范的理論峰值。但這個(gè)問(wèn)題對(duì)于機(jī)械硬盤來(lái)說(shuō)卻很明顯了,由于機(jī)械硬盤的讀寫性能受到磁頭數(shù)量、盤片轉(zhuǎn)速、盤片工藝等因素的影響,所以機(jī)械硬盤的讀寫性能一直沒(méi)有一個(gè)質(zhì)的飛躍。如果將單個(gè)硬盤應(yīng)用在生產(chǎn)系統(tǒng)上,那么磁盤讀寫性能無(wú)疑將會(huì)整個(gè)系統(tǒng)的性能瓶頸。另外SATA 3結(jié)構(gòu)理論6Gbps的傳輸帶寬必要時(shí)也需要找到替代方案。
為了解決以上這些問(wèn)題,硬件工程師將多個(gè)硬盤按照不同的規(guī)則組合在一起形成各種集群化的數(shù)據(jù)存儲(chǔ)結(jié)構(gòu),這些存儲(chǔ)結(jié)構(gòu)被稱為磁盤陣列(Redundant Arrays of Independent Disks,RAID)。磁盤陣列解決以上這些問(wèn)題的基本思路有:
-
通過(guò)硬盤橫向擴(kuò)展或者縱向擴(kuò)展的方式,解決整個(gè)磁盤整理存儲(chǔ)容量限制的問(wèn)題。而對(duì)于上層操作系統(tǒng)來(lái)說(shuō),看到的都只是一個(gè)磁盤設(shè)備文件/操作盤符而已。
-
通過(guò)數(shù)據(jù)鏡像或者數(shù)據(jù)校驗(yàn)的方式解決數(shù)據(jù)冗余和數(shù)據(jù)恢復(fù)的問(wèn)題。
-
通過(guò)陣列控制芯片分發(fā)數(shù)據(jù)讀寫請(qǐng)求的方式,將原本集中在一塊硬盤上的數(shù)據(jù)讀寫請(qǐng)求分散到多塊硬盤上,從而解決磁盤性能的問(wèn)題。
目前磁盤陣列結(jié)構(gòu)有多種,包括 RAID 0、RAID 1、RAID 2、RAID 3、RAID 4、RAID 5、RAID 10/01、RAID 50等。其中RAID 2、RAID 3、RAID 4這三種陣列結(jié)構(gòu)常用于陣列研究,生產(chǎn)環(huán)境中常使用的陣列結(jié)構(gòu)為RAID 0、RAID 1、RAID 5和RAID 10/01。下面我們就對(duì)這些磁盤陣列結(jié)構(gòu)逐一進(jìn)行介紹。
5-1、磁盤陣列結(jié)構(gòu)
5-1-1、RAID 0
RAID 0陣列結(jié)構(gòu)是所有陣列結(jié)構(gòu)中讀寫性能最好的,也是所有陣列結(jié)構(gòu)中實(shí)現(xiàn)思路最簡(jiǎn)單的:
RAID 0陣列結(jié)構(gòu)沒(méi)有數(shù)據(jù)冗余機(jī)制和數(shù)據(jù)恢復(fù)機(jī)制,它至少需要兩個(gè)硬盤進(jìn)行構(gòu)造。整個(gè)RAID 0陣列結(jié)構(gòu)就是將參與RAID 0陣列構(gòu)建的所有硬盤進(jìn)行容量累加,從而形成一個(gè)更大的、對(duì)上層操作系統(tǒng)統(tǒng)一的存儲(chǔ)容量。所以RAID 0陣列的存儲(chǔ)容量就是這些硬盤的容量進(jìn)行累加。
當(dāng)需要寫入的數(shù)據(jù)到達(dá)陣列控制器,后者會(huì)向其下的硬盤設(shè)備分發(fā)這些數(shù)據(jù)。這樣原來(lái)可能只由一個(gè)硬盤承擔(dān)的讀寫壓力就會(huì)被分擔(dān)到多個(gè)硬盤上,最終提高了整個(gè)陣列的讀寫性能。RAID 0陣列結(jié)構(gòu)存儲(chǔ)速度的優(yōu)勢(shì)非常明顯,且參與構(gòu)造陣列的磁盤數(shù)量越多陣列速度越快(峰值速度最終會(huì)受到總線、外部接口規(guī)范、控制芯片制造工藝等因素的限制)。但是RAID 0陣列結(jié)構(gòu)的缺點(diǎn)也很明顯:由于陣列結(jié)構(gòu)沒(méi)有容錯(cuò)機(jī)制或者數(shù)據(jù)恢復(fù)機(jī)制,當(dāng)陣列中的一個(gè)或者多個(gè)磁盤發(fā)生故障時(shí),整個(gè)陣列結(jié)構(gòu)就會(huì)崩潰并且不能恢復(fù)。所以在實(shí)際應(yīng)用中,只有那些單位價(jià)值不高且每天又需要大量存儲(chǔ)的數(shù)據(jù)才會(huì)使用RAID 0陣列結(jié)構(gòu)進(jìn)行存儲(chǔ),例如日志文件數(shù)據(jù)。
5-1-2、RAID 1
RAID 1陣列結(jié)構(gòu)又被稱為磁盤鏡像陣列或者磁盤冗余陣列。它的構(gòu)造特點(diǎn)是陣列結(jié)構(gòu)中的每一個(gè)磁盤互為鏡像:
當(dāng)有外部數(shù)據(jù)需要存儲(chǔ)時(shí),RAID 1陣列控制器將會(huì)首先把這個(gè)數(shù)據(jù)做成N個(gè)副本(N的數(shù)量和陣列結(jié)構(gòu)中物理磁盤的數(shù)量相等),實(shí)際上鏡像副本的單位為扇區(qū)或者Flash Page。這些副本會(huì)分別存儲(chǔ)到陣列結(jié)構(gòu)的各個(gè)磁盤中。在進(jìn)行數(shù)據(jù)讀取時(shí),RAID 1 陣列結(jié)構(gòu)中的某一塊磁盤將會(huì)作為主要的數(shù)據(jù)讀取源頭,當(dāng)這個(gè)源頭出現(xiàn)吞吐量瓶頸時(shí),RAID 1陣列控制器會(huì)主動(dòng)到其它鏡像磁盤讀取數(shù)據(jù)。所以RAID 1陣列的數(shù)據(jù)讀取性能還是要比單個(gè)磁盤的性能要好,但是寫入性能卻差了很多。
從以上介紹可以看出,RAID 1陣列結(jié)構(gòu)設(shè)計(jì)之初的主要目的并不是提高存儲(chǔ)設(shè)備的讀寫性能,而是保證高價(jià)值數(shù)據(jù)的存儲(chǔ)可靠性。由于RAID 1陣列結(jié)構(gòu)中需要保證每個(gè)磁盤的鏡像數(shù)據(jù)完全一致,所以它還要求參與RAID 1陣列結(jié)構(gòu)的每一個(gè)磁盤的容量必須相同,否則RAID 1陣列結(jié)構(gòu)會(huì)以最小的那個(gè)磁盤容量為自己的標(biāo)準(zhǔn)容量。
5-1-3、RAID 10和RAID 01
RAID 0和RAID 1都有自己的優(yōu)缺點(diǎn),并且這些特點(diǎn)都很突出:RAID 0雖然速度快但是沒(méi)有任何數(shù)據(jù)保障措施,所以一味地快意義并不大;RAID 1雖然保證了數(shù)據(jù)的可靠性,但是卻犧牲了大量空間和讀寫速度。所以以上兩種陣列結(jié)構(gòu)特別是RAID 0,在企業(yè)級(jí)/工業(yè)級(jí)環(huán)境中使用的情況還是比較少。那么有沒(méi)有一種陣列結(jié)構(gòu)在融合了RAID 0和RAID1兩者優(yōu)點(diǎn)的同時(shí)又避免了各自的缺點(diǎn)呢?
答案是:有的!RAID10和RAID01兩種陣列結(jié)構(gòu)就是為了實(shí)現(xiàn)RAID 0和RAID 1的融合而被設(shè)計(jì)的。在RAID10結(jié)構(gòu)中,它首先將參與陣列結(jié)構(gòu)組建的磁盤進(jìn)行分組,形成若干組獨(dú)立的RAID 1陣列結(jié)構(gòu),然后再將這些獨(dú)立的RAID 1陣列結(jié)構(gòu)形成RAID 0結(jié)構(gòu),如下圖所示:
上圖中有四塊硬盤參與RAID 10陣列結(jié)構(gòu)的組建,四塊硬盤是組建RAID 10陣列結(jié)構(gòu)的最小要求(實(shí)際上兩塊也行,但是那樣的RAID 10沒(méi)有任何意義)。它們首先被兩兩分組形成兩個(gè)獨(dú)立的RAID 1結(jié)構(gòu),這也意味著這些硬盤的容量最好是一樣的,否則每組RAID 1結(jié)構(gòu)會(huì)基于容量最小的那塊硬盤確認(rèn)自己的容量。接著獨(dú)立工作的兩組RAID 1再組成RAID 0陣列結(jié)構(gòu)。
假設(shè)參與RAID 10構(gòu)建的硬盤大小都為6TB,則兩組獨(dú)立的RAID 1陣列結(jié)構(gòu)的容量分別為12TB,最終整個(gè)RAID 10陣列結(jié)構(gòu)的存儲(chǔ)容量為12TB?梢钥吹絉AID10陣列結(jié)構(gòu)的存儲(chǔ)容量和獨(dú)立磁盤的大小、分組數(shù)量有關(guān)。我們可以得到以下的計(jì)算公式:
RAID 10總?cè)萘?= N / G * 單個(gè)硬盤的存儲(chǔ)容量
這個(gè)公式假設(shè)的前提是參與RAID 10構(gòu)建的每個(gè)硬盤的存儲(chǔ)容量都相同。其中N表示參與RAID 10構(gòu)建的硬盤總數(shù),G代表RAID 10下磁盤映射的分組數(shù)量(RAID 1分組數(shù)量)。例如,總共12塊硬盤參與RAID 10構(gòu)建,每個(gè)硬盤的大小為6TB,且分為三組RAID 1,那么這樣組建的RAID 10陣列結(jié)構(gòu)的存儲(chǔ)容量為24TB;如果同樣的情況下,這些硬盤被分為四組RAID 1,那么組建的RAID 10陣列結(jié)構(gòu)的存儲(chǔ)容量就為18TB。
可見RIAD 10通過(guò)集成更多硬盤的思路,將RAID 0陣列和RAID 1陣列的特點(diǎn)進(jìn)行了融合,在保證數(shù)據(jù)存儲(chǔ)可靠性的基礎(chǔ)上提高了陣列的整體存儲(chǔ)性能。RAID 10被廣泛應(yīng)用在各種計(jì)算場(chǎng)景中,市場(chǎng)上從幾千到幾百萬(wàn)的陣列設(shè)備都提供對(duì)RAID 10磁盤陣列結(jié)構(gòu)的支持。RAID 10磁盤陣列的總讀寫速度會(huì)受到控制芯片的影響,所以幾千和幾百萬(wàn)的磁盤陣列設(shè)備實(shí)際讀寫性能是完全不一樣的 。
另外還有一種和RAID 10陣列結(jié)構(gòu)相似的陣列結(jié)構(gòu):RAID 01(或稱為RAID 0 + 1),它們的構(gòu)造區(qū)別是,后者首先將若干磁盤以RAID 0的方式進(jìn)行組織,然后再分組成多個(gè)獨(dú)立的RAID 1結(jié)構(gòu):
5-1-5、RAID 5
RAID 5陣列結(jié)構(gòu)和RAID 10/01陣列結(jié)構(gòu)在實(shí)際生產(chǎn)環(huán)境中都經(jīng)常被使用,前者的應(yīng)用更為廣泛:雖然速度上RAID 5沒(méi)有RAID 10/01陣列結(jié)構(gòu)快,但是RAID 5陣列控制芯片的成本卻低很多。RAID 5陣列基于奇偶校驗(yàn)原理,它的算法核心是異或運(yùn)算(XOR)。異或運(yùn)算是各位讀者在大學(xué)離散數(shù)學(xué)課程中學(xué)習(xí)過(guò)的一種基本二進(jìn)制運(yùn)算,其運(yùn)算關(guān)系如下表所述(以下表格的計(jì)算因子只有兩個(gè),目的是讓讀者回憶起來(lái)):
接著我們可以再假設(shè)計(jì)算因子為N,根據(jù)異或運(yùn)算的特點(diǎn),我們可以在已知結(jié)果和N-1個(gè)原始計(jì)算因子的前提下,還原出未知的那個(gè)計(jì)算因子。請(qǐng)看下面示例的計(jì)算過(guò)程(N == 4):
有了以上的理論基礎(chǔ),我們就可以將它應(yīng)用到實(shí)際的塊存儲(chǔ)工作中。試想一下如果將以上異或運(yùn)算的每個(gè)計(jì)算因子擴(kuò)展成磁盤上的一個(gè)數(shù)據(jù)扇區(qū)并針對(duì)多個(gè)扇區(qū)進(jìn)行異或運(yùn)算并將計(jì)算結(jié)果存儲(chǔ)下來(lái)。那么是否可以在某一個(gè)數(shù)據(jù)扇區(qū)出現(xiàn)問(wèn)題時(shí)恢復(fù)數(shù)據(jù)呢?答案是肯定的,請(qǐng)看如下扇區(qū)校驗(yàn)實(shí)例:
在以上四個(gè)扇區(qū)的校驗(yàn)示例中,它們分屬四個(gè)不同的磁盤設(shè)備,其中三個(gè)扇區(qū)存儲(chǔ)的是數(shù)據(jù),最后一個(gè)扇區(qū)存儲(chǔ)的是異或運(yùn)算后的校驗(yàn)碼。在上一篇文章中我們已經(jīng)介紹過(guò)一個(gè)扇區(qū)存儲(chǔ)的數(shù)據(jù)量為512字節(jié)。當(dāng)某個(gè)數(shù)據(jù)扇區(qū)出現(xiàn)故障時(shí),基于校驗(yàn)扇區(qū)的信息和正常狀態(tài)的數(shù)據(jù)扇區(qū)的信息,RAID 5磁盤陣列可以將發(fā)生故障的扇區(qū)恢復(fù)出來(lái);當(dāng)某個(gè)校驗(yàn)扇區(qū)的信息出現(xiàn)故障時(shí),RAID 5磁盤陣列還可以重新進(jìn)行校驗(yàn)。也就是說(shuō)RAID 5陣列結(jié)構(gòu)同一時(shí)間內(nèi)只允許有一塊硬盤出現(xiàn)故障,出現(xiàn)故障的硬盤需要立即進(jìn)行更換。
如果還未來(lái)得及更換故障硬盤,另一塊硬盤又出現(xiàn)了故障,那么對(duì)整個(gè)RAID 5陣列就是毀滅性的——因?yàn)闊o(wú)法通過(guò)異或計(jì)算同時(shí)恢復(fù)兩個(gè)計(jì)算因子。當(dāng)更換故障硬盤后,RAID5陣列控制器將會(huì)自動(dòng)對(duì)數(shù)據(jù)進(jìn)行重新校驗(yàn),恢復(fù)數(shù)據(jù)。為了在可靠性和讀寫性能上找到平衡,RAID 5陣列結(jié)構(gòu)會(huì)將存儲(chǔ)同一個(gè)文件的若干扇區(qū)分布在陣列下的若干磁盤上(設(shè)陣列中磁盤總數(shù)為N,則文件數(shù)據(jù)扇區(qū)分布于N-1個(gè)磁盤上),并將這些扇區(qū)的校驗(yàn)信息存儲(chǔ)在最后剩余的一塊磁盤上;RAID 5陣列結(jié)構(gòu)中,校驗(yàn)信息也并不是全部存儲(chǔ)在一塊相同的磁盤上,而是均勻分布在每一塊磁盤中,這樣做的目的是為了盡可能快的完成數(shù)據(jù)恢復(fù)過(guò)程。
核心關(guān)注:拓步ERP系統(tǒng)平臺(tái)是覆蓋了眾多的業(yè)務(wù)領(lǐng)域、行業(yè)應(yīng)用,蘊(yùn)涵了豐富的ERP管理思想,集成了ERP軟件業(yè)務(wù)管理理念,功能涉及供應(yīng)鏈、成本、制造、CRM、HR等眾多業(yè)務(wù)領(lǐng)域的管理,全面涵蓋了企業(yè)關(guān)注ERP管理系統(tǒng)的核心領(lǐng)域,是眾多中小企業(yè)信息化建設(shè)首選的ERP管理軟件信賴品牌。
轉(zhuǎn)載請(qǐng)注明出處:拓步ERP資訊網(wǎng)http://www.ezxoed.cn/
本文標(biāo)題:架構(gòu)設(shè)計(jì):系統(tǒng)存儲(chǔ)——塊存儲(chǔ)方案(二)
本文網(wǎng)址:http://www.ezxoed.cn/html/support/11121519960.html