完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>
標(biāo)簽 > 存儲(chǔ)系統(tǒng)
存儲(chǔ)系統(tǒng)是存放程序和數(shù)據(jù)的重要系統(tǒng),存儲(chǔ)這個(gè)詞非常平凡,存儲(chǔ) + 計(jì)算(操作)就構(gòu)成了一個(gè)樸素的計(jì)算機(jī)模型。簡(jiǎn)單來(lái)說(shuō),存儲(chǔ)就是負(fù)責(zé)維持計(jì)算系統(tǒng)的狀態(tài)的單元。從維持狀態(tài)的角度,我們會(huì)有最樸素的可靠性要求。
存儲(chǔ)系統(tǒng)是指計(jì)算機(jī)中由存放程序和數(shù)據(jù)的各種存儲(chǔ)設(shè)備、控制部件及管理信息調(diào)度的設(shè)備(硬件)和算法(軟件)所組成的系統(tǒng)。計(jì)算機(jī)的主存儲(chǔ)器不能同時(shí)滿足存取速度快、存儲(chǔ)容量大和成本低的要求,在計(jì)算機(jī)中必須有速度由慢到快、容量由大到小的多級(jí)層次存儲(chǔ)器,以最優(yōu)的控制調(diào)度算法和合理的成本,構(gòu)成具有性能可接受的存儲(chǔ)系統(tǒng)。
存儲(chǔ)系統(tǒng)
存儲(chǔ)系統(tǒng)的性能在計(jì)算機(jī)中的地位日趨重要,主要原因是:①馮諾伊曼體系結(jié)構(gòu)是建筑在存儲(chǔ)程序概念的基礎(chǔ)上,訪存操作約占中央處理器(CPU)時(shí)間的70%左右。②存儲(chǔ)管理與組織的好壞影響到整機(jī)效率。③現(xiàn)代的信息處理,如圖像處理、數(shù)據(jù)庫(kù)、知識(shí)庫(kù)、語(yǔ)音識(shí)別、多媒體等對(duì)存儲(chǔ)系統(tǒng)的要求很高。
存儲(chǔ)系統(tǒng)是指計(jì)算機(jī)中由存放程序和數(shù)據(jù)的各種存儲(chǔ)設(shè)備、控制部件及管理信息調(diào)度的設(shè)備(硬件)和算法(軟件)所組成的系統(tǒng)。計(jì)算機(jī)的主存儲(chǔ)器不能同時(shí)滿足存取速度快、存儲(chǔ)容量大和成本低的要求,在計(jì)算機(jī)中必須有速度由慢到快、容量由大到小的多級(jí)層次存儲(chǔ)器,以最優(yōu)的控制調(diào)度算法和合理的成本,構(gòu)成具有性能可接受的存儲(chǔ)系統(tǒng)。
存儲(chǔ)系統(tǒng)
存儲(chǔ)系統(tǒng)的性能在計(jì)算機(jī)中的地位日趨重要,主要原因是:①馮諾伊曼體系結(jié)構(gòu)是建筑在存儲(chǔ)程序概念的基礎(chǔ)上,訪存操作約占中央處理器(CPU)時(shí)間的70%左右。②存儲(chǔ)管理與組織的好壞影響到整機(jī)效率。③現(xiàn)代的信息處理,如圖像處理、數(shù)據(jù)庫(kù)、知識(shí)庫(kù)、語(yǔ)音識(shí)別、多媒體等對(duì)存儲(chǔ)系統(tǒng)的要求很高。
存儲(chǔ)器的那些事
存儲(chǔ)系統(tǒng)從其與生俱來(lái)的使命來(lái)說(shuō),就難以擺脫復(fù)雜系統(tǒng)的魔咒。無(wú)論是從單機(jī)時(shí)代的文件系統(tǒng),還是后來(lái)C/S或B/S結(jié)構(gòu)下數(shù)據(jù)庫(kù)這樣的存儲(chǔ)中間件興起,還是如今炙手可熱的云存儲(chǔ)服務(wù)來(lái)說(shuō),存儲(chǔ)都很復(fù)雜,而且是越來(lái)越復(fù)雜。存儲(chǔ)為什么會(huì)復(fù)雜,要從什么是存儲(chǔ)談起。存儲(chǔ)這個(gè)詞非常平凡,存儲(chǔ) + 計(jì)算(操作)就構(gòu)成了一個(gè)樸素的計(jì)算機(jī)模型。簡(jiǎn)單來(lái)說(shuō),存儲(chǔ)就是負(fù)責(zé)維持計(jì)算系統(tǒng)的狀態(tài)的單元。從維持狀態(tài)的角度,我們會(huì)有最樸素的可靠性要求。比如單機(jī)時(shí)代的文件系統(tǒng),機(jī)器斷電、程序故障、系統(tǒng)重啟等常規(guī)的異常,文件系統(tǒng)必須可以正確地應(yīng)對(duì),甚至對(duì)于磁盤扇區(qū)損壞,文件系統(tǒng)也需要考慮盡量將損失降到最低。對(duì)于大部分的業(yè)務(wù)程序而言,你只需要重點(diǎn)關(guān)注業(yè)務(wù)的正常分支流程就行,對(duì)于出乎意料的情況,通常只需拋出一個(gè)錯(cuò)誤,告訴用戶你不該這么玩。但是對(duì)于存儲(chǔ)系統(tǒng),你需要花費(fèi)絕大部分精力在各種異常情況的處理上,甚至你應(yīng)該認(rèn)為,這些龐雜的、多樣的錯(cuò)誤分支處理,才是存儲(chǔ)系統(tǒng)的“正常業(yè)務(wù)邏輯”。到了互聯(lián)網(wǎng)時(shí)代,有了C/S或B/S結(jié)構(gòu),存儲(chǔ)系統(tǒng)又有了新指標(biāo):可用性。為了保證服務(wù)質(zhì)量,那些用戶看不見的服務(wù)器程序必須時(shí)時(shí)保持在線,最好做到邏輯上是不宕機(jī)的(可用性100%)。服務(wù)器程序怎么才能做到高可用性?答案是存儲(chǔ)中間件。沒(méi)有存儲(chǔ)中間件,意味著所有的業(yè)務(wù)程序,都必須考慮每做一步就對(duì)狀態(tài)進(jìn)行持久化,以便自己掛掉后另一臺(tái)服務(wù)器(或者自己重啟后),知道之前工作到哪里了,接下去應(yīng)該做些什么。但是對(duì)狀態(tài)進(jìn)行持久化(也就是存儲(chǔ))會(huì)非常繁瑣,如果每個(gè)業(yè)務(wù)都自己實(shí)現(xiàn),負(fù)擔(dān)無(wú)疑非常沉重。但如果有了高可用的存儲(chǔ)中間件,服務(wù)器端的業(yè)務(wù)程序就只需操作存儲(chǔ)中間件來(lái)更新狀態(tài),通過(guò)同時(shí)啟動(dòng)多份業(yè)務(wù)程序的實(shí)例做互備和負(fù)載均衡,很容易實(shí)現(xiàn)業(yè)務(wù)邏輯上不宕機(jī)。相關(guān)廠商內(nèi)容QCon北京2018全新開啟深度學(xué)習(xí)框架演進(jìn)漫談-by老師木智能寫手——智能文本生成在雙十一的應(yīng)用深度學(xué)習(xí)在紅豆Live直播推薦系統(tǒng)中的應(yīng)用美團(tuán)騎手智能助手的技術(shù)與實(shí)踐相關(guān)贊助商
所以,數(shù)據(jù)庫(kù)這樣的存儲(chǔ)中間件出現(xiàn)基本上是歷史必然。盡管數(shù)據(jù)庫(kù)很通用,但它決不會(huì)是唯一的存儲(chǔ)中間件。比如業(yè)務(wù)中用到的富媒體(圖片、音視頻、Office文檔等),我們很少會(huì)去存儲(chǔ)到數(shù)據(jù)庫(kù)中,更多的時(shí)候我們會(huì)把它們放在文件系統(tǒng)里。但是單機(jī)時(shí)代誕生的文件系統(tǒng),真的是最適合存儲(chǔ)這些富媒體數(shù)據(jù)的么?不,文件系統(tǒng)需要改變,因?yàn)椋荷炜s性。單機(jī)文件系統(tǒng)的第一個(gè)問(wèn)題是單機(jī)容量有限,在存儲(chǔ)規(guī)模超過(guò)一臺(tái)機(jī)器可管理的時(shí)候,應(yīng)該怎么辦。
性能瓶頸。通常,單機(jī)文件系統(tǒng)在文件數(shù)目達(dá)到臨界點(diǎn)后,性能會(huì)快速下降。在4TB的大容量磁盤越來(lái)越普及的今天,這個(gè)臨界點(diǎn)相當(dāng)容易到達(dá)。
可靠性要求。單機(jī)文件系統(tǒng)通常只是單副本的方案,但是今天單副本的存儲(chǔ)早已無(wú)法滿足業(yè)務(wù)的可靠性要求。數(shù)據(jù)需要有冗余(比較經(jīng)典的做法是3副本),并且在磁盤損壞時(shí)及早修復(fù)丟失的數(shù)據(jù),以避免所有的副本損壞造成數(shù)據(jù)丟失。
可用性要求。單機(jī)文件系統(tǒng)通常只是單副本的方案,在該機(jī)器宕機(jī)后,數(shù)據(jù)就不可讀取,也不可寫入。
在分布式存儲(chǔ)系統(tǒng)出現(xiàn)前,有一些基于單機(jī)文件系統(tǒng)的改良版本被一些應(yīng)用采納。比如在單機(jī)文件系統(tǒng)上加 RAID5 做數(shù)據(jù)冗余,來(lái)解決單機(jī)文件系統(tǒng)的可靠性問(wèn)題。假設(shè) RAID5 的數(shù)據(jù)修復(fù)時(shí)間是1天(實(shí)際上往往做不到,尤其是業(yè)務(wù)系統(tǒng)本身壓力比較大的情況下,留給 RAID 修復(fù)用的磁盤讀寫帶寬很有限),這種方案單機(jī)的可靠性大概是100年丟失一次數(shù)據(jù)(即可靠性是2個(gè)9)??雌饋?lái)尚可?但是你得小心兩種情況。一種是你的集群規(guī)模變大,你仍然沿用這個(gè)土方法,比如你現(xiàn)在有 100 臺(tái)這樣的機(jī)器,那么就會(huì)變成1年就丟失一次數(shù)據(jù)。另一種情況是如果實(shí)際數(shù)據(jù)修復(fù)時(shí)間是 3 天,那么單機(jī)的可靠性就直降至4年丟失一次數(shù)據(jù),100臺(tái)就會(huì)是15天丟失一次數(shù)據(jù)。這個(gè)數(shù)字顯然無(wú)法讓人接受。Google GFS 是很多人閱讀的第一份分布式存儲(chǔ)的論文,這篇論文奠定了 3 副本在分布式存儲(chǔ)系統(tǒng)里的地位。隨后 Hadoop 參考此論文實(shí)現(xiàn)了開源版的 GFS —— HDFS。但關(guān)于 Hadoop 的 HDFS 實(shí)際上業(yè)界有不少誤區(qū)。GFS 的設(shè)計(jì)有很強(qiáng)的業(yè)務(wù)背景特征,本身是用來(lái)做搜索引擎的。HDFS 更適合做日志存儲(chǔ)和日志分析(數(shù)據(jù)挖掘),而不是存儲(chǔ)海量的富媒體文件。因?yàn)椋篐DFS 的 block 大小為 64M,如果文件不足 64M 也會(huì)占用 64M。而富媒體文件大部分仍然很小,比如圖片常規(guī)尺寸在 100K 左右。有人可能會(huì)說(shuō)我可以調(diào)小 block 的尺寸來(lái)適應(yīng),但這是不正確的做法,HDFS 的架構(gòu)是為大文件而設(shè)計(jì)的,不可能簡(jiǎn)單通過(guò)調(diào)整 block 大小就可以滿足海量小文件存儲(chǔ)的需求。
HDFS 是單 Master 結(jié)構(gòu),這決定了它能夠存儲(chǔ)的元數(shù)據(jù)條目數(shù)有限,伸縮性存在問(wèn)題。當(dāng)然作為大文件日志型存儲(chǔ),這個(gè)瓶頸會(huì)非常晚才遇到;但是如果作為海量小文件的存儲(chǔ),這個(gè)瓶頸很快就會(huì)碰上。
HDFS 仍然沿用文件系統(tǒng)的 API 形式,比如它有目錄這樣的概念。在分布式系統(tǒng)中維護(hù)文件系統(tǒng)的目錄樹結(jié)構(gòu),會(huì)遭遇諸多難題。所以 HDFS 想把 Master 擴(kuò)展為分布式的元數(shù)據(jù)集群并不容易。
分布式存儲(chǔ)最容易處理的問(wèn)題域還是單鍵值的存儲(chǔ),也就是所謂的 Key-Value 存儲(chǔ)。只有一個(gè) Key,就意味著我們可以通過(guò)對(duì) Key 做 Hash,或者對(duì) Key 做分區(qū),都能夠讓請(qǐng)求快速定位到特定某一臺(tái)存儲(chǔ)機(jī)器上,從而轉(zhuǎn)化為單機(jī)問(wèn)題。這也是為什么在數(shù)據(jù)庫(kù)之后,會(huì)冒出來(lái)那么多 NoSQL 數(shù)據(jù)庫(kù)。因?yàn)閿?shù)據(jù)庫(kù)和文件系統(tǒng)一樣,最早都是單機(jī)的,在伸縮性、性能瓶頸(在單機(jī)數(shù)據(jù)量太大時(shí))、可靠性、可用性上遇到了相同的麻煩。NoSQL 數(shù)據(jù)庫(kù)的名字其實(shí)并不恰當(dāng),他們更多的不是去 SQL,而是去關(guān)系(我們知道數(shù)據(jù)庫(kù)更完整的稱呼是關(guān)系型數(shù)據(jù)庫(kù))。有關(guān)系意味著有多個(gè)索引,也就是有多個(gè) Key,而這對(duì)數(shù)據(jù)庫(kù)轉(zhuǎn)為分布式存儲(chǔ)系統(tǒng)來(lái)說(shuō)非常不利。七牛云存儲(chǔ)的設(shè)計(jì)目標(biāo)是針對(duì)海量小文件的存儲(chǔ),所以它對(duì)文件系統(tǒng)的第一個(gè)改變也是去關(guān)系,也就是去目錄結(jié)構(gòu)(有目錄意味著有父子關(guān)系)。所以七牛云存儲(chǔ)不是文件系統(tǒng)(File System),而是鍵值存儲(chǔ)(Key-Value Storage),用時(shí)髦點(diǎn)的話說(shuō)是對(duì)象存儲(chǔ)(Object Storage)。不過(guò)七牛自己喜歡把它叫做資源存儲(chǔ)(Resource Storage),因?yàn)樗怯脕?lái)存儲(chǔ)靜態(tài)資源文件的。蠻多七牛云存儲(chǔ)的新手會(huì)問(wèn),為什么我在七牛的 API 中找不到創(chuàng)建目錄這樣的 API,根本原因還是受文件系統(tǒng)這個(gè)經(jīng)典存儲(chǔ)系統(tǒng)的影響。七牛云存儲(chǔ)的第一個(gè)實(shí)現(xiàn)版本,從技術(shù)上來(lái)說(shuō)是經(jīng)典的 3 副本的鍵值存儲(chǔ)。它由元數(shù)據(jù)集群和數(shù)據(jù)塊集群組成。每個(gè)文件被切成了 4M 為單位的一個(gè)個(gè)數(shù)據(jù)塊,各個(gè)數(shù)據(jù)塊按 3 副本做冗余。但是作為云存儲(chǔ),它并不僅僅是一個(gè)分布式存儲(chǔ)集群,它需要額外考慮:網(wǎng)絡(luò)問(wèn)題,也就是文件的上傳下載問(wèn)題。文件上傳方面,我們得考慮在相對(duì)比較差的網(wǎng)絡(luò)條件下(比如2G/3G網(wǎng)絡(luò))如何確保文件能夠上傳成功,大文件(七牛云存儲(chǔ)的單文件大小理論極限是1TB)如何能夠上傳成功,如何能夠更快上傳。文件下載加速方面,考慮到 CDN 已經(jīng)發(fā)展了 10 多年的歷史,非常成熟,我們決定基于 CDN 來(lái)做下載加速。
數(shù)據(jù)處理。當(dāng)用戶文件托管到了七牛,那么針對(duì)文件內(nèi)容的數(shù)據(jù)處理需求也會(huì)自然衍生。比如我們第一個(gè)客戶就給我們提了圖片縮略圖相關(guān)的需求。在音視頻內(nèi)容越來(lái)越多的時(shí)候,自然就有了音視頻轉(zhuǎn)碼的需求??梢灶A(yù)見在Office文檔多了后,也就會(huì)有 Office 文檔轉(zhuǎn)換的需求。
所以從技術(shù)上來(lái)說(shuō),七牛云存儲(chǔ)是這樣的:七牛云存儲(chǔ) = 分布式存儲(chǔ)集群 + 上傳加速網(wǎng)絡(luò)(下載外包給CDN) + 數(shù)據(jù)處理集群網(wǎng)絡(luò)問(wèn)題并不是七牛要解決的核心問(wèn)題,只是我們要面對(duì)的現(xiàn)實(shí)困難。所以在這個(gè)問(wèn)題上如果能夠有足夠?qū)I(yè)的供應(yīng)商,能夠外包我們會(huì)盡可能外包。而分布式存儲(chǔ)集群的演進(jìn)和優(yōu)化,才是我們最核心的事情。早在 2012 年 2 月,我們就啟動(dòng)了新一代基于糾刪碼算術(shù)冗余的存儲(chǔ)系統(tǒng)的研發(fā)。新存儲(chǔ)系統(tǒng)的關(guān)注焦點(diǎn)在:成本。經(jīng)典的 3 副本存儲(chǔ)系統(tǒng)雖然經(jīng)典,但是代價(jià)也是高昂的,需要我們投入 3 倍的存儲(chǔ)成本。那么有沒(méi)有保證高可靠和高可用的前提下把成本做下來(lái)?
可靠性。如何進(jìn)一步提升存儲(chǔ)系統(tǒng)的可靠性?答案是更高的容錯(cuò)能力(從允許同時(shí)損壞2塊盤到允許同時(shí)損壞4塊盤),更快的修復(fù)速度(從原先3小時(shí)修復(fù)一塊壞盤到30分鐘修復(fù)一塊壞盤)。
伸縮性。如何從系統(tǒng)設(shè)計(jì)容量、IO吞吐能力、網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)等角度,讓系統(tǒng)能夠支持EB級(jí)別的數(shù)據(jù)存儲(chǔ)規(guī)模?關(guān)于伸縮性這個(gè)話題,涉及的點(diǎn)是全方位的,本文不展開討論,后面我們另外獨(dú)立探討這個(gè)話題(讓我們把焦點(diǎn)放在成本和可靠性上)。
在經(jīng)過(guò)了四個(gè)大的版本迭代,七牛新一代云存儲(chǔ)(v2)終于上線。新存儲(chǔ)的第一大亮點(diǎn)是引入了糾刪碼(EC)這樣的算術(shù)冗余方案,而不再是經(jīng)典的 3 副本冗余方案。我們的 EC 采用的是 28 + 4,也就是把文件切分為 28 份,然后再根據(jù)這 28 份數(shù)據(jù)計(jì)算出 4 份冗余數(shù)據(jù),最后把這 32 份數(shù)據(jù)存儲(chǔ)在 32 臺(tái)不同的機(jī)器上。這樣做的好處是既便宜,又提升了可靠性和可用性。從成本角度,同樣是要存儲(chǔ) 1PB 的數(shù)據(jù),要買的存儲(chǔ)服務(wù)器只需 3 副本存儲(chǔ)的 36.5%,經(jīng)濟(jì)效益相當(dāng)好。從可靠性方面,以前 3 副本只能允許同時(shí)損壞2塊盤,現(xiàn)在能夠允許同時(shí)損壞4塊盤,直觀來(lái)說(shuō)這大大改善了可靠性(后面討論可靠性的時(shí)候我們給出具體的數(shù)據(jù))。從可用性角度,以前能夠接受 2 臺(tái)服務(wù)器下線,現(xiàn)在能夠同時(shí)允許 4 臺(tái)服務(wù)器下線。新存儲(chǔ)的第二大亮點(diǎn)是修復(fù)速度,我們把單盤修復(fù)時(shí)間從 3 小時(shí)提升到了 30 分鐘以內(nèi)。修復(fù)時(shí)間同樣對(duì)提升可靠性有著重要意義(后面討論可靠性的時(shí)候我們給出具體的數(shù)據(jù))。這個(gè)原因是比較容易理解的。假設(shè)我們的存儲(chǔ)允許同時(shí)壞 M 塊盤而不丟失數(shù)據(jù),那么集群可靠性,就是看在單位修復(fù)時(shí)間內(nèi),同時(shí)損壞 M+1 塊盤的概率。例如,假設(shè)我們修復(fù)時(shí)間是 3 小時(shí),那么 3 副本集群的可靠性就是看 3 小時(shí)內(nèi)同時(shí)損壞 3 塊盤的概率(也就是丟數(shù)據(jù)的概率)。讓我們回到存儲(chǔ)系統(tǒng)最核心的指標(biāo) —— 可靠性。首先,可靠性和集群規(guī)模是相關(guān)的。假設(shè)我們有 1000 塊磁盤的集群,對(duì)于 3 副本存儲(chǔ)系統(tǒng)來(lái)說(shuō),這 1000 塊盤同時(shí)壞 3 塊就會(huì)發(fā)生數(shù)據(jù)丟失,這個(gè)概率顯然比 3 塊盤同時(shí)壞 3 塊要高很多。基于這一點(diǎn),有些人會(huì)想這樣的土方法:那我要不把集群分為 3 塊磁盤一組互為鏡像,1000 塊盤就是 333 組(不好意思多了1塊,我們忽略這個(gè)細(xì)節(jié)),是不是可以提升可靠性?這些同學(xué)忽略了這樣一些關(guān)鍵點(diǎn):3 塊盤同時(shí)壞 3 塊盤(從而丟失數(shù)據(jù))的概率為 p,那么 333 組這樣的集群,丟失數(shù)據(jù)的概率是 1-(1-p)^333 ≈ p * 333,而不是 p。
互為鏡像的麻煩之處是修復(fù)速度存在瓶頸。壞一塊盤后你需要找一個(gè)新盤進(jìn)行數(shù)據(jù)對(duì)拷,而一塊大容量磁盤數(shù)據(jù)對(duì)拷的典型時(shí)間是 15 小時(shí)(我們后面將給出 15 小時(shí)同時(shí)壞 3 塊盤的概率)。要想提升這個(gè)修復(fù)速度,第一步我們就需要打破鏡像帶來(lái)的束縛。
如果一個(gè)存儲(chǔ)系統(tǒng)的修復(fù)時(shí)間是恒定的,那么這個(gè)存儲(chǔ)集群在規(guī)模擴(kuò)大的時(shí)候,必然伴隨著可靠性的降低。所以最理想的情況是集群越大,修復(fù)速度越快。這樣才能抵消因集群增大導(dǎo)致壞盤概率增加帶來(lái)負(fù)面影響。計(jì)算表明,如果我們修復(fù)速度和集群規(guī)模成正比(線性關(guān)系),那么集群隨著規(guī)模增大,可靠性會(huì)越來(lái)越高。下表列出了1000塊硬盤的存儲(chǔ)集群在不同存儲(chǔ)方案、不同修復(fù)時(shí)間下的可靠性計(jì)算結(jié)果:副本存儲(chǔ)方案容錯(cuò)度(M)修復(fù)時(shí)間數(shù)據(jù)丟失概率(P)可靠性
3副本方案230分鐘1.00E-088個(gè)9
3小時(shí)1.00E-055個(gè)9
15小時(shí)1.00E-022個(gè)9
28+4算術(shù)冗余方案430分鐘1.00E-1616個(gè)9
3小時(shí)1.00E-1111個(gè)9
15小時(shí)1.00E-077個(gè)9
對(duì)于數(shù)據(jù)丟失概率具體的計(jì)算公式和計(jì)算方法,由于篇幅所限,本文中不做展開,我會(huì)另找機(jī)會(huì)討論。對(duì)我個(gè)人而言,七牛新一代云存儲(chǔ)(v2)的完成,了了我多年的夙愿。但七牛不會(huì)就此停止腳步。我們?cè)诖鎯?chǔ)系統(tǒng)上又有了一些好玩的想法。從長(zhǎng)遠(yuǎn)來(lái)說(shuō),單位存儲(chǔ)的成本會(huì)越來(lái)越廉價(jià)(硬件和軟件系統(tǒng)都會(huì)推動(dòng)這個(gè)發(fā)展趨勢(shì))。而存儲(chǔ)系統(tǒng)肯定會(huì)越來(lái)越復(fù)雜。例如,有賴于超高的容錯(cuò)能力,七牛對(duì)單塊磁盤的可靠性要求降低了很多,這就為未來(lái)我們采用桌面硬盤而不是企業(yè)硬盤作為存儲(chǔ)介質(zhì)打下基礎(chǔ)。但是單塊磁盤可靠性的降低,則會(huì)進(jìn)一步推動(dòng)存儲(chǔ)系統(tǒng)往復(fù)雜的方向發(fā)展?;谶@個(gè)推理,我認(rèn)為存儲(chǔ)必然需要轉(zhuǎn)為云服務(wù),成為水電煤一樣的基礎(chǔ)設(shè)施。存儲(chǔ)系統(tǒng)越來(lái)越復(fù)雜,越來(lái)越專業(yè),這就導(dǎo)致自建存儲(chǔ)的難度和成本越來(lái)越高,自建存儲(chǔ)的必要性也越來(lái)越低。必然有那么一天,你會(huì)發(fā)現(xiàn)云存儲(chǔ)的成本遠(yuǎn)低于自建存儲(chǔ)的成本,到時(shí)自建存儲(chǔ)就會(huì)是純投入而無(wú)產(chǎn)出,也就沒(méi)有多少人會(huì)去熱衷于干這樣的事情了。
24路電磁鎖主板在智能存儲(chǔ)系統(tǒng)中的作用
在無(wú)人值守場(chǎng)景中,如自助服務(wù)機(jī)、智能生鮮柜、共享儲(chǔ)物柜等,使用24路電磁鎖主板可以集成身份識(shí)別技術(shù),將用戶的驗(yàn)證結(jié)果轉(zhuǎn)化為相應(yīng)的開鎖動(dòng)作,提升用戶體驗(yàn)和...
2024-12-30 標(biāo)簽:主板存儲(chǔ)系統(tǒng)智能存儲(chǔ)系統(tǒng) 523 0
計(jì)算機(jī)存儲(chǔ)系統(tǒng)的工作原理和功能
計(jì)算機(jī)存儲(chǔ)系統(tǒng)作為計(jì)算機(jī)系統(tǒng)中至關(guān)重要的組成部分,其原理和功能對(duì)于理解計(jì)算機(jī)的運(yùn)行機(jī)制具有關(guān)鍵意義。以下將詳細(xì)闡述計(jì)算機(jī)存儲(chǔ)系統(tǒng)的原理和功能。
2024-09-26 標(biāo)簽:半導(dǎo)體計(jì)算機(jī)存儲(chǔ)系統(tǒng) 2937 0
計(jì)算機(jī)存儲(chǔ)系統(tǒng)的構(gòu)成
計(jì)算機(jī)存儲(chǔ)系統(tǒng)是計(jì)算機(jī)中用于存放程序和數(shù)據(jù)的設(shè)備或部件的集合,它構(gòu)成了計(jì)算機(jī)信息處理的基礎(chǔ)。一個(gè)完整的計(jì)算機(jī)存儲(chǔ)系統(tǒng)通常包括多個(gè)層次的存儲(chǔ)器,從高速緩存...
2024-09-26 標(biāo)簽:cpu計(jì)算機(jī)存儲(chǔ)系統(tǒng) 2526 0
內(nèi)存、存儲(chǔ)系統(tǒng)和CPU的區(qū)別
在計(jì)算機(jī)系統(tǒng)中,內(nèi)存、存儲(chǔ)系統(tǒng)和CPU是三個(gè)至關(guān)重要的組件,它們各自承擔(dān)著不同的職責(zé),共同協(xié)作以完成數(shù)據(jù)處理和運(yùn)算任務(wù)。以下是對(duì)這三者之間區(qū)別的詳細(xì)闡述。
2024-07-15 標(biāo)簽:cpu內(nèi)存計(jì)算機(jī)系統(tǒng) 4252 0
使用新的DRAM進(jìn)步來(lái)提高嵌入式系統(tǒng)的性能
DRAM 技術(shù)的進(jìn)步伴隨著多核處理器、新操作系統(tǒng)的出現(xiàn),以及對(duì)許多不同計(jì)算平臺(tái)和應(yīng)用程序(例如服務(wù)器、工作站、大容量存儲(chǔ)系統(tǒng)、超級(jí)計(jì)算機(jī)、PC 和外圍設(shè)...
2024-05-03 標(biāo)簽:DRAM嵌入式系統(tǒng)存儲(chǔ)系統(tǒng) 459 0
基于門控線性網(wǎng)絡(luò)(GLN)的高壓縮比無(wú)損醫(yī)學(xué)圖像壓縮算法
實(shí)現(xiàn)基于門控線性網(wǎng)絡(luò)(GLN)的高壓縮比無(wú)損醫(yī)學(xué)圖像壓縮算法,以提高醫(yī)學(xué)圖像存儲(chǔ)和分發(fā)系統(tǒng)的效率。與“傳統(tǒng)”的基于上下文的數(shù)據(jù)壓縮算法相比,基于GLN的...
2024-04-08 標(biāo)簽:FPGA圖像壓縮存儲(chǔ)系統(tǒng) 1095 0
基于Clickhouse構(gòu)建新一代日志存儲(chǔ)系統(tǒng)
服務(wù)重啟變得特別慢且 Sys cpu 被打滿,原因是在服務(wù)重啟的過(guò)程中需要并發(fā)的加載 HDFS 上 Part 的元數(shù)據(jù),而 libhdfs3 庫(kù)并發(fā)讀 ...
2024-03-12 標(biāo)簽:TCP存儲(chǔ)系統(tǒng)HDFS 1243 0
什么是智能存儲(chǔ)系統(tǒng)?對(duì)比傳統(tǒng)存儲(chǔ)柜,智能存儲(chǔ)柜有哪些優(yōu)點(diǎn)?
智能存儲(chǔ)系統(tǒng)(IntelligentStorageSystem)是一種先進(jìn)的數(shù)據(jù)存儲(chǔ)解決方案,它結(jié)合了硬件、軟件和自動(dòng)化管理功能,以實(shí)現(xiàn)對(duì)數(shù)據(jù)存儲(chǔ)的高度...
2024-03-05 標(biāo)簽:數(shù)據(jù)存儲(chǔ)存儲(chǔ)系統(tǒng)智能存儲(chǔ)系統(tǒng) 940 0
企業(yè)存儲(chǔ)磁盤陣列技術(shù)分享(存儲(chǔ)主要協(xié)議對(duì)比)
磁盤陣列是一種企業(yè)級(jí)存儲(chǔ)系統(tǒng)(RAID級(jí)別和磁盤陣列可以提高數(shù)據(jù)的可靠性和性能。在選擇磁盤陣列時(shí),需要考慮容量、性能、可靠性和可擴(kuò)展性等因素,并進(jìn)行定制...
類別:IC中文資料 2024-03-04 標(biāo)簽:SD卡存儲(chǔ)系統(tǒng)
基于嵌入式文件系統(tǒng)的媒體文件快照技術(shù)立即下載
類別:電子資料 2023-10-26 標(biāo)簽:嵌入式磁盤存儲(chǔ)系統(tǒng)
存儲(chǔ)系統(tǒng)——緩存.DRAM.磁盤立即下載
類別:電子教材 2023-05-26 標(biāo)簽:DRAM存儲(chǔ)系統(tǒng)
Gowin PicoRV32軟件編程參考手冊(cè)立即下載
類別:電子資料 2022-09-19 標(biāo)簽:編程中斷存儲(chǔ)系統(tǒng)
LogDevice分布式日志存儲(chǔ)系統(tǒng)立即下載
類別:電子資料 2022-06-23 標(biāo)簽:存儲(chǔ)系統(tǒng)Facebook開源
類別:電子資料 2022-06-22 標(biāo)簽:存儲(chǔ)系統(tǒng)nosql
EdgeFS多云可擴(kuò)展的分布式存儲(chǔ)系統(tǒng)立即下載
類別:電子資料 2022-06-21 標(biāo)簽:存儲(chǔ)系統(tǒng)go語(yǔ)言
wfs4k WFS的Kotlin實(shí)現(xiàn)版立即下載
類別:電子資料 2022-06-13 標(biāo)簽:存儲(chǔ)系統(tǒng)kotlin
類別:電子資料 2022-05-16 標(biāo)簽:存儲(chǔ)系統(tǒng)數(shù)據(jù)庫(kù)
Speedy Docker鏡像存儲(chǔ)系統(tǒng)立即下載
類別:電子資料 2022-05-12 標(biāo)簽:存儲(chǔ)系統(tǒng)Docker
從大模型訓(xùn)練到邊緣側(cè)推理,從海量日志分析到實(shí)時(shí)業(yè)務(wù)決策,數(shù)據(jù)作為構(gòu)建智能能力的核心戰(zhàn)略資產(chǎn),正成為企業(yè)角逐的新戰(zhàn)場(chǎng)。然而,管理這些數(shù)據(jù)不僅需要高超的技術(shù)...
2025-06-19 標(biāo)簽:IBMAI存儲(chǔ)系統(tǒng) 876 0
高速SSD存儲(chǔ)系統(tǒng)中數(shù)據(jù)緩存控制器整體頂層設(shè)計(jì)
數(shù)據(jù)緩存控制器主要實(shí)現(xiàn)了對(duì)大量突發(fā)數(shù)據(jù)的緩存、AXI4接口與AXI4-Stream接口之間的轉(zhuǎn)換和NVMe命令的生成等功能。這里主要介紹相關(guān)開發(fā)流程。
2025-04-14 標(biāo)簽:控制器SSD存儲(chǔ)系統(tǒng) 278 0
高速ssd存儲(chǔ)系統(tǒng)中數(shù)據(jù)緩存控制器流程控制設(shè)計(jì)
高速SSD系統(tǒng)中流程控制模塊設(shè)計(jì)。該模塊主要由寄存器、讀狀態(tài)機(jī)、寫狀態(tài)機(jī)和命令生成模塊組成,系統(tǒng)介紹各模塊功能。
2025-04-14 標(biāo)簽:控制器SSD存儲(chǔ)系統(tǒng) 265 0
介紹三種數(shù)據(jù)保護(hù)策略的特點(diǎn)與適用場(chǎng)景
在企業(yè)IT環(huán)境中,數(shù)據(jù)保護(hù)是不可忽視的重要環(huán)節(jié),而復(fù)制(Replication)、快照(Snapshot)和備份(Backup)是三種常見的策略。它們?cè)?..
2025-03-21 標(biāo)簽:戴爾存儲(chǔ)系統(tǒng)數(shù)據(jù)保護(hù) 575 0
存儲(chǔ)產(chǎn)品千千萬(wàn),選來(lái)選去怎么辦? 戴小編來(lái)獻(xiàn)妙策,匹配需求不為難!分布式存儲(chǔ)和集中式儲(chǔ)是存儲(chǔ)系統(tǒng)中十分重要的兩種架構(gòu)類型,但這兩者有何區(qū)別?適合怎樣的業(yè)...
2025-02-28 標(biāo)簽:戴爾存儲(chǔ)存儲(chǔ)系統(tǒng) 1170 0
解讀憶聯(lián)PCIe Gen5 ESSD UH812a/UH832a的卓越性能
生成式AI和各種大模型不斷迭代,已成為驅(qū)動(dòng)各種應(yīng)用的核心,隨著模型規(guī)模和復(fù)雜度不斷增加,對(duì)存儲(chǔ)設(shè)備也提出了更大挑戰(zhàn)。
2025-02-25 標(biāo)簽:SSD存儲(chǔ)系統(tǒng)PCIe 779 0
美光科技借助主機(jī)輔助功能優(yōu)化存儲(chǔ)系統(tǒng)
與“計(jì)算”有關(guān)的技術(shù)正在快速演進(jìn),而隨著AI PC的興起,人類與技術(shù)交互的方式正在發(fā)生深刻轉(zhuǎn)變。AI系統(tǒng)不僅帶來(lái)了更快的處理速度或更智能的算法,還從根本...
2025-02-14 標(biāo)簽:PCAI存儲(chǔ)系統(tǒng) 538 0
中科曙光高端計(jì)算解決方案助力精準(zhǔn)醫(yī)療科研工作
近日,浙江某精準(zhǔn)醫(yī)療實(shí)驗(yàn)室依托冷凍電鏡等先進(jìn)裝備,探索基因診斷、分子分型、細(xì)胞和基因治療等前沿領(lǐng)域。為突破冷凍電鏡場(chǎng)景算力瓶頸,中科曙光高端計(jì)算解決方案...
2025-02-12 標(biāo)簽:計(jì)算存儲(chǔ)系統(tǒng)中科曙光 719 0
科達(dá)KCloudStor云存儲(chǔ)系統(tǒng)與鯤鵬攜手推進(jìn)原生開發(fā)技術(shù)創(chuàng)新
近日,蘇州科達(dá)與鯤鵬在云存儲(chǔ)技術(shù)領(lǐng)域展開了深入合作,共同推進(jìn)了KCloudStor云存儲(chǔ)系統(tǒng)的鯤鵬原生開發(fā)技術(shù)創(chuàng)新。雙方基于鯤鵬硬件平臺(tái),結(jié)合openE...
2025-01-23 標(biāo)簽:操作系統(tǒng)存儲(chǔ)系統(tǒng)科達(dá) 755 0
固態(tài)硬盤( Solid State Drive,SSD )在大型數(shù)據(jù)中心中發(fā)揮著重要作用。SSD故障會(huì)影響存儲(chǔ)系統(tǒng)的穩(wěn)定性,造成額外的維護(hù)開銷。為了提前...
2024-12-30 標(biāo)簽:SSD存儲(chǔ)系統(tǒng) 572 0
編輯推薦廠商產(chǎn)品技術(shù)軟件/工具OS/語(yǔ)言教程專題
電機(jī)控制 | DSP | 氮化鎵 | 功率放大器 | ChatGPT | 自動(dòng)駕駛 | TI | 瑞薩電子 |
BLDC | PLC | 碳化硅 | 二極管 | OpenAI | 元宇宙 | 安森美 | ADI |
無(wú)刷電機(jī) | FOC | IGBT | 逆變器 | 文心一言 | 5G | 英飛凌 | 羅姆 |
直流電機(jī) | PID | MOSFET | 傳感器 | 人工智能 | 物聯(lián)網(wǎng) | NXP | 賽靈思 |
步進(jìn)電機(jī) | SPWM | 充電樁 | IPM | 機(jī)器視覺(jué) | 無(wú)人機(jī) | 三菱電機(jī) | ST |
伺服電機(jī) | SVPWM | 光伏發(fā)電 | UPS | AR | 智能電網(wǎng) | 國(guó)民技術(shù) | Microchip |
Arduino | BeagleBone | 樹莓派 | STM32 | MSP430 | EFM32 | ARM mbed | EDA |
示波器 | LPC | imx8 | PSoC | Altium Designer | Allegro | Mentor | Pads |
OrCAD | Cadence | AutoCAD | 華秋DFM | Keil | MATLAB | MPLAB | Quartus |
C++ | Java | Python | JavaScript | node.js | RISC-V | verilog | Tensorflow |
Android | iOS | linux | RTOS | FreeRTOS | LiteOS | RT-THread | uCOS |
DuerOS | Brillo | Windows11 | HarmonyOS |