一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

什么是數(shù)據(jù)倉庫、數(shù)據(jù)集市、數(shù)據(jù)湖?

工業(yè)互聯(lián)網(wǎng)前線 ? 來源:一個數(shù)據(jù)玩家的自我修養(yǎng) ? 作者:一個數(shù)據(jù)玩家的自 ? 2020-09-21 10:44 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

來源:一個數(shù)據(jù)玩家的自我修養(yǎng) 本文已授權(quán)

經(jīng)??吹接腥藛栠@個問題,數(shù)據(jù)玩家也看過很多解釋,感覺都不夠直觀,這里,我嘗試用一個大家都理解的例子來說明。

什么是數(shù)據(jù)倉庫?

大家都去宜家買過東西吧,還記得一樓的大倉庫不,你如果看中了某個家具,想要自己去倉庫提貨,一般都會記下商品上的編碼:

這個編碼對于顧客來說,肯定是沒有任何含義的,看到這個編碼,不可能知道他是一個什么商品。

但是這個編碼,對于倉庫管理員來說是有含義的,他們可以清楚的知道,是哪一個貨架,哪一個位置。

當(dāng)然,顧客到倉庫里順著貨架和位置也可以找到商品,但是總歸不太直觀,挑選的過程還是得在樓上進行。

因此數(shù)據(jù)倉庫就相當(dāng)于宜家的一樓倉庫,在這里,數(shù)據(jù)(家具)按照特定的模型,如FS-LDM等(貨架-位置)組織起來,這種模型,對于顧客(業(yè)務(wù)人員,數(shù)據(jù)最終用戶)是不友好的,但是對于科技人員(倉庫管理員,宜家員工)來說相對友好,因為他按照一種更加集約化的規(guī)則將數(shù)據(jù)(家具)管理起來了,存放集中、規(guī)整,提取數(shù)據(jù)(提貨)不用跨庫(貨倉)尋找,查找的效率更加高。

那什么是數(shù)據(jù)集市呢?

還是用這個例子,上文提到,數(shù)據(jù)倉庫對業(yè)務(wù)人員不是很友好,同樣,你總不能讓顧客直接逛倉庫吧?顧客的需求,是按照家具的種類分門別類,按照家庭的不同房間,組合在一起展示的,正如宜家樓上的展廳:

雖然也被吐槽像迷宮一樣,但是總的來說,購物體驗肯定比逛倉庫來得好多了。

所以,數(shù)據(jù)集市就像宜家樓上的展廳,正如其名字“集市”一樣,是一個面向最終用戶(顧客)的數(shù)據(jù)市場,在這里,數(shù)據(jù)(家具)以一種更加容易被業(yè)務(wù)人員(顧客)接受的方式組合在一起,這些組合方式可能是多變的,因為業(yè)務(wù)人員(顧客)的需求是多變的,因此我們需要定期調(diào)整集市的計算口徑(展廳的陳列方式),經(jīng)常會創(chuàng)建新的數(shù)據(jù)集市(裝修新的展廳)。

數(shù)據(jù)倉庫和集市的概念理解了,其他一些相關(guān)問題也就迎刃而解,比如為什么有了數(shù)據(jù)倉庫還要建數(shù)據(jù)集市?等等。

那什么是數(shù)據(jù)湖呢?

數(shù)據(jù)湖至今仍然沒有一個特別標準的概念,各種概念中,比較統(tǒng)一的一點是數(shù)據(jù)湖存儲的是未經(jīng)加工的原始數(shù)據(jù),包含結(jié)構(gòu)化和非結(jié)構(gòu)化的各類數(shù)據(jù)。數(shù)據(jù)玩家仍然嘗試用上面的例子來解釋。

大家都知道,宜家的家具是需要自己組裝的,所以宜家的顧客們都有一些動手能力,他們突發(fā)奇想,所有的家具能不能全部拆散成零部件存放,由顧客們根據(jù)實際需要挑選零部件自行拼裝?

所以,數(shù)據(jù)湖就是一個存儲了所有企業(yè)內(nèi)原始數(shù)據(jù)(家具零部件)的存儲,這就帶來一系列問題,加工后數(shù)據(jù)的存儲已經(jīng)非常復(fù)雜,原始數(shù)據(jù)則依賴更多的管理功能,不然數(shù)據(jù)又多又雜難以管理,數(shù)據(jù)湖會退化為數(shù)據(jù)沼澤。此外,原始數(shù)據(jù)如果缺少統(tǒng)一的數(shù)據(jù)標準,就像不同的家具零部件之間的接口不同,那就無法組裝在一起了。

因此,數(shù)據(jù)湖必須有完善的數(shù)據(jù)管理功能,也依賴于統(tǒng)一的數(shù)據(jù)標準和良好的數(shù)據(jù)質(zhì)量管理。

那什么又是數(shù)據(jù)中臺呢?

數(shù)據(jù)中臺也沒有一個特別明確的定義,這里很難套用宜家的例子強行解釋了,我們來看下各類數(shù)據(jù)平臺:

在我們傳統(tǒng)的數(shù)據(jù)應(yīng)用中,隨著數(shù)據(jù)對于業(yè)務(wù)友好度的增加,其時效性也在減弱。而我們的目標,顯然是數(shù)據(jù)又快又好。既然各部門的需求都不一樣,為何不讓業(yè)務(wù)自助分析數(shù)據(jù)呢?于是我們有了右上角的目標狀態(tài)。但是這個理想狀態(tài)和我們現(xiàn)在的數(shù)據(jù)應(yīng)用中間有巨大的空隙,靠什么來填補?答案就是數(shù)據(jù)中臺。

我們可以將其分為狹義的數(shù)據(jù)中臺和廣義的數(shù)據(jù)中臺。狹義的數(shù)據(jù)中臺,指的是一套數(shù)據(jù)應(yīng)用和工具,包括分布式ETL、數(shù)據(jù)資產(chǎn)管理、數(shù)據(jù)標簽管理、數(shù)據(jù)沙箱、自助分析平臺、元數(shù)據(jù)管理、數(shù)據(jù)質(zhì)量管理等等,底層則以現(xiàn)有的數(shù)倉、大數(shù)據(jù)平臺等為數(shù)據(jù)源,為企業(yè)提供數(shù)據(jù)資產(chǎn)管理的能力,并持續(xù)挖掘數(shù)據(jù)價值,持續(xù)提供數(shù)據(jù)智能服務(wù)。

廣義的數(shù)據(jù)中臺,則在狹義的數(shù)據(jù)中臺基礎(chǔ)之上,包含了頂層數(shù)據(jù)戰(zhàn)略,數(shù)據(jù)治理體系以及數(shù)據(jù)管理及運營、數(shù)據(jù)文化培養(yǎng)和組織架構(gòu)支撐,是一套持續(xù)管理和運營的體系。

可以這么說,狹義的數(shù)據(jù)中臺,是專為達成數(shù)據(jù)中臺的使命而打造,一類是讓數(shù)據(jù)更快的處理、整合、加工,比如分布式ETL工具。隨著傳統(tǒng)數(shù)據(jù)被大數(shù)據(jù)平臺逐步替代,ETL工具對于大數(shù)據(jù)平臺的適配也需要與時俱進,支持分布式計算、彈性計算,并且減少開發(fā)量。

另一類是讓數(shù)據(jù)更好的產(chǎn)生業(yè)務(wù)價值,比如數(shù)據(jù)標簽管理,自助分析平臺等。數(shù)據(jù)標簽大家都在用,但是真正深度使用的企業(yè)都會感覺:建好容易用好難,如果沒有一套標簽管理系統(tǒng),標簽是否重復(fù)加工,標簽的使用率、準確性等都無從掌控,業(yè)務(wù)部門想要針對近期營銷活動新建一個標簽,還得走開發(fā)流程,時效性也難以保證。數(shù)據(jù)標簽管理系統(tǒng)就是為了解決數(shù)據(jù)標簽的使用問題而建立。自助分析平臺則是方便業(yè)務(wù)人員自助進行數(shù)據(jù)分析、加工、探索的平臺,它與數(shù)據(jù)沙箱結(jié)合,直接將去隱私化的生產(chǎn)數(shù)據(jù)提供業(yè)務(wù)人員分析,使數(shù)據(jù)更快的產(chǎn)生價值,支撐關(guān)鍵決策。

廣義的數(shù)據(jù)中臺,則是輔助狹義數(shù)據(jù)中臺達成使命的機制,雖然看起來都很“虛”,但是卻是數(shù)據(jù)中臺成功落地的必要保障。

那所有這些都必須做嗎?

這個問題要看具體的企業(yè)情況,總的來說,一個大原則是以滿足業(yè)務(wù)發(fā)展為第一優(yōu)先,不要為了做基礎(chǔ)設(shè)施而做基礎(chǔ)設(shè)施,一定要以能解決業(yè)務(wù)訴求為最終目的。

《人月神話》里早就宣告了銀彈不存在,自然,數(shù)據(jù)倉庫、數(shù)據(jù)集市、數(shù)據(jù)湖、數(shù)據(jù)中臺都不是銀彈,千萬不能以為做了他們就水到渠成,數(shù)字化轉(zhuǎn)型就自動完成了。

簡言之,用了一系列時髦的新技術(shù)不見得就是數(shù)字化領(lǐng)軍企業(yè),不用也不見得就是古典互聯(lián)網(wǎng)時代的落后作坊。關(guān)鍵是認清自身的數(shù)字化現(xiàn)狀,擬定數(shù)字化目標,制定數(shù)字化路徑,優(yōu)選場景,實現(xiàn)價值。新技術(shù)、各類數(shù)據(jù)基礎(chǔ)設(shè)施只是這條道路上,一套套切實可行的行動方案,是把過去銀行的種種數(shù)字化的嘗試,重新以體系化、結(jié)構(gòu)化的方法論梳理,并且賦予當(dāng)下最新的技術(shù)架構(gòu)予以實施。

原文標題:數(shù)據(jù)倉庫、數(shù)據(jù)集市、數(shù)據(jù)湖、數(shù)據(jù)中臺到底有什么區(qū)別?

文章出處:【微信公眾號:工業(yè)IoT】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 數(shù)據(jù)
    +關(guān)注

    關(guān)注

    8

    文章

    7255

    瀏覽量

    91815
  • 數(shù)據(jù)倉庫
    +關(guān)注

    關(guān)注

    0

    文章

    62

    瀏覽量

    10704

原文標題:數(shù)據(jù)倉庫、數(shù)據(jù)集市、數(shù)據(jù)湖、數(shù)據(jù)中臺到底有什么區(qū)別?

文章出處:【微信號:IndustryIOT,微信公眾號:工業(yè)互聯(lián)網(wǎng)前線】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    華為發(fā)布AI數(shù)據(jù)解決方案加速行業(yè)智能化 AI時代數(shù)據(jù)覺醒

    正式發(fā)布AI數(shù)據(jù)解決方案,加速AI行業(yè)化落地。 華為公司副總裁、華為數(shù)據(jù)存儲產(chǎn)品線總裁周躍峰博士 數(shù)字化轉(zhuǎn)型已經(jīng)進行了幾十年,很多事發(fā)生了變化,只有一樣事情從來沒有變化過,那就是“數(shù)據(jù)
    的頭像 發(fā)表于 04-30 18:01 ?1171次閱讀
    華為發(fā)布AI<b class='flag-5'>數(shù)據(jù)</b><b class='flag-5'>湖</b>解決方案加速行業(yè)智能化 AI時代<b class='flag-5'>數(shù)據(jù)</b>覺醒

    PolarDB×ADB雙擎驅(qū)動 華鼎冷鏈打造冷鏈數(shù)據(jù)智能反應(yīng)堆

    完成從自建分布式數(shù)據(jù)庫到云原生數(shù)據(jù)庫PolarDB MySQL,再到云原生數(shù)據(jù)倉庫AnalyticDB MySQL(ADB MySQL)的全鏈路升級,實現(xiàn)了事務(wù)處理和數(shù)據(jù)分析一體化。
    的頭像 發(fā)表于 04-15 15:13 ?232次閱讀
    PolarDB×ADB雙擎驅(qū)動 華鼎冷鏈打造冷鏈<b class='flag-5'>數(shù)據(jù)</b>智能反應(yīng)堆

    濕度數(shù)據(jù)記錄儀是什么?一文為你解答

    在日常生活以及常見的工業(yè)場景當(dāng)中,濕度是很重要的一個因素。從居住的房間舒適度,到一些對濕度要求極高的實驗室、倉庫等場所,可能都需要進行精準的濕度把控。在這個過程中,濕度數(shù)據(jù)記錄儀發(fā)揮著重要的作用
    發(fā)表于 03-31 10:35

    注塑機數(shù)據(jù)采集網(wǎng)關(guān)和數(shù)據(jù)中臺有哪些聯(lián)系特點

    。它將這些分散的、來自不同注塑機的數(shù)據(jù)進行收集和整理,為數(shù)據(jù)中臺提供原始數(shù)據(jù)來源。 數(shù)據(jù)中臺實現(xiàn)集中存儲:數(shù)據(jù)采集網(wǎng)關(guān)通過網(wǎng)絡(luò)將采集到的
    的頭像 發(fā)表于 03-25 15:38 ?246次閱讀
    注塑機<b class='flag-5'>數(shù)據(jù)</b>采集網(wǎng)關(guān)和<b class='flag-5'>數(shù)據(jù)</b>中臺有哪些聯(lián)系特點

    支持二維碼掃描的PDA數(shù)據(jù)采集器,用于倉庫,出入庫、庫存管理

    在現(xiàn)代倉庫管理中,支持二維碼掃描的PDA數(shù)據(jù)采集器已成為不可或缺的工具。這種便攜式的智能移動終端,憑借其高效、準確的數(shù)據(jù)采集能力,極大地提升了倉庫管理的效率和精度。PDA
    的頭像 發(fā)表于 02-19 15:48 ?485次閱讀
    支持二維碼掃描的PDA<b class='flag-5'>數(shù)據(jù)</b>采集器,用于<b class='flag-5'>倉庫</b>,出入庫、庫存管理

    HarmonyOS Next 應(yīng)用元服務(wù)開發(fā)-分布式數(shù)據(jù)對象遷移數(shù)據(jù)權(quán)限與基礎(chǔ)數(shù)據(jù)

    使用分布式數(shù)據(jù)對象遷移數(shù)據(jù),當(dāng)需要遷移的數(shù)據(jù)較大(100KB以上)或需要遷移文件時,可以使用分布式數(shù)據(jù)對象。原理與接口說明詳見分布式數(shù)據(jù)對象
    發(fā)表于 12-24 09:40

    戴爾數(shù)據(jù)倉助力企業(yè)數(shù)字化轉(zhuǎn)型

    在數(shù)字化轉(zhuǎn)型的浪潮下,企業(yè)正面臨著前所未有的數(shù)據(jù)挑戰(zhàn)。從傳統(tǒng)的結(jié)構(gòu)化數(shù)據(jù)到如今的非結(jié)構(gòu)化數(shù)據(jù)、半結(jié)構(gòu)化數(shù)據(jù),每一種類型都對企業(yè)的存儲和分析能力提出了更高的要求。面對這些變化,傳統(tǒng)的
    的頭像 發(fā)表于 12-20 09:31 ?511次閱讀

    可與MES系統(tǒng)集成的數(shù)據(jù)采集監(jiān)控平臺

    ,確保數(shù)據(jù)的全面接入。 數(shù)據(jù)存儲與管理: 采用數(shù)據(jù)庫或數(shù)據(jù)倉庫存儲采集到的數(shù)據(jù)。 提供高效的數(shù)據(jù)
    發(fā)表于 12-16 15:08

    云計算在大數(shù)據(jù)分析中的應(yīng)用

    和處理大規(guī)模的數(shù)據(jù)集。通過云計算平臺,用戶可以快速構(gòu)建數(shù)據(jù)倉庫,將海量數(shù)據(jù)進行存儲、管理和分析。這種能力使得企業(yè)能夠高效地處理PB級別的數(shù)據(jù),滿足大
    的頭像 發(fā)表于 10-24 09:18 ?1114次閱讀

    數(shù)據(jù)從業(yè)者必知必會的Hive SQL調(diào)優(yōu)技巧

    數(shù)據(jù)從業(yè)者必知必會的Hive SQL調(diào)優(yōu)技巧 摘要 :在大數(shù)據(jù)領(lǐng)域中,Hive SQL被廣泛應(yīng)用于數(shù)據(jù)倉庫數(shù)據(jù)查詢和分析。然而,由于數(shù)據(jù)
    的頭像 發(fā)表于 09-24 13:30 ?691次閱讀

    多功能數(shù)據(jù)采集背夾廣泛應(yīng)用于用于倉庫、物流運輸?shù)刃袠I(yè)

    隨著信息技術(shù)的飛速發(fā)展,多功能數(shù)據(jù)采集背夾作為一種創(chuàng)新型的智能設(shè)備,正逐步在倉庫、物流運輸?shù)刃袠I(yè)中展現(xiàn)其巨大的應(yīng)用價值。這種設(shè)備以其便攜性、高效性和多功能性,成為現(xiàn)代企業(yè)管理中不可或缺的一部分。在
    的頭像 發(fā)表于 09-12 14:49 ?816次閱讀
    多功能<b class='flag-5'>數(shù)據(jù)</b>采集背夾廣泛應(yīng)用于用于<b class='flag-5'>倉庫</b>、物流運輸?shù)刃袠I(yè)

    解鎖SAP數(shù)據(jù)的潛力:SNP Glue與SAP Datasphere的協(xié)同作用

    ,實現(xiàn)與基于云的數(shù)據(jù)倉庫數(shù)據(jù)的無縫連接。通過近乎實時的數(shù)據(jù)傳輸和增強的數(shù)據(jù)共享能力,企業(yè)可以更有效地管理內(nèi)外部
    的頭像 發(fā)表于 09-11 17:23 ?736次閱讀
    解鎖SAP<b class='flag-5'>數(shù)據(jù)</b>的潛力:SNP Glue與SAP Datasphere的協(xié)同作用