1樓:
Kudu分布式儲存引擎
提取碼: f19f
2樓:網易數帆
Kudu 在乙個系統中融合了 OLTP 型隨機讀寫能力與 OLAP 型分析能力,填補了 Hadoop 儲存層的缺憾,是 Hadoop 生態的一大生力軍。Kudu 目前在網易、小公尺等公司的大資料技術體系中是不可或缺的。
Kudu的設計目標
Kudu設計之初,是為了解決以下問題:
對資料掃瞄(scan)和隨機訪問(random access)同時具有高效能,簡化使用者複雜的混合架構
高 CPU 效率,使使用者購買的先進處理器的的花費得到最大回報
高 IO 效能,充分利用先進儲存介質
支援資料的原地更新,避免額外的資料處理、資料移動
支援跨資料中心 replica on
Kudu 的很多特性跟 HBase 很像,它支援索引鍵的查詢和修改。Cloudera 曾經想過基於 HBase 進行修改,然而結論是對 HBase 的改動非常大,Kudu 的資料模型和磁碟儲存都與 HBase 不同。HBase 本身成功的適用於大量的其它場景,因此修改 HBase 很可能吃力不討好。
後 Cloudera 決定開發乙個全新的儲存系統。
Kudu 的定位是提供」fast analy cs on fast data」,也就是在快速更新的資料上進行快速的查詢。它定位 OLAP 和少量的 OLTP 工作流,如果有大量的 randomaccesses,官方建議還是使用 HBase 更為合適。
Kudu 和 HBase 二者的區別,可以參考:分布式儲存系統Kudu與HBase的簡要分析與對比
Kudu 在網易的應用
Kudu 在網易主要有兩個應用場景:
資料庫資料上的快速分析
使用者行為日誌的快速分析
正如問題描述,我們通過 Kudu 和 Impala 的配合,實現透明分層儲存管理,以實現快速資料的快速分析能力,讓實時資料倉儲的建設獲得了革命性的變化,資料展現的時差從此成為了歷史……
詳情參考:實時性和完整性兼得,使用 Kudu 和 Impala 實現透明的分層儲存管理
3樓:
和HBase很像,感覺很像是hbase+tikv+histore的結合體,分割槽參考了hbase,一致性參考了raft,物理儲存為列式儲存~ 分析性場景(count,sum(column))有優勢。
分割槽雖然支援range和hash兩種和兩種的組合,但是不夠自動化,range的擴充套件需要人工干預。
一致性模型不夠清晰。
周邊工具不夠完善。
如果有資料量比較大的純實時insert的olap場景,還是比較合適的。
c++實現,是優點也是缺點吧。
目前只對impala支援的比較好,如果引入它還要買一贈一。
4樓:大資料技術峰會解讀
Kudu產品的幾個要點:
資料模型和關聯式資料庫類似,為結構化的表;列的數量有限(和HBase/Cassandra相比較而言)
內部資料組織方式為列式儲存
很好的橫向擴充套件能力,目前測試的是275個節點(3PB),計畫支援到上千個節點(幾十PB)
不錯的效能,集群能達到百萬級別的TPS,單節點吞吐為幾個GB/s
本身不提供SQL介面,只支援類似NoSQL的介面,如 Insert(), Update(), Delete() and Scan() 等
通過與 Spark 和 Impala 等(Drill,Hive的支援還在進行中)的整合,對外提供基於 SQL 的查詢分析服務
關於小公尺如何使用Kudu,這裡有更詳細的介紹:Apache Kudu 加速對頻繁更新資料的分析 - 知乎專欄
5樓:吳友強
首先是乙個分布式的列式儲存,大家都說到了主要是用於分析計算的儲存系統。但是也是可以用於存的儲存系統。kudu是乙個現代的列式儲存系統,需要最新的硬體支援,充分發揮現在高效能硬體和cpu指令集。
在儲存方面做了很多效能優化,資料一致性和容災主要還是靠raft。
6樓:chen davy
1:支援增、刪、改
2:一套儲存,即支援較快速查詢(對標HBase),也支援較快速分析(對標impala)。而不必像之前,想查詢,用HBase得一套儲存,相分析,用impala得一套儲存
為什麼沒有以hbase作為儲存引擎的關係型資料庫實現?
小小k 為什麼要實現關係型資料庫?不同場景選用不同元件就ok。hbase優勢在於強大的寫入能力和極速的rowkey查詢能力。沒有哪個元件是兼顧TP,AP的,如果有的話,一定是都兩者做了很大犧牲,比如一些號稱HTAP的元件。當然,大資料技術日新月異,說不定將來真會有這麼乙個引擎誕生。目前阿里雲的商業產...
如何評價Square Enix的夜光引擎(Luminous Studio)?
小皇子 現在回答可能比較晚了,不過應該可以給出乙個更直觀的答案,那就是太過先進了吧,ps4和xboxone的機能承載不了這個引擎,現在這個引擎唯一的一款遊戲也就是ff15.從製作人的話和之前的爆料來看,夜光引擎的優化很成問題,後來遊戲更換引擎應該也是和優化掛鉤,引擎的效果沒話說,各種次時代特效,室內...
如何評價FIFA online3新引擎?
還不錯的回答。 Echo Xx1 我只想說 更新之前,每賽季穩定傳奇C B,三個賽季金星。更新之後,一路跪到世界B,傳球不准,跑位不動,射門不進,後防還越來越都比。現在已經轉休閒。另外我不是土豪玩家,更新前也才八億整容 我那天博阿滕後場乙個長傳直接找我大萊萬,晉級賽第三場九十分鐘傷停補時勞資要單刀絕...