設(shè)計
應(yīng)用場景
使用教程
預(yù)覽
DBSyncer是一款開源的數(shù)據(jù)同步中間件,提供MySQL、Oracle、SqlServer、PostgreSQL、Elasticsearch(ES)、Kafka、File、SQL等同步場景。
支持上傳插件自定義同步轉(zhuǎn)換業(yè)務(wù),提供監(jiān)控全量和增量數(shù)據(jù)統(tǒng)計圖、應(yīng)用性能預(yù)警等。
特點
組合驅(qū)動 ,自定義庫同步到庫組合,關(guān)系型數(shù)據(jù)庫與非關(guān)系型之間組合,任意搭配表同步映射關(guān)系
實時監(jiān)控 ,驅(qū)動全量或增量實時同步運行狀態(tài)、結(jié)果、同步日志和系統(tǒng)日志
開發(fā)插件 ,自定義轉(zhuǎn)化同步邏輯
設(shè)計
架構(gòu)圖
基于 Spring Boot + MyBatis Plus + Vue & Element 實現(xiàn)的后臺管理系統(tǒng) + 用戶小程序,支持 RBAC 動態(tài)權(quán)限、多租戶、數(shù)據(jù)權(quán)限、工作流、三方登錄、支付、短信、商城等功能
項目地址:https://github.com/YunaiV/ruoyi-vue-pro
視頻教程:https://doc.iocoder.cn/video/
應(yīng)用場景
連接器 | 數(shù)據(jù)源 | 目標(biāo)源 | 支持版本(包含以下) |
---|---|---|---|
MySQL | 5.7.19以上 | ||
Oracle | 10gR2 -11g | ||
SqlServer | 2008以上 | ||
PostgreSQL | 9.5.25以上 | ||
ES | 6.0以上 | ||
Kafka | 開發(fā)中 | 2.10-0.9.0.0以上 | |
File | *.txt, *.unl | ||
SQL | 支持以上關(guān)系型數(shù)據(jù)庫 | ||
后期計劃 | Redis |
基于 Spring Cloud Alibaba + Gateway + Nacos + RocketMQ + Vue & Element 實現(xiàn)的后臺管理系統(tǒng) + 用戶小程序,支持 RBAC 動態(tài)權(quán)限、多租戶、數(shù)據(jù)權(quán)限、工作流、三方登錄、支付、短信、商城等功能
項目地址:https://github.com/YunaiV/yudao-cloud
視頻教程:https://doc.iocoder.cn/video/
使用教程
1.啟動 代理 和 數(shù)據(jù)庫 服務(wù)
2.準(zhǔn)備測試賬號,test
3.分配sysadmin角色
4.分配指定數(shù)據(jù)庫權(quán)限
PostgreSQL
通過復(fù)制流技術(shù)監(jiān)聽增量事件,基于內(nèi)置插件pgoutput、test_decoding實現(xiàn)解析wal日志
1、修改postgresql.conf文件,重啟服務(wù)
wal_level=logical
2、授予賬號權(quán)限LOGIN和REPLICATION
File
監(jiān)聽文件修改時間得到變化文件,通過文件偏移量讀取最新數(shù)據(jù)
https://gitee.com/ghi/dbsyncer/issues/I55EP5
ES
定時獲取增量數(shù)據(jù)。
賬號具有訪問權(quán)限。
日志
建議MySQL、SqlServer、PostgreSQL都使用日志
定時
假設(shè)源表數(shù)據(jù)格式
預(yù)覽
驅(qū)動管理
驅(qū)動詳情
驅(qū)動表字段關(guān)系配置
監(jiān)控
上傳插件
開源地址
-
開源
+關(guān)注
關(guān)注
3文章
3678瀏覽量
43811 -
管理系統(tǒng)
+關(guān)注
關(guān)注
1文章
2765瀏覽量
37029 -
數(shù)據(jù)源
+關(guān)注
關(guān)注
1文章
65瀏覽量
9920
原文標(biāo)題:星標(biāo)1.4k,一款國產(chǎn)開源數(shù)據(jù)同步中間件,支持多種數(shù)據(jù)源和預(yù)警功能!
文章出處:【微信號:芋道源碼,微信公眾號:芋道源碼】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
LabView動態(tài)創(chuàng)建數(shù)據(jù)源的方法
DxDataBook 如何調(diào)用網(wǎng)絡(luò)數(shù)據(jù)源
QuickBI助你成為分析師——搞定數(shù)據(jù)源
ViCANdo Suite直接支持的數(shù)據(jù)源
數(shù)據(jù)源配置工具
如何使用Apache Spark中的DataSource API以實現(xiàn)數(shù)據(jù)源混合計算的實踐

基于元組水平對數(shù)據(jù)源進行分層抽樣

基于LDA主題模型進行數(shù)據(jù)源選擇方法

Deep Web數(shù)據(jù)源選擇和集成方法

數(shù)據(jù)倉庫入門之創(chuàng)建數(shù)據(jù)源

Quick BI 支持多種數(shù)據(jù)源進行多維分析

評論