MySQL 5.5 Community Server
MySQL 5.6 Community Server
Percona Configuration Wizard
XtraBackup 搭建主从复制
Great Sites on MySQL
Percona
MySQL Performance Blog
Severalnines
推荐管理工具
Sequel Pro
phpMyAdmin
推荐书目
MySQL Cookbook
MySQL 相关项目
MariaDB
Drizzle
参考文档
http://mysql-python.sourceforge.net/MySQLdb.html
hua123s
V2EX  ›  MySQL

请教各位一个问题, mysql 数据同步或者迁移

  •  
  •   hua123s ·
    powerfulyang · Nov 8, 2019 · 5609 views
    This topic created in 2403 days ago, the information mentioned may be changed or developed.

    俺有一个数据库的数据想要同步到另一个数据库, A 库的字段名和 B 库的字段名对应不一样, A 库数据会更新,B 库做到比较高效地同步更新。

    请问一样我要肿么处理,效率和稳定性会比较高呢。(╹▽╹)

    • 或者不是两个数据库,一个库两张表肿么处理?
    10 replies    2019-11-21 15:30:56 +08:00
    KingOfUSA
        1
    KingOfUSA  
       Nov 8, 2019
    1. 可以用 mq 来解决,这样要动你的程序。A 库的程序更新了以后发一条 mq,然后监听者消费,更新 B 库数据;
    2. 使用监听 mysql binlog 的中间件(例如阿里的 canel );
    3. 如果上云了,可以使用云厂商提供的服务;
    justfly
        2
    justfly  
       Nov 8, 2019
    最后问题,一库两表,用触发器
    xxsww211
        3
    xxsww211  
       Nov 8, 2019
    对应字段不一样,那就只能做新的插入了,而且两个表都是有读写的,所以能做的事并不多。
    无非就是监控 A 的变化,去更新或插入 B。
    xxsww211
        4
    xxsww211  
       Nov 8, 2019
    可以考虑将一个表做成 cache,将共用的部分做缓存,只写一个表,另外一个就不需要重复的部分了
    hua123s
        5
    hua123s  
    OP
       Nov 8, 2019 via iPhone
    😭A 的写,我没法控制。要做的只是同步 A 库数据到 B 库
    x66
        6
    x66  
       Nov 8, 2019   ❤️ 1
    etl 根据 create_datetime 和 update_datetime 增量同步
    SjwNo1
        7
    SjwNo1  
       Nov 8, 2019
    同库 用触发器就可 字段不一致考虑做字段映射
    realpg
        8
    realpg  
    PRO
       Nov 8, 2019
    2. 触发器

    1. 触发器出发另外一个跟目标结构表 然后同步这个表

    1 的高级玩是自己编一个基于 RAM 的引擎输出结构化流给远端或者本地独立服务器,我搞过
    hua123s
        9
    hua123s  
    OP
       Nov 21, 2019
    @x66 emmm 大佬大佬 我用了你说的 kettle 这种东西 源库删除了某些行 怎么同步?
    x66
        10
    x66  
       Nov 21, 2019
    @hua123s #9
    我们这边针对这种情况有两种方案,尽量采用 1.。
    1。数据不做物理删除,采用逻辑删除标志。
    2. 每天在非业务高峰期根据主键做一次全表比对。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   1359 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 36ms · UTC 17:01 · PVG 01:01 · LAX 10:01 · JFK 13:01
    ♥ Do have faith in what you're doing.