MySQL CDC 到 BigQuery:定期同步的盲区
MySQL CDC to BigQuery: what periodic syncs miss, and how binlog avoids it

大多数 MySQL 到数据仓库的管道依赖定时任务进行全表扫描,但这会漏掉行删除和中间状态更新,且给生产库带来巨大压力。基于 binlog 的 CDC 方案直接读取 MySQL 的二进制日志,能按顺序捕获每一条 INSERT、UPDATE 和 DELETE 操作,确保数据完整性。文章详细解析了实现可靠 CDC 所需的 MySQL 配置,包括 ROW 格式、FULL 行镜像以及权限设置,并强调了在 BigQuery 中落地时,数据的准确性远比速度更重要。如果你还在使用全表同步,或许该问问自己:我们到底错过了什么?
如果团队仍在对生产 MySQL 运行全表批处理同步,值得问的问题不是“如何让它更快”,而是“我们目前无法看到什么”。