数据库其它

关注公众号 jb51net

关闭
首页 > 数据库 > 数据库其它 > KES数据库实战避坑

KES数据库优化踩坑指南:外连接消除引发的LEFT JOIN数据丢失问题深度剖析

作者:xcLeigh

在使用数据库进行查询优化时,特别是在处理外连接(LEFT JOIN)时,确实可能会遇到一些常见的问题,其中之一就是由于优化不当导致使用外连接(LEFT JOIN)时数据丢失,下面我将详细解析这个问题,并提供一些避免此类问题的策略

一、前言

平时做国产库迁移,或是线上SQL调优的时候,不少开发同事都会碰到一种很难看懂的异常现象。我们明明写了LEFT JOIN,本意是把左表里所有数据都查出来,最后返回的记录却少了一大截。

拿执行计划去核对的时候就能发现,原来的左外连接,被优化器悄悄改成了INNER JOIN。这个现象,行业里一般叫做外连接消除。

KES内核自带和Oracle对齐的等价改写逻辑,要是不清楚这套底层转换规则,线上业务很容易出现数据统计出错的问题。

下面我准备了可以直接在KES里跑的测试SQL,搭配执行计划对比,把触发条件、背后逻辑、规避办法全部讲清楚,适配国产化迁移、日常SQL优化这类场景。

先搭好两张测试表用来复现问题,直接复制执行就行:

-- 创建左表t1
CREATE TABLE t1 (
    id1 INT PRIMARY KEY,
    name1 VARCHAR(20)
);
-- 创建右表t2
CREATE TABLE t2 (
    id2 INT PRIMARY KEY,
    name2 VARCHAR(20)
);
-- 插入测试数据
INSERT INTO t1 VALUES (1, '张三'),(2, '李四'),(3, '王五'),(4, '赵六');
INSERT INTO t2 VALUES (1, 'cc'),(2, 'dd');
-- 查看原始数据
SELECT * FROM t1;
SELECT * FROM t2;

原始数据展示
t1表里面一共四条记录:

id1name1
1张三
2李四
3王五
4赵六
t2表只有两条匹配数据:
id2name2
------------
1cc
2dd
本次业务需求也很简单,取出t1全部四条数据,关联匹配t2里name2等于cc的内容,没有匹配的行,t2字段显示NULL就可以。

二、踩坑案例:错误写法触发外连接消除

1. 有问题的SQL写法,过滤条件放在WHERE子句

SELECT * FROM t1 LEFT JOIN t2 ON t1.id1 = t2.id2
WHERE t2.name2 = 'cc';

大家心里预期的查询结果应该是四条,id1等于1的行带出cc,剩下三条t2字段全部为空:

id1name1id2name2
1张三1cc
2李四NULLNULL
3王五NULLNULL
4赵六NULLNULL
但实际在KES里跑出来,只会返回单条数据,另外三条直接消失了:
id1name1id2name2
------------------------
1张三1cc

我们用EXPLAIN ANALYZE看执行计划,就能确认优化器做了转换:

EXPLAIN ANALYZE
SELECT * FROM t1 LEFT JOIN t2 ON t1.id1 = t2.id2
WHERE t2.name2 = 'cc';

打印出来的计划关键片段如下:

Hash Join (Inner Join)
  Hash Cond: (t1.id1 = t2.id2)
  -> Seq Scan on t1
  -> Hash
       -> Seq Scan on t2
            Filter: (name2 = 'cc'::character varying)

这里能清楚看到,算子变成了内连接Hash Join,也就是前面说的外连接消除。那些右表匹配为空的数据,直接被过滤丢掉了。

三、底层原理:WHERE写右表条件会触发消除的原因

1 SQL语句实际执行的先后顺序

标准SQL的执行顺序是先执行FROM和JOIN关联,之后才会走WHERE过滤。

2 优化器的等价转换逻辑

KES优化器会自动做等价判断,这里的逻辑很直白:

四、不会触发外连接消除的特殊场景

只有WHERE条件写IS NULL、IS NOT NULL这类判断的时候,优化器不会改动LEFT JOIN。

举一段查询左表无匹配记录的示例SQL:

SELECT * FROM t1 LEFT JOIN t2 ON t1.id1 = t2.id2
WHERE t2.name2 IS NULL;

这条语句执行出来的结果:

id1name1id2name2
2李四2dd
3王五NULLNULL
4NULLNULL

对应的执行计划也能看到保留了左连接算子:

Hash Left Join
  Hash Cond: (t1.id1 = t2.id2)
  -> Seq Scan on t1
  -> Hash
       -> Seq Scan on t2
Filter: (t2.name2 IS NULL)

原因也很好理解,IS NULL本身就是用来抓取关联后空行的逻辑,要是转成内连接,这部分数据直接就没了,优化器不会做这种转换。

五、KES里三种标准解决办法,规避数据丢失

方案1 把右表过滤条件挪到ON后面(优先推荐)

整体思路调整为先过滤右表数据,再执行左关联,左表所有记录都会保留,不会触发消除:

SELECT * FROM t1 LEFT JOIN t2 ON t1.id1 = t2.id2 AND t2.name2 = 'cc';

执行出来的结果符合业务预期,四条数据全部存在:

id1name1id2name2
1张三1cc
2李四NULLNULL
3王五NULLNULL
4NULLNULL

执行计划也能看到Left Join算子保留完整:

Hash Left Join
  Hash Cond: (t1.id1 = t2.id2)
  -> Seq Scan on t1
  -> Hash
       -> Seq Scan on t2
            Filter: (name2 = 'cc'::character varying)

2 Oracle兼容(+)语法场景专用写法

KES支持Oracle老式(+)左连接语法,这里也容易踩同类坑。
错误写法,过滤条件不带(+),会触发外连接消除:

SELECT * FROM t1, t2
WHERE t1.id1 = t2.id2(+) AND t2.name2 = 'cc';

正确写法,右表字段同步加上(+),过滤逻辑下沉到关联阶段:

SELECT * FROM t1, t2
WHERE t1.id1 = t2.id2(+) AND t2.name2(+) = 'cc';

3 过滤条件放在左表WHERE不受影响

如果WHERE里面过滤的是左表字段,不会触发外连接消除,只会提前筛左表原始数据:

-- 只筛选t1里姓名等于张三的数据,左关联特性不会变
SELECT * FROM t1 LEFT JOIN t2 ON t1.id1 = t2.id2
WHERE t1.name1 = '张三';

六、线上SQL排查、核对小技巧

平时调优、迁移排查碰到LEFT JOIN行数不对,可以按下面步骤定位问题:

七、全文总结

到此这篇关于KES数据库优化踩坑指南:外连接消除引发的LEFT JOIN数据丢失问题深度剖析的文章就介绍到这了,更多相关KES数据库实战避坑内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

您可能感兴趣的文章:
阅读全文