Python解决MySQL数据处理从SQL批量删除报错
作者:wx65602fa627551
这篇文章主要为大家介绍了Python解决MySQL数据处理从SQL批量删除报错,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步,早日升职加薪
一、背景
MySQL数据库表中有一批重复的脏数据,为不影响正常业务,需要进行批量删除。数据示例如下图所示:
二、SQL批量删除
首先想到的是编写SQL语句来批量删除:删除身份证号为51****59且ID不为5的全部数据(保留ID为5的那一条数据)
DELETE FROM test_table WHERE id IN ( SELECT id FROM test_table WHERE id_card_no = "51****59" AND id != 5 );
运行结果:
删除失败,SQL语句运行时报错了
鉴于当时实际情况需要尽快删除脏数据,就没有在此做过多的考究,原因和解决详见第四小节:SQL运行问题排查
三、Python批量删除
数据准备
将SQL查询到的所有需要删除的数据ID保存到txt文件中
SELECT id FROM test_table WHERE id_card_no = "51****59" AND id != 5;
读取数据ID
def del_from_mysql(): # 【读取数据ID】 with open(file="新建文本文档.txt", mode="r", encoding="utf-8") as f: data = f.read() f.close() ids = data.split("\n") print(ids) if __name__ == "__main__": del_from_mysql()
运行结果:
连接数据库执行SQL
这里需要先安装b并导入pymysql第三方库
pip install pymysql
导入
import pymysql def del_from_mysql(dbinfo): # 【读取数据ID】 with open(file="新建文本文档.txt", mode="r", encoding="utf-8") as f: data = f.read() f.close() ids = data.split("\n") # 【连接数据库执行SQL】 conn = pymysql.connect(**dbinfo) cursor = conn.cursor() for i in ids: sql = f"delete from test_table where id={i}" cursor.execute(sql) conn.commit() conn.close() if __name__ == "__main__": # 数据库信息 db_info = { 'host': "192.168.1.1", 'port': 3306, 'user': "test", 'passwd': "test", 'db': "test_", 'charset': "utf8" } del_from_mysql(db_info)
运行结果:
可以看到这时已经完成重复脏数据的删除
四、SQL运行问题排查
前面使用SQL批量删除时遇到了报错:You can't specify target table 'test_table' for update in FROM clause
查阅资料后发现:在Mysql中,delete或者update的where条件中不能包含同一张表的子查询语句,而在where条件中再加一个中间表就能解决此问题
修改后的SQL语句如下:
DELETE FROM test_table WHERE id IN ( SELECT * FROM ( SELECT id FROM test_table WHERE id_card_no = "51****59" AND id != 5 ) t1 );
以上就是MySQL数据处理:从SQL批量删除报错到Python优雅解决的详细内容,更多关于Python解决SQL批量删除报错的资料请关注脚本之家其它相关文章!