Qt数据库应用之实现通用数据库清理

2022-02-23 09:15:17 作者：feiyangqingyun

项目如果需要存储很多日志记录比如运行日志，时间长了记录数量非常多，数据库体积不断增大，对应数据库表的增删改查的效率不断降低，因此需要将早期的数据清理。本文将详细介绍一下通用数据库清理的实现，需要的可以参考一下

一、前言

很多项目如果需要存储很多日志记录比如运行日志，时间长了记录数量非常多，数据库体积不断增大，对应数据库表的增删改查的效率不断降低，为了消除这几个影响，需要有一套机制，不断将早期的数据清理，清理的规则比如可以指定表名、字段名、时间范围等。

日志记录的清理一方面是为了保证查询效率，毕竟数据量大了明显影响查询速度，一方面也是为了节约磁盘存储空间，毕竟存储空间有限，尤其是嵌入式板子，容量一般不会很大，记录无限制的存储下去会不断增加磁盘空间的占用。

除了数据库记录的清理以外，还有个场景是文件的清理，比如视频监控系统存储了很多视频文件，为了保证磁盘空间的大小，需要不断清理不需要的早期的视频文件，以便腾出空间存储新的文件，相当于覆盖写入，这样就最大化的把磁盘空间利用起来，不会因为磁盘空间不够而导致的程序不能正常运行。

可设置要清理的对应数据库连接名称和表名。
可设置条件字段。
可设置排序字段。
可设置最大保留的记录数。
可设置执行自动清理的间隔。
后期支持多个数据库和多个表。
建议条件字段用数字类型的主键，速度极快。
增加统计用字段名称设置。
增加自动清理文件夹，超过大小自动删除文件夹中早期文件。

Qt数据库相关应用开发总结

二、功能特点

同时支持多种数据库比如odbc、sqlite、mysql、postgresql、sqlserver、oracle、人大金仓等。

一个数据库类即可管理本地数据库通信，也支持远程数据库通信等。

数据库线程支持执行各种sql语句，包括单条和批量。

组件中的所有类打印信息、错误信息、执行结果都信号发出去。

集成数据库通用翻页类（负责具体处理逻辑），搭配分页导航控件（负责外观），形成超级牛逼的翻页控件。

集成数据库自动清理类，设定最大记录数后台自动清理早期数据。

集成自定义委托类，支持复选框、文本框、下拉框、日期框、微调框、进度条等。

同时支持Qt4-Qt6，亲测Qt4.6到Qt6.3任意版本，任意系统和编译器。

本组件无故障 360天7乘24小时运行在至少上万个现场，商业级别品质保证。

每个类都对应完整详细的使用示例，注释详细，非常适合阅读学习。

可以作为独立的程序运行，比如自动清理早期数据，同步数据到云端。

全部线程处理，不卡界面，自动重连数据库。

普通测试情况，sqlite数据库，数据库发生器每秒钟插入1000条记录约0.003秒钟，同时自动清理数据类每秒钟删除1000条记录约0.13秒，不同线程互不干扰。

三、体验地址

体验地址：https://pan.baidu.com/s/15ZKAlptW-rDcNq8zlzdYLg 提取码：uyes 文件名：bin_dbtool.zip

国内站点：https://gitee.com/feiyangqingyun

国际站点：https://github.com/feiyangqingyun

四、效果图

五、相关代码

void frmDbClean::on_btnOpen_clicked()
{
    if (ui->btnOpen->text() == "打开数据库") {
        DbInfo dbInfo;
        dbInfo.connName = this->objectName();
        dbInfo.dbName = AppConfig::DbName3;
        dbInfo.hostName = AppConfig::HostName3;
        dbInfo.hostPort = AppConfig::HostPort3;
        dbInfo.userName = AppConfig::UserName3;
        dbInfo.userPwd = AppConfig::UserPwd3;

        QString dbType = AppConfig::DbType3.toUpper();
        if (dbType == "SQLITE") {
            dbInfo.dbName = DbHelper::getDbDefaultFile();
        }

        dbClean->setConnInfo(DbHelper::getDbType(dbType), dbInfo);
        if (dbClean->openDb()) {
            //dbClean->start();
            ui->btnOpen->setText("关闭数据库");
        } else {
            QString error = dbClean->getDatabase().lastError().text();
            QUIHelper::showMessageBoxError("打开数据库失败!\n" + error, 3);
        }
    } else {
        dbClean->stop();
        dbClean->closeDb();
        ui->btnOpen->setText("打开数据库");
        ui->btnStart->setText("启动服务");
        on_btnClear_clicked();
    }

    QTimer::singleShot(100, this, SLOT(getTables()));
    QTimer::singleShot(1000, this, SLOT(on_btnStart_clicked()));
}

void frmDbClean::on_btnCopy_clicked()
{
    //将数据库设置参数一键粘贴过来
    ui->cboxDbType->setCurrentIndex(ui->cboxDbType->findText(AppConfig::LocalDbType));
    ui->txtDbName->setText(AppConfig::LocalDbName);
    ui->txtHostName->setText(AppConfig::LocalHostName);
    ui->txtHostPort->setText(QString::number(AppConfig::LocalHostPort));
    ui->txtUserName->setText(AppConfig::LocalUserName);
    ui->txtUserPwd->setText(AppConfig::LocalUserPwd);
}

void frmDbClean::getTables()
{
    if (!dbClean->getOk()) {
        return;
    }

    //取出数据库对应的表集合
    QStringList tables = dbClean->getDatabase().tables();
    ui->cboxTables->clear();
    ui->cboxTables->addItems(tables);
    if (tables.contains("LogInfo")) {
        ui->cboxTables->setCurrentIndex(ui->cboxTables->findText("LogInfo"));
    }
}

void frmDbClean::on_btnDo_clicked()
{
    if (!dbClean->getOk()) {
        return;
    }

    QString tableName = ui->cboxTables->currentText();
    QString countName = ui->txtCountName->text();
    QString orderSql = ui->txtOrderSql->text();
    dbClean->setTableName(tableName);
    dbClean->setCountName(countName);
    dbClean->setWhereColumnName(countName);
    dbClean->setOrderSql(orderSql);

    //最大保留记录数量
    dbClean->setMaxCount(AppConfig::Count3 * 10000);
    //清理间隔
    dbClean->setCleanInterval(AppConfig::Interval3);
    dbClean->cleanData();
}

到此这篇关于Qt数据库应用之实现通用数据库清理的文章就介绍到这了,更多相关Qt数据库清理内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家！