likes
comments
collection
share

PostgreSQL需要定时清理旧数据的解决方法

作者站长头像
站长
· 阅读数 3

前言

最近leader觉得数据库中每日数据不需要都保持,只需要保留30天的,就让我去研究下。坑是真的大,最后才勉强实现,故记录一下。

技术涉及:docker docker-conpose SQL pgadmin4 pgagent

环境说明

我们的数据库是部署是使用docker-conponse直接部署在服务器上的,默认为debain。

postgre为14,所以下面默认你已经在docker中安装了数据库

1、对原来的docker—compose进行修改

在原来的基础上添加:

pgadmin: 
    container_name: pgadmin4_container 
    image: dpage/pgadmin4 
    restart: always 
    environment: 
        PGADMIN_DEFAULT_EMAIL: <admin@admin.com> PGADMIN_DEFAULT_PASSWORD: root 
    ports: - "5050:80"

添加完毕后,重启下容器

docker-compose up -d

这个时候我们访问下服务器ip:5050就能看到一个可视化的数据库管理页面

PostgreSQL需要定时清理旧数据的解决方法 记得在postgres中添加以下sql代码

CREATE OR REPLACE FUNCTION delete_old_data() RETURNS void AS $$
DECLARE
tbl_name record;
table_date date;
BEGIN
FOR tbl_name IN SELECT table_name FROM information_schema.tables WHERE table_schema = 'public' AND table_name LIKE 'position_record_%' AND table_name ~ '\d{8}' LOOP
table_date := to_date(substring(tbl_name.table_name from '\d{8}'), 'YYYYMMDD');
IF table_date < current_date - 30 THEN
EXECUTE format('DROP TABLE IF EXISTS public.%I', tbl_name.table_name);
END IF;
END LOOP;
END;
$$ LANGUAGE plpgsql;

2、pgadmin基本操作

输入账号和密码:admin@admin.com、root

登陆成功

PostgreSQL需要定时清理旧数据的解决方法 (修改中文为:左上角-FILE-Preferences-User language-Chinese)

右击Servers-创建-服务器

输入对应的ip账号密码,就可以看到自己的数据库了。

3、安装pgagent插件(重点)

你需要进入postgres容器、环境配置、安装pgagent、pgagent配置

docker-compose exec pgsql bash # 进入容器
apt-get update # 更新源
apt install vim # 安装vim工具
vim /etc/apt/sources.list # 进入系统源配置文件把原来的注释了添加

deb <http://mirrors.aliyun.com/debian/> bullseye main deb 
<http://mirrors.aliyun.com/debian-security> bullseye-security main deb 
<http://mirrors.aliyun.com/debian> bullseye-updates main
# 修改成国内源

apt-get update
apt install pgagent # 安装pgagent
psql -U postgres -h localhost # 创建db扩展
CREATE EXTENSION pgagent; 
\q 
exit
# 在postgres数据库上启用pgagent:
pgagent hostaddr=127.0.0.1 dbname=postgres user=postgres password=***** 
# 和你的docker-conpose保持一致就好

如果输入pgagent hostaddr...指令没有报错的话就安装插件完毕了。

这个时候你再去访问pgadmin就可以看到

PostgreSQL需要定时清理旧数据的解决方法

即pgagent配置完毕!

4、定时任务的开启和清理的sql语句

鼠标右击pgAgent任务-创建-pgAgent作业...

PostgreSQL需要定时清理旧数据的解决方法 输入名称后,点击步骤

PostgreSQL需要定时清理旧数据的解决方法 由于我是本地所以连接字符串不需要(按照你的需求来) 在代码中添加

SELECT delete_old_data();

这个清理的具体逻辑按照你实际情况来

PostgreSQL需要定时清理旧数据的解决方法

PostgreSQL需要定时清理旧数据的解决方法

PostgreSQL需要定时清理旧数据的解决方法 这样就是一天执行一次,按照你的需求来,如果是小时为00分钟为30,那就是到30分钟就清理一次(一小时)

点击保存就好了。

PostgreSQL需要定时清理旧数据的解决方法 这里可以看到配置的状态

尾声

我就是简单配置下,看看会不会生效。如果可以的话,我将把定时备份数据库的操作也放到上面去。如果我上的有错,也会修改。

2024-3-6 起来发现没有删除,排查是sql语句写错了,进行修改