likes
comments
collection
share

排查数据库插入慢的问题

作者站长头像
站长
· 阅读数 10

项目背景

我负责的模块是这个应用的一部分（在服务器A），但数据库（在服务器B，这个应用整体功能也在服务器B上），同库。主要是不影响这个应用的其他业务，而且分库分表维护起来，比较麻烦。

简单说就是我负责的模块，需要对远程服务器上的数据库特定的几张表，进行增删改查操作。

问题

上周还正常，这周一来了，插入删除数据的效率贼慢，能插入，就是时间太长了。

排查思路

  1. 排查服务器之间的网络问题；
  2. 排查数据库是否锁表；
  3. 检查数据库性能；

排查网络问题

检查两台服务器之间的网络是否通畅

检查两台服务器之间的网络是否通畅，可以通过以下步骤进行：

  1. 检查物理连接：
    • 确保两台服务器的网线正确连接到交换机或路由器的可用端口。
    • 检查连接的物理状态，包括插头是否牢固、灯光指示是否正常等。
  1. 验证IP配置：
    • 在两台服务器上分别运行网络配置查看命令（如Linux中的ifconfig或ip addr，Windows中的ipconfig），确保它们的网络接口配置正确。
    • 检查IP地址、子网掩码和网关设置，确保它们在同一子网内，且没有IP地址冲突。
  1. 检查防火墙设置：
    • 检查两台服务器上的防火墙设置，确保它们允许ICMP协议（用于ping命令）和其他必要的网络协议通过。
    • 如果启用了防火墙，可以尝试暂时禁用防火墙进行测试，以排除防火墙导致的网络问题。
  1. 使用ping命令测试连通性：
    • 在一台服务器上使用ping命令（如ping <另一台服务器的IP地址>）来测试与另一台服务器的连通性。
    • 如果能够收到回复，说明两台服务器之间的网络连接是通畅的。
  1. 使用traceroute或tracert命令检查路由：
    • 在一台服务器上使用traceroute（Linux）或tracert（Windows）命令来查看数据包从源服务器到目标服务器的路由路径。
    • 这可以帮助你发现可能存在的网络故障点或延迟较高的节点。
  1. 测试特定端口的连通性：
    • 如果需要测试特定应用层服务的连通性（如数据库、Web服务等），可以使用telnet或nc（netcat）命令来测试目标端口的可达性。
    • 在一台服务器上执行类似telnet <另一台服务器的IP地址> <端口号>的命令，如果连接成功，则说明该端口在两台服务器之间是通畅的。
  1. 检查网络设备和线路：
    • 检查交换机、路由器等网络设备的状态和配置，确保它们正常运行且配置正确。
    • 使用网络线缆测试仪检查网络线路是否损坏或存在其他问题。

通过以上步骤，你应该能够较为全面地检查两台服务器之间的网络连通性。如果仍然存在问题，可能需要进一步深入排查网络配置、硬件故障或外部网络问题。

检查两台服务器之间的网速

  1. 使用ping命令(测试延迟) ：
    • 虽然ping命令主要用于测试网络连通性，但通过观察ping命令的响应时间（即延迟），也可以间接了解网络速度。较低的延迟通常意味着较好的网络性能。
  1. 使用traceroute命令（测试传输路径） ：
    • traceroute命令可以显示数据包从源服务器到目标服务器所经过的路由路径。通过分析这些路径中的节点和延迟，可以了解网络连接的效率。
  1. 使用iperf3工具（测试带宽） ：

iperf3 使用需要关闭防火墙。

iperf3 下载地址

CentOS 下载地址

rpm -ih ftp://ftp.pbone.net/mirror/archive.fedoraproject.org/fedora/linux/updates/24/x86_64/i/iperf3-3.1.3-1.fc24.x86_64.rpm

Windows10 64位下载地址

网盘提取地址

下载到电脑到，并解压后，会得到两个文件：cygwin1.dll 和 iperf3.exe，将这两个文件拷贝到 c:\windows 目录下。

最后打开 cmd，执行 iperf3 --version ，若安装成功，会打印出版本信息。

iperf3 使用方法

在客户端和服务端分别安转 iperf3软件，先启动服务端，再启动客户端。

  • 服务端：收包，使用 -s 参数指定， iperf3 -s

  • 客户端：发包，使用 -c xx.xx.xx.xx 来指定要往哪个服务端发包， iperf3 -c 172.20.20.200

iperf3 -c 172.20.20.200 -i 2 -u -b 100M -f m -t 4 --get-server-output

排查数据库插入慢的问题

  • 第一列 Interval：测试的时长
  • 第二列 Transfer：在 Interval 时长里，传输的数据量
  • 第三列 BandWidth：带宽
  • 第四列 Jitter：网络抖动，连续发送数据包时延差值的平均值，越小说明网络质量越好
  • 第五列 Lost/Total Datagrams：丢失的数据包与发送的总数据包

我们可以看到 传输的数据量，1s 是10M，带宽 是100M/s，网速还是可以的。

排查数据库锁表

在 MySQL 中，你可以使用多种方法来查看表是否被锁定。以下是一些常用的方法：

  1. 使用 ****SHOW OPEN TABLES ****命令: 这个命令会显示所有打开的表，其中 In_use 列指示了哪些表正在被使用。
SHOW OPEN TABLES WHERE In_use > 0;

如果某个表的 In_use 值大于 0，那么它可能正在被锁定。但是，这并不能确切地告诉你表被哪种锁锁定（例如，读锁或写锁）。 2. 使用 ****SHOW ENGINE INNODB STATUS ****命令: 对于使用 InnoDB 存储引擎的表，你可以使用这个命令来获取详细的锁定信息。这个命令的输出包含了很多信息，其中 TRANSACTIONS 部分会显示当前活动的事务和它们持有的锁。

SHOW ENGINE INNODB STATUS\G

在输出中，查找 TRANSACTIONS 部分，并查看 LOCK WAIT 或 holding lock 等相关的行。 3. 使用 ****information_schema ****数据库: information_schema 数据库包含了关于 MySQL 服务器元数据的表。你可以查询这些表来获取关于锁的信息。

例如，对于 InnoDB 表，你可以查询 INNODB_LOCKS 和 INNODB_LOCK_WAITS 表来获取锁的信息。

SELECT * FROM information_schema.INNODB_LOCKS;  
SELECT * FROM information_schema.INNODB_LOCK_WAITS;
  1. 使用性能模式: 如果你的 MySQL 服务器启用了性能模式（Performance Schema），你可以查询 performance_schema 数据库中的表来获取关于锁的信息。

例如，events_statements_history 和 events_waits_history_long 等表可能包含与锁定相关的信息。 5. 第三方工具: 除了上述的 SQL 命令外，还有一些第三方工具和图形界面（如 Percona Toolkit、MySQL Workbench 等）可以帮助你更直观地查看和管理 MySQL 的锁。 6. 检查错误日志: 如果表被锁定并导致超时或其他错误，这些信息可能会记录在 MySQL 的错误日志中。检查这些日志可能会提供有关锁定问题的线索。

请注意，不同的锁定类型（例如，共享锁、排他锁、元数据锁等）和存储引擎（如 InnoDB、MyISAM 等）可能会影响你如何查看和管理锁定。因此，在解决锁定问题时，了解你的数据库架构和使用的存储引擎是非常重要的。

检查数据库性能

不是网络，不是锁表的问题，那大概率就是数据库性能的问题。

我检查业务逻辑，对几张核心表进行排查了一下，有一张历史表的数据量在20w 左右，随着更长时间的运行，数据量也是越来越大的，而且对关键的id 有索引。

这就是我疑问的所在，就算拿1万条数据，与20万条数据比对，在有索引的情况，性能应该是不错的。

可事实就是贼慢。

分析了下业务逻辑，与业务老师商量，插入历史表这段逻辑，可以屏蔽。性能一下子提升了不少。

MySQL表中插入和删除操作性能低下可能由多种原因引起。对于拥有20万条记录的表来说，性能问题可能并不是特别显著，但如果你感觉性能明显慢于预期，以下是一些可能的原因和相应的解决策略：

  1. 硬件性能：
    • 磁盘I/O：如果磁盘性能不佳（如使用传统的机械硬盘而非SSD），那么插入和删除操作可能会受到磁盘读写速度的限制。
    • CPU和内存：低性能的CPU或不足的内存也可能导致性能问题。
  1. 索引问题：
    • 过多索引：每次插入或删除记录时，相关的索引都需要更新，过多的索引会拖慢这些操作。
    • 缺失索引：对于经常用于搜索、排序或连接的字段，如果没有适当的索引，那么查询性能会受到影响，间接导致插入和删除操作看起来更慢（因为它们可能需要更多的锁定和等待）。
  1. 表类型和设计：
    • MyISAM vs InnoDB：MyISAM通常具有更快的插入和读取性能，但不支持事务和外键；而InnoDB则提供了事务支持、行级锁定等，但在某些情况下可能不如MyISAM快。
    • 表结构：过多的字段或字段类型选择不当也可能影响性能。
  1. 锁定机制：
    • 表锁 vs 行锁：MyISAM使用表锁，而InnoDB使用行锁。在高并发环境下，表锁可能导致性能瓶颈。
    • 死锁：多个事务相互等待对方释放资源，导致死锁，这会严重影响性能。
  1. 数据库配置：
    • 缓冲区大小：如InnoDB的缓冲池大小配置不当，可能导致性能问题。
    • 日志设置：二进制日志、慢查询日志等配置不当也可能影响性能。
  1. 查询优化：
    • 复杂的触发器或外键约束：每次插入或删除记录时，相关的触发器或外键约束都需要执行，如果它们很复杂，会拖慢操作。
    • 大量数据的单次操作：一次性插入或删除大量数据会比分批操作更慢。
  1. 网络延迟：如果你是在远程连接数据库，网络延迟也可能是一个因素。

解决策略：

  • 优化硬件：考虑升级磁盘、CPU或内存。
  • 审查和优化索引：删除不必要的索引，为经常查询的字段添加合适的索引。
  • 选择合适的表类型：基于你的需求选择合适的存储引擎。
  • 优化查询和事务：减少复杂查询和触发器，使用合适的事务隔离级别，避免长时间持有锁。
  • 调整数据库配置：根据硬件和工作负载调整缓冲区大小、日志设置等。
  • 分批处理：对于大量数据的插入或删除操作，考虑分批处理。
  • 监控和分析：使用MySQL的性能监控工具（如SHOW PROFILE, EXPLAIN, Performance Schema等）来分析和定位性能瓶颈。

最后，建议在进行任何优化操作之前备份数据库，并在测试环境中验证优化效果。

好了，以上就是全部内容了，如果对你有帮助，麻烦多多点赞，转发，收藏，就是对我最大的鼓励！

转载自:https://juejin.cn/post/7345821800879931455
评论
请登录