常用的Linux系统负载异常分析
1 常用的Load分析方法
CPU高、Load高
1. 通过top命令查找占用CPU最高的进程PID；
2. 通过top -Hp PID查找占用CPU最高的线程TID;
3. 对于java程序，使用jstack打印线程堆栈信息；
4. 通过printf %x tid打印出最消耗CPU线程的十六进制；
CPU低、Load高
产生的原因一句话总结就是：等待磁盘I/O完成的进程过多，导致进程队列长度过大，但是CPU运行的进程却很少，这样就体现到负载过大了，CPU使用率低。
1. 通过top命令查看CPU等待IO时间，即%wa；
2. 通过iostat -d -x -m 1 10查看磁盘IO情况；(安装命令yum install -y sysstat)
3. 通过sar -n DEV 1 10查看网络IO情况；
4. 通过如下命令查找占用IO的程序；
ps -e -L h o state,cmd | awk '{if($1=="R"||$1=="D"){print $0}}' | sort | uniq -c | sort -k 1nr2 CPU高、Load高情况分析
- 使用
vmstat查看系统维度的CPU负载； - 使用
top查看进程维度的CPU负载；
2.1 使用vmstat查看系统维度的CPU负载
可以通过vmstat从系统维度查看CPU资源的使用情况
格式：vmstat -n 1 -n 1表示结果一秒刷新一次
返回结果中的主要数据列说明：
- r： 表示系统中CPU等待处理的线程。由于CPU每次只能处理一个线程，所以，该数值越大，通常表示系统运行越慢。
- b： 表示阻塞的进程,这个不多说，进程阻塞，大家懂的。
- us： 用户CPU时间，我曾经在一个做加密解密很频繁的服务器上，可以看到us接近100，r运行队列达到80（机器在做压力测试，性能表现不佳）。
- sy： 系统CPU时间，如果太高，表示系统调用时间长，例如是IO操作频繁。
- wa：IO等待消耗的CPU时间百分比。该值较高时，说明IO等待比较严重，这可能磁盘大量作随机访问造成的，也可能是磁盘性能出现了瓶颈。
- id：处于空闲状态的CPU时间百分比。如果该值持续为0，同时sy是us的两倍，则通常说明系统则面临着CPU资源的短缺。
常见问题及解决方法：
- 如果r经常大于4，且id经常少于40，表示CPU的负荷很重。
- 如果pi，po长期不等于0，表示内存不足。
- 如果disk经常不等于0，且在b中的队列大于3，表示IO性能不好。
2.2 使用top查看进程维度的CPU负载
可以通过top从进程纬度来查看其CPU、内存等资源的使用情况。
默认界面上第三行会显示当前CPU资源的总体使用情况，下方会显示各个进程的资源占用情况。
可以直接在界面输入大小字母P，来使监控结果按CPU使用率倒序排列，进而定位系统中占用CPU较高的进程。最后，根据系统日志和程序自身相关日志，对相应进程做进一步排查分析，以判断其占用过高CPU的原因。
3 CPU低、Load高
问题描述
Linux 系统没有业务程序运行，通过top观察，类似如下图所示，CPU很空闲，但是load average却非常高：
问题分析
CPU低而负载高也就是说等待磁盘I/O完成的进程过多，就会导致队列长度过大，这样就体现到负载过大了，但实际是此时CPU被分配去执行别的任务或空闲，具体场景有如下几种：
场景一：磁盘读写请求过多就会导致大量I/O等待
上面说过，CPU的工作效率要高于磁盘，而进程在CPU上面运行需要访问磁盘文件，这个时候CPU会向内核发起调用文件的请求，让内核去磁盘取文件，这个时候会切换到其他进程或者空闲，这个任务就会转换为不可中断睡眠状态。当这种读写请求过多就会导致不可中断睡眠状态的进程过多，从而导致负载高，CPU低的情况。
场景二：MySQL中存在没有索引的语句或存在死锁等情况
我们都知道MySQL的数据是存储在硬盘中，如果需要进行SQL查询，需要先把数据从磁盘加载到内存中。当在数据特别大的时候，如果执行的SQL语句没有索引，就会造成扫描表的行数过大导致I/O阻塞，或者是语句中存在死锁，也会造成I/O阻塞，从而导致不可中断睡眠进程过多，导致负载过大。 具体解决方法可以在MySQL中运行show full processlist命令查看线程等待情况，把其中的语句拿出来进行优化。
场景三：外接硬盘故障，常见有挂了NFS，但是NFS server故障
比如我们的系统挂载了外接硬盘如NFS共享存储，经常会有大量的读写请求去访问NFS存储的文件，如果这个时候NFS Server故障，那么就会导致进程读写请求一直获取不到资源，从而进程一直是不可中断状态，造成负载很高。
处理办法
- load average 是对 CPU 负载的评估，其值越高，说明其任务队列越长，处于等待执行的任务越多。
- 出现此种情况时，可能是由于僵死进程导致的。可以通过指令ps -axjf查看是否存在 D 状态进程。
- D 状态是指不可中断的睡眠状态。该状态的进程无法被 kill，也无法自行退出。只能通过恢复其依赖的资源或者重启系统来解决。
等待I/O的进程通过处于uninterruptible sleep或D状态；通过给出这些信息我们就可以简单的查找出处在wait状态的进程
ps -e -L h o state,cmd | awk '{if($1=="R"||$1=="D"){print $0}}' | sort | uniq -c | sort -k 1nr