JVM实战篇:内存调优

2024-01-07 21:33:54

Java虚拟机进行生产环境线上问题解决以及性能问题的优化。

一.内存泄漏

  • 内存泄漏(memory leak):在Java中如果不再使用一个对象,但是该对象依然在GC ROOT的引用链上,这个对象就不会被垃圾回收器回收,这种情况就称之为内存泄漏。
  • 少量的内存泄漏可以容忍,但是如果发生持续的内存泄漏,就像滚雪球雪球越滚越大,不管有多大的内存迟早会被消耗完,最终导致的结果就是内存溢出但是产生内存溢出并不是只有内存泄漏这一种原因。
  • 内存泄漏绝大多数情况都是由堆内存泄漏引起的,没有特别说明则讨论的都是堆内存泄漏。

1.1内存泄漏的常见场景

  • 内存泄漏导致溢出的常见场景是大型的Java后端应用中,在处理用户的请求之后,没有及时将用户的数据删除。随着用户请求数量越来越多,内存泄漏的对象占满了堆内存最终导致内存溢出。
  • 这种产生的内存溢出会直接导致用户请求无法处理,影响用户的正常使用。重启可以恢复应用使用,但是在 运行一段时间之后依然会出现内存溢出。

  • 第二种常见场景是分布式任务调度系统如Elastic-job、Quartz等进行任务调度时,被调度的Java应用在调度任务结束中出现了内存泄漏,最终导致多次调度之后内存溢出。
  • 这种产生的内存溢出会导致应用执行下次的调度任务执行。同样重启可以恢复应用使用,但是在调度执行一段时间之后依然会出现内存溢出。

1.2解决内存溢出的思路

解决内存溢出的步骤总共分为四个步骤,其中前两个步骤是最核心的:

二.发现问题

2.1监控工具

VisualVM

VisualVM是多功能合一的Java故障排除工具并且他是一款可视化工具,整合了 命令行 JDK 工具和轻量级分析功能,功能非常强大。这款软件在Oracle JDK 6~8 中发布,但是在 Oracle JDK 9 之后不在JDK安装目录下需要单独下载。下载地址:VisualVM: Home

  • 优点:功能丰富,实时监控CPU、 内存、线程等详细信息
  • 缺点:
    • 适用于开发、测试环境,不适用于生产环境,VisualVM部分功能会停止所有的线程,这会影响到用户的使用
    • 对大量集群化部署的Java进程需要手动进行管理

Arthas

Arthas 是一款线上监控诊断产品,通过全局视角实时查看应用 load、内存、gc、线程的状态信息,并能在不修改应用代码的情况下,对业务问题进行诊断, 包括查看方法调用的出入参、异常,监测方法执行耗时,类加载信息等,大大提升线上问题排查效率。arthas (aliyun.com)

优点:

  • 功能强大,不止于监控基础的信息,还能监控单个方法的执行耗时等细节内容。
  • 支持应用的集群管理,使用阿里arthas tunnel可以管理所有的需要监控的程序
  • 开发人员可以在线解决生产问题。无需 JVM 重启,无需代码更改。 Arthas 作为观察者永远不会暂停正在运行的线程。

Prometheus + Grafana

Prometheus+Grafana是企业中运维常用的监控方案,其中Prometheus用来采集系统或者应用的相关数据,同时具备告警功能。Grafana可以将Prometheus采集到的数据以可视化的方式进行展示。

优点:

  • 支持系统级别和应用级别的监控,比如linux操作系统、Redis、MySQL、Java进程
  • 支持告警并允许自定义告警指 标,通过邮件、短信等方式尽早通知相关人员进行处理

2.2堆内存状况的对比

三.内存溢出的产生原因

①代码中的内存泄漏

实际上,代码中的内存泄漏大部分能在测试环境上被排除。在测试环境上采用压力测试,发送大量的请求到服务端测试。

equals()和hashCode()未重写导致的内存泄漏

问题:在定义新类时没有重写正确的equals()和hashCode()方法。在使用HashMap的场景下,如果使用这个类对象作为key,HashMap在判断key是否已经存在时会使用这些方法,如果重写方式不正确,会导致相同的数据被保存多份。

内部类引用外部类

问题:

  1. 非静态的内部类默认会持有外部类,尽管代码上不再使用外部类,所以如果有地方引用了这个非静态内部类,会导致外部类也被引用,垃圾回收时无法回收这个外部类。
  2. 匿名内部类对象如果在非静态方法中被创建,会持有调用者对象,垃圾回收时无法回收调用者。

解决方案:

  1. 如果不想持有外部类对象,应该使用静态内部类。
  2. 使用静态方法,可以避免匿名内部类持有调用者对象。

ThreadLocal的使用

问题:如果仅仅使用手动创建的线程,就算没有调用ThreadLocal的remove方法清理数据,也不会产生内存泄漏。因为当线程被回收时,ThreadLocal也同样被回收。但是如果使用线程池就不一定了。

解决方案:线程方法执行完,一定要调用ThreadLocal中的remove方法清理对象。

通过静态字段保存对象

问题:如果大量的数据在静态变量中被长期引用,数据就不会被释放,如果这些数据不再使用,就成为了内存泄漏。

解决方案:

  1. 尽量减少将对象长时间的保存在静态变量中,如果不再使用,必须将对象删除(比如在集合中)或 者将静态变量设置为null。
  2. 使用单例模式时,尽量使用懒加载,而不是立即加载。
  3. Spring的Bean中不要长期存放大对象,如果是缓存用于提升性能,尽量设置过期时间定期失效。

资源没有正常关闭

问题:连接和流这些资源会占用内存,如果使用完之后没有关闭,这部分内存不一定会出现内存泄漏

解决方案:从 Java 7 开始,使用try-with-resources语法可以用于自动关闭资源。

②并发请求问题

并发请求问题指的是用户通过发送请求向Java应用获取数据,正常情况下Java应用将数据返回之后,这部分数据就可以在内存中被释放掉。但是由于用户的并发请求量有可能很大,同时处理数据的时间很长,导致大量的数据存在于内存中,最终超过了内存的上限,导致内存溢出。

四.诊断原因

4.1内存快照

  • 当堆内存溢出时,需要在堆内存溢出时将整个堆内存保存下来,生成内存快照(Heap Profile )文件。
  • 生成内存快照的Java虚拟机参数:-XX:+HeapDumpOnOutOfMemoryError -XX:HeapDumpPath=<path>
    • -XX:+HeapDumpOnOutOfMemoryError 发生OutOfMemoryError错误时,自动生成hprof内存快照文件。
    • XX:HeapDumpPath=<path> 指定hprof文件的输出路径。
  • 使用内存分析工具MAT(Memory Analyzer Tool)打开hprof文件,并选择内存泄漏检测功能,MAT会自行根据内存快照中保存的数据分析内存泄漏的根源。

如果并未产生内存溢出,也可以导出运行中系统的内存快照,比较简单的方式有两种,注意只需要导出标记为存活的对象:

  1. 通过JDK自带的jmap命令导出,格式为:
    jmap -dump:live,format=b,file=文件路径和文件名 进程ID
  2. 通过arthas的heapdump命令导出,格式为:
    heapdump --live 文件路径和文件名

4.2内存分析工具(MAT

我们用下面的程序来模拟内存溢出的场景:

/**
 * 内存溢出的参数
 * -Xms20m -Xmx20m -XX:+HeapDumpOnOutOfMemoryError -XX:HeapDumpPath=D:\Develop_Tools\Java\hprof
 * 分析内存溢出:
 * 1.占用内存过大的对象有哪些(Histogram)
 * 2.被谁引用的(dominator_tree)
 * 3.定位到具体的代码(thread_overview)
 */
public class OOMTest {
    public static void main(String[] args) {
        List<byte[]> memoryLeakArray=new ArrayList<>();
        for(int i=0;i<100;i++){
            byte[] temp=new byte[1024*1024];//添加 1m 的数据到list中
            memoryLeakArray.add(temp);
        }
    }
}

这里我使用的内存分析工具是 Eclipse Memory Analyzer,分析内存溢出主要分3个步骤:

  1. 占用内存过大的对象有哪些(Histogram) ?
  2. 被谁引用的(dominator_tree) ?
  3. 定位到具体的代码(thread_overview)

Histogram(直方图):查看内存占用

dominator_tree(支配树):关系引用图

thread_overview:查看线程的概览信息

定位到了具体的26行代码

4.3MAT内存泄漏检测的原理

支配树

  • MAT提供了称为支配树(Dominator Tree)的对象图。支配树展示的是对象实例间的支配关系(非引用关系)在对象引用图中,所有指向对象B的路径都经过对象A,则认为对象A支配对象B。
  • MAT就是根据支配树,从叶子节点向根节点遍历,如果发现深堆的大小超过整个堆内存的一定比例阈值,就会将其标记成内存泄漏的“嫌疑对象”。

深堆和浅堆

  • 支配树中对象本身占用的空间称之为浅堆(Shallow Heap)
  • 支配树中对象的子树就是所有被该对象支配的内容,这些内容组成了对象的深堆(Retained Heap),也称之为保留集( Retained Set ) 。深堆的大小表示该对象如果可以被回收,能释放多大的内存空间。

4.4分析超大堆的内存快照

在程序员开发用的机器内存范围之内的快照文件,直接使用MAT打开分析即可。但是经常会遇到服务器上的程序占用的内存达到10G以上,开发机无法正常打开此类内存快照,我们可以找一台内存足够的服务器,在服务器上使用MAT。

此时需要下载服务器操作系统对应的MAT。下载地址:Eclipse Memory Analyzer Open Source Project | The Eclipse Foundation

然后通过MAT中的脚本生成分析报告(体积很小,包括了一些静态页面),下载到开发机上

./ParseHeapDump.sh 快照文件路径 org.eclipse.mat.api:suspects

org.eclipse.mat.api:overview org.eclipse.mat.api:top_components
  • suspects:内存泄漏检测报告
  • overview:总览图
  • top_components:组件图

注意:默认MAT分析时只使用了1G的堆内存,如果快照文件超过1G,需要修改MAT目录下的 MemoryAnalyzer.ini配置文件调整最大堆内存。

文章来源:https://blog.csdn.net/qq_62767608/article/details/135349341
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。