JVM_11_Direct Memory_Silicon Valley のパート 1

ダイレクト メモリの概要

• 仮想マシンのランタイム データ領域の一部ではなく、Java 仮想マシン仕様で定義されているメモリ領域でもありません。
• ダイレクト メモリは、システムに直接適用される Java ヒープの外側のメモリ範囲です。
• NIO に由来し、ヒープに格納された DirectByteBuffer を介してネイティブ メモリを操作する
• 通常、ダイレクト メモリへのアクセス速度は、Java ヒープ、つまり高い読み取りおよび書き込みパフォーマンスによるものです。
  • パフォーマンスを考慮して、読み取りと書き込みが頻繁に行われる場合は、ダイレクト メモリを使用することを検討してください。
  • Java の NIO ライブラリにより、Java プログラムはデータ バッファにダイレクト メモリを使用できます。

ダイレクト メモリ フットプリントのコード例

/**
 * 查看直接内存的占用与释放
 */
public class BufferTest {
    
    

  private static final int BUFFER = 1024 * 1024 * 1024; // 1GB

  public static void main(String[] args) {
    
    
    // 直接分配本地内存空间
    ByteBuffer byteBuffer = ByteBuffer.allocateDirect(BUFFER);
    System.out.println("直接内存分配完毕，请求指示！");

    Scanner scanner = new Scanner(System.in);
    scanner.next();

    System.out.println("直接内存开始释放！");
    byteBuffer = null;
    System.gc();
    scanner.next();
  }
}

実行後、jps コマンドで PID を確認すると、タスク マネージャーで具体的なメモリ使用量を確認できます。

> jps
20192 BufferTest

1G 以上のメモリ空間を占有していることがわかります。テキストの文字列を入力するだけです

メモリ使用量が 18.3M に低下したことがわかります

ダイレクトメモリを使用する理由

ファイルを読み書きするには、ディスクと対話する必要があり、ユーザー モードからカーネルに切り替える必要もあります。カーネルが大きすぎると、下図のようなメモリの運用が​​必要になりますが、IO を使用すると、重複データを格納するために 2 つのメモリのコピーが必要になり、効率が悪くなります。

NIOを利用する場合、下図のようにOSごとに分割されたダイレクトバッファ領域をJavaコードで直接アクセスでき、コピーは1つしかありません。NIO は、大きなファイルの読み取りおよび書き込み操作に適しています。

コード例:

/**
 * io与nio例子
 */
public class BufferTest1 {
    
    

  private static final String FILE = "D:\\迅雷下载\\新建文件夹\\XXX.mkv";
  private static final int _10Mb = 1024 * 1024 * 10;

  public static void main(String[] args) {
    
    
    long sum = 0;
    String src = FILE;
    for (int i = 0; i < 3; i++) {
    
    
      String dest = "D:\\迅雷下载\\新建文件夹\\XXX" + i + ".mkv";
      sum += directBudder(src, dest); // 总花费时间为：31345
//      sum += io(src, dest);         // 总花费时间为：62520
    }
    System.out.println("总花费时间为：" + sum);
  }

  private static long directBudder(String src, String dest) {
    
    
    long start = System.currentTimeMillis();
    FileChannel inChannel = null;
    FileChannel outChannel = null;
    try {
    
    
      inChannel = new FileInputStream(src).getChannel();
      outChannel = new FileOutputStream(dest).getChannel();

      ByteBuffer byteBuffer = ByteBuffer.allocateDirect(_10Mb);
      while (inChannel.read(byteBuffer) != -1) {
    
    
        byteBuffer.flip(); // 修改为读数据模式
        outChannel.write(byteBuffer);
        byteBuffer.clear(); // 清空
      }
    } catch (IOException e) {
    
    
      e.printStackTrace();
    } finally {
    
    
      if (inChannel != null) {
    
    
        try {
    
    
          inChannel.close();
        } catch (IOException e) {
    
    
          e.printStackTrace();
        }
      }
      if (outChannel != null) {
    
    
        try {
    
    
          outChannel.close();
        } catch (IOException e) {
    
    
          e.printStackTrace();
        }
      }
    }
    long end = System.currentTimeMillis();

    return end - start;
  }

  private static long io(String src, String dest) {
    
    
    long start = System.currentTimeMillis();

    FileInputStream fis = null;
    FileOutputStream fos = null;
    try {
    
    
      fis = new FileInputStream(src);
      fos = new FileOutputStream(dest);
      byte[] buffer = new byte[_10Mb];
      while (true) {
    
    
        int len = fis.read(buffer);
        if (len == -1) {
    
    
          break;
        }
        fos.write(buffer, 0, len);
      }
    } catch (IOException e) {
    
    
      e.printStackTrace();
    }
    long end = System.currentTimeMillis();
    return end - start;
  }
}

まとめ：動画サイズ1.5Gの場合、ioは62520、nioは31345、nioの方が速い

ダイレクトメモリの特徴:

• また、OutOfMemoryError 例外が発生する可能性があります
• ダイレクト メモリは Java ヒープの外側にあるため、そのサイズは -Xmx で指定された最大ヒープ サイズによって直接制限されることはありませんが、システム メモリは制限され、Java ヒープとダイレクト メモリは引き続き最大サイズによって制限されます。オペレーティングシステムが与えることができます. メモリ.
• 欠点:
  • 割り当てと回収のコストが高い
  • JVMメモリリカバリ管理対象外
• -XX:MaxDirectMemorySize で直接メモリサイズを設定可能
• 指定しない場合、デフォルトは heap -Xmx パラメータの最大値と一致します。

ダイレクト メモリの OOM コード例

/**
 * 本地内存OOM OutOfMemoryError: Direct buffer memory
 */
public class BufferTest2 {
    
    
  private static final int BUFFER = 1024 * 1024 * 20; // 20MB

  public static void main(String[] args) {
    
    
    ArrayList<ByteBuffer> list = new ArrayList<>();

    int count = 0;
    try {
    
    
      while (true) {
    
    
        // 使用直接内存
        ByteBuffer byteBuffer = ByteBuffer.allocateDirect(BUFFER);
        list.add(byteBuffer);
        count++;
        try {
    
    
          Thread.sleep(100);
        } catch (InterruptedException e) {
    
    
          e.printStackTrace();
        }
      }
    }finally {
    
    
      System.out.println(count);
    }
  }
}

操作結果:

362
Exception in thread "main" java.lang.OutOfMemoryError: Direct buffer memory
	at java.nio.Bits.reserveMemory(Bits.java:694)
	at java.nio.DirectByteBuffer.<init>(DirectByteBuffer.java:123)
	at java.nio.ByteBuffer.allocateDirect(ByteBuffer.java:311)
	at BufferTest2.main(BufferTest2.java:19)

UnSafe OutOfMemoryError コード例

/**
 * -Xmx20m -XX:MaxDirectMemorySize=10m
 */
public class MaxDirectMemorySizeTest {
    
    

  private static final long _1MB = 1024 * 1024;

  public static void main(String[] args) throws IllegalAccessException {
    
    
    Field unsafeField = Unsafe.class.getDeclaredFields()[0];
    unsafeField.setAccessible(true);
    Unsafe unsafe = (Unsafe) unsafeField.get(null);
    while (true) {
    
    
      unsafe.allocateMemory(_1MB);
    }
  }
}

操作結果:

Exception in thread "main" java.lang.OutOfMemoryError
	at sun.misc.Unsafe.allocateMemory(Native Method)
	at MaxDirectMemorySizeTest.main(MaxDirectMemorySizeTest.java:17)

結論: ダイレクト メモリも OOM になります

簡単な理解:

Java プロセス メモリ = Java ヒープ + ネイティブ メモリ