(给ImportNew加星标,提高Java技能)
编译:ImportNew/覃佑桦
tutorials.jenkov.com/java-performance/resizable-array.html
有时我们希望将把数据保存在单个连续的数组中,以便快速、便捷地访问数据list转数组,但这需要调整数组大小或者对其扩展。Java 数组不能调整大小,只用数组不足以达成目标。可变长原始类型数组需要自己实现。本文将展示如何实现 Java 可变长数组。
为什么不用 ArrayList?
要满足文章开头的需求,为什么不使用 Java ArrayList?如果满足下面条件之一,可以使用 ArrayList:
Java ArrayList 类只适用于对象,不适合原始类型(byte、int、long等)。使用 ArrayList 存储原始类型数据,插入 ArrayList 时会自动装箱为对象中,从中取出时会进行拆箱转为原始类型。装箱和拆箱在插入元素和访问元素时会带来额外开销,在尝试针对性能进行优化时,应该避免这些开销(本文是 Java 性能跟踪的一部分)。
不仅如此,这种方式无法确定自动装箱对象在内存中的存储位置。很可能分散存储在堆中各个位置。因此,与原始类型数组相比访问速度要慢得多,前者在内存中连续存储。
另外,原始类型装箱会带来额外的内存开销,例如 long 会存到 Long 对象。
本文源代码
本文实现的 Java 变长数组源代码可以在 GitHub 下载:
github.com/jjenkov/java-resizable-array
代码包含三个 Java 类和两个单元测试。
可变长数组用例
假设有一台服务器接收大小不同的邮件。其中有些邮件很小(小于4KB)list转数组,另一些很大(1MB 甚至更大)。
如果服务器同时从多个(10万多个)连接接收消息,那么需要为每个消息限制预分配内存。每个缓冲区不能只按最大值(1MB或16MB)分配内存。当连接和消息数量增加时,这种方式会快速耗尽服务器内存!100_000 x 1MB = 100GB(这是估计值,帮助问题理解)。
假设大多数消息比较小,一开始可以使用较小的缓冲区。如果消息超出缓存大小,则分配一个更大的新数组,并把数据拷贝到该数组中。如果消息超出分配的新数组,接着分配一个比之前更大的数组,并把消息复制到该数组。
使用这种策略,大多数消息通常只会存入小数组。这意味着服务器内存得到了更有效的利用。100_000 x 4KB (小缓冲) = 400MB大多数服务器应该能够正常处理。即使是 4GB (1_000_000 x 4KB),现在的服务器也能满足要求。
可变长数组设计
可变长数组包含两个组件:
ResizableArrayBuffer 包含一个大数组。该数组被划分为三个部分。一段用作小数组,一段用作中数组,一段用作大数组。ResizableArray类表示一个可变长数组,底层数据存储在ResizableArrayBuffer中。
下图展示了数组分为三段,每段再分为小块。
通过为小、中、大不同类型数据预留空间,ResizableArrayBuffer 能够确保不会被某种大小的数据塞满。例如,小数据不会占用数组的所有内存,进而阻断中型和大数据存储。同样,接收大数据也不会占用所有内存,进而阻断小数据和中型数据存储。
由于底层存储以小数据开始,如果小数组存储空间耗尽,那么无论中数组或大数组是否还有空间,都无法分配新的数组。可以让使小数组足够大,减小发生这种情况的可能性。
即使小数组已经全部用完,仍然可以把小数据变成中型和大型数据。
优化方案
一种优化方案:只用一个存储块。需要的时候在待扩展的块后面直接分配新块。这样不需要把数据从旧数组拷贝到新数组,可以直接“扩展”存储块容纳旧数据和新数据,新数据直接写入新增的第二个扩展块即可。这样避免了拷贝所有数组数据的情况。
上述优化的缺点在于,如果无法扩展下一个内存块仍然需要拷贝数据。因此需要加入“可扩展”检查,这个操作开销不大。此外,如果存储块大小设置过小,在小数据、中等数据和大数据都存在的情况下会出现频繁扩展。
跟踪空闲块
ResizableArrayBuffer 内部的大数组同样分为三段。每段都被分为更小的存储块;每段中的存储块大小相同;小数组中的存储块大小相同;中型数组中的存储块大小相同;大数组中的存储块大小相同。
每段中的存储块大小相同可以更方便地追踪块使用状态。可以使用队列记录每个块的起始索引。还需要一个队列记录每段中的共享数组。最终,一个队列来跟踪空闲小数据块,一个队列用记录空闲的中型数据块,一个队列用于空闲的大数据块。
根据数据类型从响应队列获取下一个空闲块起始索引,可以实现从任意数据段分配存储块。把起始索引放回相应队列可以释放数据块。
这里我用简单的环形缓冲区实现队列。GitHub 仓库对应的代码为 QueueIntFlip。环形缓冲区教程:
tutorials.jenkov.com/java-performance/ring-buffer.html
扩展写
向数组写数据时,可变长数组自动扩展。如果尝试向数组写入的数据超出当前分配的存储空间,将分配一个新的更大的存储块并把所有数据拷贝到新块中,然后释放之前较小的存储块。
释放数组
一旦可变长数组完成了大小调整,应该对其进行释放以便可以接收其他消息。
使用 ResizableArrayBuffer
下面展示如何使用 GitHub 中 ResizableArrayBuffer。
创建一个 ResizableArrayBuffer
首先,必须创建一个 ResizableArrayBuffer。示例如下:
int smallBlockSize = 4 * 1024;
int mediumBlockSize = 128 * 1024;
int largeBlockSize = 1024 * 1024;
int smallBlockCount = 1024;
int mediumBlockCount = 32;
int largeBlockCount = 4;
ResizableArrayBuffer arrayBuffer =
new ResizableArrayBuffer(
smallBlockSize , smallBlockCount,
mediumBlockSize, mediumBlockCount,
largeBlockSize, largeBlockCount);
这个例子创建的 ResizableArrayBuffer 包含一个4KB小数组,128KB中数组和1MB大数组。ResizableArrayBuffer存储空间包含1024个小数组(共4MB)、32个中数组(共4MB)和4个大数组(共4MB),完整的共享数组大小总计12MB。
获取 ResizableArray 实例
要得到 ResizableArray 实例,调用 ResizableArrayBuffer的getArray() 方法,如下所示:
ResizableArray resizableArray = arrayBuffer.getArray();
这里得到一个最小的 ResizableArray(之前设置为4KB)。
向 ResizableArray 写数据
调用 write() 方法向 ResizableArray 写数据。GitHub 中 ResizableArray 类只包含一个 write() 方法,其参数为 ByteBuffer。不过,可以根据需要自行添加更多 write() 方法。
下面是写数据示例:
public byte[] sharedArray = null;
public int offset = 0;
public int capacity = 0;
public int length = 0;
上面的代码把 ByteBuffer 内容复制到 ResizableArray 数组中。Write() 返回从 ByteBuffer 拷贝的字节数。
如果 ByteBuffer 包含的数据超出了 ResizableArray 容量,这时 ResizableArray 会尝试扩展,为 ByteBuffer 中的数据留出空间。如果 ResizableArray 即使扩展到最大值也无法容纳 ByteBuffer 中的所有数据,则 write() 方法返回-1,并且不会复制任何数据!
从 ResizableArray 读数据
从 ResizableArray 中读数据时,可以直接从 ResizableArray 所有实例中直接读取共享数组。ResizableArray 包含以下 public 字段:
public byte[] sharedArray = null;
public int offset = 0;
public int capacity = 0;
public int length = 0;
要读取 ResizableArray 的写入数据,只要读取从sharedArray[offset] 到sharedArray[offset+ length -1] 的字节即可。
释放 ResizableArray
一旦 ResizableArray 实例使用完毕应该释放。只要在 ResizableArray 上调用 free() 方法即可,如下所示:
resizableArray.free();
无论分配给 ResizableArray 块大小如何,调用 free() 都能将使用的块正确返还队列。
变换设计
您可以根据自己的需要修改 ResizableArrayBuffer 设计。例如,可以在其中创建多于三个数据段。操作起来应该也很容易,只要看 GitHub 中的源代码进行修改即可。
限时特惠:本站每日持续更新海量设计资源,一年会员只需29.9元,全站资源免费下载
站长微信:ziyuanshu688