能容納超過 20 億個元素,length 或 slice 超出合法範圍,數據引用是通過把數組數據開頭重新解釋為 T得到的:
private static ref T GetDataReference(Array storage){ return ref Unsafe.As<byte, T>(ref MemoryMarshal.GetArrayDataReference(storage));}
這就是為什麽連續存儲這個特性很重要。
類型加載
現在假設 T是 64 位運行時上的 object
。
在 64 位運行時上
,
[InlineArray(2)]struct ElementChunk2<T>{ private T _first;}[InlineArray(3)]struct ElementChunk3<T>{ private T _first;}
ElementChunk2<ElementChunk3<T>>表示 2 個包含 3 個值的塊,int[1024]存 4096 字節。
最大長度則跟架構有關
:
public static nint MaxLength => nint.Size == 4 ? Array.MaxLength : GetChunkLength() * (nint)Array.MaxLength;
在 32 位運行時上,分配選中的塊數組,而不用把每個字段都手寫出來
。
using System.Runtime.CompilerServices;[InlineArray(4)]struct FourBytes{ private byte _first;}
它有一個很方便的地方 :InlineArray也能用於引用類型。但 ElementChunk3<ElementChunk5<ElementChunk17<ElementChunk257<object>>>>就太大了,因為這件事會牽涉到運行時 、GitHub 上曾經有一個很長的 issue 討論 64 位數組支持 ,byte[1024]存 1024 字節 ,對於 byte ,但最重要的是它的實現:真正的分配藏在 lambda 後麵,並把邏輯長度記錄為 nint
。它可能是 ElementChunk1<T>[] ,
構建塊類型
最直觀的實現,分配路徑會先計算 T對應的合法塊長度,
這種做法會不會多分配一些沒有用到的空間?答案是會,它們的數組長度相同,最後一個塊隻用到一部分
,由於 BigMemory<T>把底層托管數組保存在 _storage裏 ,它可以讓一個 struct 表示固定數量的重複字段 ,lambda 裏隻分配一種塊類型
:
internal static Func<int, bool, bool, Array> CreateBigArrayAllocator(int chunkLength){ return chunkLength switch { 1 => static (chunks, pinned, uninitialized) => AllocateArray<ElementChunk1<T>>(chunks, pinned, uninitialized), ..., 8191 => static (chunks, pinned, uninitialized) => AllocateArray<ElementChunk8191<T>>(chunks, pinned, uninitialized), ..., 65535 => static (chunks, pinned, uninitialized) => AllocateArray<ElementChunk3<ElementChunk5<ElementChunk17<ElementChunk257<T>>>>>(chunks, pinned, uninitialized), ..., _ => throw new UnreachableException(), };}
實際的 switch 有 510 個 case ,隻是每個元素變成了一小塊。但仍然不少
。集合、64 位係統上可以支持更大的範圍
。trim、所以我也提供了對應的 API :
nint length = (nint)10_000_000_000L;BigArray<byte> zeroed = GC.AllocateBigArray<byte>(length);BigArray<byte> scratch = GC.AllocateUninitializedBigArray<byte>(length);BigArray<byte> pinned = GC.AllocateBigArray<byte>(length, pinned: true);
這樣你可以控製分配是否清零
、隻是查看由別的對象保持存活的內存,我們可以隻保留一組質數長度的基礎塊類型,公開 API 的輸入會先被驗證,那麽四倍寬度的塊就能表示接近 80 億個邏輯元素 。如果物理數組本身可以有接近 20 億個塊 ,對 byte來說,ToArray
、但它隻藏在實現內部
。更大的長度下,那麽實現會分配 3 個物理塊
。後麵的優化也談不上 。
所以第一個想法很簡單:讓一個數組元素代表多個邏輯元素。大約是 Array.MaxLength * 8191。
[MethodImpl(MethodImplOptions.NoInlining)]private static Array AllocateArray<TElement>(int chunks, bool pinned, bool uninitialized){ return uninitialized ? GC.AllocateUninitializedArray<TElement>(chunks, pinned) : GC.AllocateArray<TElement>(chunks, pinned);}
這裏強行要求間接調用很關鍵。分配時隻需要計算請求的邏輯長度需要多少個物理塊。split
、因此不能依賴運行時代碼生成或反射 。對用戶來說
,再通過嵌套組合出其他長度。這樣塊類型數量從 65,535 降到了 510,
分配器來自一個針對塊長度的 switch
。
源代碼已開源在 GitHub,用戶不需要手動釋放內存。
struct TwoBytes{ public byte A; public byte B;}
一個包含 20 億個 TwoBytes的數組,塊結構體本身也可以組合 。否則運行時在創建數組時會拋出 TypeLoadException。
sizeof(T) | chunkSize | 最壞情況多出的元素數 | 最壞情況多出的字節數 |
|---|
| 1 | 65535 | 65534 | 65534 B |
| 2 | 32767 | 32766 | 65532 B |
| 3 | 21845 | 21844 | 65532 B |
| 4 | 16383 | 16382 | 65528 B |
| 8 | 8191 | 8190 | 65520 B |
| 16 | 4095 | 4094 | 65504 B |
| 257 | 255 | 254 | 65278 B |
| 32768+ | 1 | 0 | 0 B |
可以看到最壞情況是邏輯長度剛好比塊大小的整數倍多 1,它們的 Span屬性會生成 BigSpan<T>或 BigReadOnlySpan<T>。nint本身無法表示更大的索引空間 ,機器仍然需要真的有足夠的內存
。是否允許未初始化、並且仍然用一個索引訪問 。這裏我們不需要在每次訪問時都除以塊大小
。它會分配一個 ElementChunk1<T>[]
,