52c65da783
- SmallHeapCtx/SmallPageMeta/SmallClassHeap typedef alias 追加 - SmallSegment struct (base/num_pages/owner_tid/magic) を smallsegment_v4_box.h に定義 - SmallColdIface_v4 direct function prototypes (refill/retire/remote_push/drain) - smallobject_hotbox_v4.c の internal/public API 分離（small_segment_v4_internal） - direct function stubs 実装（SmallColdIfaceV4 delegate 形式） - ENV OFF デフォルト（ENABLED=0/CLASSES=0）で既存挙動 100% 不変 - ビルド成功・sanity 確認（mixed/C6-heavy、segv/assert なし） - CURRENT_TASK.md に Phase v4-mid-0 記録 🤖 Generated with Claude Code Co-Authored-By: Claude Haiku 4.5 <noreply@anthropic.com>
144 lines
9.3 KiB
Markdown
144 lines
9.3 KiB
Markdown
# SmallObject HotBox v4 Box Design (Phase v4-1 スケルトン)
|
||
|
||
## Overview
|
||
- 目的: 16〜1024B〜2KiB の small-object を統合する v4 の箱を用意し、v3 の成功パターン（C7-only）を一般化する足場を作る。
|
||
- 中期目標: mimalloc の 70〜80% に迫ること。現状は C7-only v3 + front v3 + fast classify で Mixed 16–1024B がまだ 30〜40% 程度。
|
||
- 位置付け: v3 = prototype、v2 = archive（インターフェース参考のみ）。v4 は構造を整理しつつホット/コールド境界を明確にする。
|
||
|
||
## Box 構造
|
||
- **HotBox_v4**: per-thread `SmallHeapCtx` に `SmallClassHeap[current/partial/full]` と `SmallPageMeta` を持つ。ホットパスはここに閉じ込める。
|
||
- **ColdIface_v4**: `refill_page` / `retire_page` / `remote_push` / `remote_drain` を 1 箱に集約し、内部で Superslab / Warm / Remote を呼ぶ薄いラッパ。
|
||
- **SuperslabBox / RemoteBox**: 既存の Superslab/WarmPool/Remote を Cold 側の箱として再利用（Hot から直接触らない）。
|
||
- **PolicyBox / LearningBox**: small-object 用の `SmallPolicySnapshot`（block_size/route_kind 等）を上位で更新し、Hot は snapshot を読むだけにする。
|
||
|
||
## Phase ロードマップ
|
||
- **v4-1**: 型と入口だけ追加。挙動は v3/v1 のままで、コンパイルが通る足場を用意。
|
||
- **v4-2**: C7-only を v4 に寄せ、v3 互換の挙動で動かす（ENV ゲート付き、v4 が優先）。
|
||
- **v4-3**: C7-only を v4 自前の freelist/current/partial で動かす（Cold は Tiny v1 経由）。v3 はベンチ用に残し ENV で A/B。
|
||
- **v4-3.1 (今回)**: C7 v4 で current/partial 再利用を強化し、prepare_calls を v3 並みに抑制。C7-only ベンチで v4 が v3 比 +1% 程度まで回復。
|
||
- **v4-4**: C6 v4 パイロット（C6-heavy 専用 opt-in）。C7 v4 を維持しつつ C6 を v4 に載せる。
|
||
- **v4-5**: C5 v4 パイロット（C5-heavy 専用 opt-in）。Mixed 標準は C5 v1 のまま。
|
||
- **PF2 (今回)**: v4 状態での pf/OS ベースライン取得と small-object Segment Box の箱だけ追加（挙動不変）。
|
||
- **v4-6 / PF3 以降**: Segment/Page/Block レイアウトと pf 削減、WarmPool チューニングを v4 用に調整。
|
||
|
||
## 現行 v3/v2 の扱い
|
||
- v3: C7-only front v3 の prototype として構造だけ再利用する。性能・安定のベースライン。
|
||
- v2: archive として残し、インターフェース案のみ参照。ホットパスには混ぜない。
|
||
|
||
## 次ステップの入口
|
||
- `core/box/smallobject_hotbox_v4_box.h`: v4 のページ/クラス/TLS 型と TLS アクセサ宣言。
|
||
- `core/box/smallobject_cold_iface_v4.h`: ColdIface の関数ポインタ箱（C7 専用 refill/retire を v1 Tiny に繋ぐ）。
|
||
- `core/box/tiny_route_env_box.h`: `TINY_ROUTE_SMALLHEAP_V4` を追加し、ENV `HAKMEM_SMALL_HEAP_V4_ENABLED` / `HAKMEM_SMALL_HEAP_V4_CLASSES` から C7 を v4 route に載せられる（未指定なら OFF）。
|
||
- `core/front/malloc_tiny_fast.h`: route switch に v4 の case を足し、C7 v4 が ON のときは v4 経路（現在は C7 自前 freelist, それ以外は v1/v3 へフォールバック）、OFF 時は従来の v3/v1。
|
||
- `core/box/smallsegment_v4_box.h` / `core/box/smallsegment_v4_env_box.h`: PF2 で追加した small-object Segment Box の足場（型と ENV だけ、挙動不変）。設計メモは `docs/analysis/SMALLOBJECT_SEGMENT_V4_DESIGN.md` にまとめる。
|
||
|
||
## A/B と運用（2025-12 時点の整理）
|
||
- v4 C7/C6/C5 はいずれも **研究箱**。Mixed の標準ラインは C7-only v3 + C7 ULTRA（UF-3 セグメント）で固定し、v4 系は ENV opt-in のみで利用する。
|
||
- C6/FREEZE 方針により、C6 v4 / C5 v4 は mid/pool 再設計が進むまで本線に載せない（C6 は「普通の mid クラス」として pool/mid 側で扱う）。
|
||
- 今後 small-object v4 を攻めるときは:
|
||
- まず C7 ULTRA で固めた設計（Segment + Page + TLS freelist + mask free）を「small-object 全体の共通パターン」として整理し、
|
||
- その上で 16〜2KiB 帯を SmallHeapCtx v4 に寄せる（ヘッダレス化・lookup 削減を C7 と mid で統合）、
|
||
という順番で進める。
|
||
|
||
---
|
||
|
||
## Phase v4-mid-design: mid/small-object 帯をどう乗せるか
|
||
|
||
### 方針サマリ
|
||
- 目標: 16〜2KiB 帯の small-object/mid を **SmallObjectHotBox_v4** に集約し、Mixed 16〜1024B を mimalloc の 5 割（50〜60M ops/s）に近づける。
|
||
- Hot/Cold/Policy の分離は C7 ULTRA と同様に維持する:
|
||
- Hot: per-thread `SmallHeapCtx`（SmallClassHeap + SmallPageMeta）で alloc/free を完結。
|
||
- Cold: `SmallColdIface_v4` から SmallSegmentBox_v4 / SuperslabBox / RemoteBox に橋渡し。
|
||
- Policy/Learning: `SmallPolicySnapshot` を上位箱が更新し、Hot は route_kind や block_size を読むだけ。
|
||
- C7 ULTRA は「C7 専用 TLS/Segment lane」として維持し、mid/small-object 帯は SmallHeapCtx v4 に寄せる形で共存させる。
|
||
|
||
### HotBox_v4（SmallHeapCtx）のイメージ
|
||
```c
|
||
typedef struct SmallPageMeta {
|
||
void* free_list; // block → next pointer
|
||
uint16_t used; // 現在使用中
|
||
uint16_t capacity; // スロット数
|
||
uint8_t class_idx; // サイズクラス (small-object 帯)
|
||
uint8_t flags; // HOT/PARTIAL/FULL/REMOTE_PENDING など
|
||
uint16_t page_idx; // セグメント内 index
|
||
void* segment; // SmallSegment* back pointer
|
||
} SmallPageMeta;
|
||
|
||
typedef struct SmallClassHeap {
|
||
SmallPageMeta* current;
|
||
SmallPageMeta* partial_head;
|
||
SmallPageMeta* full_head;
|
||
} SmallClassHeap;
|
||
|
||
typedef struct SmallHeapCtx {
|
||
SmallClassHeap cls[NUM_SMALL_CLASSES]; // 16〜2KiB を covering
|
||
} SmallHeapCtx;
|
||
```
|
||
|
||
- HotPath:
|
||
- alloc: `size→class_idx`（LUT）→ `route_kind==SMALL_V4` なら `SmallHeapCtx` 経由で `current→partial→cold_refill` の順に見る。
|
||
- free: `small_page_meta_of(ptr)`（SegmentBox v4 が提供）→ owner/self 判定 → local free or remote_push。
|
||
- C7 ULTRA:
|
||
- ptr が ULTRA segment 上にある場合のみ ULTRA lane を通り、それ以外は SmallHeap v4 / 既存 v3 にフォールバックするオーバーレイ構造を維持。
|
||
|
||
### SmallSegmentBox_v4 と ptr→page→class の O(1) 解決
|
||
- C7 ULTRA で使っている 2MiB Segment + 64KiB Page を multi-class small-object 用に拡張:
|
||
```c
|
||
#define SMALL_SEGMENT_SIZE (2 * 1024 * 1024)
|
||
#define SMALL_PAGE_SIZE (64 * 1024)
|
||
|
||
typedef struct SmallSegment {
|
||
uintptr_t base;
|
||
uint32_t num_pages;
|
||
uint32_t owner_tid;
|
||
uint32_t magic;
|
||
SmallPageMeta page_meta[SMALL_SEGMENT_SIZE / SMALL_PAGE_SIZE];
|
||
} SmallSegment;
|
||
```
|
||
|
||
- ptr→page_meta の計算:
|
||
```c
|
||
static inline SmallPageMeta* small_page_meta_of(void* p) {
|
||
uintptr_t addr = (uintptr_t)p;
|
||
uintptr_t seg_base = addr & ~(SMALL_SEGMENT_SIZE - 1);
|
||
SmallSegment* seg = (SmallSegment*)seg_base;
|
||
// magic で small segment か確認（Fail-Fast）
|
||
size_t page_idx = (addr - seg_base) >> SMALL_PAGE_SHIFT; // 64KiB page
|
||
if (page_idx >= seg->num_pages) return NULL;
|
||
return &seg->page_meta[page_idx];
|
||
}
|
||
```
|
||
|
||
- これにより mid/small-object 帯でも `hak_super_lookup` / `mid_desc_lookup` / `classify_ptr` / `ss_map_lookup` を HotPath から排除し、ptr→page→class を O(1) にできる。
|
||
|
||
### ULTRA をどこまで広げるか
|
||
- ULTRA パターン（専用 Segment + TLS freelist + mask free）は C7 では成功済み。
|
||
- mid/smallmid では:
|
||
- C7（class7）: 現状通り C7 ULTRA lane を利用。
|
||
- 非常にホットな mid クラス（例: C6/C5）が現れた場合のみ、ULTRA lane を追加する候補。
|
||
- それ以外の small-object 帯は SmallHeapCtx v4（multi-class heap）に載せ、ULTRA は「1〜2 クラス専用 lane」として限定的に使う。
|
||
- これにより:
|
||
- RSS/fragmentation の増加を抑えつつ、
|
||
- 「C7 ULTRA の勝ちパターン」を mid にも段階的に持ち込む余地を残せる。
|
||
|
||
### フェーズ案（mid/small-object v4 導入）
|
||
1. Phase v4-mid-0:
|
||
- `SmallHeapCtx` / `SmallClassHeap` / `SmallPageMeta` / `SmallSegment` の struct と `SmallColdIface_v4` の関数シグネチャだけを追加（挙動は stub）。
|
||
- `HAKMEM_SMALL_HEAP_V4_ENABLED=0` 時は一切 v4 コードを通らない。
|
||
2. Phase v4-mid-1:
|
||
- C6-only で `route_kind=SMALL_V4_STUB` にして、`small_alloc_fast` / `small_free_fast` は即 v1/pool にフォールバックしつつ、`small_page_meta_of()` の O(1) 判定だけ実装。
|
||
- ptr→segment→page_meta の Fail-Fast を安定させる。
|
||
3. Phase v4-mid-2:
|
||
- C6-only で SmallHeap v4 を本実装（page freelist / current/partial / refill/retire）し、C6-heavy ベンチで v1/pool と A/B。
|
||
4. Phase v4-mid-3:
|
||
- Mixed 16〜1024B のうち一部クラス（例: C6, 次に C5）を SMALL_V4 route に昇格。
|
||
- Stats/Learning で hot クラスを観察しつつ、徐々に small-object 帯を v4 に寄せていく。
|
||
|
||
### Learning/Stats 境界の注意
|
||
- Stats は page/segment 単位で集計し、HotPath では `page->used++/--` 以外を触らない（retire/refill 時に Cold 側で aggregate）。
|
||
- Learning は StatsBox から `SmallPolicySnapshot` を生成し：
|
||
- route_kind[class]
|
||
- block_size[class]
|
||
- max_partial_pages[class]
|
||
を更新するだけ。HotBox_v4 側は snapshot を読むだけに留める。
|