Tiny Next Steps (Phase 19 メモ) =============================== 事実スナップショット -------------------- - 標準プロファイル (v1 締め) - LEGACY … TinyHeap 全無効。 - C7_SAFE … class mask=0x80, meta_mode=1 に加え `HAKMEM_TINY_STATS_BOX=1 HAKMEM_TINY_STATS_BATCH=0` をセット。C6 は OFF。 - Bench/実験 … C7_ULTRA_BENCH、C6 TinyHeap マスク (0x40/0xC0)、`HAKMEM_TINY_STATS_BATCH=1` は bench 専用。 - プロファイルと性能 - C7_SAFE: C7-only 20k/ws64 ≈46.6M ops/s、Mixed 16–1024B は LEGACY と ±1M 以内(軽いマイナス〜誤差)。C7-heavy 向けの本番寄りプロファイル。 - C7_ULTRA_BENCH: C7-only 20k/ws64 ≈52M ops/s(bench 専用、Superslab/Tier 整合は緩む)。 - C6 TinyHeap: C6-heavy (min=257/max=768) LEGACY≈44.3M → TinyHeap≈38.6M。Mixed 16–1024B でも ≈38.5M〜39.5M と明確なマイナス。slow_prepare は ≒1 でも遅く、経路オーバーヘッドが支配的。 - Cold Stats Box: STATS_BOX=1 は C7 SAFE で同等〜わずかプラス、BATCH=1 は C7-only/Mixed とも大幅マイナス(bench 専用扱い)。 - クラス分布の目安(HEAP_STATS, ws=256/iters=20k) - Mixed 16–1024B + C7 SAFE: cls7 fast≈5691 / slow≈1。C6 を載せた場合でも cls6 fast≈2744 / slow≈1 と slow_prepare は低い。 - C6-heavy: cls6 fast≈5372 / slow≈1。slow_prepare が少なくても throughput は低下。 - 結論(現状) - C7 SAFE は C7-only で明確なプラス、Mixed でも許容レンジ → 推奨プロファイル候補。 - C6 TinyHeap は現状ベンチ/実験専用。デフォルトでは OFF(mask=0x80 のまま)。 次の箱候補(2 本に絞る) ----------------------- 1) C6 TinyHeap を C7 SAFE 流に攻める箱 - やること: current 固定・slow_prepare 抑制、meta-light/delta/閾値 flush の安全版を C6 に移植。Superslab/Tier の整合を Fail-Fast で確認しながら命令を削る。 - リスク: 実装が複雑化するため delta debug/assert を増やす必要あり。効果が出なければ C6 TinyHeap は Bench 専用のまま。 2) Tiny front をさらに薄くする箱 - 方向: Route Snapshot の上に C6/C7 用の直線 front(C7 HotPipeline 相当)を広げ、Gate/UC/TLS SLL 経路の命令数を削る。 - 位置づけ: C6 TinyHeap 攻めとほぼ同じ課題の裏表。C6 current 固定+軽量 meta と合わせて検討。 3) Cold Tiny Stats Box を詰める箱 - 役割: C7 SAFE で始めた page 内 delta/flush を「Cold Stats Box」に委譲し、meta->used / ss_active_* の更新をホットパスから切り離す。 - 進捗: STATS_BOX を導入済み。BATCH=0 は性能同等、BATCH=1 は C7-only/Mixed とも大きく劣化(bench 専用)。`HAKMEM_TINY_STATS_BATCH` は当面 OFF 推奨。 - 次の一手: BATCH=0 を前提に C5/C6 など他クラスへの適用可否を検討するか、別の箱(front/UC など)を優先するかを再評価。 当面の運用ルール ---------------- - デフォルト: PROFILE=LEGACY か PROFILE=C7_SAFE を手動選択。C7_SAFE 時は `HAKMEM_TINY_STATS_BOX=1 HAKMEM_TINY_STATS_BATCH=0` をセット。C6 TinyHeap は明示しない限り OFF。 - mimalloc 比較フラグ: - C7-only → `HAKMEM_BENCH_C7_ONLY=1 HAKMEM_TINY_HEAP_PROFILE=C7_SAFE HAKMEM_TINY_STATS_BOX=1 HAKMEM_TINY_STATS_BATCH=0 HAKMEM_TINY_LARSON_FIX=1`(ULTRA は研究用)。 - Mixed 16–1024B → `HAKMEM_BENCH_MIN_SIZE=16 HAKMEM_BENCH_MAX_SIZE=1024 HAKMEM_TINY_LARSON_FIX=1` で PROFILE=LEGACY と PROFILE=C7_SAFE を並べて比較(C6 は載せない)。 - C6 を触るときは必ず HEAP_CLASSES で class6 を明示し、`HAKMEM_TINY_HEAP_STATS[_DUMP]=1` で fast/slow を一緒に記録する。C6 は bench 専用のまま。 - HotHeap v2 (C7 専用) の扱い: - 現状は C7-only でも v1 より遅く、Mixed では大きく回帰。標準は `HAKMEM_TINY_HOTHEAP_V2=0`(v1 C7_SAFE を使用)。 - 研究/実験で使う場合のみ `HAKMEM_TINY_HOTHEAP_V2=1 HAKMEM_TINY_HOTHEAP_CLASSES=0x80` を明示し、`HAKMEM_TINY_HOTHEAP_V2_STATS=1` で fallback/fast 比率を観測する。結果が悪くてもよいベンチ専用モードとする。 Phase68(更新版): 次に攻める大きな箱候補 ---------------------------------------- - C7 HotHeap v2: - C7-only / Mixed 長尺プロファイルでは v1 同等以上まで来ており、bench/pro 用には十分な状態。 - ただしデフォルトは引き続き v2 OFF(C7 SAFE v1 本線)。今後は「C7-heavy なワークロード向けオプション」として扱う。 - C6/C5 TinyHeap v2: - C6 v2 は route 修正後も C6-heavy/Mixed で明確にマイナス。構造は通電したが perf 未達のため、当面は研究箱として据え置く。 - C5 への拡張も v2 の再設計フェーズ(TinyHeap v3 相当)でまとめて考えるのが良さそう。 - mid/smallmid / pool 側: - Mixed 16–1024B / mid-large ベンチの perf 分析では、pool allocator(hak_pool_try_alloc/free)や smallmid パスが依然として大きな self% を占めている。 - Phase68 以降の本命: **pool/smallmid の Hot Box 化・front 整理**。新設 `docs/analysis/POOL_V2_BOX_DESIGN.md` と `docs/design/POOL_HOTBOX_V2_IMPLEMENTATION_GUIDE.md` に箱と境界を記載。 - Tiny v2 は C7-only ベースで一旦凍結し、mid/pool を先に +5〜10% 押し上げるのが mimalloc 7〜8割に近づく近道と考える。*** 補足: C7 v3 と Mixed front --------------------------- - C7 v3: C7-only / Mixed で v3 ON が +α(slow=1、fallback=0、refill はウォームアップ由来)を確認。デフォルトは OFF のまま、C7-heavy bench で opt-in。 - Mixed 16–1024B で v3 ON の userland perf は、リリースビルドでは `free`/`malloc` に潰れて非C7 Tiny front が見えない。DEBUG/記号付きビルドで再 perf を取り、size→class→route 前段や header 書き込みのフラット化を次ターゲット候補として再評価する。 Phase69: SmallObjectHotBox v3 構想(Tiny + mid/smallmid 統合) ---------------------------------------------------------------- - 背景: - Tiny (16–1024B) と mid/smallmid の両方で mimalloc に 0.4〜0.5× 程度の差が残っており、Tiny v2 / pool v2 での局所最適では 7〜8割に届きにくいことが見えてきた。 - TinyHotHeap v2 (C7-only) は C7-heavy/Mixed 長尺で v1 SAFE を上回るところまで到達した一方、C6/C5 や pool v2 は研究箱のまま凍結となった。 - 方針: - Tiny (C0〜C7) と mid/smallmid の一部を統合して扱う SmallObjectHotBox v3 を新設し、「SmallObject 全体を 1 枚の Hot Box」として設計し直す。 - Superslab/Segment/Tier/Guard/Remote は Cold Box として据え置き、Hot 側は SmallObjectHotBox v3 に集約する。 - 設計は `docs/analysis/SMALLOBJECT_HOTBOX_V3_DESIGN.md` にまとめ、実装タスクは `docs/design/SMALLOBJECT_HOTBOX_V3_IMPLEMENTATION_GUIDE.md` に段階的に記載。 - 位置づけ: - Tiny v2 / pool v2 で得た知見(page_of O(1)、current/partial/retire ポリシー、Cold IF の 2 箇所化)を統合しつつ、v3 では「Tiny + mid/smallmid の一体化」を目指す。 - 実装は bench/研究プロファイルから段階的に進め、v1/v2 への戻り道を常に維持する。***