78 lines
7.3 KiB
Markdown
78 lines
7.3 KiB
Markdown
Tiny Next Steps (Phase 19 メモ)
|
||
===============================
|
||
|
||
事実スナップショット
|
||
--------------------
|
||
- 標準プロファイル (v1 締め)
|
||
- LEGACY … TinyHeap 全無効。
|
||
- C7_SAFE … class mask=0x80, meta_mode=1 に加え `HAKMEM_TINY_STATS_BOX=1 HAKMEM_TINY_STATS_BATCH=0` をセット。C6 は OFF。
|
||
- Bench/実験 … C7_ULTRA_BENCH、C6 TinyHeap マスク (0x40/0xC0)、`HAKMEM_TINY_STATS_BATCH=1` は bench 専用。
|
||
- プロファイルと性能
|
||
- C7_SAFE: C7-only 20k/ws64 ≈46.6M ops/s、Mixed 16–1024B は LEGACY と ±1M 以内（軽いマイナス〜誤差）。C7-heavy 向けの本番寄りプロファイル。
|
||
- C7_ULTRA_BENCH: C7-only 20k/ws64 ≈52M ops/s（bench 専用、Superslab/Tier 整合は緩む）。
|
||
- C6 TinyHeap: C6-heavy (min=257/max=768) LEGACY≈44.3M → TinyHeap≈38.6M。Mixed 16–1024B でも ≈38.5M〜39.5M と明確なマイナス。slow_prepare は ≒1 でも遅く、経路オーバーヘッドが支配的。
|
||
- Cold Stats Box: STATS_BOX=1 は C7 SAFE で同等〜わずかプラス、BATCH=1 は C7-only/Mixed とも大幅マイナス（bench 専用扱い）。
|
||
- クラス分布の目安（HEAP_STATS, ws=256/iters=20k）
|
||
- Mixed 16–1024B + C7 SAFE: cls7 fast≈5691 / slow≈1。C6 を載せた場合でも cls6 fast≈2744 / slow≈1 と slow_prepare は低い。
|
||
- C6-heavy: cls6 fast≈5372 / slow≈1。slow_prepare が少なくても throughput は低下。
|
||
- 結論（現状）
|
||
- C7 SAFE は C7-only で明確なプラス、Mixed でも許容レンジ → 推奨プロファイル候補。
|
||
- C6 TinyHeap は現状ベンチ/実験専用。デフォルトでは OFF（mask=0x80 のまま）。
|
||
|
||
次の箱候補（2 本に絞る）
|
||
-----------------------
|
||
1) C6 TinyHeap を C7 SAFE 流に攻める箱
|
||
- やること: current 固定・slow_prepare 抑制、meta-light/delta/閾値 flush の安全版を C6 に移植。Superslab/Tier の整合を Fail-Fast で確認しながら命令を削る。
|
||
- リスク: 実装が複雑化するため delta debug/assert を増やす必要あり。効果が出なければ C6 TinyHeap は Bench 専用のまま。
|
||
|
||
2) Tiny front をさらに薄くする箱
|
||
- 方向: Route Snapshot の上に C6/C7 用の直線 front（C7 HotPipeline 相当）を広げ、Gate/UC/TLS SLL 経路の命令数を削る。
|
||
- 位置づけ: C6 TinyHeap 攻めとほぼ同じ課題の裏表。C6 current 固定＋軽量 meta と合わせて検討。
|
||
|
||
3) Cold Tiny Stats Box を詰める箱
|
||
- 役割: C7 SAFE で始めた page 内 delta/flush を「Cold Stats Box」に委譲し、meta->used / ss_active_* の更新をホットパスから切り離す。
|
||
- 進捗: STATS_BOX を導入済み。BATCH=0 は性能同等、BATCH=1 は C7-only/Mixed とも大きく劣化（bench 専用）。`HAKMEM_TINY_STATS_BATCH` は当面 OFF 推奨。
|
||
- 次の一手: BATCH=0 を前提に C5/C6 など他クラスへの適用可否を検討するか、別の箱（front/UC など）を優先するかを再評価。
|
||
|
||
当面の運用ルール
|
||
----------------
|
||
- デフォルト: PROFILE=LEGACY か PROFILE=C7_SAFE を手動選択。C7_SAFE 時は `HAKMEM_TINY_STATS_BOX=1 HAKMEM_TINY_STATS_BATCH=0` をセット。C6 TinyHeap は明示しない限り OFF。
|
||
- mimalloc 比較フラグ:
|
||
- C7-only → `HAKMEM_BENCH_C7_ONLY=1 HAKMEM_TINY_HEAP_PROFILE=C7_SAFE HAKMEM_TINY_STATS_BOX=1 HAKMEM_TINY_STATS_BATCH=0 HAKMEM_TINY_LARSON_FIX=1`（ULTRA は研究用）。
|
||
- Mixed 16–1024B → `HAKMEM_BENCH_MIN_SIZE=16 HAKMEM_BENCH_MAX_SIZE=1024 HAKMEM_TINY_LARSON_FIX=1` で PROFILE=LEGACY と PROFILE=C7_SAFE を並べて比較（C6 は載せない）。
|
||
- C6 を触るときは必ず HEAP_CLASSES で class6 を明示し、`HAKMEM_TINY_HEAP_STATS[_DUMP]=1` で fast/slow を一緒に記録する。C6 は bench 専用のまま。
|
||
- HotHeap v2 (C7 専用) の扱い:
|
||
- 現状は C7-only でも v1 より遅く、Mixed では大きく回帰。標準は `HAKMEM_TINY_HOTHEAP_V2=0`（v1 C7_SAFE を使用）。
|
||
- 研究/実験で使う場合のみ `HAKMEM_TINY_HOTHEAP_V2=1 HAKMEM_TINY_HOTHEAP_CLASSES=0x80` を明示し、`HAKMEM_TINY_HOTHEAP_V2_STATS=1` で fallback/fast 比率を観測する。結果が悪くてもよいベンチ専用モードとする。
|
||
|
||
Phase68（更新版）: 次に攻める大きな箱候補
|
||
----------------------------------------
|
||
- C7 HotHeap v2:
|
||
- C7-only / Mixed 長尺プロファイルでは v1 同等以上まで来ており、bench/pro 用には十分な状態。
|
||
- ただしデフォルトは引き続き v2 OFF（C7 SAFE v1 本線）。今後は「C7-heavy なワークロード向けオプション」として扱う。
|
||
- C6/C5 TinyHeap v2:
|
||
- C6 v2 は route 修正後も C6-heavy/Mixed で明確にマイナス。構造は通電したが perf 未達のため、当面は研究箱として据え置く。
|
||
- C5 への拡張も v2 の再設計フェーズ（TinyHeap v3 相当）でまとめて考えるのが良さそう。
|
||
- mid/smallmid / pool 側:
|
||
- Mixed 16–1024B / mid-large ベンチの perf 分析では、pool allocator（hak_pool_try_alloc/free）や smallmid パスが依然として大きな self% を占めている。
|
||
- Phase68 以降の本命: **pool/smallmid の Hot Box 化・front 整理**。新設 `docs/analysis/POOL_V2_BOX_DESIGN.md` と `docs/design/POOL_HOTBOX_V2_IMPLEMENTATION_GUIDE.md` に箱と境界を記載。
|
||
- Tiny v2 は C7-only ベースで一旦凍結し、mid/pool を先に +5〜10% 押し上げるのが mimalloc 7〜8割に近づく近道と考える。***
|
||
|
||
補足: C7 v3 と Mixed front
|
||
---------------------------
|
||
- C7 v3: C7-only / Mixed で v3 ON が +α（slow=1、fallback=0、refill はウォームアップ由来）を確認。デフォルトは OFF のまま、C7-heavy bench で opt-in。
|
||
- Mixed 16–1024B で v3 ON の userland perf は、リリースビルドでは `free`/`malloc` に潰れて非C7 Tiny front が見えない。DEBUG/記号付きビルドで再 perf を取り、size→class→route 前段や header 書き込みのフラット化を次ターゲット候補として再評価する。
|
||
|
||
Phase69: SmallObjectHotBox v3 構想（Tiny + mid/smallmid 統合）
|
||
----------------------------------------------------------------
|
||
- 背景:
|
||
- Tiny (16–1024B) と mid/smallmid の両方で mimalloc に 0.4〜0.5× 程度の差が残っており、Tiny v2 / pool v2 での局所最適では 7〜8割に届きにくいことが見えてきた。
|
||
- TinyHotHeap v2 (C7-only) は C7-heavy/Mixed 長尺で v1 SAFE を上回るところまで到達した一方、C6/C5 や pool v2 は研究箱のまま凍結となった。
|
||
- 方針:
|
||
- Tiny (C0〜C7) と mid/smallmid の一部を統合して扱う SmallObjectHotBox v3 を新設し、「SmallObject 全体を 1 枚の Hot Box」として設計し直す。
|
||
- Superslab/Segment/Tier/Guard/Remote は Cold Box として据え置き、Hot 側は SmallObjectHotBox v3 に集約する。
|
||
- 設計は `docs/analysis/SMALLOBJECT_HOTBOX_V3_DESIGN.md` にまとめ、実装タスクは `docs/design/SMALLOBJECT_HOTBOX_V3_IMPLEMENTATION_GUIDE.md` に段階的に記載。
|
||
- 位置づけ:
|
||
- Tiny v2 / pool v2 で得た知見（page_of O(1)、current/partial/retire ポリシー、Cold IF の 2 箇所化）を統合しつつ、v3 では「Tiny + mid/smallmid の一体化」を目指す。
|
||
- 実装は bench/研究プロファイルから段階的に進め、v1/v2 への戻り道を常に維持する。***
|