hakmem/docs/analysis/PERF_EXEC_SUMMARY_ULTRA_PHASE_20251211.md

Performance Optimization: Tiny/ULTRA 世代の総括（Phase 完了）

Date: 2025-12-11 Status: Phase ULTRA-REFILL-OPT + Phase SO-BACKEND-OPT-1 完了。Tiny/ULTRA 層は完成扱い。 Audience: Developers, Performance Stakeholders

---

目的

Mixed 16–1024B を 30.6M ops/s → 43.9M ops/s まで引き上げるまでの ULTRA ＋ v3 最適化サイクルの完全総括。

---

最終ベースライン（Release ビルド）

Throughput 成果

プロファイル	Throughput	vs baseline（v4/v5/v6 OFF）	達成度
Mixed 16–1024B	43.9M ops/s	+43.5%	✅ 目標範囲
C7-only 1024B	~57M ops/s	+48%	✅ 優秀
C7-only (ULTRA OFF)	~42.4M ops/s	-	v3 backend baseline
C6-heavy 257–768B	~16.9M ops/s	-	pool v1 経由（未最適化）
mimalloc参考値	~110–120M ops/s	-	目標 50% parity = ~55M

本線構成（デフォルト有効）

┌─────────────────────────────────────────────────────────┐
│ 1. Front: Tiny front v3 + LUT 化                        │
│    - size → class LUT（size_to_class）                 │
│    - route snapshot（malloc/free で ENV 読みを排除）    │
│    - gate snapshot で ENV check 削減                    │
│    - Throughput: 주: ~43.9M ops/s の基盤             │
├─────────────────────────────────────────────────────────┤
│ 2. Small: C4–C7 ULTRA + v3 backend                      │
│    - C7 ULTRA (UF-4): TLS freelist + segment learning   │
│    - C6/C5/C4 ULTRA: 寄生型 TLS cache（alloc+free統合）│
│    - v3 backend: so_alloc/so_free（alloc_current=100%） │
│    - 特徴: 全クラスで fast path 最適化済み              │
├─────────────────────────────────────────────────────────┤
│ 3. Mid/Pool: v1 経由（C6-heavy は ~10M ops/s）          │
│    - Lookup 層（hak_super_lookup 等）がボトルネック    │
│    - 次世代（v3 pool / Headerless）で対応予定           │
└─────────────────────────────────────────────────────────┘

研究箱（デフォルト OFF）

• v4, v5, v6（small-object 世代試験）
• free-front-v3（dispatcher 最適化実験）
• C6/C5/C4 dedicated ULTRA パターン（学習済み）

---

フェーズ毎の改善ログ

累積改善グラフ

Phase	テーマ	改善	累積 ops/s	特徴
baseline	-	-	30.6M	2025-12-10 時点
PERF-ULTRA-FREE-OPT-1	C4–C7 ULTRA free 統合	+9.3%	33.4M	legacy -90%
REFACTOR	Code quality	+0%	33.4M	30+ files cleanup
FREE-FRONT-V3-1	dispatcher snapshot	-4%	32M	研究箱（未採用）
PERF-ULTRA-REFILL-OPT-1a/1b	C7 ULTRA refill (division→shift)	+11.1%	36.9M	Segment learning 削除
PERF-ULTRA-REBASE-4	stats 計測	+0%	36.9M	ホットパス分析確認
Phase SO-BACKEND-OPT-1	v3 backend 分解	+0%	43.9M	alloc_current=100%, free_retire=0.1%

最終到達: 30.6M → 43.9M ops/s (Mixed 16–1024B)

---

実装サマリー（やったこと）

1. C7 ULTRA コア（UF-1 → UF-4 進化）

• UF-1: TLS freelist + segment learning
• UF-2: page_meta 最適化 + multi-segment
• UF-3: O(1) page_of + mask-based free validation
• UF-4: refill path の division → bit shift（+11.1%）+ segment learning 削除

成果: C7-only で ULTRA OFF vs ON = 42.4M → 57M ops/s (+34%)

2. C6/C5/C4 ULTRA パターン（寄生型 TLS）

• 寄生型設計: 既存 alloc に「free side TLS cache + alloc side pop」を追加
• C6 ULTRA: legacy fallback 137K/iter → 0（100% 排除）
• C5/C4 ULTRA: 同様の排除率

成果: Legacy fallback 49% → 4.8%、Mixed +9.3%

3. Dispatcher/Gate 最適化

• Front snapshot: malloc/free の route 判定を初期化時に TLS に snapshot 化
• ENV 外出し: hot path での getenv() 呼び出しゼロ化
• LUT 化: size_to_class を pre-computed LUT で O(1)

成果: 比較的小さいが、累積的に gate/dispatcher overhead 低減

4. C7 ULTRA Refill 最適化（Phase REFILL-OPT-1a/1b）

• 1a: offset / page_size → offset >> 16 (division → shift)
• 1b: segment learning 削除（alloc refill 時に学習済みなため free で不要）

成果: refill パス +11.1%（見えない最適化だが累積効果大）

5. v3 Backend 分析

• alloc_current_hit: 99.99% ～ 100%（page locality 完璧）
• free_retire: 0.1%（page churn 極低）
• page_of_fail: 0/399828 (robust)

結論: v3 ロジック部分は完全に最適化済み。残り 5% overhead は内部コスト（header write, memcpy, 分岐）

---

今のボトルネック地図（Mixed 16–1024B, perf profile）

層	関数	self%	コメント
Front	malloc/free dispatcher	40–45%	C API level（構造的コスト）
ULTRA	C7/C6/C5/C4 alloc + free + refill	~12%	TLS freelist 最適化済み
v3 backend	so_alloc_fast/so_free	~5%	内部コスト（header, memcpy, 分岐）
Lookup	hak_super_lookup (mid/pool)	3–5%	C6-heavy の場合（別の問題）

次のメガボトルネック: malloc/free dispatcher (40%) → C API level なので改善余地は大きいが、大規模リファクタが必要

---

今後の方向性（次世代計画）

即座の候補（小さい）

• Phase SO-BACKEND-OPT-2: v3 backend の header write 削減（1-2%）
• Phase ULTRA-DISPATCH-OPT: dispatcher 内部最適化（数%）

中期的な方向（大きい、別ライン）

A. Headerless 再設計（v6 系統）

• 特徴: out-of-band header（metadata 領域）→ block に header byte 書き込みなし
• メリット: alloc 毎の header write 削除 → 3–5% 削減
• コスト: 全体的なリファクタ、既存 region_id Box との統合
• 見立て: 2–3 フェーズで実装可能

B. mid/pool v3 新設計（C6-heavy 向け）

• 背景: C6-heavy が pool v1 経由で ~10M ops/s にとどまり、lookup 層が 40% 占める
• アプローチ: small-object v3 のパターン（TLS freelist + segment O(1)）を pool size に拡張
• 期待: C6-heavy を 20–25M ops/s に改善
• 難易度: 高（pool infra 改変が必要）

C. Dispatcher 内部最適化

• 小さい改善 (2–3%) だが、40–45% overhead の削減に向けた第一歩
• 順序: headerless や mid/pool 設計の後に検討（基盤安定後）

---

ビルド・テスト確認

• ✅ Release ビルド成功（-O3 -flto）
• ✅ Mixed 16–1024B（1M iter, ws=400）: 43.9M ops/s, SEGV/assert なし
• ✅ C7-only (1024B, 1M iter, ws=400): 57M ops/s, 安定
• ✅ C7-only ULTRA OFF: 42.4M ops/s, v3 backend 単独動作確認
• ✅ Stats 計測（HAKMEM_SO_V3_STATS=1）で v3 ロジック検証完了

---

変更ファイル一覧（本セッション）

新規

• docs/analysis/PERF_EXEC_SUMMARY_ULTRA_PHASE_20251211.md ← このファイル

修正

• core/box/smallobject_hotbox_v3_box.h: stats フィールド拡張
• core/smallobject_hotbox_v3.c: stats helper 関数 + so_alloc_fast/so_free_fast 埋め込み + デストラクタ拡張
• docs/analysis/SMALLOBJECT_HOTBOX_V3_DESIGN.md: Phase SO-BACKEND-OPT-1 ボトルネック分析セクション追加
• CURRENT_TASK.md: Phase SO-BACKEND-OPT-1 完了サマリ追加

---

判定：Tiny/ULTRA 世代の完成

宣言: 本フェーズで Tiny/ULTRA 層（C4–C7 ULTRA + v3 backend）は「完成扱い」とする。

完成の根拠

1. All fast path 最適化済み: alloc_current_hit ~100%, free_retire <1%
2. 設計的な limits 到達: dispatcher/gate で ENV/route を hot path から除外完了
3. 安定性確認: SEGV/assert なし、stats 計測で robust 確認
4. 累積改善 43.5%: baseline 30.6M → 43.9M は十分な成果

今後の大きい変更は別ライン

• Headerless/v6 系（header out-of-band 化）
• mid/pool v3（C6-heavy 向け新設計）
• 上記は次世代テーマとして別フェーズで検討

---

参考リンク

• docs/analysis/SMALLOBJECT_HOTBOX_V3_DESIGN.md: v3 backend 詳細設計 + ボトルネック分析
• CURRENT_TASK.md: Phase SO-BACKEND-OPT-1 完了サマリ
• Previous phases: CURRENT_TASK_ARCHIVE_20251210.md（Phase v4-mid, v5, v6 等の試行記録）

---

最終メッセージ: Tiny/ULTRA 層は「完成世代」として基盤固定。次のチャレンジは Headerless か mid 新設計へ。