# Performance Optimization: Tiny/ULTRA 世代の総括（Phase 完了） **Date**: 2025-12-11 **Status**: Phase ULTRA-REFILL-OPT + Phase SO-BACKEND-OPT-1 完了。Tiny/ULTRA 層は完成扱い。 **Audience**: Developers, Performance Stakeholders --- ## 目的 Mixed 16–1024B を **30.6M ops/s → 43.9M ops/s** まで引き上げるまでの ULTRA ＋ v3 最適化サイクルの完全総括。 --- ## 最終ベースライン（Release ビルド） ### Throughput 成果 | プロファイル | Throughput | vs baseline（v4/v5/v6 OFF） | 達成度 | |-------------|-----------|---------------------------|--------| | **Mixed 16–1024B** | **43.9M ops/s** | +43.5% | ✅ 目標範囲 | | **C7-only 1024B** | **~57M ops/s** | +48% | ✅ 優秀 | | **C7-only (ULTRA OFF)** | ~42.4M ops/s | - | v3 backend baseline | | **C6-heavy 257–768B** | ~16.9M ops/s | - | pool v1 経由（未最適化） | | **mimalloc参考値** | ~110–120M ops/s | - | 目標 50% parity = ~55M | ### 本線構成（デフォルト有効） ``` ┌─────────────────────────────────────────────────────────┐ │ 1. Front: Tiny front v3 + LUT 化 │ │ - size → class LUT（size_to_class） │ │ - route snapshot（malloc/free で ENV 読みを排除） │ │ - gate snapshot で ENV check 削減 │ │ - Throughput: 주: ~43.9M ops/s の基盤 │ ├─────────────────────────────────────────────────────────┤ │ 2. Small: C4–C7 ULTRA + v3 backend │ │ - C7 ULTRA (UF-4): TLS freelist + segment learning │ │ - C6/C5/C4 ULTRA: 寄生型 TLS cache（alloc+free統合）│ │ - v3 backend: so_alloc/so_free（alloc_current=100%） │ │ - 特徴: 全クラスで fast path 最適化済み │ ├─────────────────────────────────────────────────────────┤ │ 3. Mid/Pool: v1 経由（C6-heavy は ~10M ops/s） │ │ - Lookup 層（hak_super_lookup 等）がボトルネック │ │ - 次世代（v3 pool / Headerless）で対応予定 │ └─────────────────────────────────────────────────────────┘ ``` ### 研究箱（デフォルト OFF） - v4, v5, v6（small-object 世代試験） - free-front-v3（dispatcher 最適化実験） - C6/C5/C4 dedicated ULTRA パターン（学習済み） --- ## フェーズ毎の改善ログ ### 累積改善グラフ | Phase | テーマ | 改善 | 累積 ops/s | 特徴 | |-------|--------|------|-----------|------| | baseline | - | - | 30.6M | 2025-12-10 時点 | | PERF-ULTRA-FREE-OPT-1 | C4–C7 ULTRA free 統合 | +9.3% | 33.4M | legacy -90% | | REFACTOR | Code quality | +0% | 33.4M | 30+ files cleanup | | FREE-FRONT-V3-1 | dispatcher snapshot | -4% | 32M | 研究箱（未採用） | | PERF-ULTRA-REFILL-OPT-1a/1b | C7 ULTRA refill (division→shift) | +11.1% | 36.9M | Segment learning 削除 | | PERF-ULTRA-REBASE-4 | stats 計測 | +0% | 36.9M | ホットパス分析確認 | | **Phase SO-BACKEND-OPT-1** | **v3 backend 分解** | **+0%** | **43.9M** | **alloc_current=100%, free_retire=0.1%** | **最終到達**: 30.6M → 43.9M ops/s (Mixed 16–1024B) --- ## 実装サマリー（やったこと） ### 1. C7 ULTRA コア（UF-1 → UF-4 進化） - **UF-1**: TLS freelist + segment learning - **UF-2**: page_meta 最適化 + multi-segment - **UF-3**: O(1) page_of + mask-based free validation - **UF-4**: refill path の division → bit shift（+11.1%）+ segment learning 削除 **成果**: C7-only で ULTRA OFF vs ON = 42.4M → 57M ops/s (+34%) ### 2. C6/C5/C4 ULTRA パターン（寄生型 TLS） - **寄生型設計**: 既存 alloc に「free side TLS cache + alloc side pop」を追加 - **C6 ULTRA**: legacy fallback 137K/iter → 0（100% 排除） - **C5/C4 ULTRA**: 同様の排除率 **成果**: Legacy fallback 49% → 4.8%、Mixed +9.3% ### 3. Dispatcher/Gate 最適化 - **Front snapshot**: malloc/free の route 判定を初期化時に TLS に snapshot 化 - **ENV 外出し**: hot path での `getenv()` 呼び出しゼロ化 - **LUT 化**: size_to_class を pre-computed LUT で O(1) **成果**: 比較的小さいが、累積的に gate/dispatcher overhead 低減 ### 4. C7 ULTRA Refill 最適化（Phase REFILL-OPT-1a/1b） - **1a**: `offset / page_size` → `offset >> 16` (division → shift) - **1b**: segment learning 削除（alloc refill 時に学習済みなため free で不要） **成果**: refill パス +11.1%（見えない最適化だが累積効果大） ### 5. v3 Backend 分析 - **alloc_current_hit**: 99.99% ～ 100%（page locality 完璧） - **free_retire**: 0.1%（page churn 極低） - **page_of_fail**: 0/399828 (robust) **結論**: v3 ロジック部分は完全に最適化済み。残り 5% overhead は内部コスト（header write, memcpy, 分岐） --- ## 今のボトルネック地図（Mixed 16–1024B, perf profile） | 層 | 関数 | self% | コメント | |----|------|-------|---------| | **Front** | malloc/free dispatcher | 40–45% | C API level（構造的コスト） | | **ULTRA** | C7/C6/C5/C4 alloc + free + refill | ~12% | TLS freelist 最適化済み | | **v3 backend** | so_alloc_fast/so_free | ~5% | 内部コスト（header, memcpy, 分岐） | | **Lookup** | hak_super_lookup (mid/pool) | 3–5% | C6-heavy の場合（別の問題） | **次のメガボトルネック**: malloc/free dispatcher (40%) → C API level なので改善余地は大きいが、大規模リファクタが必要 --- ## 今後の方向性（次世代計画） ### 即座の候補（小さい） - **Phase SO-BACKEND-OPT-2**: v3 backend の header write 削減（1-2%） - **Phase ULTRA-DISPATCH-OPT**: dispatcher 内部最適化（数%） ### 中期的な方向（大きい、別ライン） #### A. Headerless 再設計（v6 系統） - **特徴**: out-of-band header（metadata 領域）→ block に header byte 書き込みなし - **メリット**: alloc 毎の header write 削除 → 3–5% 削減 - **コスト**: 全体的なリファクタ、既存 region_id Box との統合 - **見立て**: 2–3 フェーズで実装可能 #### B. mid/pool v3 新設計（C6-heavy 向け） - **背景**: C6-heavy が pool v1 経由で ~10M ops/s にとどまり、lookup 層が 40% 占める - **アプローチ**: small-object v3 のパターン（TLS freelist + segment O(1)）を pool size に拡張 - **期待**: C6-heavy を 20–25M ops/s に改善 - **難易度**: 高（pool infra 改変が必要） #### C. Dispatcher 内部最適化 - **小さい改善** (2–3%) だが、40–45% overhead の削減に向けた第一歩 - **順序**: headerless や mid/pool 設計の後に検討（基盤安定後） --- ## ビルド・テスト確認 - ✅ Release ビルド成功（-O3 -flto） - ✅ Mixed 16–1024B（1M iter, ws=400）: 43.9M ops/s, SEGV/assert なし - ✅ C7-only (1024B, 1M iter, ws=400): 57M ops/s, 安定 - ✅ C7-only ULTRA OFF: 42.4M ops/s, v3 backend 単独動作確認 - ✅ Stats 計測（HAKMEM_SO_V3_STATS=1）で v3 ロジック検証完了 --- ## 変更ファイル一覧（本セッション） ### 新規 - `docs/analysis/PERF_EXEC_SUMMARY_ULTRA_PHASE_20251211.md` ← このファイル ### 修正 - `core/box/smallobject_hotbox_v3_box.h`: stats フィールド拡張 - `core/smallobject_hotbox_v3.c`: stats helper 関数 + so_alloc_fast/so_free_fast 埋め込み + デストラクタ拡張 - `docs/analysis/SMALLOBJECT_HOTBOX_V3_DESIGN.md`: Phase SO-BACKEND-OPT-1 ボトルネック分析セクション追加 - `CURRENT_TASK.md`: Phase SO-BACKEND-OPT-1 完了サマリ追加 --- ## 判定：Tiny/ULTRA 世代の完成 **宣言**: 本フェーズで Tiny/ULTRA 層（C4–C7 ULTRA + v3 backend）は「完成扱い」とする。 ### 完成の根拠 1. **All fast path 最適化済み**: alloc_current_hit ~100%, free_retire <1% 2. **設計的な limits 到達**: dispatcher/gate で ENV/route を hot path から除外完了 3. **安定性確認**: SEGV/assert なし、stats 計測で robust 確認 4. **累積改善 43.5%**: baseline 30.6M → 43.9M は十分な成果 ### 今後の大きい変更は別ライン - Headerless/v6 系（header out-of-band 化） - mid/pool v3（C6-heavy 向け新設計） - 上記は次世代テーマとして別フェーズで検討 --- ## 参考リンク - `docs/analysis/SMALLOBJECT_HOTBOX_V3_DESIGN.md`: v3 backend 詳細設計 + ボトルネック分析 - `CURRENT_TASK.md`: Phase SO-BACKEND-OPT-1 完了サマリ - Previous phases: CURRENT_TASK_ARCHIVE_20251210.md（Phase v4-mid, v5, v6 等の試行記録） --- **最終メッセージ**: Tiny/ULTRA 層は「完成世代」として基盤固定。次のチャレンジは Headerless か mid 新設計へ。