hakmem/docs/analysis/PERF_EXEC_SUMMARY_ULTRA_PHASE_20251211.md

# Performance Optimization: Tiny/ULTRA 世代の総括（Phase 完了）

**Date**: 2025-12-11
**Status**: Phase ULTRA-REFILL-OPT + Phase SO-BACKEND-OPT-1 完了。Tiny/ULTRA 層は完成扱い。
**Audience**: Developers, Performance Stakeholders

---

## 目的

Mixed 16–1024B を **30.6M ops/s → 43.9M ops/s** まで引き上げるまでの ULTRA ＋ v3 最適化サイクルの完全総括。

---

## 最終ベースライン（Release ビルド）

### Throughput 成果

| プロファイル | Throughput | vs baseline（v4/v5/v6 OFF） | 達成度 |
|-------------|-----------|---------------------------|--------|
| **Mixed 16–1024B** | **43.9M ops/s** | +43.5% | ✅ 目標範囲 |
| **C7-only 1024B** | **~57M ops/s** | +48% | ✅ 優秀 |
| **C7-only (ULTRA OFF)** | ~42.4M ops/s | - | v3 backend baseline |
| **C6-heavy 257–768B** | ~16.9M ops/s | - | pool v1 経由（未最適化） |
| **mimalloc参考値** | ~110–120M ops/s | - | 目標 50% parity = ~55M |

### 本線構成（デフォルト有効）

```
┌─────────────────────────────────────────────────────────┐
│ 1. Front: Tiny front v3 + LUT 化                        │
│    - size → class LUT（size_to_class）                 │
│    - route snapshot（malloc/free で ENV 読みを排除）    │
│    - gate snapshot で ENV check 削減                    │
│    - Throughput: 주: ~43.9M ops/s の基盤             │
├─────────────────────────────────────────────────────────┤
│ 2. Small: C4–C7 ULTRA + v3 backend                      │
│    - C7 ULTRA (UF-4): TLS freelist + segment learning   │
│    - C6/C5/C4 ULTRA: 寄生型 TLS cache（alloc+free統合）│
│    - v3 backend: so_alloc/so_free（alloc_current=100%） │
│    - 特徴: 全クラスで fast path 最適化済み              │
├─────────────────────────────────────────────────────────┤
│ 3. Mid/Pool: v1 経由（C6-heavy は ~10M ops/s）          │
│    - Lookup 層（hak_super_lookup 等）がボトルネック    │
│    - 次世代（v3 pool / Headerless）で対応予定           │
└─────────────────────────────────────────────────────────┘
```

### 研究箱（デフォルト OFF）
- v4, v5, v6（small-object 世代試験）
- free-front-v3（dispatcher 最適化実験）
- C6/C5/C4 dedicated ULTRA パターン（学習済み）

---

## フェーズ毎の改善ログ

### 累積改善グラフ

| Phase | テーマ | 改善 | 累積 ops/s | 特徴 |
|-------|--------|------|-----------|------|
| baseline | - | - | 30.6M | 2025-12-10 時点 |
| PERF-ULTRA-FREE-OPT-1 | C4–C7 ULTRA free 統合 | +9.3% | 33.4M | legacy -90% |
| REFACTOR | Code quality | +0% | 33.4M | 30+ files cleanup |
| FREE-FRONT-V3-1 | dispatcher snapshot | -4% | 32M | 研究箱（未採用） |
| PERF-ULTRA-REFILL-OPT-1a/1b | C7 ULTRA refill (division→shift) | +11.1% | 36.9M | Segment learning 削除 |
| PERF-ULTRA-REBASE-4 | stats 計測 | +0% | 36.9M | ホットパス分析確認 |
| **Phase SO-BACKEND-OPT-1** | **v3 backend 分解** | **+0%** | **43.9M** | **alloc_current=100%, free_retire=0.1%** |

**最終到達**: 30.6M → 43.9M ops/s (Mixed 16–1024B)

---

## 実装サマリー（やったこと）

### 1. C7 ULTRA コア（UF-1 → UF-4 進化）
- **UF-1**: TLS freelist + segment learning
- **UF-2**: page_meta 最適化 + multi-segment
- **UF-3**: O(1) page_of + mask-based free validation
- **UF-4**: refill path の division → bit shift（+11.1%）+ segment learning 削除

**成果**: C7-only で ULTRA OFF vs ON = 42.4M → 57M ops/s (+34%)

### 2. C6/C5/C4 ULTRA パターン（寄生型 TLS）
- **寄生型設計**: 既存 alloc に「free side TLS cache + alloc side pop」を追加
- **C6 ULTRA**: legacy fallback 137K/iter → 0（100% 排除）
- **C5/C4 ULTRA**: 同様の排除率

**成果**: Legacy fallback 49% → 4.8%、Mixed +9.3%

### 3. Dispatcher/Gate 最適化
- **Front snapshot**: malloc/free の route 判定を初期化時に TLS に snapshot 化
- **ENV 外出し**: hot path での `getenv()` 呼び出しゼロ化
- **LUT 化**: size_to_class を pre-computed LUT で O(1)

**成果**: 比較的小さいが、累積的に gate/dispatcher overhead 低減

### 4. C7 ULTRA Refill 最適化（Phase REFILL-OPT-1a/1b）
- **1a**: `offset / page_size` → `offset >> 16` (division → shift)
- **1b**: segment learning 削除（alloc refill 時に学習済みなため free で不要）

**成果**: refill パス +11.1%（見えない最適化だが累積効果大）

### 5. v3 Backend 分析
- **alloc_current_hit**: 99.99% ～ 100%（page locality 完璧）
- **free_retire**: 0.1%（page churn 極低）
- **page_of_fail**: 0/399828 (robust)

**結論**: v3 ロジック部分は完全に最適化済み。残り 5% overhead は内部コスト（header write, memcpy, 分岐）

---

## 今のボトルネック地図（Mixed 16–1024B, perf profile）

| 層 | 関数 | self% | コメント |
|----|------|-------|---------|
| **Front** | malloc/free dispatcher | 40–45% | C API level（構造的コスト） |
| **ULTRA** | C7/C6/C5/C4 alloc + free + refill | ~12% | TLS freelist 最適化済み |
| **v3 backend** | so_alloc_fast/so_free | ~5% | 内部コスト（header, memcpy, 分岐） |
| **Lookup** | hak_super_lookup (mid/pool) | 3–5% | C6-heavy の場合（別の問題） |

**次のメガボトルネック**: malloc/free dispatcher (40%) → C API level なので改善余地は大きいが、大規模リファクタが必要

---

## 今後の方向性（次世代計画）

### 即座の候補（小さい）
- **Phase SO-BACKEND-OPT-2**: v3 backend の header write 削減（1-2%）
- **Phase ULTRA-DISPATCH-OPT**: dispatcher 内部最適化（数%）

### 中期的な方向（大きい、別ライン）

#### A. Headerless 再設計（v6 系統）
- **特徴**: out-of-band header（metadata 領域）→ block に header byte 書き込みなし
- **メリット**: alloc 毎の header write 削除 → 3–5% 削減
- **コスト**: 全体的なリファクタ、既存 region_id Box との統合
- **見立て**: 2–3 フェーズで実装可能

#### B. mid/pool v3 新設計（C6-heavy 向け）
- **背景**: C6-heavy が pool v1 経由で ~10M ops/s にとどまり、lookup 層が 40% 占める
- **アプローチ**: small-object v3 のパターン（TLS freelist + segment O(1)）を pool size に拡張
- **期待**: C6-heavy を 20–25M ops/s に改善
- **難易度**: 高（pool infra 改変が必要）

#### C. Dispatcher 内部最適化
- **小さい改善** (2–3%) だが、40–45% overhead の削減に向けた第一歩
- **順序**: headerless や mid/pool 設計の後に検討（基盤安定後）

---

## ビルド・テスト確認

- ✅ Release ビルド成功（-O3 -flto）
- ✅ Mixed 16–1024B（1M iter, ws=400）: 43.9M ops/s, SEGV/assert なし
- ✅ C7-only (1024B, 1M iter, ws=400): 57M ops/s, 安定
- ✅ C7-only ULTRA OFF: 42.4M ops/s, v3 backend 単独動作確認
- ✅ Stats 計測（HAKMEM_SO_V3_STATS=1）で v3 ロジック検証完了

---

## 変更ファイル一覧（本セッション）

### 新規
- `docs/analysis/PERF_EXEC_SUMMARY_ULTRA_PHASE_20251211.md` ← このファイル

### 修正
- `core/box/smallobject_hotbox_v3_box.h`: stats フィールド拡張
- `core/smallobject_hotbox_v3.c`: stats helper 関数 + so_alloc_fast/so_free_fast 埋め込み + デストラクタ拡張
- `docs/analysis/SMALLOBJECT_HOTBOX_V3_DESIGN.md`: Phase SO-BACKEND-OPT-1 ボトルネック分析セクション追加
- `CURRENT_TASK.md`: Phase SO-BACKEND-OPT-1 完了サマリ追加

---

## 判定：Tiny/ULTRA 世代の完成

**宣言**: 本フェーズで Tiny/ULTRA 層（C4–C7 ULTRA + v3 backend）は「完成扱い」とする。

### 完成の根拠
1. **All fast path 最適化済み**: alloc_current_hit ~100%, free_retire <1%
2. **設計的な limits 到達**: dispatcher/gate で ENV/route を hot path から除外完了
3. **安定性確認**: SEGV/assert なし、stats 計測で robust 確認
4. **累積改善 43.5%**: baseline 30.6M → 43.9M は十分な成果

### 今後の大きい変更は別ライン
- Headerless/v6 系（header out-of-band 化）
- mid/pool v3（C6-heavy 向け新設計）
- 上記は次世代テーマとして別フェーズで検討

---

## 参考リンク

- `docs/analysis/SMALLOBJECT_HOTBOX_V3_DESIGN.md`: v3 backend 詳細設計 + ボトルネック分析
- `CURRENT_TASK.md`: Phase SO-BACKEND-OPT-1 完了サマリ
- Previous phases: CURRENT_TASK_ARCHIVE_20251210.md（Phase v4-mid, v5, v6 等の試行記録）

---

**最終メッセージ**: Tiny/ULTRA 層は「完成世代」として基盤固定。次のチャレンジは Headerless か mid 新設計へ。