Phase 2 B4: Documentation & Instruction Creation (Phase 2→3 Transition)
Documentation Created: - docs/analysis/PHASE2_STRUCTURAL_CHANGES_NEXT_INSTRUCTIONS.md: Phase 2 完了レポート (B3+B4累積 +4.4%) - docs/analysis/PHASE3_CACHE_LOCALITY_NEXT_INSTRUCTIONS.md: Phase 3 開始指示（C3 Static Routing優先） Verification Completed: - ✅ HAKMEM_WRAP_SHAPE=1 プリセット昇格（core/bench_profile.h:67） - ✅ wrapper_env_refresh_from_env() 実装済み（core/box/wrapper_env_box.c:49-64） - ✅ malloc_cold() lock_depth 対称性確認（全 return 経路で g_hakmem_lock_depth--） - ✅ A/B テスト結果: Mixed +1.47% (≥+1.0% GO threshold) Summary: B3 routing shape: +2.89% B4 wrapper shape: +1.47% ───────────────── Estimated total: ~+4.4% Next Phase: Phase 3 (Cache Locality, +12-22%) - Priority: C3 (Static Routing) - bypass policy_snapshot, +5-8% expected - Profile: perf top で malloc/policy_snapshot hot spot を特定推奨 🤖 Generated with [Claude Code](https://claude.com/claude-code) Co-Authored-By: Claude Haiku 4.5 <noreply@anthropic.com>
This commit is contained in:
Moe Charm (CI)
@ -127,7 +127,7 @@
|
||||
**C6-heavy**: Deferred（pre-existing linker issue in bench_allocators_hakmem, not B4-related）
|
||||
|
||||
**Decision**: ✅ **ADOPT as default** (Mixed +1.47% >= +1.0% threshold)
|
||||
- Next: Enable HAKMEM_WRAP_SHAPE=1 in MIXED_TINYV3_C7_SAFE profile
|
||||
- ✅ Done: `MIXED_TINYV3_C7_SAFE` プリセットで `HAKMEM_WRAP_SHAPE=1` を default 化（bench_profile）
|
||||
|
||||
### Phase 1: Quick Wins（完了）
|
||||
|
||||
@ -139,11 +139,13 @@
|
||||
|
||||
- ❌ **B1（Header tax 削減 v2）**: `HAKMEM_TINY_HEADER_MODE=LIGHT` は Mixed -2.54% → NO-GO / freeze（`docs/analysis/PHASE2_B1_HEADER_TAX_AB_TEST_RESULTS.md`）
|
||||
- ✅ **B3（Routing 分岐形最適化）**: `HAKMEM_TINY_ALLOC_ROUTE_SHAPE=1` は Mixed +2.89% / C6-heavy +9.13% → ADOPT（プリセット default=1）
|
||||
- ▶ **B4（次の芯）**: WRAPPER-SHAPE-1（malloc/free のホット整形。`docs/analysis/PHASE2_B4_WRAPPER_SHAPE_1_DESIGN.md`）
|
||||
- ✅ **B4（WRAPPER-SHAPE-1）**: `HAKMEM_WRAP_SHAPE=1` は Mixed +1.47% → ADOPT（`docs/analysis/PHASE2_B4_WRAPPER_SHAPE_1_DESIGN.md`）
|
||||
- （保留）**B2**: C0–C3 専用 alloc fast path（入口短絡は回帰リスク高。B4 の後に判断）
|
||||
|
||||
### Phase 3: Cache Locality (Weeks 4-5) - Target: +12-22% (57-68M ops/s)
|
||||
|
||||
**指示書**: `docs/analysis/PHASE3_CACHE_LOCALITY_NEXT_INSTRUCTIONS.md`
|
||||
|
||||
**優先度 C1** - TLS cache prefetch:
|
||||
- `__builtin_prefetch(g_small_policy_v7, 0, 3)` on malloc entry
|
||||
- Improve L1 hit rate on cold start
|
||||
|
||||
81
docs/analysis/PHASE2_STRUCTURAL_CHANGES_NEXT_INSTRUCTIONS.md
Normal file
81
docs/analysis/PHASE2_STRUCTURAL_CHANGES_NEXT_INSTRUCTIONS.md
Normal file
@ -0,0 +1,81 @@
|
||||
# Phase 2: 構造修正 完了レポート（2025-12-13）
|
||||
|
||||
## 概要
|
||||
|
||||
Phase 2 では **wrapper 層とアロケーション経路のルーティング形** に焦点を当て、3つのサブフェーズ（B1, B3, B4）を実装。最終的に **B3 + B4 の組み合わせで +4.4% の改善** を達成。
|
||||
|
||||
## 実装内容
|
||||
|
||||
### B1: Header Tax 削減 v2 ❌ NO-GO
|
||||
|
||||
**狙い**: Header write の条件分岐を削減（HEADER_MODE=LIGHT）
|
||||
|
||||
**結果**:
|
||||
- Mixed (10-run): 48.89M → 47.65M ops/s (**-2.54%**, regression)
|
||||
- 理由: 条件チェックオーバーヘッドが memory store 削減効果を上回る
|
||||
- 決定: **FREEZE** (research box, ENV opt-in)
|
||||
|
||||
### B3: Routing 分岐形最適化 ✅ ADOPT
|
||||
|
||||
**狙い**: malloc_tiny_fast() 内の rare route（V7, MID, ULTRA）を noinline,cold へ
|
||||
|
||||
**実装**:
|
||||
- core/front/malloc_tiny_fast.h:252-267 で HAKMEM_TINY_ALLOC_ROUTE_SHAPE dispatch
|
||||
- Hot path: LIKELY on LEGACY （C0-C7 の大多数）
|
||||
- Cold path: V7/MID/ULTRA 分岐を cold 領域へ
|
||||
|
||||
**結果**:
|
||||
- Mixed (10-run): 48.41M → 49.80M ops/s (**+2.89%**, win)
|
||||
- C6-heavy (5-run): 8.97M → 9.79M ops/s (**+9.13%**, strong)
|
||||
- 決定: **ADOPT as default** in MIXED_TINYV3_C7_SAFE
|
||||
|
||||
### B4: Wrapper Layer Hot/Cold Split ✅ ADOPT
|
||||
|
||||
**狙い**: wrapper 入口の "稀なチェック"（LD mode、jemalloc、force_libc、診断）を noinline,cold へ
|
||||
|
||||
**実装**:
|
||||
- malloc_cold() (noinline,cold): LD mode、jemalloc、force_libc、BenchFast、init wait 処理
|
||||
- malloc() hot/cold dispatch: HAKMEM_WRAP_SHAPE=1 ENV gate
|
||||
- free_cold() (noinline,cold): pointer 分類、ownership check、header validation、全フォールバック
|
||||
- free() hot/cold dispatch: BenchFast → Tiny fast → free_cold() 委譲
|
||||
|
||||
**結果**:
|
||||
- Mixed (10-run): 34,750,578 → 35,262,596 ops/s (**+1.47%**, average)
|
||||
- 決定: **ADOPT as default** (HAKMEM_WRAP_SHAPE=1)
|
||||
|
||||
## 累積効果
|
||||
|
||||
```
|
||||
Phase 2 Combined (B3 + B4):
|
||||
B3 routing shape: +2.89%
|
||||
B4 wrapper shape: +1.47%
|
||||
─────────────────────────
|
||||
Estimated total: ~+4.4%
|
||||
```
|
||||
|
||||
## 重要な同期機構
|
||||
|
||||
**bench_profile での ENV 設定の反映**:
|
||||
```
|
||||
core/bench_profile.h:9 → wrapper_env_box.h インクルード
|
||||
core/box/wrapper_env_box.c:49-64 → wrapper_env_refresh_from_env() 実装
|
||||
```
|
||||
|
||||
bench_profile() 後に wrapper_env_refresh_from_env() を呼び出すことで、
|
||||
putenv() が wrapper 側の ENV キャッシュに反映される。
|
||||
|
||||
## 次フェーズ: Phase 3 計画
|
||||
|
||||
目標: Cache Locality 最適化 (+12-22%)
|
||||
|
||||
**C3（優先度: 最高）**: Static Routing
|
||||
- perf top で hot spot を特定
|
||||
- malloc_tiny_fast() の policy_snapshot を bypass
|
||||
- 期待: +5-8%
|
||||
|
||||
**C1/C2**: TLS prefetch + metadata cache optimization
|
||||
- 期待: +2-4% + 5-10%
|
||||
|
||||
---
|
||||
|
||||
次の担当者へ: C3 から着手推奨。
|
||||
97
docs/analysis/PHASE3_CACHE_LOCALITY_NEXT_INSTRUCTIONS.md
Normal file
97
docs/analysis/PHASE3_CACHE_LOCALITY_NEXT_INSTRUCTIONS.md
Normal file
@ -0,0 +1,97 @@
|
||||
# Phase 3: Cache Locality 最適化（開始指示）
|
||||
|
||||
## 目標
|
||||
|
||||
**現状**: Mixed ~35.2M ops/s (B3+B4 後)
|
||||
**目標**: 57-68M ops/s (+12-22%)
|
||||
|
||||
## Phase 3 構成
|
||||
|
||||
### C3（優先度: 🔴 最高）: Static Routing
|
||||
|
||||
**背景**:
|
||||
- Mixed の perf top では malloc/policy_snapshot が hot
|
||||
- 現在: 毎回 malloc 時に policy snapshot + learner evaluation → 大きな overhead
|
||||
- 案: malloc_tiny_fast() 呼び出し前に "static route" を init 時決定
|
||||
|
||||
**実装ステップ**:
|
||||
|
||||
1. **Profiling（現状把握）**
|
||||
```bash
|
||||
perf record -F 99 ./bench_random_mixed_hakmem
|
||||
perf top --call-graph=flame -p [pid]
|
||||
# → malloc/policy_snapshot/learner がどの程度か確認
|
||||
```
|
||||
|
||||
2. **Static Route Detection (init 時)**
|
||||
- malloc_tiny_fast() が呼ばれる前に route を "決定"
|
||||
- 対象: C0-C7 の class 別に「LEGACY が dominant か」を判定
|
||||
- ENV gate: HAKMEM_STATIC_ROUTE=1/0 (default 0)
|
||||
|
||||
3. **Route Bypass**
|
||||
```c
|
||||
// 現在（毎回評価）:
|
||||
route = g_policy_learner->get_route(class_idx); // 高コスト
|
||||
|
||||
// C3 Static（init 時決定）:
|
||||
if (static_route_enabled()) {
|
||||
route = g_static_route[class_idx]; // cached, no learner
|
||||
} else {
|
||||
route = learner_route(...); // 従来通り
|
||||
}
|
||||
```
|
||||
|
||||
4. **期待**: +5-8%
|
||||
5. **A/B Test**: Mixed 10-run + C6-heavy 5-run
|
||||
|
||||
### C1（優先度: 🟡 中）: TLS Cache Prefetch
|
||||
|
||||
**狙い**: policy_snapshot 実行前に g_small_policy_v7 をプリフェッチ
|
||||
|
||||
**実装**:
|
||||
```c
|
||||
__builtin_prefetch(g_small_policy_v7, 0, 3); // L1 cache, write intent
|
||||
```
|
||||
|
||||
**期待**: +2-4%
|
||||
|
||||
### C2（優先度: 🟡 中）: Slab Metadata Cache Optimization
|
||||
|
||||
**狙い**: hot metadata（policy, slab descriptor）をより近い場所に配置
|
||||
|
||||
**期待**: +5-10%
|
||||
|
||||
## 実装フロー
|
||||
|
||||
```
|
||||
1. C3（Static Routing）実装 & A/B test
|
||||
├─ GO: default 化
|
||||
└─ NO-GO: freeze
|
||||
|
||||
2. C1（TLS Prefetch）追加実装
|
||||
└─ Cumulative test
|
||||
|
||||
3. C2（Metadata Optimization）
|
||||
└─ Final A/B
|
||||
```
|
||||
|
||||
## 安全性確認
|
||||
|
||||
- **LD mode**: static route は LD 環境では disable（policy learner は LD で active）
|
||||
- **Lock depth**: malloc 側なので不要
|
||||
- **Rollback**: ENV gate で即時 OFF 可能
|
||||
|
||||
## 次のアクション
|
||||
|
||||
**今すぐ**:
|
||||
1. `perf record -F 99 ./bench_random_mixed_hakmem` を実行して hot spot 特定
|
||||
2. policy_snapshot / learner evaluation の overhead 定量化
|
||||
3. C3 static route detection の実装開始
|
||||
|
||||
**以降**:
|
||||
- A/B テスト（Mixed 10-run）で +5-8% 確認
|
||||
- C1/C2 の段階的導入
|
||||
|
||||
---
|
||||
|
||||
**背中が見える段階から、さらに奥深く。**
|
||||
Reference in New Issue
Block a user