hakmem/docs/analysis/BASELINE_PERF_MEASUREMENT.md

Baseline Performance Measurement (2025-11-01)

目的: シンプル化前の現状性能を詳細計測

---

📊 計測結果

Tiny Hot Bench (64B)

Throughput: 172.87 - 190.43 M ops/sec (平均: ~179 M/s)
Latency: 5.25 - 5.78 ns/op

Performance counters (3 runs average):
- Instructions:        2,001,155,032
- Cycles:                424,906,995
- Branches:              443,675,939
- Branch misses:             605,482 (0.14%)
- L1-dcache loads:       483,391,104
- L1-dcache misses:        1,336,694 (0.28%)
- IPC:                        4.71

計算:

• 20M ops / 2.001B instructions = 100.1 instructions/op

---

Random Mixed Bench (8-128B)

Throughput: 21.18 - 21.89 M ops/sec (平均: ~21.6 M/s)
Latency: 45.68 - 47.20 ns/op

Performance counters (3 runs average):
- Instructions:        8,250,602,755
- Cycles:              3,576,062,935
- Branches:            2,117,913,982
- Branch misses:          29,586,718 (1.40%)
- L1-dcache loads:     2,416,946,713
- L1-dcache misses:        4,496,837 (0.19%)
- IPC:                        2.31

計算:

• 20M ops / 8.25B instructions = 412.5 instructions/op

---

🔍 分析

⚠️ 問題点

1. 命令数が多すぎる

Tiny Hot: 100 instructions/op

• mimalloc の fast path は推定 10-20 instructions/op
• 5-10倍の命令オーバーヘッド

Random Mixed: 412 instructions/op

• 超多サイクル！
• 6-7層のチェックが累積している証拠

2. 分岐ミス率

Tiny Hot: 0.14% - 良好 ✅

• 単一サイズなので予測が効いている

Random Mixed: 1.40% - やや高い ⚠️

• サイズがランダムで分岐予測が外れやすい
• 6-7層の条件分岐が影響

3. L1キャッシュミス率

Tiny Hot: 0.28% - 良好 ✅ Random Mixed: 0.19% - 良好 ✅

→ キャッシュミスは問題ではない！命令数が問題

---

🎯 目標値 (ChatGPT Pro 推奨)

シンプル化後の目標

Tiny Hot:

• 現在: 100 instructions/op, 179 M ops/s
• 目標: 20-30 instructions/op (3-5倍削減), 240-250 M ops/s (+35%)

Random Mixed:

• 現在: 412 instructions/op, 21.6 M ops/s
• 目標: 100-150 instructions/op (3-4倍削減), 23-24 M ops/s (+10%)

---

📋 現在のコード構造 (問題)

hak_tiny_alloc の層構造 (6-7層!)

void* hak_tiny_alloc(size_t size) {
    // Layer 0: Size to class
    int class_idx = hak_tiny_size_to_class(size);

    // Layer 1: HAKMEM_TINY_BENCH_FASTPATH (条件付き)
    #ifdef HAKMEM_TINY_BENCH_FASTPATH
        // ベンチ専用SLL
        if (g_tls_sll_head[class_idx]) { ... }
        if (g_tls_mags[class_idx].top > 0) { ... }
    #endif

    // Layer 2: TinyHotMag (class_idx <= 2, 条件付き)
    if (g_hotmag_enable && class_idx <= 2 && ...) {
        hotmag_pop(class_idx);
    }

    // Layer 3: g_hot_alloc_fn (class 0-3専用関数)
    if (g_hot_alloc_fn[class_idx] != NULL) {
        switch (class_idx) {
            case 0: tiny_hot_pop_class0(); break;
            case 1: tiny_hot_pop_class1(); break;
            case 2: tiny_hot_pop_class2(); break;
            case 3: tiny_hot_pop_class3(); break;
        }
    }

    // Layer 4: tiny_fast_pop (Fast Head SLL)
    void* fast = tiny_fast_pop(class_idx);

    // Layer 5: hak_tiny_alloc_slow (Magazine, Slab, etc.)
    return hak_tiny_alloc_slow(size, class_idx);
}

問題:

1. 重複する層: Layer 1-4 はすべて TLS キャッシュから取得する処理（重複！）
2. 条件分岐が多い: 各層で if (...) チェック
3. 関数呼び出しオーバーヘッド: 各層で関数呼び出し

---

🚀 シンプル化方針 (ChatGPT Pro 推奨)

目標: 6-7層 → 3層

void* hak_tiny_alloc(size_t size) {
    int class_idx = hak_tiny_size_to_class(size);
    if (class_idx < 0) return NULL;

    // === Layer 1: TLS Bump (hot classes 0-2 only) ===
    // Ultra fast: bcur += size; if (bcur <= bend) return old;
    if (class_idx <= 2) {
        void* p = tiny_bump_alloc(class_idx);
        if (likely(p)) return p;
    }

    // === Layer 2: TLS Small Magazine (128 items) ===
    // Fast: magazine pop (index only)
    void* p = small_mag_pop(class_idx);
    if (likely(p)) return p;

    // === Layer 3: Slow path (Slab/refill) ===
    return tiny_alloc_slow(class_idx);
}

削減する層:

• ✂️ HAKMEM_TINY_BENCH_FASTPATH (ベンチ専用、本番不要)
• ✂️ TinyHotMag (重複)
• ✂️ g_hot_alloc_fn (重複)
• ✂️ tiny_fast_pop (重複)

期待効果:

• 命令数: 100 → 20-30 (-70-80%)
• 分岐数: 大幅削減
• Throughput: 179 → 240-250 M ops/s (+35%)

---

次のアクション

1. ✅ ベースライン計測完了
2. 🔄 Layer 1: TLS Bump 実装 (bcur/bend の 2-register path)
3. 🔄 Layer 2: Small Magazine 128 実装
4. 🔄 不要な層を削除
5. 🔄 再計測・比較

---

参考: ChatGPT Pro UltraThink Response (docs/analysis/CHATGPT_PRO_ULTRATHINK_RESPONSE.md)