Files
hakmem/docs/analysis/PHASE14_POINTER_CHASE_REDUCTION_2_NEXT_INSTRUCTIONS.md
Moe Charm (CI) f8fb05bc13 Phase 14 v1: Pointer-Chase Reduction (tcache) NEUTRAL (+0.20%)
Implementation:
- Intrusive LIFO tcache layer (L1) before UnifiedCache
- TLS per-class bins (head pointer + count)
- Intrusive next pointers (via tiny_next_store/load SSOT)
- Cap: 64 blocks per class (default)
- ENV: HAKMEM_TINY_TCACHE=0/1 (default: 0, OFF)

A/B Test Results (Mixed 10-run):
- Baseline (TCACHE=0): 51,083,379 ops/s
- Optimized (TCACHE=1): 51,186,838 ops/s
- Mean delta: +0.20% (below +1.0% GO threshold)
- Median delta: +0.59%

Verdict: NEUTRAL - Freeze as research box (default OFF)

Root Cause (v1 wiring incomplete):
- Free side pushes to tcache via unified_cache_push()
- Alloc hot path (tiny_hot_alloc_fast) doesn't consume tcache
- tcache becomes "sink" without alloc-side pop → ROI not measurable

Files:
- Created: core/box/tiny_tcache_{env_box,box}.h, tiny_tcache_env_box.c
- Modified: core/front/tiny_unified_cache.h (integration)
- Modified: core/bench_profile.h (refresh sync)
- Modified: Makefile (build integration)
- Results: docs/analysis/PHASE14_POINTER_CHASE_REDUCTION_1_AB_TEST_RESULTS.md
- v2 Instructions: docs/analysis/PHASE14_POINTER_CHASE_REDUCTION_2_NEXT_INSTRUCTIONS.md

Next: Phase 14 v2 (connect tcache to tiny_front_hot_box alloc/free hot path)

🤖 Generated with [Claude Code](https://claude.com/claude-code)

Co-Authored-By: Claude Sonnet 4.5 <noreply@anthropic.com>
2025-12-15 01:28:50 +09:00

4.0 KiB
Raw Blame History

Phase 14 v2: Pointer-Chase Reduction — Hot Path Integration Next InstructionsTiny tcache intrusive LIFO

Status

  • Phase 14 v1tcache L1 追加)は Mixed 10-run で NEUTRAL+0.20% mean / +0.59% median
    • 結果: docs/analysis/PHASE14_POINTER_CHASE_REDUCTION_1_AB_TEST_RESULTS.md
    • 実装: core/box/tiny_tcache_env_box.{h,c} / core/box/tiny_tcache_box.h / core/front/tiny_unified_cache.h
  • ただし現状の v1 は free 側(unified_cache_push())だけ tcache に入れて、alloc 側(tiny_hot_alloc_fast())が tcache を消費しないため、
    • tcache が「実質 sink」になり、ROI が正しく測れない
    • “tcache-style” の前提push/pop の対称)が崩れている

Phase 14 v2 は tiny front の実ホットパスに tcache を接続して、正しい A/B を取り直す。


0. 目的GO 条件)

Mixed 10-runclean envで:

  • GO: mean +1.0% 以上
  • NO-GO: mean -1.0% 以下(即 rollback / freeze
  • NEUTRAL: ±1.0%research box freeze

追加ゲート(必須):

  • HAKMEM_TINY_TCACHE=1 のとき tcache pop が実際に発生している0 なら設計未通電)

1. Box 図(境界 1 箇所)

L0: tiny_tcache_env_box        (ENV gate / refresh / rollback)
  ↓
L1: tiny_tcache_box            (intrusive LIFO: push/pop, cap)
  ↓
L2: tiny_front_hot_box         (hot alloc/free: tcache → unified_cache(FIFO))
  ↓
L3: cold/refill                (unified_cache_refill → SuperSlab)

境界は “tcache miss/overflow → 既存 UnifiedCache” の 1 箇所に固定する。


2. 実装パッチ順(小さく積む)

Patch 1: Hot alloc に tcache pop を接続(必須)

対象:

  • core/box/tiny_front_hot_box.h

変更:

  • tiny_hot_alloc_fast(int class_idx) の先頭で
    • tiny_tcache_try_pop(class_idx) を試す
    • HIT なら tiny_header_finalize_alloc(base, class_idx) で即 return
    • MISS なら既存の FIFOcache->slots[head])へフォールバック

要件:

  • tcache OFFdefaultではホット経路が肥大しないよう最小差分にする
  • “確信がないなら fallback” を厳守Fail-Fast

Patch 2: Hot free に tcache push を接続(推奨)

対象:

  • core/box/tiny_front_hot_box.h

変更:

  • tiny_hot_free_fast(int class_idx, void* base) の先頭で
    • tiny_tcache_try_push(class_idx, base) を試す
    • SUCCESS なら return 1
    • overflow / disabled のときだけ既存 FIFO へ

狙い:

  • unified_cache_push() 経由以外の “直 push” 経路でも tcache が効く状態にする

Patch 3: 可視化最小・TLS

対象候補:

  • core/box/tiny_tcache_box.hTLS カウンタ)

追加debug / research 用):

  • tcache_pop_hit/miss
  • tcache_push_hit/overflow
  • “ワンショット dump” を 1 回だけENV opt-inで出せるようにする

禁止:

  • hot path に atomic 統計を置かないPhase 12 / POOL-DN-BATCH の教訓)

3. A/B テスト(同一バイナリ)

Baseline:

HAKMEM_TINY_TCACHE=0 scripts/run_mixed_10_cleanenv.sh

Optimized:

HAKMEM_TINY_TCACHE=1 scripts/run_mixed_10_cleanenv.sh

追加(効果が class 依存か確認):

HAKMEM_BENCH_C7_ONLY=1 HAKMEM_TINY_TCACHE=0 scripts/run_mixed_10_cleanenv.sh
HAKMEM_BENCH_C7_ONLY=1 HAKMEM_TINY_TCACHE=1 scripts/run_mixed_10_cleanenv.sh

cap 探索research、必要なときだけ:

HAKMEM_TINY_TCACHE=1 HAKMEM_TINY_TCACHE_CAP=32  scripts/run_mixed_10_cleanenv.sh
HAKMEM_TINY_TCACHE=1 HAKMEM_TINY_TCACHE_CAP=64  scripts/run_mixed_10_cleanenv.sh
HAKMEM_TINY_TCACHE=1 HAKMEM_TINY_TCACHE_CAP=128 scripts/run_mixed_10_cleanenv.sh

4. 健康診断(必須)

scripts/verify_health_profiles.sh

5. 判定と扱い

  • GO: bench_profile への昇格は MIXED_TINYV3_C7_SAFE のみから開始(段階的)
  • NEUTRAL/NO-GO: Phase 14 v2 は research box として freezedefault OFF のまま)
  • Rollback:
    • export HAKMEM_TINY_TCACHE=0