Files
hakmem/CURRENT_TASK.md
Moe Charm (CI) c60199182e Phase v6-1/2/3/4: SmallObject Core v6 - C6-only implementation + refactor
Phase v6-1: C6-only route stub (v1/pool fallback)
Phase v6-2: Segment v6 + ColdIface v6 + Core v6 HotPath implementation
  - 2MiB segment / 64KiB page allocation
  - O(1) ptr→page_meta lookup with segment masking
  - C6-heavy A/B: SEGV-free but -44% performance (15.3M ops/s)

Phase v6-3: Thin-layer optimization (TLS ownership check + batch header + refill batching)
  - TLS ownership fast-path skip page_meta for 90%+ of frees
  - Batch header writes during refill (32 allocs = 1 header write)
  - TLS batch refill (1/32 refill frequency)
  - C6-heavy A/B: v6-2 15.3M → v6-3 27.1M ops/s (±0% vs baseline) 

Phase v6-4: Mixed hang fix (segment metadata lookup correction)
  - Root cause: metadata lookup was reading mmap region instead of TLS slot
  - Fix: use TLS slot descriptor with in_use validation
  - Mixed health: 5M iterations SEGV-free, 35.8M ops/s 

Phase v6-refactor: Code quality improvements (macro unification + inline + docs)
  - Add SMALL_V6_* prefix macros (header, pointer conversion, page index)
  - Extract inline validation functions (small_page_v6_valid, small_ptr_in_segment_v6)
  - Doxygen-style comments for all public functions
  - Result: 0 compiler warnings, maintained +1.2% performance

Files:
- core/box/smallobject_core_v6_box.h (new, type & API definitions)
- core/box/smallobject_cold_iface_v6.h (new, cold iface API)
- core/box/smallsegment_v6_box.h (new, segment type definitions)
- core/smallobject_core_v6.c (new, C6 alloc/free implementation)
- core/smallobject_cold_iface_v6.c (new, refill/retire logic)
- core/smallsegment_v6.c (new, segment allocator)
- docs/analysis/SMALLOBJECT_CORE_V6_DESIGN.md (new, design document)
- core/box/tiny_route_env_box.h (modified, v6 route added)
- core/front/malloc_tiny_fast.h (modified, v6 case in route switch)
- Makefile (modified, v6 objects added)
- CURRENT_TASK.md (modified, v6 status added)

Status:
- C6-heavy: v6 OFF 27.1M → v6-3 ON 27.1M ops/s (±0%) 
- Mixed: v6 ON 35.8M ops/s (C6-only, other classes via v1) 
- Build: 0 warnings, fully documented 

🤖 Generated with Claude Code

Co-Authored-By: Claude Haiku 4.5 <noreply@anthropic.com>
2025-12-11 15:29:59 +09:00

17 KiB
Raw Blame History

HAKMEM 状況メモ(コンパクト版, 2025-12-10

このファイルは「いま何を基準に A/B するか」「どの箱が本線か」だけを短くまとめたものです。
過去フェーズの詳細なログは CURRENT_TASK_ARCHIVE_20251210.md と各 docs/analysis/* に残しています。


1. ベースライン1 thread, ws=400, iters=1M, seed=1

  • Mixed 161024B本線

    • コマンド: HAKMEM_PROFILE=MIXED_TINYV3_C7_SAFE ./bench_random_mixed_hakmem 1000000 400 1
    • 主な ENVbench_profile 経由):
      • HAKMEM_TINY_HEAP_PROFILE=C7_SAFE
      • HAKMEM_TINY_C7_HOT=1
      • HAKMEM_SMALL_HEAP_V3_ENABLED=1 / HAKMEM_SMALL_HEAP_V3_CLASSES=0x80C7-only v3
      • HAKMEM_TINY_C7_ULTRA_ENABLED=1UF-3 セグメント版, 2MiB/64KiB
      • HAKMEM_TINY_FRONT_V3_ENABLED=1 / HAKMEM_TINY_FRONT_V3_LUT_ENABLED=1
      • HAKMEM_POOL_V2_ENABLED=0
    • Throughput現 HEAD, Release: 約 4445M ops/s
    • 競合:
      • mimalloc: ~110120M ops/s
      • system: ~90M ops/s
  • C7-only (1024B 固定, C7 v3 + ULTRA)

    • C7 ULTRA OFF: ~38M ops/s
    • C7 ULTRA ON: ~57M ops/s約 +50%以上)
    • C7 向け設計ULTRA セグメント + TLS freelist + mask freeは成功パターンとみなし、今後の small-object v4/mid に展開予定。
  • C6-heavy mid/smallmid (257768B, C6 は mid/pool 経路)

    • コマンド: HAKMEM_PROFILE=C6_HEAVY_LEGACY_POOLV1 ./bench_mid_large_mt_hakmem 1 1000000 400 1
    • 現状 Throughput: 約 10M ops/s
    • 過去 Phase82 では LEGACY + flatten で 2327M ops/s を記録しており、現行 HEAD では lookup 層hak_super_lookup/mid_desc_lookup 等)がボトルネック化している状態。

2. いま本線で有効な箱

  1. C7 v3 + C7 ULTRA (UF-3 セグメント版)

    • Hot: TinyC7UltraBoxTLS freelist + 2MiB Segment / 64KiB Page, mask 判定)。
    • Cold: C7UltraSegmentBoxpage_meta[] で page/class/used/capacity を管理)。
    • 特徴:
      • C7-only で ~38M→~57M ops/s。Mixed でも 35M→4445M ops/s まで底上げ。
      • C7 ULTRA 管理外の ptr は必ず C7 v3 free にフォールバック(ヘッダ付き Fail-Fast 経路を維持)。
    • ENV:
      • HAKMEM_TINY_C7_ULTRA_ENABLED=1(デフォルト ON
      • HAKMEM_TINY_C7_ULTRA_HEADER_LIGHT は研究箱(デフォルト 0
  2. SmallObject v3C7-only 本線)

    • C7 ページ単位の freelist + current/partial 管理。ColdIface は Tiny v1 経由で Superslab/Warm/Stats を触る。
    • C7 ULTRA ON 時は「セグメント内 ptr だけ ULTRA が先に食い、残りは v3 free」が基本構造。
  3. mid/pool v1C6 は一旦ここに固定, Phase C6-FREEZE

    • C6 は Tiny/SmallObject/ULTRA で特別扱いしない。
    • C6 専用 smallheap v3/v4/ULTRA・pool flatten はすべて ENV opt-in の研究箱扱い。
    • 現状 C6-heavy は ~10M ops/s。再設計ターゲット。

3. small-object v4 / mid 向けの現状と方針

  • SmallObjectHotBox_v4 の箱構造(設計済み, 部分実装)

    • SmallPageMeta: free_list/used/capacity/class_idx/flags/page_idx/segment
    • SmallClassHeap: current/partial_head/full_head
    • SmallHeapCtx: per-thread で SmallClassHeap cls[NUM_SMALL_CLASSES] を持つ。
    • SmallSegment (v4): 2MiB Segment / 64KiB Page を前提に page_meta[] を持つ。
    • ColdIface_v4: small_cold_v4_refill_page / small_cold_v4_retire_page / small_cold_v4_remote_push/drain の 1 箱。
  • C6-only v4 実装Phase v4-mid-2, 研究箱)

    • C6 の alloc/free を SmallHeapCtx v4 経由で処理し、Segment v4 から refill/retire する経路を実装済み。
    • C6-heavy A/BC6 v1 vs v4:
      • v4 OFF: ~9.4M ops/s
      • v4 ON : ~10.1M ops/s約 +8〜9%
    • Mixed で C6-only v4 を ON にすると +1% 程度(ほぼ誤差内)で回帰なし。
    • デフォルトでは HAKMEM_SMALL_HEAP_V4_ENABLED=0 / CLASSES=0x0 のため標準プロファイルには影響しない。
  • mid/smallmid の今後の狙い

    • 現状C6-heavy ~10M ops/s、lookup 系hak_super_lookup / mid_desc_lookup / classify_ptr / ss_map_lookupが ~40% を占める。
    • 方向性:
      • C7 ULTRA で成功したパターンSegment + Page + TLS freelist + mask freeを small-object v4 に広げて、ptr→page→class を O(1) にする。
      • mid_desc_lookup / hak_super_lookup などの lookup 層を small-object v4 route から外す。
      • C6/C5 は「hot mid クラス」として段階的に v4 に載せ、その他の mid/smallmid は SmallHeap v4 or pool v1 で扱う。

4. 今後のフェーズTODO 概要)

  1. Phase v4-mid-3C5-only v4 研究箱) 完了

    • ENV: HAKMEM_SMALL_HEAP_V4_ENABLED=1 / HAKMEM_SMALL_HEAP_V4_CLASSES=0x20 で C5 を SmallHeap v4 route に載せる。
    • A/B 結果:
      • C5-heavy (129256B): v4 OFF 54.4M → v4 ON 48.7M ops/s (10〜11%回帰)。既存 Tiny/front v3 経路が速い。
      • Mixed 161024B (C6+C5 v4): C6-only 28.3M → C5+C6 28.9M ops/s (+2%, 誤差〜微改善)。回帰なし。
    • 方針: C5-heavy では v4 が劣後するため、C5 v4 は研究箱のまま標準プロファイルには入れない。Mixed では影響小さいため C5+C6 v4 (0x60) も研究箱として利用可能。
  2. Phase v4-mid-4/5/6C6/C5 v4 の診断と一時凍結) 完了

    • C5 v4:
      • C5-heavy (129256B): v4 OFF 54.4M → v4 ON 48.7M ops/s10〜11% 回帰)。既存 Tiny/front v3 経路が速い。
      • Mixed 161024B では C5+C6 v4 ON で +2〜3% 程度の微改善だが、本線として採用するほどのメリットは無い。
    • C6 v4:
      • 正しい C6-only ベンチMIN=256 MAX=510で v4 OFF ~5867M → v4 ON ~4850M ops/s15〜28% 回帰)。
      • stats から C6 alloc/free の 100% が v4 経路を通っていることが確認でき、route/fallback ではなく v4 実装そのものが重いことが判明。
      • ws/iters を増やすと TinyHeap とページ共有する設計起因のクラッシュも残存しており、C6 v4 を現行設計のまま本線に載せるのは難しい。
    • TLS fastlist:
      • C6 用 TLS fastlist を追加したが、v4 ON 時の C6-heavy throughput はほぼ変わらず48〜49M ops/s。根本的な回帰v4のページ管理/構造)を打ち消すには至っていない。
    • 方針:
      • SmallObject v4C5/C6 向け)は当面 研究箱のまま凍結し、本線の mid/smallmid 改善は別設計small-object v5 / mid-ULTRA / pool 再設計)として検討する。
      • Mixed/C7 側は引き続き「C7 v3 + C7 ULTRA」を基準に A/B を行い、mid/pool 側は現行 v1 を基準ラインとして据え置く。
  3. Phase v5-2/3C6-only v5 通電 & 薄型化) 完了(研究箱)

    • Phase v5-2: C6-only small-object v5 を Segment+Page ベースで本実装。Tiny/Pool から完全に切り離し、2MiB Segment / 64KiB Page 上で C6 ページを管理。初回は ~1420M ops/s 程度で v1 より大幅に遅かった。
    • Phase v5-3: C6 v5 の HotPath を薄型化(単一 TLS セグメント + O(1) page_meta_of + ビットマップによる free page 検索。C6-heavy 1M/400 で v5 OFF ~44.9M → v5 ON ~38.5M ops/s+162% vs v5-2, baseline 比約 -14%。Mixed でも 3639M ops/s で SEGV 無し。
    • 方針: v5 は v4 より構造的には良いが、C6-only でもまだ v1 を下回るため、当面は研究箱のまま維持。本線 mid/smallmid は引き続き pool v1 基準で見つつ、v5 設計を C7 ULTRA パターンに近づける方向で検討を継続する。
  4. Phase v4-mid-SEGVC6 v4 の SEGV 修正・研究箱安定化) 完了

    • 問題: C6 v4 が TinyHeap のページを共有 → iters >= 800k で freelist 破壊 → SEGV
    • 修正: C6 専用 refill/retire を SmallSegment v4 に切り替え、TinyHeap 依存を完全排除
    • 結果:
      • iters=1M, ws <= 390: SEGV 消失
      • C6-only (MIN=257 MAX=768): v4 OFF ~47M → v4 ON ~43M ops/s8.5% 回帰のみ、安定)
      • Mixed 161024B: v4 ON で SEGV なし(小幅回帰許容)
    • 方針: C6 v4 は研究箱として安定化完了。本線には載せない(既存 mid/pool v1 を使用)。
  5. Phase v5-0SmallObject v5 refactor: ENV統一・マクロ化・構造体最適化 完了

    • 内容: v5 基盤の改善・最適化(挙動は完全不変)
    • 改善項目:
      • ENV initialization を sentinel パターンで統一ENV_UNINIT/ENABLED/DISABLED + __builtin_expect
      • ポインタマクロ化: BASE_FROM_PTR, PAGE_IDX, PAGE_META, VALIDATE_MAGIC, VALIDATE_PTR
      • SmallClassHeapV5 に partial_count 追加
      • SmallPageMetaV5 の field 再配置hot fields 先頭集約 → L1 cache 最適化, 24B
      • route priority ENV 追加: HAKMEM_ROUTE_PRIORITY={v4|v5|auto}
      • segment_size override ENV 追加: HAKMEM_SMALL_HEAP_V5_SEGMENT_SIZE
    • 挙動: 完全不変v5 route は呼ばれない、ENV デフォルト OFF
    • テスト: Mixed 161024B で 43.043.8M ops/s変化なし、SEGV/assert なし
    • 目標: v5-1 で C6-only stub → v5-2 で本実装 → v5-3 で Mixed に段階昇格
  6. Phase v5-1SmallObject v5 C6-only route stub 接続) 完了

    • 内容: C6 を v5 route に接続(中身は v1/pool fallback
    • 実装:
      • tiny_route_env_box.h: C6 で HAKMEM_SMALL_HEAP_V5_ENABLED=1 なら TINY_ROUTE_SMALL_HEAP_V5 に分岐
      • malloc_tiny_fast.h: alloc/free switch に v5 case 追加fallthrough で v1/pool に落ちる)
      • smallobject_hotbox_v5.c: stub 実装alloc は NULL 返却、free は no-op
    • ENV: HAKMEM_SMALL_HEAP_V5_ENABLED=1 / HAKMEM_SMALL_HEAP_V5_CLASSES=0x40 で opt-in
    • テスト結果:
      • C6-heavy: v5 OFF ~15.5M → v5 ON ~16.4M ops/s変化なし, 正常)
      • Mixed: 47.2M ops/s変化なし
      • SEGV/assert なし
    • 方針: v5-1 では挙動は v1/pool fallback と同じ。研究箱として ENV プリセット(C6_SMALL_HEAP_V5_STUB)を docs/analysis/ENV_PROFILE_PRESETS.md に追記。v5-2 で本実装を追加。
  7. Phase v5-2 / v5-3SmallObject v5 C6-only 実装+薄型化, 研究箱) 完了

    • 内容: C6 向け SmallObjectHotBox v5 を Segment + Page + TLS ベースで実装し、v5-3 で単一 TLS セグメントO(1) page_meta_of+ビットマップ free-page 検索などで HotPath を薄型化。
    • C6-heavy 1M/400:
      • v5 OFFpool v1: 約 44.9M ops/s
      • v5-3 ON: 約 38.5M ops/sv5-2 の ~14.7M からは +162% だが、baseline 比では約 -14%
    • Mixed 161024B:
      • v5 ONC6 のみ v5 routeでも 3639M ops/s で SEGV なし(本線 Mixed プロファイルでは v5 はデフォルト OFF
    • 方針: C6 v5 は構造的には v4 より良く安定もしたが、まだ v1 を下回るため 研究箱のまま維持。本線 mid/smallmid は引き続き pool v1 基準で見る。
  8. Phase v5-4C6 v5 header light / freelist 最適化) 完了(研究箱)

    • 目的: C6-heavy で v5 ON 時の回帰を詰めるtarget: baseline 比 -5〜7%)。
    • 実装:
      • HAKMEM_SMALL_HEAP_V5_HEADER_MODE=full|light ENV を追加(デフォルト full
      • light mode: page carve 時に全ブロックの header を初期化、alloc 時の header write をスキップ
      • full mode: 従来どおり alloc 毎に header write標準動作
      • SmallHeapCtxV5 に header_mode フィールド追加TLS で ENV を 1 回だけ読んで cache
    • 実測値1M iter, ws=400:
      • C6-heavy (257-768B): v5 OFF 47.95M / v5 full 38.97M (-18.7%) / v5 light 39.25M (+0.7% vs full, -18.1% vs baseline)
      • Mixed 16-1024B: v5 OFF 43.59M / v5 full 36.53M (-16.2%) / v5 light 38.04M (+4.1% vs full, -12.7% vs OFF)
    • 結論: header light は微改善(+0.7-4.1%だが、target の -5〜7% には届かず(現状 -18.1%。header write 以外にも HotPath コストありfreelist 操作、metadata access 等。v5-5 以降で TLS cache / batching により HotPath を詰める予定。
    • 運用: 標準プロファイルでは引き続き HAKMEM_SMALL_HEAP_V5_ENABLED=0v5 OFF。C6 v5 は研究専用で、A/B 時のみ明示的に ON。
  9. Phase v5-5C6 v5 TLS cache 完了(研究箱)

    • 目的: C6 v5 の HotPath から page_meta access を削減、+1-2% 改善を目指す。
    • 実装:
      • HAKMEM_SMALL_HEAP_V5_TLS_CACHE_ENABLED=0|1 ENV を追加(デフォルト 0
      • SmallHeapCtxV5 に c6_cached_block フィールド追加1-slot TLS cache
      • alloc: cache hit 時は page_meta 参照せず即座に返すheader mode に応じて処理)
      • free: cache 空なら block を cache に格納freelist push をスキップ)、満杯なら evict して新 block を cache
    • 実測値1M iter, ws=400, HEADER_MODE=full:
      • C6-heavy (257-768B): cache OFF 35.53M → cache ON 37.02M ops/s (+4.2%)
      • Mixed 16-1024B: cache OFF 38.04M → cache ON 37.93M ops/s (-0.3%, 誤差範囲)
    • 結論: TLS cache により C6-heavy で +4.2% の改善を達成(目標 +1-2% を上回る。Mixed では影響ほぼゼロ。page_meta access 削減が効いている。
    • 既知の問題: header_mode=light 時に infinite loop 発生freelist pointer が header と衝突する edge case。現状は full mode のみ動作確認済み。
    • 運用: 標準プロファイルでは HAKMEM_SMALL_HEAP_V5_TLS_CACHE_ENABLED=0OFF。C6 研究用で cache ON により v5 性能を部分改善可能。
  10. Phase v5-6C6 v5 TLS batching 完了(研究箱)

    • 目的: refill 頻度を削減し、C6-heavy で v5 full+cache 比の追加改善を狙う。
    • 実装:
      • HAKMEM_SMALL_HEAP_V5_BATCH_ENABLED / HAKMEM_SMALL_HEAP_V5_BATCH_SIZE を追加し、SmallHeapCtxV5 に SmallV5Batch c6_batchslots[4] + countを持たせて、C6 v5 alloc/free で TLS バッチを優先的に使うようにした。
    • 実測1M/400, HEADER_MODE=full, TLS cache=ON, v5 ON:
      • C6-heavy: batch OFF 36.71M → batch ON 37.78M ops/s+2.9%
      • Mixed 161024B: batch OFF 38.25M → batch ON 37.09M ops/s(約 -3%, C6-heavy 専用オプションとして許容)
    • 方針: C6-heavy では cache に続いて batch でも +数% 改善を確認できたが、v5 全体は依然 baseline(v1/pool) より遅い。C6 v5 は引き続き研究箱として維持し、本線 mid/smallmid は pool v1 を基準に見る。
  11. Phase v6-0SmallObject Core v6 設計・型スケルトン) 完了(設計)

    • 目的: 16〜2KiB small-object/mid 向けに、L0 ULTRA / L1 Core / L2 Segment+ColdIface / L3 Policy の4層構造とヘッダレス前提の HotBox を定義し、「これ以上動かさない核」の設計を固める。
    • 内容:
      • docs/analysis/SMALLOBJECT_CORE_V6_DESIGN.md を追加し、SmallHeapCtxV6 / SmallClassHeapV6 / SmallPageMetaV6 / SmallSegmentV6 と ptr→page→class O(1) ルール、HotBox が絶対にやらない責務header 書き・lookup・Stats など)を明文化。
      • v6 は現時点ではコードは一切触らず、設計レベルの仕様と型イメージだけをまとめた段階。v5 は C6 研究箱として残しつつ、将来 small-object を作り直す際の「芯」として v6 の層構造を採用する。
  12. Phase v6-1/v6-2/v6-3SmallObject Core v6 C6-only 実装) 完了(研究箱)

    • v6-1: route stub 接続(挙動は v1/pool fallback
    • v6-2: Segment v6 + ColdIface v6 + Core v6 HotPath の最低限実装。C6-heavy で SEGV なく完走確認。
    • v6-3: 薄型化TLS ownership check + batch header write + TLS batch refill
    • C6-heavy A/B1M/400:
      • v6 OFF: 27.1M ops/sbaseline
      • v6-2 ON: 15.3M ops/s44%
      • v6-3 ON: 27.1M ops/s±0%, baseline 同等)
    • Mixed: v6 ON で hang 発生v6-4 で対応予定)。
    • 方針: C6-heavy は v6-3 で baseline 同等まで改善。Mixed 安定化は Phase v6-4 のスコープ。

5. 健康診断ラン(必ず最初に叩く 2 本)

  • Tiny/Mixed 用:

    HAKMEM_PROFILE=MIXED_TINYV3_C7_SAFE \
    ./bench_random_mixed_hakmem 1000000 400 1
    # 目安: 44±1M ops/s / segv/assert なし
    
  • mid/smallmid C6 用:

    HAKMEM_PROFILE=C6_HEAVY_LEGACY_POOLV1 \
    ./bench_mid_large_mt_hakmem 1 1000000 400 1
    # 現状: ≈10M ops/s / segv/assert なし(再設計ターゲット)
    

まとめて叩きたいときは scripts/verify_health_profiles.sh(存在する場合)を利用し、
詳細な perf/フェーズログは CURRENT_TASK_ARCHIVE_20251210.md と各 docs/analysis/* を参照してください。