ClauseTokenizer vs sentence-only — IN-CLUSTER TTFB simulation (run inside voxcpm2-omni pod)

clause_sim_in_pod_output.txt

========================================================================
In-cluster TTFB simulation (host=http://localhost:8000)
TURN: طيب، نقدر نرتب على سداد كامل خلال ٤٥ يوم من اليوم، بس لازم تلتزم بالسداد خلال هالمده. مناسبك هذا الحل؟
LLM pacing: 30.0 tok/sec  =>  9.5 ms/char,  total 102 chars
========================================================================

--- Sentence-level (blingfire-equivalent) ---
  first chunk gate: 0.881s
    [ 0] t= 0.881s  'طيب، نقدر نرتب على سداد كامل خلال ٤٥ يوم من اليوم، بس لازم تلتزم بالسداد خلال هالمده.'
    [ 1] t= 1.033s  'مناسبك هذا الحل؟'

--- ClauseTokenizer (this PR, min_clause_len=10) ---
  first chunk gate: 0.527s
    [ 0] t= 0.527s  'طيب، نقدر نرتب على سداد كامل خلال ٤٥ يوم من اليوم،'
    [ 1] t= 0.881s  'بس لازم تلتزم بالسداد خلال هالمده.'
    [ 2] t= 1.033s  'مناسبك هذا الحل؟'

========================================================================
TTS prefill latency (in-cluster, median of 5 trials each)
========================================================================
  [sentence-1st-chunk] trial 1: 0.165s  (طيب، نقدر نرتب على سداد كامل خلال ٤٥ يوم...)
  [sentence-1st-chunk] trial 2: 0.156s  (طيب، نقدر نرتب على سداد كامل خلال ٤٥ يوم...)
  [sentence-1st-chunk] trial 3: 0.166s  (طيب، نقدر نرتب على سداد كامل خلال ٤٥ يوم...)
  [sentence-1st-chunk] trial 4: 0.159s  (طيب، نقدر نرتب على سداد كامل خلال ٤٥ يوم...)
  [sentence-1st-chunk] trial 5: 0.168s  (طيب، نقدر نرتب على سداد كامل خلال ٤٥ يوم...)
  [clause-1st-chunk] trial 1: 0.157s  (طيب، نقدر نرتب على سداد كامل خلال ٤٥ يوم...)
  [clause-1st-chunk] trial 2: 0.170s  (طيب، نقدر نرتب على سداد كامل خلال ٤٥ يوم...)
  [clause-1st-chunk] trial 3: 0.159s  (طيب، نقدر نرتب على سداد كامل خلال ٤٥ يوم...)
  [clause-1st-chunk] trial 4: 0.160s  (طيب، نقدر نرتب على سداد كامل خلال ٤٥ يوم...)
  [clause-1st-chunk] trial 5: 0.154s  (طيب، نقدر نرتب على سداد كامل خلال ٤٥ يوم...)

========================================================================
End-to-end TTFB (gate + TTS prefill, in-cluster)
========================================================================
  Sentence-level (current):     gate 0.881s + tts 0.165s = 1.046s
  ClauseTokenizer (this PR):    gate 0.527s + tts 0.159s = 0.686s

  Improvement: -0.360s (34% TTFB reduction)

  First-chunk inputs:
    sentence (85 chars):  'طيب، نقدر نرتب على سداد كامل خلال ٤٥ يوم من اليوم، بس لازم تلتزم بالسداد خلال هالمده.'
    clause   (50 chars):  'طيب، نقدر نرتب على سداد كامل خلال ٤٥ يوم من اليوم،'