Lab 13: Serving Under Deadlines

Lab 13: Serving Under Deadlines · MLSysBook

import%20marimo%0A%0A__generated_with%20%3D%20%220.25.0%22%0Aapp%20%3D%20marimo.App(%0A%20%20%20%20width%3D%22full%22%2C%0A%20%20%20%20app_title%3D%22Lab%2013%3A%20Serving%20Under%20Deadlines%20%C2%B7%20MLSysBook%22%2C%0A)%0A%0A%0A%40app.cell%0Aasync%20def%20_()%3A%0A%20%20%20%20import%20sys%0A%20%20%20%20from%20pathlib%20import%20Path%0A%20%20%20%20import%20marimo%20as%20mo%0A%0A%20%20%20%20if%20sys.platform%20%3D%3D%20%22emscripten%22%3A%0A%20%20%20%20%20%20%20%20import%20micropip%0A%20%20%20%20%20%20%20%20await%20micropip.install(%5B%22pydantic%22%2C%20%22pint%22%2C%20%22plotly%22%2C%20%22pandas%22%5D%2C%20keep_going%3DFalse)%0A%20%20%20%20%20%20%20%20await%20micropip.install(%22..%2F..%2Fwheels%2Fmlsysim-0.1.2-py3-none-any.whl%22%2C%20keep_going%3DFalse)%0A%20%20%20%20%20%20%20%20await%20micropip.install(%22..%2F..%2Fwheels%2Fmlsysbook_labs-0.1.0-py3-none-any.whl%22%2C%20keep_going%3DFalse)%0A%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20labs_dir%20%3D%20Path(__file__).resolve().parents%5B1%5D%0A%20%20%20%20%20%20%20%20if%20str(labs_dir)%20not%20in%20sys.path%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20sys.path.insert(0%2C%20str(labs_dir))%0A%20%20%20%20%20%20%20%20from%20bootstrap%20import%20native_bootstrap%0A%20%20%20%20%20%20%20%20native_bootstrap(__file__)%0A%0A%20%20%20%20import%20plotly.graph_objects%20as%20go%0A%20%20%20%20from%20mlsysim.engine.v1_13_experiments%20import%20(%0A%20%20%20%20%20%20%20%20MODEL_ID%2C%0A%20%20%20%20%20%20%20%20arrival_trace_for_track%2C%0A%20%20%20%20%20%20%20%20batching_policy_for_track%2C%0A%20%20%20%20%20%20%20%20get_serving_scenario%2C%0A%20%20%20%20%20%20%20%20policy_for_track%2C%0A%20%20%20%20%20%20%20%20simulation_result_to_snapshot%2C%0A%20%20%20%20%20%20%20%20simulate_serving%2C%0A%20%20%20%20%20%20%20%20state_capacity%2C%0A%20%20%20%20%20%20%20%20state_capacity_to_snapshot%2C%0A%20%20%20%20%20%20%20%20state_pressure_scenario%2C%0A%20%20%20%20)%0A%20%20%20%20from%20mlsysim.labs.state%20import%20DesignLedger%0A%20%20%20%20from%20mlsysim.labs.style%20import%20COLORS%2C%20LAB_CSS%2C%20apply_plotly_theme%0A%20%20%20%20from%20mlsysbook_labs%20import%20(%0A%20%20%20%20%20%20%20%20ACADEMIC_LAB_CSS%2C%20build_lab_report%2C%20get_lab_metadata%2C%20report_export_panel%2C%0A%20%20%20%20)%0A%20%20%20%20from%20mlsysbook_labs.experiment_evidence%20import%20audit_evidence%2C%20capture_evidence%0A%0A%20%20%20%20ledger%20%3D%20DesignLedger(volume%3D%22vol1%22)%0A%20%20%20%20if%20ledger.is_wasm%3A%0A%20%20%20%20%20%20%20%20_loaded%20%3D%20await%20ledger.load_async()%0A%20%20%20%20return%20(%0A%20%20%20%20%20%20%20%20ACADEMIC_LAB_CSS%2C%0A%20%20%20%20%20%20%20%20COLORS%2C%0A%20%20%20%20%20%20%20%20LAB_CSS%2C%0A%20%20%20%20%20%20%20%20MODEL_ID%2C%0A%20%20%20%20%20%20%20%20apply_plotly_theme%2C%0A%20%20%20%20%20%20%20%20arrival_trace_for_track%2C%0A%20%20%20%20%20%20%20%20audit_evidence%2C%0A%20%20%20%20%20%20%20%20batching_policy_for_track%2C%0A%20%20%20%20%20%20%20%20build_lab_report%2C%0A%20%20%20%20%20%20%20%20capture_evidence%2C%0A%20%20%20%20%20%20%20%20get_lab_metadata%2C%0A%20%20%20%20%20%20%20%20get_serving_scenario%2C%0A%20%20%20%20%20%20%20%20go%2C%0A%20%20%20%20%20%20%20%20ledger%2C%0A%20%20%20%20%20%20%20%20mo%2C%0A%20%20%20%20%20%20%20%20policy_for_track%2C%0A%20%20%20%20%20%20%20%20report_export_panel%2C%0A%20%20%20%20%20%20%20%20simulate_serving%2C%0A%20%20%20%20%20%20%20%20simulation_result_to_snapshot%2C%0A%20%20%20%20%20%20%20%20state_capacity%2C%0A%20%20%20%20%20%20%20%20state_capacity_to_snapshot%2C%0A%20%20%20%20%20%20%20%20state_pressure_scenario%2C%0A%20%20%20%20)%0A%0A%0A%40app.cell%0Adef%20_(mo)%3A%0A%20%20%20%20get_evidence%2C%20set_evidence%20%3D%20mo.state(%7B%7D)%0A%20%20%20%20return%20get_evidence%2C%20set_evidence%0A%0A%0A%40app.cell%0Adef%20_(mo%2C%20set_evidence)%3A%0A%20%20%20%20track%20%3D%20mo.ui.dropdown(%0A%20%20%20%20%20%20%20%20%7B%22TinyML%22%3A%20%22tinyml%22%2C%20%22Mobile%22%3A%20%22mobile%22%2C%20%22Edge%22%3A%20%22edge%22%2C%20%22Cloud%22%3A%20%22cloud%22%7D%2C%0A%20%20%20%20%20%20%20%20value%3D%22TinyML%22%2C%0A%20%20%20%20%20%20%20%20label%3D%22Deployment%20track%22%2C%0A%20%20%20%20%20%20%20%20on_change%3Dlambda%20_value%3A%20set_evidence(%7B%7D)%2C%0A%20%20%20%20)%0A%20%20%20%20return%20(track%2C)%0A%0A%0A%40app.cell%0Adef%20_(get_serving_scenario%2C%20track)%3A%0A%20%20%20%20track_id%20%3D%20track.value%0A%20%20%20%20scenario%20%3D%20get_serving_scenario(track_id)%0A%20%20%20%20return%20scenario%2C%20track_id%0A%0A%0A%40app.cell%0Adef%20_(mo%2C%20track_id)%3A%0A%20%20%20%20_track_key%20%3D%20track_id%0A%20%20%20%20b_pattern%20%3D%20mo.ui.dropdown(%0A%20%20%20%20%20%20%20%20%7B%22Bursty%20replay%22%3A%20%22bursty%22%2C%20%22Demand%20shift%22%3A%20%22shift%22%7D%2C%0A%20%20%20%20%20%20%20%20value%3D%22Bursty%20replay%22%2C%0A%20%20%20%20%20%20%20%20label%3D%22Changed%20traffic%22%2C%0A%20%20%20%20)%0A%20%20%20%20b_load%20%3D%20mo.ui.dropdown(%0A%20%20%20%20%20%20%20%20%7B%221.0%C3%97%20phase%20rates%22%3A%201.0%2C%20%221.5%C3%97%20phase%20rates%22%3A%201.5%2C%20%222.0%C3%97%20phase%20rates%22%3A%202.0%7D%2C%0A%20%20%20%20%20%20%20%20value%3D%221.5%C3%97%20phase%20rates%22%2C%0A%20%20%20%20%20%20%20%20label%3D%22Offered-load%20scale%22%2C%0A%20%20%20%20)%0A%20%20%20%20c_policy%20%3D%20mo.ui.dropdown(%0A%20%20%20%20%20%20%20%20%7B%22Pair%20%2B%20short%20timeout%22%3A%20%22pair-short%22%2C%20%22Four%20%2B%20patient%20timeout%22%3A%20%22quad-patient%22%7D%2C%0A%20%20%20%20%20%20%20%20value%3D%22Four%20%2B%20patient%20timeout%22%2C%0A%20%20%20%20%20%20%20%20label%3D%22Batch%20policy%22%2C%0A%20%20%20%20)%0A%20%20%20%20d_pressure%20%3D%20mo.ui.dropdown(%0A%20%20%20%20%20%20%20%20%7B%22Elevated%20live%20state%22%3A%20%22elevated%22%2C%20%22State%20exceeds%20memory%22%3A%20%22overflow%22%7D%2C%0A%20%20%20%20%20%20%20%20value%3D%22State%20exceeds%20memory%22%2C%0A%20%20%20%20%20%20%20%20label%3D%22State%20pressure%22%2C%0A%20%20%20%20)%0A%20%20%20%20e_pattern%20%3D%20mo.ui.dropdown(%0A%20%20%20%20%20%20%20%20%7B%22Demand%20shift%22%3A%20%22shift%22%2C%20%22Bursty%20replay%22%3A%20%22bursty%22%7D%2C%0A%20%20%20%20%20%20%20%20value%3D%22Demand%20shift%22%2C%0A%20%20%20%20%20%20%20%20label%3D%22Launch%20traffic%22%2C%0A%20%20%20%20)%0A%20%20%20%20e_candidate%20%3D%20mo.ui.dropdown(%0A%20%20%20%20%20%20%20%20%7B%22Reserve%20capacity%22%3A%20%22reserve%22%2C%20%22Delayed%20activation%22%3A%20%22activate%22%2C%20%22Bounded%20admission%22%3A%20%22admit%22%7D%2C%0A%20%20%20%20%20%20%20%20value%3D%22Reserve%20capacity%22%2C%0A%20%20%20%20%20%20%20%20label%3D%22Candidate%20policy%22%2C%0A%20%20%20%20)%0A%20%20%20%20e_rejected%20%3D%20mo.ui.radio(%0A%20%20%20%20%20%20%20%20%7B%22Reserve%20capacity%22%3A%20%22reserve%22%2C%20%22Delayed%20activation%22%3A%20%22activate%22%2C%20%22Bounded%20admission%22%3A%20%22admit%22%7D%2C%0A%20%20%20%20%20%20%20%20label%3D%22Tested%20alternative%22%2C%0A%20%20%20%20)%0A%20%20%20%20e_conclusion%20%3D%20mo.ui.radio(%0A%20%20%20%20%20%20%20%20%7B%22Use%20the%20candidate%22%3A%20%22candidate%22%2C%20%22No%20change%20%2F%20hold%20for%20more%20evidence%22%3A%20%22none%22%7D%2C%0A%20%20%20%20%20%20%20%20label%3D%22Launch%20conclusion%22%2C%0A%20%20%20%20)%0A%20%20%20%20return%20(%0A%20%20%20%20%20%20%20%20b_load%2C%0A%20%20%20%20%20%20%20%20b_pattern%2C%0A%20%20%20%20%20%20%20%20c_policy%2C%0A%20%20%20%20%20%20%20%20d_pressure%2C%0A%20%20%20%20%20%20%20%20e_candidate%2C%0A%20%20%20%20%20%20%20%20e_conclusion%2C%0A%20%20%20%20%20%20%20%20e_pattern%2C%0A%20%20%20%20%20%20%20%20e_rejected%2C%0A%20%20%20%20)%0A%0A%0A%40app.cell%0Adef%20_(mo%2C%20track_id)%3A%0A%20%20%20%20_track_key%20%3D%20track_id%0A%20%20%20%20a_prediction%20%3D%20mo.ui.radio(%0A%20%20%20%20%20%20%20%20%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20%22Matched%20path%20completes%20more%20useful%20requests%22%3A%20%22matched%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22Faster%20mismatched%20path%20completes%20more%20useful%20requests%22%3A%20%22mismatched%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22Both%20paths%20are%20equally%20useful%22%3A%20%22equal%22%2C%0A%20%20%20%20%20%20%20%20%7D%2C%0A%20%20%20%20%20%20%20%20label%3D%22Which%20preprocessing%20path%20produces%20more%20useful%20deadline%20completions%3F%22%2C%0A%20%20%20%20).form(submit_button_label%3D%22Lock%20Part%20A%20prediction%22)%0A%20%20%20%20b_prediction%20%3D%20mo.ui.radio(%0A%20%20%20%20%20%20%20%20%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20%22P99%20stays%20within%20the%20deadline%22%3A%20%22pass%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22P99%20crosses%20the%20deadline%22%3A%20%22tail%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22Admission%20loss%20appears%20first%22%3A%20%22rejection%22%2C%0A%20%20%20%20%20%20%20%20%7D%2C%0A%20%20%20%20%20%20%20%20label%3D%22What%20fails%20first%20when%20the%20traffic%20pattern%20changes%3F%22%2C%0A%20%20%20%20).form(submit_button_label%3D%22Lock%20Part%20B%20prediction%22)%0A%20%20%20%20c_prediction%20%3D%20mo.ui.radio(%0A%20%20%20%20%20%20%20%20%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20%22Waiting%20improves%20tail%20latency%22%3A%20%22tail-improves%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22Waiting%20reduces%20execution%20work%20but%20worsens%20tail%20latency%22%3A%20%22tradeoff%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22Batching%20changes%20neither%20schedule%20nor%20work%22%3A%20%22no-change%22%2C%0A%20%20%20%20%20%20%20%20%7D%2C%0A%20%20%20%20%20%20%20%20label%3D%22What%20will%20the%20selected%20batch%20policy%20change%3F%22%2C%0A%20%20%20%20).form(submit_button_label%3D%22Lock%20Part%20C%20prediction%22)%0A%20%20%20%20d_prediction%20%3D%20mo.ui.radio(%0A%20%20%20%20%20%20%20%20%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20%22At%20least%20one%20request%20still%20fits%22%3A%20%22fits%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22No%20request%20state%20fits%20with%20the%20fixed%20memory%22%3A%20%22fails%22%2C%0A%20%20%20%20%20%20%20%20%7D%2C%0A%20%20%20%20%20%20%20%20label%3D%22What%20happens%20to%20the%20concurrency%20ceiling%3F%22%2C%0A%20%20%20%20).form(submit_button_label%3D%22Lock%20Part%20D%20prediction%22)%0A%20%20%20%20e_prediction%20%3D%20mo.ui.radio(%0A%20%20%20%20%20%20%20%20%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20%22Candidate%20meets%20every%20deadline%20without%20rejection%22%3A%20%22candidate-pass%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22Alternative%20meets%20every%20deadline%20without%20rejection%22%3A%20%22alternative-pass%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22Neither%20tested%20policy%20is%20feasible%22%3A%20%22neither%22%2C%0A%20%20%20%20%20%20%20%20%7D%2C%0A%20%20%20%20%20%20%20%20label%3D%22Which%20policy%20survives%20the%20changed%20demand%3F%22%2C%0A%20%20%20%20).form(submit_button_label%3D%22Lock%20Part%20E%20prediction%22)%0A%20%20%20%20return%20a_prediction%2C%20b_prediction%2C%20c_prediction%2C%20d_prediction%2C%20e_prediction%0A%0A%0A%40app.cell%0Adef%20_(mo%2C%20track_id)%3A%0A%20%20%20%20_track_key%20%3D%20track_id%0A%20%20%20%20final_choice%20%3D%20mo.ui.radio(%0A%20%20%20%20%20%20%20%20%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20%22Reserve%20capacity%22%3A%20%22reserve%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22Delayed%20activation%22%3A%20%22activate%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22Bounded%20admission%22%3A%20%22admit%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22No%20change%20%2F%20hold%20for%20more%20evidence%22%3A%20%22none%22%2C%0A%20%20%20%20%20%20%20%20%7D%2C%0A%20%20%20%20%20%20%20%20label%3D%22Recommendation%22%2C%0A%20%20%20%20)%0A%20%20%20%20final_rejected%20%3D%20mo.ui.radio(%0A%20%20%20%20%20%20%20%20%7B%22Reserve%20capacity%22%3A%20%22reserve%22%2C%20%22Delayed%20activation%22%3A%20%22activate%22%2C%20%22Bounded%20admission%22%3A%20%22admit%22%7D%2C%0A%20%20%20%20%20%20%20%20label%3D%22Quantified%20rejected%20alternative%22%2C%0A%20%20%20%20)%0A%20%20%20%20final_trigger%20%3D%20mo.ui.radio(%0A%20%20%20%20%20%20%20%20%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20%22Any%20deadline%20miss%22%3A%20%22deadline%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22Any%20admission%20rejection%22%3A%20%22rejection%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22Live%20state%20no%20longer%20fits%22%3A%20%22state%22%2C%0A%20%20%20%20%20%20%20%20%7D%2C%0A%20%20%20%20%20%20%20%20label%3D%22Reevaluation%20trigger%22%2C%0A%20%20%20%20)%0A%20%20%20%20final_risk%20%3D%20mo.ui.radio(%0A%20%20%20%20%20%20%20%20%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20%22Illustrative%20service%20times%20need%20measurement%22%3A%20%22service-time%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22Future%20arrival%20shape%20may%20differ%22%3A%20%22arrival-shape%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22State%20size%20may%20grow%22%3A%20%22state-growth%22%2C%0A%20%20%20%20%20%20%20%20%7D%2C%0A%20%20%20%20%20%20%20%20label%3D%22Remaining%20limitation%22%2C%0A%20%20%20%20)%0A%20%20%20%20rationale%20%3D%20mo.ui.text_area(%0A%20%20%20%20%20%20%20%20label%3D%22Launch%20rationale%22%2C%0A%20%20%20%20%20%20%20%20placeholder%3D%22Use%20saved%20quantities%20to%20connect%20the%20chosen%20policy%2C%20rejected%20alternative%2C%20limitation%2C%20and%20trigger.%22%2C%0A%20%20%20%20)%0A%20%20%20%20return%20final_choice%2C%20final_rejected%2C%20final_risk%2C%20final_trigger%2C%20rationale%0A%0A%0A%40app.cell%0Adef%20_(%0A%20%20%20%20arrival_trace_for_track%2C%0A%20%20%20%20b_load%2C%0A%20%20%20%20b_pattern%2C%0A%20%20%20%20batching_policy_for_track%2C%0A%20%20%20%20c_policy%2C%0A%20%20%20%20d_pressure%2C%0A%20%20%20%20e_candidate%2C%0A%20%20%20%20e_pattern%2C%0A%20%20%20%20e_rejected%2C%0A%20%20%20%20policy_for_track%2C%0A%20%20%20%20scenario%2C%0A%20%20%20%20simulate_serving%2C%0A%20%20%20%20simulation_result_to_snapshot%2C%0A%20%20%20%20state_capacity%2C%0A%20%20%20%20state_capacity_to_snapshot%2C%0A%20%20%20%20state_pressure_scenario%2C%0A%20%20%20%20track_id%2C%0A)%3A%0A%20%20%20%20_steady%20%3D%20arrival_trace_for_track(track_id%2C%20%22steady%22)%0A%20%20%20%20_bursty%20%3D%20arrival_trace_for_track(track_id%2C%20%22bursty%22)%0A%0A%20%20%20%20a_base%20%3D%20simulate_serving(scenario%2C%20_steady%2C%20policy_for_track(track_id%2C%20%22baseline%22)%2C%20scenario.preprocessing_paths%5B0%5D)%0A%20%20%20%20a_result%20%3D%20simulate_serving(scenario%2C%20_steady%2C%20policy_for_track(track_id%2C%20%22baseline%22)%2C%20scenario.preprocessing_paths%5B1%5D)%0A%20%20%20%20a_base_snap%20%3D%20simulation_result_to_snapshot(a_base)%0A%20%20%20%20a_result_snap%20%3D%20simulation_result_to_snapshot(a_result)%0A%0A%20%20%20%20b_base%20%3D%20simulate_serving(scenario%2C%20_steady%2C%20policy_for_track(track_id%2C%20%22baseline%22))%0A%20%20%20%20b_result%20%3D%20simulate_serving(%0A%20%20%20%20%20%20%20%20scenario%2C%0A%20%20%20%20%20%20%20%20arrival_trace_for_track(track_id%2C%20b_pattern.value%2C%20rate_scale%3Db_load.value)%2C%0A%20%20%20%20%20%20%20%20policy_for_track(track_id%2C%20%22baseline%22)%2C%0A%20%20%20%20)%0A%20%20%20%20b_base_snap%20%3D%20simulation_result_to_snapshot(b_base)%0A%20%20%20%20b_result_snap%20%3D%20simulation_result_to_snapshot(b_result)%0A%0A%20%20%20%20c_base%20%3D%20simulate_serving(scenario%2C%20_bursty%2C%20batching_policy_for_track(track_id%2C%20%22single%22))%0A%20%20%20%20c_result%20%3D%20simulate_serving(scenario%2C%20_bursty%2C%20batching_policy_for_track(track_id%2C%20c_policy.value))%0A%20%20%20%20c_base_snap%20%3D%20simulation_result_to_snapshot(c_base)%0A%20%20%20%20c_result_snap%20%3D%20simulation_result_to_snapshot(c_result)%0A%0A%20%20%20%20d_base_scenario%20%3D%20state_pressure_scenario(track_id%2C%20%22baseline%22)%0A%20%20%20%20d_result_scenario%20%3D%20state_pressure_scenario(track_id%2C%20d_pressure.value)%0A%20%20%20%20d_base_capacity%20%3D%20state_capacity(d_base_scenario)%0A%20%20%20%20d_result_capacity%20%3D%20state_capacity(d_result_scenario)%0A%20%20%20%20d_base_capacity_snap%20%3D%20state_capacity_to_snapshot(d_base_capacity%2C%20pressure%3D%22baseline%22)%0A%20%20%20%20d_result_capacity_snap%20%3D%20state_capacity_to_snapshot(d_result_capacity%2C%20pressure%3Dd_pressure.value)%0A%20%20%20%20d_base%20%3D%20simulate_serving(d_base_scenario%2C%20_steady%2C%20policy_for_track(track_id%2C%20%22baseline%22))%0A%20%20%20%20d_result%20%3D%20simulate_serving(d_result_scenario%2C%20_steady%2C%20policy_for_track(track_id%2C%20%22baseline%22))%0A%20%20%20%20d_base_snap%20%3D%20simulation_result_to_snapshot(d_base)%0A%20%20%20%20d_result_snap%20%3D%20simulation_result_to_snapshot(d_result)%0A%0A%20%20%20%20_launch_arrivals%20%3D%20arrival_trace_for_track(track_id%2C%20e_pattern.value)%0A%20%20%20%20e_steady%20%3D%20%7B%0A%20%20%20%20%20%20%20%20name%3A%20simulate_serving(scenario%2C%20_steady%2C%20policy_for_track(track_id%2C%20name))%0A%20%20%20%20%20%20%20%20for%20name%20in%20(%22reserve%22%2C%20%22activate%22%2C%20%22admit%22)%0A%20%20%20%20%7D%0A%20%20%20%20e_changed%20%3D%20%7B%0A%20%20%20%20%20%20%20%20name%3A%20simulate_serving(scenario%2C%20_launch_arrivals%2C%20policy_for_track(track_id%2C%20name))%0A%20%20%20%20%20%20%20%20for%20name%20in%20(%22reserve%22%2C%20%22activate%22%2C%20%22admit%22)%0A%20%20%20%20%7D%0A%20%20%20%20e_base%20%3D%20e_steady%5Be_candidate.value%5D%0A%20%20%20%20e_result%20%3D%20e_changed%5Be_candidate.value%5D%0A%20%20%20%20e_alternative%20%3D%20e_changed%5Be_rejected.value%5D%20if%20e_rejected.value%20else%20None%0A%20%20%20%20e_base_snap%20%3D%20simulation_result_to_snapshot(e_base)%0A%20%20%20%20e_result_snap%20%3D%20simulation_result_to_snapshot(e_result)%0A%20%20%20%20e_changed_snaps%20%3D%20%7Bname%3A%20simulation_result_to_snapshot(result)%20for%20name%2C%20result%20in%20e_changed.items()%7D%0A%20%20%20%20return%20(%0A%20%20%20%20%20%20%20%20a_base_snap%2C%0A%20%20%20%20%20%20%20%20a_result_snap%2C%0A%20%20%20%20%20%20%20%20b_base_snap%2C%0A%20%20%20%20%20%20%20%20b_result_snap%2C%0A%20%20%20%20%20%20%20%20c_base_snap%2C%0A%20%20%20%20%20%20%20%20c_result_snap%2C%0A%20%20%20%20%20%20%20%20d_base_capacity_snap%2C%0A%20%20%20%20%20%20%20%20d_base_snap%2C%0A%20%20%20%20%20%20%20%20d_result_capacity_snap%2C%0A%20%20%20%20%20%20%20%20d_result_snap%2C%0A%20%20%20%20%20%20%20%20e_base_snap%2C%0A%20%20%20%20%20%20%20%20e_changed_snaps%2C%0A%20%20%20%20%20%20%20%20e_result_snap%2C%0A%20%20%20%20)%0A%0A%0A%40app.cell%0Adef%20_(%0A%20%20%20%20MODEL_ID%2C%0A%20%20%20%20a_base_snap%2C%0A%20%20%20%20a_prediction%2C%0A%20%20%20%20a_result_snap%2C%0A%20%20%20%20b_base_snap%2C%0A%20%20%20%20b_load%2C%0A%20%20%20%20b_pattern%2C%0A%20%20%20%20b_prediction%2C%0A%20%20%20%20b_result_snap%2C%0A%20%20%20%20c_base_snap%2C%0A%20%20%20%20c_policy%2C%0A%20%20%20%20c_prediction%2C%0A%20%20%20%20c_result_snap%2C%0A%20%20%20%20capture_evidence%2C%0A%20%20%20%20d_base_capacity_snap%2C%0A%20%20%20%20d_base_snap%2C%0A%20%20%20%20d_prediction%2C%0A%20%20%20%20d_pressure%2C%0A%20%20%20%20d_result_capacity_snap%2C%0A%20%20%20%20d_result_snap%2C%0A%20%20%20%20e_base_snap%2C%0A%20%20%20%20e_candidate%2C%0A%20%20%20%20e_changed_snaps%2C%0A%20%20%20%20e_conclusion%2C%0A%20%20%20%20e_pattern%2C%0A%20%20%20%20e_prediction%2C%0A%20%20%20%20e_rejected%2C%0A%20%20%20%20e_result_snap%2C%0A%20%20%20%20mo%2C%0A%20%20%20%20set_evidence%2C%0A%20%20%20%20track_id%2C%0A)%3A%0A%20%20%20%20def%20store(part%2C%20capture)%3A%0A%20%20%20%20%20%20%20%20set_evidence(lambda%20current%3A%20%7B**current%2C%20part%3A%20capture%7D)%0A%0A%20%20%20%20def%20_capture_feasible(snapshot)%3A%0A%20%20%20%20%20%20%20%20return%20(%0A%20%20%20%20%20%20%20%20%20%20%20%20snapshot%5B%22deadline_missed_count%22%5D%20%3D%3D%200%0A%20%20%20%20%20%20%20%20%20%20%20%20and%20snapshot%5B%22rejected_count%22%5D%20%3D%3D%200%0A%20%20%20%20%20%20%20%20%20%20%20%20and%20snapshot%5B%22useful_completion_fraction%22%5D%20%3D%3D%201.0%0A%20%20%20%20%20%20%20%20)%0A%0A%20%20%20%20a_upstream%20%3D%20%7B%22paths%22%3A%20%5B%22matched%22%2C%20%22mismatched%22%5D%7D%0A%20%20%20%20b_upstream%20%3D%20%7B%22changed_traffic%22%3A%20b_pattern.value%2C%20%22rate_scale%22%3A%20b_load.value%7D%0A%20%20%20%20c_upstream%20%3D%20%7B%22batch_policy%22%3A%20c_policy.value%2C%20%22traffic%22%3A%20%22bursty%22%7D%0A%20%20%20%20d_upstream%20%3D%20%7B%22state_pressure%22%3A%20d_pressure.value%7D%0A%20%20%20%20e_upstream%20%3D%20%7B%0A%20%20%20%20%20%20%20%20%22traffic%22%3A%20e_pattern.value%2C%0A%20%20%20%20%20%20%20%20%22candidate%22%3A%20e_candidate.value%2C%0A%20%20%20%20%20%20%20%20%22rejected%22%3A%20e_rejected.value%2C%0A%20%20%20%20%20%20%20%20%22conclusion%22%3A%20e_conclusion.value%2C%0A%20%20%20%20%7D%0A%0A%20%20%20%20a_capture%20%3D%20mo.ui.button(%0A%20%20%20%20%20%20%20%20label%3D%22Capture%20latency-path%20contrast%22%2C%20kind%3D%22success%22%2C%20disabled%3Da_prediction.value%20is%20None%2C%0A%20%20%20%20%20%20%20%20on_click%3Dlambda%20_v%3A%20store(%22A%22%2C%20capture_evidence(%0A%20%20%20%20%20%20%20%20%20%20%20%20track%3Dtrack_id%2C%20part%3D%22A%22%2C%20prediction%3Da_prediction.value%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20inputs%3D%7B%22comparison%22%3A%20%22preprocessing%20parity%22%7D%2C%20baseline%3Da_base_snap%2C%20result%3Da_result_snap%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20upstream_inputs%3Da_upstream%2C%20model_key%3DMODEL_ID%2C%0A%20%20%20%20%20%20%20%20))%2C%0A%20%20%20%20)%0A%20%20%20%20b_capture%20%3D%20mo.ui.button(%0A%20%20%20%20%20%20%20%20label%3D%22Capture%20traffic%20replay%22%2C%20kind%3D%22success%22%2C%20disabled%3Db_prediction.value%20is%20None%2C%0A%20%20%20%20%20%20%20%20on_click%3Dlambda%20_v%3A%20store(%22B%22%2C%20capture_evidence(%0A%20%20%20%20%20%20%20%20%20%20%20%20track%3Dtrack_id%2C%20part%3D%22B%22%2C%20prediction%3Db_prediction.value%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20inputs%3D%7B%22changed_traffic%22%3A%20b_pattern.value%2C%20%22rate_scale%22%3A%20b_load.value%7D%2C%20baseline%3Db_base_snap%2C%20result%3Db_result_snap%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20upstream_inputs%3Db_upstream%2C%20model_key%3DMODEL_ID%2C%0A%20%20%20%20%20%20%20%20))%2C%0A%20%20%20%20)%0A%20%20%20%20c_capture%20%3D%20mo.ui.button(%0A%20%20%20%20%20%20%20%20label%3D%22Capture%20batching%20contrast%22%2C%20kind%3D%22success%22%2C%20disabled%3Dc_prediction.value%20is%20None%2C%0A%20%20%20%20%20%20%20%20on_click%3Dlambda%20_v%3A%20store(%22C%22%2C%20capture_evidence(%0A%20%20%20%20%20%20%20%20%20%20%20%20track%3Dtrack_id%2C%20part%3D%22C%22%2C%20prediction%3Dc_prediction.value%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20inputs%3D%7B%22batch_policy%22%3A%20c_policy.value%7D%2C%20baseline%3Dc_base_snap%2C%20result%3Dc_result_snap%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20upstream_inputs%3Dc_upstream%2C%20model_key%3DMODEL_ID%2C%0A%20%20%20%20%20%20%20%20))%2C%0A%20%20%20%20)%0A%20%20%20%20d_capture%20%3D%20mo.ui.button(%0A%20%20%20%20%20%20%20%20label%3D%22Capture%20state%20ceiling%22%2C%20kind%3D%22success%22%2C%20disabled%3Dd_prediction.value%20is%20None%2C%0A%20%20%20%20%20%20%20%20on_click%3Dlambda%20_v%3A%20store(%22D%22%2C%20capture_evidence(%0A%20%20%20%20%20%20%20%20%20%20%20%20track%3Dtrack_id%2C%20part%3D%22D%22%2C%20prediction%3Dd_prediction.value%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20inputs%3D%7B%22state_pressure%22%3A%20d_pressure.value%7D%2C%20baseline%3Dd_base_snap%2C%20result%3Dd_result_snap%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20upstream_inputs%3Dd_upstream%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20alternatives%3D(d_base_capacity_snap%2C%20d_result_capacity_snap)%2C%20model_key%3DMODEL_ID%2C%0A%20%20%20%20%20%20%20%20))%2C%0A%20%20%20%20)%0A%20%20%20%20_candidate_ok%20%3D%20_capture_feasible(e_result_snap)%0A%20%20%20%20_valid_conclusion%20%3D%20(e_conclusion.value%20%3D%3D%20%22candidate%22%20and%20_candidate_ok)%20or%20e_conclusion.value%20%3D%3D%20%22none%22%0A%20%20%20%20_e_disabled%20%3D%20(%0A%20%20%20%20%20%20%20%20e_prediction.value%20is%20None%20or%20e_rejected.value%20is%20None%0A%20%20%20%20%20%20%20%20or%20e_candidate.value%20%3D%3D%20e_rejected.value%20or%20not%20_valid_conclusion%0A%20%20%20%20)%0A%20%20%20%20_decision%20%3D%20e_candidate.value%20if%20e_conclusion.value%20%3D%3D%20%22candidate%22%20else%20%22none%22%0A%20%20%20%20_rejected_snap%20%3D%20e_changed_snaps%5Be_rejected.value%5D%20if%20e_rejected.value%20else%20e_result_snap%0A%20%20%20%20e_capture%20%3D%20mo.ui.button(%0A%20%20%20%20%20%20%20%20label%3D%22Capture%20launch%20decision%22%2C%20kind%3D%22success%22%2C%20disabled%3D_e_disabled%2C%0A%20%20%20%20%20%20%20%20on_click%3Dlambda%20_v%3A%20store(%22E%22%2C%20capture_evidence(%0A%20%20%20%20%20%20%20%20%20%20%20%20track%3Dtrack_id%2C%20part%3D%22E%22%2C%20prediction%3De_prediction.value%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20inputs%3D%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22traffic%22%3A%20e_pattern.value%2C%20%22candidate%22%3A%20e_candidate.value%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22rejected%22%3A%20e_rejected.value%2C%20%22conclusion%22%3A%20e_conclusion.value%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%7D%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20baseline%3De_result_snap%2C%20result%3D_rejected_snap%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20alternatives%3D(e_base_snap%2C%20*tuple(e_changed_snaps.values()))%2C%20decision%3D_decision%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20chosen_result%3De_result_snap%2C%20result_role%3D%22rejected%20alternative%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20upstream_inputs%3De_upstream%2C%20model_key%3DMODEL_ID%2C%0A%20%20%20%20%20%20%20%20))%2C%0A%20%20%20%20)%0A%20%20%20%20return%20(%0A%20%20%20%20%20%20%20%20a_capture%2C%0A%20%20%20%20%20%20%20%20a_upstream%2C%0A%20%20%20%20%20%20%20%20b_capture%2C%0A%20%20%20%20%20%20%20%20b_upstream%2C%0A%20%20%20%20%20%20%20%20c_capture%2C%0A%20%20%20%20%20%20%20%20c_upstream%2C%0A%20%20%20%20%20%20%20%20d_capture%2C%0A%20%20%20%20%20%20%20%20d_upstream%2C%0A%20%20%20%20%20%20%20%20e_capture%2C%0A%20%20%20%20%20%20%20%20e_upstream%2C%0A%20%20%20%20)%0A%0A%0A%40app.cell%0Adef%20_(ACADEMIC_LAB_CSS%2C%20LAB_CSS%2C%20mo%2C%20scenario%2C%20track)%3A%0A%20%20%20%20css%20%3D%20mo.Html(%22%22%22%0A%20%20%20%20%3Cstyle%3E%0A%20%20%20%20.pilot-head%7Bbackground%3Alinear-gradient(135deg%2C%23101827%2C%231d4f78)%3Bcolor%3Awhite%3Bborder-radius%3A14px%3Bpadding%3Aclamp(18px%2C4vw%2C32px)%3Bmargin-bottom%3A14px%7D%0A%20%20%20%20.pilot-top%7Bdisplay%3Aflex%3Bjustify-content%3Aspace-between%3Bgap%3A8px%3Bflex-wrap%3Awrap%3Bfont%3A700%20.72rem%20ui-monospace%3Bletter-spacing%3A.08em%7D%0A%20%20%20%20.pilot-head%20h1%7Bfont-size%3Aclamp(1.65rem%2C5vw%2C2.65rem)%3Bline-height%3A1.05%3Bmargin%3A16px%200%208px%7D.pilot-head%20p%7Bcolor%3A%23dbeafe%3Bmax-width%3A780px%7D%0A%20%20%20%20.pilot-meta%7Bdisplay%3Agrid%3Bgrid-template-columns%3Arepeat(auto-fit%2Cminmax(170px%2C1fr))%3Bgap%3A9px%3Bmargin-top%3A17px%7D.pilot-meta%20div%7Bbackground%3A%23ffffff14%3Bborder%3A1px%20solid%20%23ffffff26%3Bpadding%3A9px%2011px%3Bborder-radius%3A8px%7D%0A%20%20%20%20.pilot-note%7Bcolor%3A%23475569%3Bfont-size%3A.9rem%3Bline-height%3A1.5%3Bmargin%3A0%3Bpadding%3A0%202px%7D.saved%7Bborder-left%3A4px%20solid%20%232ca02c%3Bbackground%3A%23f0fdf4%3Bpadding%3A9px%2012px%3Bborder-radius%3A7px%7D%0A%20%20%20%20.lab-hud%7Bdisplay%3Aflex%3Balign-items%3Acenter%3Bflex-wrap%3Awrap%3Bgap%3A10px%3Bbackground%3A%23101827!important%3Bcolor%3A%23fff%3Bpadding%3A14px%2018px%3Bborder-radius%3A9px%7D.lab-hud%20.hud-label%7Bcolor%3A%23a7b9cf%7D.lab-hud%20.hud-value%7Bcolor%3A%23fff%7D.lab-hud%20.hud-active%7Bcolor%3A%2386efac%7D%0A%20%20%20%20%40media(max-width%3A520px)%7B.pilot-head%7Bborder-radius%3A9px%3Bmargin-top%3A30px%7D.pilot-meta%7Bgrid-template-columns%3A1fr%7D%7D%0A%20%20%20%20%3C%2Fstyle%3E%22%22%22)%0A%20%20%20%20header%20%3D%20mo.Html(f%22%22%22%3Csection%20class%3D%22pilot-head%22%3E%3Cdiv%20class%3D%22pilot-top%22%3E%3Cspan%3EVOLUME%20I%20%C2%B7%20LAB%2013%3C%2Fspan%3E%3Cspan%3EABOUT%2050%E2%80%9355%20MIN%3C%2Fspan%3E%3C%2Fdiv%3E%3Ch1%3EServing%20Under%20Deadlines%3C%2Fh1%3E%3Cp%3EWhich%20serving%20policy%20completes%20useful%20requests%20before%20their%20deadlines%20when%20demand%2C%20batching%2C%20and%20live%20state%20interact%3F%3C%2Fp%3E%3Cdiv%20class%3D%22pilot-meta%22%3E%3Cdiv%3E%3Cb%3ETrack%3C%2Fb%3E%3Cbr%3E%7Bscenario.label%7D%3C%2Fdiv%3E%3Cdiv%3E%3Cb%3EServing%20role%3C%2Fb%3E%3Cbr%3E%7Bscenario.serving_role%7D%3C%2Fdiv%3E%3Cdiv%3E%3Cb%3EWorkload%3C%2Fb%3E%3Cbr%3E%7Bscenario.workload%7D%3C%2Fdiv%3E%3Cdiv%3E%3Cb%3EDeliverable%3C%2Fb%3E%3Cbr%3EServing%20launch%20memo%3C%2Fdiv%3E%3C%2Fdiv%3E%3C%2Fsection%3E%22%22%22)%0A%20%20%20%20mo.vstack(%5B%0A%20%20%20%20%20%20%20%20LAB_CSS%2C%20ACADEMIC_LAB_CSS%2C%20css%2C%20header%2C%20track%2C%0A%20%20%20%20%20%20%20%20mo.Html('%3Cp%20class%3D%22pilot-note%22%3EEvery%20workload%20and%20latency%20is%20an%20illustrative%20scenario%20assumption.%20Each%20saved%20result%20keeps%20the%20exact%20replay%20inputs%20used%20to%20produce%20it.%3C%2Fp%3E')%2C%0A%20%20%20%20%5D%2C%20gap%3D0.5)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(mo)%3A%0A%20%20%20%20mo.sidebar(%5Bmo.md(%22%23%23%20Lab%20navigation%22)%2C%20mo.outline(label%3D%22Sections%22)%5D)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(%0A%20%20%20%20COLORS%2C%0A%20%20%20%20a_base_snap%2C%0A%20%20%20%20a_capture%2C%0A%20%20%20%20a_prediction%2C%0A%20%20%20%20a_result_snap%2C%0A%20%20%20%20a_upstream%2C%0A%20%20%20%20apply_plotly_theme%2C%0A%20%20%20%20audit_evidence%2C%0A%20%20%20%20b_base_snap%2C%0A%20%20%20%20b_capture%2C%0A%20%20%20%20b_load%2C%0A%20%20%20%20b_pattern%2C%0A%20%20%20%20b_prediction%2C%0A%20%20%20%20b_result_snap%2C%0A%20%20%20%20b_upstream%2C%0A%20%20%20%20c_base_snap%2C%0A%20%20%20%20c_capture%2C%0A%20%20%20%20c_policy%2C%0A%20%20%20%20c_prediction%2C%0A%20%20%20%20c_result_snap%2C%0A%20%20%20%20c_upstream%2C%0A%20%20%20%20d_base_capacity_snap%2C%0A%20%20%20%20d_capture%2C%0A%20%20%20%20d_prediction%2C%0A%20%20%20%20d_pressure%2C%0A%20%20%20%20d_result_capacity_snap%2C%0A%20%20%20%20d_upstream%2C%0A%20%20%20%20e_candidate%2C%0A%20%20%20%20e_capture%2C%0A%20%20%20%20e_changed_snaps%2C%0A%20%20%20%20e_conclusion%2C%0A%20%20%20%20e_pattern%2C%0A%20%20%20%20e_prediction%2C%0A%20%20%20%20e_rejected%2C%0A%20%20%20%20e_result_snap%2C%0A%20%20%20%20e_upstream%2C%0A%20%20%20%20final_choice%2C%0A%20%20%20%20final_rejected%2C%0A%20%20%20%20final_risk%2C%0A%20%20%20%20final_trigger%2C%0A%20%20%20%20get_evidence%2C%0A%20%20%20%20go%2C%0A%20%20%20%20mo%2C%0A%20%20%20%20rationale%2C%0A%20%20%20%20scenario%2C%0A%20%20%20%20track_id%2C%0A)%3A%0A%20%20%20%20_captures%20%3D%20get_evidence()%0A%20%20%20%20upstream%20%3D%20%7B%22A%22%3A%20a_upstream%2C%20%22B%22%3A%20b_upstream%2C%20%22C%22%3A%20c_upstream%2C%20%22D%22%3A%20d_upstream%2C%20%22E%22%3A%20e_upstream%7D%0A%20%20%20%20audit%20%3D%20audit_evidence(%0A%20%20%20%20%20%20%20%20_captures%2C%20track%3Dtrack_id%2C%20required_parts%3Dtuple(%22ABCDE%22)%2C%0A%20%20%20%20%20%20%20%20per_part_upstream_inputs%3Dupstream%2C%20contrast_required_parts%3Dtuple(%22ABCDE%22)%2C%0A%20%20%20%20)%0A%0A%20%20%20%20def%20table(rows)%3A%0A%20%20%20%20%20%20%20%20return%20mo.vstack(%5Bmo.ui.table(rows%2C%20pagination%3DFalse)%5D).style(%7B%22max-width%22%3A%20%22100%25%22%2C%20%22overflow-x%22%3A%20%22auto%22%7D)%0A%0A%20%20%20%20def%20_display_feasible(snapshot)%3A%0A%20%20%20%20%20%20%20%20return%20snapshot%5B%22deadline_missed_count%22%5D%20%3D%3D%200%20and%20snapshot%5B%22rejected_count%22%5D%20%3D%3D%200%20and%20snapshot%5B%22useful_completion_fraction%22%5D%20%3D%3D%201.0%0A%0A%20%20%20%20def%20outcome(snapshot)%3A%0A%20%20%20%20%20%20%20%20if%20snapshot%5B%22rejected_count%22%5D%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20f%22FAIL%20%C2%B7%20%7Bsnapshot%5B'rejected_count'%5D%7D%20rejected%22%0A%20%20%20%20%20%20%20%20if%20snapshot%5B%22deadline_missed_count%22%5D%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20f%22FAIL%20%C2%B7%20%7Bsnapshot%5B'deadline_missed_count'%5D%7D%20missed%20deadline%22%0A%20%20%20%20%20%20%20%20if%20not%20snapshot%5B%22preprocessing_parity%22%5D%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20%22FAIL%20%C2%B7%20preprocessing%20mismatch%22%0A%20%20%20%20%20%20%20%20return%20%22PASS%22%0A%0A%20%20%20%20def%20saved(part)%3A%0A%20%20%20%20%20%20%20%20capture%20%3D%20_captures.get(part)%0A%20%20%20%20%20%20%20%20if%20capture%20is%20None%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20mo.callout(mo.md(%22No%20saved%20evidence%20for%20this%20part.%22)%2C%20kind%3D%22warn%22)%0A%20%20%20%20%20%20%20%20if%20part%20in%20audit.stale%20or%20(part%2C%20part)%20in%20audit.identical_pairs%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20mo.callout(mo.md(%22**STALE%20OR%20NON-CONTRASTING%20EVIDENCE.**%20Live%20dependencies%20changed%2C%20or%20the%20saved%20runs%20are%20identical.%20Recapture.%22)%2C%20kind%3D%22danger%22)%0A%20%20%20%20%20%20%20%20data%20%3D%20capture.to_dict()%0A%20%20%20%20%20%20%20%20return%20mo.Html(f'%3Cdiv%20class%3D%22saved%22%3E%3Cb%3ESaved%20snapshot%3C%2Fb%3E%20%C2%B7%20original%20prediction%3A%20%7Bdata%5B%22prediction%22%5D%7D%3Cbr%3E%3Csmall%3ETrack%20%7Bdata%5B%22track%22%5D%7D%3B%20later%20controls%20cannot%20rewrite%20this%20evidence.%3C%2Fsmall%3E%3C%2Fdiv%3E')%0A%0A%20%20%20%20def%20part_a()%3A%0A%20%20%20%20%20%20%20%20intro%20%3D%20mo.md(%22%23%23%23%20A%20%C2%B7%20Where%20should%20we%20spend%20the%20latency%20budget%3F%20(9%20min)%5CnPredict%20before%20comparing%20two%20complete%20request%20paths.%20One%20path%20preserves%20the%20expected%20preprocessing%20contract%3B%20the%20other%20is%20faster%20but%20changes%20it.%22)%0A%20%20%20%20%20%20%20%20if%20a_prediction.value%20is%20None%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20mo.vstack(%5Bintro%2C%20a_prediction%5D)%0A%20%20%20%20%20%20%20%20stages%20%3D%20(%22ingress_ms%22%2C%20%22preprocessing_ms%22%2C%20%22formation_wait_ms%22%2C%20%22resource_queue_wait_ms%22%2C%20%22execution_ms%22%2C%20%22postprocess_ms%22)%0A%20%20%20%20%20%20%20%20labels%20%3D%20(%22Ingress%22%2C%20%22Preprocess%22%2C%20%22Batch%20wait%22%2C%20%22Queue%20wait%22%2C%20%22Execute%22%2C%20%22Postprocess%22)%0A%20%20%20%20%20%20%20%20fig%20%3D%20go.Figure()%0A%20%20%20%20%20%20%20%20for%20key%2C%20label%2C%20color%20in%20zip(stages%2C%20labels%2C%20(COLORS%5B%22BlueLine%22%5D%2C%20COLORS%5B%22OrangeLine%22%5D%2C%20COLORS%5B%22GreenLine%22%5D%2C%20COLORS%5B%22RedLine%22%5D%2C%20COLORS%5B%22Cloud%22%5D%2C%20COLORS%5B%22Grey%22%5D))%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20fig.add_bar(name%3Dlabel%2C%20x%3D%5B%22Matched%22%2C%20%22Mismatched%22%5D%2C%20y%3D%5Ba_base_snap%5B%22mean_stage_latency_ms%22%5D%5Bkey%5D%2C%20a_result_snap%5B%22mean_stage_latency_ms%22%5D%5Bkey%5D%5D%2C%20marker_color%3Dcolor)%0A%20%20%20%20%20%20%20%20fig.update_layout(barmode%3D%22stack%22%2C%20height%3D280%2C%20margin%3Ddict(l%3D20%2C%20r%3D20%2C%20t%3D20%2C%20b%3D20)%2C%20yaxis_title%3D%22Mean%20complete-path%20latency%20(ms)%22%2C%20legend_orientation%3D%22h%22)%0A%20%20%20%20%20%20%20%20rows%20%3D%20%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20%7B%22Path%22%3A%20f%22Matched%20(%7Bscenario.preprocessing_paths%5B0%5D.name%7D)%22%2C%20%22P99%22%3A%20f%22%7Ba_base_snap%5B'p99_latency_ms'%5D%3A.1f%7D%20ms%22%2C%20%22Parity%22%3A%20%22PASS%22%2C%20%22Useful%2Foffered%22%3A%20f%22%7Ba_base_snap%5B'useful_completion_count'%5D%7D%2F%7Ba_base_snap%5B'offered_count'%5D%7D%22%7D%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%7B%22Path%22%3A%20f%22Mismatched%20(%7Bscenario.preprocessing_paths%5B1%5D.name%7D)%22%2C%20%22P99%22%3A%20f%22%7Ba_result_snap%5B'p99_latency_ms'%5D%3A.1f%7D%20ms%22%2C%20%22Parity%22%3A%20%22FAIL%22%2C%20%22Useful%2Foffered%22%3A%20f%22%7Ba_result_snap%5B'useful_completion_count'%5D%7D%2F%7Ba_result_snap%5B'offered_count'%5D%7D%22%7D%2C%0A%20%20%20%20%20%20%20%20%5D%0A%20%20%20%20%20%20%20%20return%20mo.vstack(%5Bintro%2C%20a_prediction%2C%20apply_plotly_theme(fig)%2C%20table(rows)%2C%20mo.callout(mo.md(f%22**Your%20prediction%3A**%20%7Ba_prediction.value%7D.%20The%20matched%20path%20(%7Bscenario.preprocessing_paths%5B0%5D.name%7D)%20yields%20**%7Ba_base_snap%5B'useful_completion_count'%5D%7D%2F%7Ba_base_snap%5B'offered_count'%5D%7D**%20useful%20deadline%20completions%3B%20the%20mismatched%20path%20(%7Bscenario.preprocessing_paths%5B1%5D.name%7D)%20yields%20**%7Ba_result_snap%5B'useful_completion_count'%5D%7D%2F%7Ba_result_snap%5B'offered_count'%5D%7D**.%22)%2C%20kind%3D%22info%22)%2C%20a_capture%2C%20saved(%22A%22)%2C%20mo.accordion(%7B%22Calculation%20Notes%22%3A%20mo.md(%22Complete%20latency%20includes%20ingress%2C%20preprocessing%2C%20batch%20formation%2C%20resource%20queueing%2C%20batch%20execution%2C%20and%20postprocessing.%20Preprocessing%20parity%20is%20an%20explicit%20contract%20check%3B%20the%20scenario%20does%20not%20invent%20an%20accuracy%20score.%22)%7D)%5D)%0A%0A%20%20%20%20def%20part_b()%3A%0A%20%20%20%20%20%20%20%20intro%20%3D%20mo.md(%22%23%23%23%20B%20%C2%B7%20How%20much%20headroom%20does%20traffic%20require%3F%20(10%20min)%5CnKeep%20the%20single-request%20policy%20fixed.%20Compare%20steady%20arrivals%20with%20an%20explicit%20transient%20trace.%22)%0A%20%20%20%20%20%20%20%20if%20b_prediction.value%20is%20None%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20mo.vstack(%5Bintro%2C%20mo.hstack(%5Bb_pattern%2C%20b_load%5D%2C%20widths%3D%22equal%22%2C%20wrap%3DTrue)%2C%20b_prediction%5D)%0A%20%20%20%20%20%20%20%20fig%20%3D%20go.Figure(%5Bgo.Bar(x%3D%5B%22Steady%22%2C%20b_pattern.value.title()%5D%2C%20y%3D%5Bb_base_snap%5B%22p99_latency_ms%22%5D%2C%20b_result_snap%5B%22p99_latency_ms%22%5D%5D%2C%20marker_color%3D%5BCOLORS%5B%22BlueLine%22%5D%2C%20COLORS%5B%22RedLine%22%5D%5D)%5D)%0A%20%20%20%20%20%20%20%20fig.add_hline(y%3Dscenario.deadline.to(%22ms%22).magnitude%2C%20line_dash%3D%22dash%22%2C%20annotation_text%3D%22Deadline%22)%0A%20%20%20%20%20%20%20%20fig.update_layout(height%3D260%2C%20margin%3Ddict(l%3D20%2C%20r%3D20%2C%20t%3D20%2C%20b%3D20)%2C%20yaxis_title%3D%22Empirical%20complete-path%20p99%20(ms)%22)%0A%20%20%20%20%20%20%20%20rows%20%3D%20%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20%7B%22Trace%22%3A%20%22Steady%22%2C%20%22P50%22%3A%20f%22%7Bb_base_snap%5B'p50_latency_ms'%5D%3A.1f%7D%20ms%22%2C%20%22P99%22%3A%20f%22%7Bb_base_snap%5B'p99_latency_ms'%5D%3A.1f%7D%20ms%22%2C%20%22Queue%20peak%22%3A%20b_base_snap%5B%22max_queue_depth%22%5D%2C%20%22Missed%22%3A%20b_base_snap%5B%22deadline_missed_count%22%5D%2C%20%22Rejected%22%3A%20b_base_snap%5B%22rejected_count%22%5D%7D%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%7B%22Trace%22%3A%20b_pattern.value.title()%2C%20%22P50%22%3A%20f%22%7Bb_result_snap%5B'p50_latency_ms'%5D%3A.1f%7D%20ms%22%2C%20%22P99%22%3A%20f%22%7Bb_result_snap%5B'p99_latency_ms'%5D%3A.1f%7D%20ms%22%2C%20%22Queue%20peak%22%3A%20b_result_snap%5B%22max_queue_depth%22%5D%2C%20%22Missed%22%3A%20b_result_snap%5B%22deadline_missed_count%22%5D%2C%20%22Rejected%22%3A%20b_result_snap%5B%22rejected_count%22%5D%7D%2C%0A%20%20%20%20%20%20%20%20%5D%0A%20%20%20%20%20%20%20%20return%20mo.vstack(%5Bintro%2C%20mo.hstack(%5Bb_pattern%2C%20b_load%5D%2C%20widths%3D%22equal%22%2C%20wrap%3DTrue)%2C%20b_prediction%2C%20apply_plotly_theme(fig)%2C%20table(rows)%2C%20mo.callout(mo.md(f%22**Your%20prediction%3A**%20%7Bb_prediction.value%7D.%20Changed%20traffic%20produces%20p99%20**%7Bb_result_snap%5B'p99_latency_ms'%5D%3A.1f%7D%20ms**%2C%20**%7Bb_result_snap%5B'deadline_missed_count'%5D%7D**%20deadline%20misses%2C%20and%20**%7Bb_result_snap%5B'rejected_count'%5D%7D**%20rejections.%22)%2C%20kind%3D%22danger%22%20if%20(b_result_snap%5B%22deadline_missed_count%22%5D%20%3E%200%20or%20b_result_snap%5B%22rejected_count%22%5D%20%3E%200)%20else%20%22success%22)%2C%20b_capture%2C%20saved(%22B%22)%2C%20mo.accordion(%7B%22Calculation%20Notes%22%3A%20mo.md(%22The%20deterministic%20trace%20replays%20every%20request%20through%20the%20same%20bounded%20server.%20The%20offered-load%20control%20scales%20every%20phase%20rate%20before%20the%20replay.%20P99%20is%20the%20nearest-rank%20percentile%20of%20complete%20request%20durations%3B%20rejected%20requests%20are%20counted%20separately%20and%20never%20disappear%20inside%20the%20percentile.%22)%7D)%5D)%0A%0A%20%20%20%20def%20part_c()%3A%0A%20%20%20%20%20%20%20%20intro%20%3D%20mo.md(%22%23%23%23%20C%20%C2%B7%20When%20is%20waiting%20for%20a%20batch%20worthwhile%3F%20(10%20min)%5CnUse%20the%20same%20burst%20trace%20for%20a%20single-request%20baseline%20and%20the%20selected%20size%2Ftimeout%20policy.%22)%0A%20%20%20%20%20%20%20%20if%20c_prediction.value%20is%20None%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20mo.vstack(%5Bintro%2C%20c_policy%2C%20c_prediction%5D)%0A%20%20%20%20%20%20%20%20rows%20%3D%20%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20%7B%22Policy%22%3A%20%22Single%22%2C%20%22Batches%22%3A%20c_base_snap%5B%22batch_count%22%5D%2C%20%22Mean%20batch%22%3A%20f%22%7Bc_base_snap%5B'mean_batch_size'%5D%3A.2f%7D%22%2C%20%22Busy%20replica%20time%22%3A%20f%22%7Bc_base_snap%5B'busy_replica_time_ms'%5D%3A.1f%7D%20ms%22%2C%20%22P99%22%3A%20f%22%7Bc_base_snap%5B'p99_latency_ms'%5D%3A.1f%7D%20ms%22%2C%20%22Outcome%22%3A%20outcome(c_base_snap)%7D%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%7B%22Policy%22%3A%20c_policy.value%2C%20%22Batches%22%3A%20c_result_snap%5B%22batch_count%22%5D%2C%20%22Mean%20batch%22%3A%20f%22%7Bc_result_snap%5B'mean_batch_size'%5D%3A.2f%7D%22%2C%20%22Busy%20replica%20time%22%3A%20f%22%7Bc_result_snap%5B'busy_replica_time_ms'%5D%3A.1f%7D%20ms%22%2C%20%22P99%22%3A%20f%22%7Bc_result_snap%5B'p99_latency_ms'%5D%3A.1f%7D%20ms%22%2C%20%22Outcome%22%3A%20outcome(c_result_snap)%7D%2C%0A%20%20%20%20%20%20%20%20%5D%0A%20%20%20%20%20%20%20%20return%20mo.vstack(%5Bintro%2C%20c_policy%2C%20c_prediction%2C%20table(rows)%2C%20mo.callout(mo.md(f%22**Your%20prediction%3A**%20%7Bc_prediction.value%7D.%20The%20selected%20policy%20uses%20**%7Bc_result_snap%5B'batch_count'%5D%7D**%20batches%20and%20**%7Bc_result_snap%5B'busy_replica_time_ms'%5D%3A.1f%7D%20replica-ms**%2C%20with%20complete-path%20p99%20**%7Bc_result_snap%5B'p99_latency_ms'%5D%3A.1f%7D%20ms**.%22)%2C%20kind%3D%22info%22)%2C%20c_capture%2C%20saved(%22C%22)%2C%20mo.accordion(%7B%22Calculation%20Notes%22%3A%20mo.md(%22A%20batch%20dispatches%20when%20its%20size%20limit%20fills%20or%20its%20oldest%20request%20reaches%20the%20timeout.%20Batch%20size%20and%20timeout%20therefore%20change%20actual%20dispatch%20and%20completion%20times.%20Busy%20replica%20time%20reports%20observable%20execution%20work.%22)%7D)%5D)%0A%0A%20%20%20%20def%20part_d()%3A%0A%20%20%20%20%20%20%20%20_state_name%20%3D%20%22KV%20%2B%20working%20state%22%20if%20track_id%20%3D%3D%20%22cloud%22%20else%20%22working-state%20buffers%22%0A%20%20%20%20%20%20%20%20intro%20%3D%20mo.md(f%22%23%23%23%20D%20%C2%B7%20What%20state%20limits%20concurrency%3F%20(9%20min)%5CnThis%20track%20accounts%20for%20**%7B_state_name%7D**.%20Predict%20the%20capacity%20result%20before%20revealing%20the%20selected%20pressure%20case.%22)%0A%20%20%20%20%20%20%20%20if%20d_prediction.value%20is%20None%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20mo.vstack(%5Bintro%2C%20d_pressure%2C%20d_prediction%5D)%0A%20%20%20%20%20%20%20%20rows%20%3D%20%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20%7B%22Case%22%3A%20%22Baseline%22%2C%20%22Fixed%20memory%22%3A%20d_base_capacity_snap%5B%22fixed_memory_display%22%5D%2C%20%22State%2Frequest%22%3A%20d_base_capacity_snap%5B%22state_per_request_display%22%5D%2C%20%22KV%2Frequest%22%3A%20d_base_capacity_snap%5B%22kv_state_per_request_display%22%5D%2C%20%22Concurrent%20ceiling%22%3A%20d_base_capacity_snap%5B%22max_requests_per_replica%22%5D%2C%20%22Outcome%22%3A%20%22PASS%22%20if%20d_base_capacity_snap%5B%22feasible%22%5D%20else%20%22FAIL%22%7D%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%7B%22Case%22%3A%20d_pressure.value.title()%2C%20%22Fixed%20memory%22%3A%20d_result_capacity_snap%5B%22fixed_memory_display%22%5D%2C%20%22State%2Frequest%22%3A%20d_result_capacity_snap%5B%22state_per_request_display%22%5D%2C%20%22KV%2Frequest%22%3A%20d_result_capacity_snap%5B%22kv_state_per_request_display%22%5D%2C%20%22Concurrent%20ceiling%22%3A%20d_result_capacity_snap%5B%22max_requests_per_replica%22%5D%2C%20%22Outcome%22%3A%20%22PASS%22%20if%20d_result_capacity_snap%5B%22feasible%22%5D%20else%20%22FAIL%22%7D%2C%0A%20%20%20%20%20%20%20%20%5D%0A%20%20%20%20%20%20%20%20return%20mo.vstack(%5Bintro%2C%20d_pressure%2C%20d_prediction%2C%20table(rows)%2C%20mo.callout(mo.md(f%22**Your%20prediction%3A**%20%7Bd_prediction.value%7D.%20The%20per-replica%20concurrency%20ceiling%20changes%20from%20**%7Bd_base_capacity_snap%5B'max_requests_per_replica'%5D%7D**%20to%20**%7Bd_result_capacity_snap%5B'max_requests_per_replica'%5D%7D**%3B%20the%20selected%20case%20is%20**%7B'feasible'%20if%20d_result_capacity_snap%5B'feasible'%5D%20else%20'infeasible'%7D**.%22)%2C%20kind%3D%22success%22%20if%20d_result_capacity_snap%5B%22feasible%22%5D%20else%20%22danger%22)%2C%20d_capture%2C%20saved(%22D%22)%2C%20mo.accordion(%7B%22Calculation%20Notes%22%3A%20mo.md(%22Fixed%20memory%20equals%20resident%20model%20memory%20plus%20batch%20workspace.%20Remaining%20memory%20is%20divided%20by%20live%20state%20per%20request.%20KV%20state%20appears%20only%20for%20the%20compatible%20language%20workload%3B%20other%20tracks%20use%20their%20own%20activation%2C%20frame%2C%20audio%2C%20or%20image%20buffers.%22)%7D)%5D)%0A%0A%20%20%20%20def%20part_e()%3A%0A%20%20%20%20%20%20%20%20intro%20%3D%20mo.md(%22%23%23%23%20E%20%C2%B7%20Which%20policy%20survives%20demand%20changes%3F%20(10%20min)%5CnCompare%20a%20candidate%20and%20a%20tested%20alternative%20under%20the%20same%20changed%20trace.%20A%20launch%20passes%20only%20with%20zero%20deadline%20misses%2C%20zero%20rejections%2C%20and%20preprocessing%20parity.%22)%0A%20%20%20%20%20%20%20%20if%20e_prediction.value%20is%20None%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20mo.vstack(%5Bintro%2C%20e_pattern%2C%20mo.hstack(%5Be_candidate%2C%20e_rejected%5D%2C%20widths%3D%22equal%22%2C%20wrap%3DTrue)%2C%20e_prediction%5D)%0A%20%20%20%20%20%20%20%20rows%20%3D%20%5B%5D%0A%20%20%20%20%20%20%20%20for%20name%20in%20(%22reserve%22%2C%20%22activate%22%2C%20%22admit%22)%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20snap%20%3D%20e_changed_snaps%5Bname%5D%0A%20%20%20%20%20%20%20%20%20%20%20%20rows.append(%7B%22Policy%22%3A%20name.title()%2C%20%22P99%22%3A%20f%22%7Bsnap%5B'p99_latency_ms'%5D%3A.1f%7D%20ms%22%2C%20%22Missed%22%3A%20snap%5B%22deadline_missed_count%22%5D%2C%20%22Rejected%22%3A%20snap%5B%22rejected_count%22%5D%2C%20%22Useful%2Foffered%22%3A%20f%22%7Bsnap%5B'useful_completion_count'%5D%7D%2F%7Bsnap%5B'offered_count'%5D%7D%22%2C%20%22Provisioned%20time%22%3A%20f%22%7Bsnap%5B'provisioned_replica_time_ms'%5D%3A.1f%7D%20replica-ms%22%2C%20%22Outcome%22%3A%20outcome(snap)%7D)%0A%20%20%20%20%20%20%20%20_alternative%20%3D%20e_changed_snaps%5Be_rejected.value%5D%20if%20e_rejected.value%20else%20None%0A%20%20%20%20%20%20%20%20_valid%20%3D%20e_rejected.value%20is%20not%20None%20and%20e_candidate.value%20!%3D%20e_rejected.value%0A%20%20%20%20%20%20%20%20_candidate_ok%20%3D%20_display_feasible(e_result_snap)%0A%20%20%20%20%20%20%20%20_conclusion_ok%20%3D%20(e_conclusion.value%20%3D%3D%20%22candidate%22%20and%20_candidate_ok)%20or%20e_conclusion.value%20%3D%3D%20%22none%22%0A%20%20%20%20%20%20%20%20note%20%3D%20%22Choose%20two%20different%20tested%20policies%20and%20a%20conclusion%20supported%20by%20their%20outcomes.%22%20if%20not%20(_valid%20and%20_conclusion_ok)%20else%20f%22Candidate%3A%20%7Boutcome(e_result_snap)%7D.%20Tested%20alternative%3A%20%7Boutcome(_alternative)%7D.%22%0A%20%20%20%20%20%20%20%20return%20mo.vstack(%5Bintro%2C%20e_pattern%2C%20mo.hstack(%5Be_candidate%2C%20e_rejected%5D%2C%20widths%3D%22equal%22%2C%20wrap%3DTrue)%2C%20e_prediction%2C%20table(rows)%2C%20e_conclusion%2C%20mo.callout(mo.md(f%22**Your%20prediction%3A**%20%7Be_prediction.value%7D.%20%7Bnote%7D%22)%2C%20kind%3D%22success%22%20if%20_valid%20and%20_conclusion_ok%20else%20%22warn%22)%2C%20e_capture%2C%20saved(%22E%22)%2C%20mo.accordion(%7B%22Calculation%20Notes%22%3A%20mo.md(%22Reserve%20capacity%20is%20available%20from%20the%20start.%20Delayed%20activation%20becomes%20available%20only%20after%20its%20activation%20delay.%20Bounded%20admission%20caps%20the%20waiting%20queue%20and%20reports%20rejected%20requests%20separately.%20Provisioned%20replica-time%20exposes%20the%20resource%20consequence%20of%20each%20policy.%22)%7D)%5D)%0A%0A%20%20%20%20def%20build_synthesis()%3A%0A%20%20%20%20%20%20%20%20rows%20%3D%20%5B%5D%0A%20%20%20%20%20%20%20%20for%20part%20in%20%22ABCDE%22%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20capture%20%3D%20_captures.get(part)%0A%20%20%20%20%20%20%20%20%20%20%20%20rows.append(%7B%22Part%22%3A%20part%2C%20%22Prediction%22%3A%20capture.to_dict()%5B%22prediction%22%5D%20if%20capture%20else%20%22%E2%80%94%22%2C%20%22Evidence%22%3A%20%22CURRENT%22%20if%20capture%20and%20part%20not%20in%20audit.stale%20and%20(part%2C%20part)%20not%20in%20audit.identical_pairs%20else%20(%22STALE%22%20if%20capture%20else%20%22MISSING%22)%7D)%0A%20%20%20%20%20%20%20%20_e_decision%20%3D%20_captures%5B%22E%22%5D.to_dict()%5B%22decision%22%5D%20if%20%22E%22%20in%20_captures%20else%20None%0A%20%20%20%20%20%20%20%20_tested_rejected%20%3D%20_captures%5B%22E%22%5D.to_dict()%5B%22inputs%22%5D%5B%22rejected%22%5D%20if%20%22E%22%20in%20_captures%20else%20None%0A%20%20%20%20%20%20%20%20if%20%22E%22%20in%20_captures%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20_e_saved%20%3D%20_captures%5B%22E%22%5D.to_dict()%0A%20%20%20%20%20%20%20%20%20%20%20%20_candidate_saved%20%3D%20_e_saved%5B%22chosen_result%22%5D%20or%20_e_saved%5B%22baseline%22%5D%0A%20%20%20%20%20%20%20%20%20%20%20%20_rejected_saved%20%3D%20_e_saved%5B%22result%22%5D%0A%20%20%20%20%20%20%20%20%20%20%20%20_decision_rows%20%3D%20table(%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%7B%22Role%22%3A%20%22Recommended%22%20if%20_e_decision%20!%3D%20%22none%22%20else%20%22Tested%20candidate%22%2C%20%22Policy%22%3A%20_e_saved%5B%22inputs%22%5D%5B%22candidate%22%5D%2C%20%22P99%22%3A%20f%22%7B_candidate_saved%5B'p99_latency_ms'%5D%3A.1f%7D%20ms%22%2C%20%22Missed%22%3A%20_candidate_saved%5B%22deadline_missed_count%22%5D%2C%20%22Rejected%22%3A%20_candidate_saved%5B%22rejected_count%22%5D%2C%20%22Provisioned%22%3A%20f%22%7B_candidate_saved%5B'provisioned_replica_time_ms'%5D%3A.1f%7D%20replica-ms%22%7D%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%7B%22Role%22%3A%20%22Rejected%20alternative%22%2C%20%22Policy%22%3A%20_tested_rejected%2C%20%22P99%22%3A%20f%22%7B_rejected_saved%5B'p99_latency_ms'%5D%3A.1f%7D%20ms%22%2C%20%22Missed%22%3A%20_rejected_saved%5B%22deadline_missed_count%22%5D%2C%20%22Rejected%22%3A%20_rejected_saved%5B%22rejected_count%22%5D%2C%20%22Provisioned%22%3A%20f%22%7B_rejected_saved%5B'provisioned_replica_time_ms'%5D%3A.1f%7D%20replica-ms%22%7D%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%5D)%0A%20%20%20%20%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20_decision_rows%20%3D%20mo.callout(mo.md(%22Capture%20Part%20E%20to%20expose%20the%20quantified%20policy%20comparison.%22)%2C%20kind%3D%22warn%22)%0A%20%20%20%20%20%20%20%20complete%20%3D%20audit.complete%20and%20all(widget.value%20is%20not%20None%20for%20widget%20in%20(final_choice%2C%20final_rejected%2C%20final_trigger%2C%20final_risk))%20and%20bool(rationale.value.strip())%20and%20final_choice.value%20%3D%3D%20_e_decision%20and%20final_rejected.value%20%3D%3D%20_tested_rejected%20and%20final_choice.value%20!%3D%20final_rejected.value%0A%20%20%20%20%20%20%20%20return%20mo.vstack(%5Bmo.md(%22%23%23%23%20Synthesis%20%C2%B7%20Defend%20the%20launch%20decision%20(5%20min)%5CnUse%20saved%20evidence%20to%20name%20the%20chosen%20policy%20or%20defensible%20hold%2C%20quantify%20the%20tested%20alternative%2C%20state%20one%20remaining%20limitation%2C%20and%20set%20a%20reevaluation%20trigger.%22)%2C%20table(rows)%2C%20_decision_rows%2C%20mo.callout(mo.md(%22Saved%20snapshots%20remain%20fixed%20while%20live%20controls%20move.%20Recapture%20stale%20evidence%20before%20generating%20the%20report.%22)%2C%20kind%3D%22info%22)%2C%20mo.hstack(%5Bfinal_choice%2C%20final_rejected%5D%2C%20widths%3D%22equal%22%2C%20wrap%3DTrue)%2C%20mo.hstack(%5Bfinal_trigger%2C%20final_risk%5D%2C%20widths%3D%22equal%22%2C%20wrap%3DTrue)%2C%20rationale%2C%20mo.callout(mo.md(%22**Ready%20for%20the%20local%20report.**%22%20if%20complete%20else%20%22Complete%20five%20current%20contrasts%2C%20match%20the%20Part%20E%20decision%20and%20tested%20alternative%2C%20then%20add%20a%20limitation%2C%20trigger%2C%20and%20quantified%20rationale.%22)%2C%20kind%3D%22success%22%20if%20complete%20else%20%22warn%22)%5D)%0A%0A%20%20%20%20mo.ui.tabs(%7B%22Part%20A%22%3A%20part_a()%2C%20%22Part%20B%22%3A%20part_b()%2C%20%22Part%20C%22%3A%20part_c()%2C%20%22Part%20D%22%3A%20part_d()%2C%20%22Part%20E%22%3A%20part_e()%2C%20%22Synthesis%22%3A%20build_synthesis()%7D)%0A%20%20%20%20return%20(audit%2C)%0A%0A%0A%40app.cell%0Adef%20_(%0A%20%20%20%20audit%2C%0A%20%20%20%20build_lab_report%2C%0A%20%20%20%20final_choice%2C%0A%20%20%20%20final_rejected%2C%0A%20%20%20%20final_risk%2C%0A%20%20%20%20final_trigger%2C%0A%20%20%20%20get_evidence%2C%0A%20%20%20%20get_lab_metadata%2C%0A%20%20%20%20mo%2C%0A%20%20%20%20rationale%2C%0A%20%20%20%20report_export_panel%2C%0A%20%20%20%20scenario%2C%0A%20%20%20%20track_id%2C%0A)%3A%0A%20%20%20%20_captures%20%3D%20get_evidence()%0A%20%20%20%20_e_decision%20%3D%20_captures%5B%22E%22%5D.to_dict()%5B%22decision%22%5D%20if%20%22E%22%20in%20_captures%20else%20None%0A%20%20%20%20_tested_rejected%20%3D%20_captures%5B%22E%22%5D.to_dict()%5B%22inputs%22%5D%5B%22rejected%22%5D%20if%20%22E%22%20in%20_captures%20else%20None%0A%20%20%20%20_ready%20%3D%20audit.complete%20and%20all(widget.value%20is%20not%20None%20for%20widget%20in%20(final_choice%2C%20final_rejected%2C%20final_trigger%2C%20final_risk))%20and%20bool(rationale.value.strip())%20and%20final_choice.value%20%3D%3D%20_e_decision%20and%20final_rejected.value%20%3D%3D%20_tested_rejected%20and%20final_choice.value%20!%3D%20final_rejected.value%0A%20%20%20%20mo.stop(not%20_ready)%0A%20%20%20%20snapshots%20%3D%20%7Bpart%3A%20_captures%5Bpart%5D.to_dict()%20for%20part%20in%20%22ABCDE%22%7D%0A%20%20%20%20report%20%3D%20build_lab_report(%0A%20%20%20%20%20%20%20%20get_lab_metadata(%22vol1%2Flab_13_model_serving.py%22)%2C%0A%20%20%20%20%20%20%20%20track%3Dtrack_id%2C%0A%20%20%20%20%20%20%20%20scenario%3Df%22%7Bscenario.serving_role%7D%20%C2%B7%20%7Bscenario.workload%7D%22%2C%0A%20%20%20%20%20%20%20%20learning_objectives%3D%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20%22Decompose%20complete%20request%20latency%20and%20verify%20preprocessing%20parity.%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22Replay%20transient%20arrivals%20and%20interpret%20empirical%20tail%20latency%20and%20admission%20loss.%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22Compare%20batching%2C%20state%20capacity%2C%20and%20launch%20policies%20from%20controlled%20baselines.%22%2C%0A%20%20%20%20%20%20%20%20%5D%2C%0A%20%20%20%20%20%20%20%20predictions%3D%7Bpart%3A%20snapshots%5Bpart%5D%5B%22prediction%22%5D%20for%20part%20in%20%22ABCDE%22%7D%2C%0A%20%20%20%20%20%20%20%20knob_settings%3D%7Bpart%3A%20snapshots%5Bpart%5D%5B%22inputs%22%5D%20for%20part%20in%20%22ABCDE%22%7D%2C%0A%20%20%20%20%20%20%20%20evidence_summary%3D%7Bpart%3A%20%7B%22baseline%22%3A%20snapshots%5Bpart%5D%5B%22baseline%22%5D%2C%20%22result%22%3A%20snapshots%5Bpart%5D%5B%22result%22%5D%2C%20%22chosen_result%22%3A%20snapshots%5Bpart%5D%5B%22chosen_result%22%5D%2C%20%22result_role%22%3A%20snapshots%5Bpart%5D%5B%22result_role%22%5D%2C%20%22alternatives%22%3A%20snapshots%5Bpart%5D%5B%22alternatives%22%5D%7D%20for%20part%20in%20%22ABCDE%22%7D%2C%0A%20%20%20%20%20%20%20%20decisions%3D%7B%22recommendation%22%3A%20final_choice.value%2C%20%22rejected_alternative%22%3A%20final_rejected.value%2C%20%22reevaluation_trigger%22%3A%20final_trigger.value%7D%2C%0A%20%20%20%20%20%20%20%20final_decision%3D%7B%22recommendation%22%3A%20final_choice.value%2C%20%22rejected_alternative%22%3A%20final_rejected.value%2C%20%22rationale%22%3A%20rationale.value%7D%2C%0A%20%20%20%20%20%20%20%20big_takeaways%3D%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20%22Useful%20deadline%20completions%20require%20both%20latency%20and%20preprocessing%20parity.%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22Batching%20changes%20actual%20schedules%2C%20execution%20work%2C%20and%20tail%20latency%20together.%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22Admission%20loss%20must%20remain%20visible%20beside%20percentiles.%22%2C%0A%20%20%20%20%20%20%20%20%5D%2C%0A%20%20%20%20%20%20%20%20reflections%3D%7B%22rationale%22%3A%20rationale.value%2C%20%22remaining_limitation%22%3A%20final_risk.value%7D%2C%0A%20%20%20%20%20%20%20%20residual_risk%3Dfinal_risk.value%2C%0A%20%20%20%20%20%20%20%20result_snapshot%3D%7B%22track%22%3A%20track_id%2C%20%22captures%22%3A%20snapshots%2C%20%22recommendation%22%3A%20final_choice.value%2C%20%22rejected%22%3A%20final_rejected.value%2C%20%22trigger%22%3A%20final_trigger.value%2C%20%22residual_risk%22%3A%20final_risk.value%7D%2C%0A%20%20%20%20%20%20%20%20source_trace%3D%7B%22scenario%22%3A%20scenario.assumption_note%2C%20%22calculation%22%3A%20%22Deterministic%20request%20replay%20with%20complete-path%20empirical%20percentiles.%22%7D%2C%0A%20%20%20%20)%0A%20%20%20%20mo.vstack(%5Bmo.md(%22%23%23%20Local%20evidence%20report%22)%2C%20report_export_panel(report)%5D)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Aasync%20def%20_(%0A%20%20%20%20MODEL_ID%2C%0A%20%20%20%20audit%2C%0A%20%20%20%20final_choice%2C%0A%20%20%20%20final_rejected%2C%0A%20%20%20%20final_risk%2C%0A%20%20%20%20final_trigger%2C%0A%20%20%20%20get_evidence%2C%0A%20%20%20%20ledger%2C%0A%20%20%20%20mo%2C%0A%20%20%20%20rationale%2C%0A%20%20%20%20track_id%2C%0A)%3A%0A%20%20%20%20_captures%20%3D%20get_evidence()%0A%20%20%20%20_e_decision%20%3D%20_captures%5B%22E%22%5D.to_dict()%5B%22decision%22%5D%20if%20%22E%22%20in%20_captures%20else%20None%0A%20%20%20%20_tested_rejected%20%3D%20_captures%5B%22E%22%5D.to_dict()%5B%22inputs%22%5D%5B%22rejected%22%5D%20if%20%22E%22%20in%20_captures%20else%20None%0A%20%20%20%20_ready%20%3D%20audit.complete%20and%20all(widget.value%20is%20not%20None%20for%20widget%20in%20(final_choice%2C%20final_rejected%2C%20final_trigger%2C%20final_risk))%20and%20bool(rationale.value.strip())%20and%20final_choice.value%20%3D%3D%20_e_decision%20and%20final_rejected.value%20%3D%3D%20_tested_rejected%20and%20final_choice.value%20!%3D%20final_rejected.value%0A%20%20%20%20_status%20%3D%20%22EVIDENCE%20IN%20PROGRESS%22%0A%20%20%20%20if%20_ready%3A%0A%20%20%20%20%20%20%20%20try%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20ledger.save(chapter%3D13%2C%20design%3D%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22schema_version%22%3A%201%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22lab_id%22%3A%20%22v1_13%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22track_id%22%3A%20track_id%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22model_id%22%3A%20MODEL_ID%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22evidence%22%3A%20%7Bpart%3A%20capture.to_dict()%20for%20part%2C%20capture%20in%20_captures.items()%7D%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22recommendation%22%3A%20final_choice.value%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22rejected_alternative%22%3A%20final_rejected.value%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22reevaluation_trigger%22%3A%20final_trigger.value%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22residual_risk%22%3A%20final_risk.value%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22rationale%22%3A%20rationale.value%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%7D)%0A%20%20%20%20%20%20%20%20%20%20%20%20await%20ledger.flush()%0A%20%20%20%20%20%20%20%20except%20Exception%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20_status%20%3D%20%22LOCAL%20SAVE%20FAILED%20%C2%B7%20DOWNLOAD%20THE%20REPORT%20TO%20KEEP%20YOUR%20EVIDENCE%22%0A%20%20%20%20%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20_status%20%3D%20%22SAVED%22%0A%20%20%20%20mo.Html(f'%3Cdiv%20class%3D%22lab-hud%22%3E%3Cspan%20class%3D%22hud-label%22%3ELAB%3C%2Fspan%3E%3Cspan%20class%3D%22hud-value%22%3E13%20%C2%B7%20Serving%20Under%20Deadlines%3C%2Fspan%3E%3Cspan%20style%3D%22flex%3A1%22%3E%3C%2Fspan%3E%3Cspan%20class%3D%22hud-label%22%3E%20%C2%B7%20STATUS%3A%20%3C%2Fspan%3E%3Cspan%20class%3D%22hud-active%22%3E%7B_status%7D%3C%2Fspan%3E%3C%2Fdiv%3E')%0A%20%20%20%20return%0A%0A%0Aif%20__name__%20%3D%3D%20%22__main__%22%3A%0A%20%20%20%20app.run()%0A