Lab 05: Tensor Costs

Lab 05: Tensor Costs · MLSysBook

import%20marimo%0A%0A__generated_with%20%3D%20%220.25.0%22%0Aapp%20%3D%20marimo.App(width%3D%22full%22%2C%20app_title%3D%22Lab%2005%3A%20Tensor%20Costs%20%C2%B7%20MLSysBook%22)%0A%0A%0A%40app.cell%0Aasync%20def%20_()%3A%0A%20%20%20%20import%20sys%0A%20%20%20%20from%20pathlib%20import%20Path%0A%20%20%20%20import%20marimo%20as%20mo%0A%0A%20%20%20%20if%20sys.platform%20%3D%3D%20%22emscripten%22%3A%0A%20%20%20%20%20%20%20%20import%20micropip%0A%20%20%20%20%20%20%20%20await%20micropip.install(%5B%22pydantic%22%2C%20%22pint%22%2C%20%22plotly%22%2C%20%22pandas%22%5D%2C%20keep_going%3DFalse)%0A%20%20%20%20%20%20%20%20await%20micropip.install(%22..%2F..%2Fwheels%2Fmlsysim-0.1.2-py3-none-any.whl%22%2C%20keep_going%3DFalse)%0A%20%20%20%20%20%20%20%20await%20micropip.install(%22..%2F..%2Fwheels%2Fmlsysbook_labs-0.1.0-py3-none-any.whl%22%2C%20keep_going%3DFalse)%0A%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20labs_dir%20%3D%20Path(__file__).resolve().parents%5B1%5D%0A%20%20%20%20%20%20%20%20if%20str(labs_dir)%20not%20in%20sys.path%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20sys.path.insert(0%2C%20str(labs_dir))%0A%20%20%20%20%20%20%20%20from%20bootstrap%20import%20native_bootstrap%0A%20%20%20%20%20%20%20%20native_bootstrap(__file__)%0A%0A%20%20%20%20import%20plotly.graph_objects%20as%20go%0A%20%20%20%20from%20mlsysim.engine.v1_05_experiments%20import%20(%0A%20%20%20%20%20%20%20%20NUMERICAL_CASES%2C%0A%20%20%20%20%20%20%20%20TRACKS%2C%0A%20%20%20%20%20%20%20%20default_batch%2C%0A%20%20%20%20%20%20%20%20evaluate_track%2C%0A%20%20%20%20%20%20%20%20growth_comparison%2C%0A%20%20%20%20%20%20%20%20repair_comparison%2C%0A%20%20%20%20%20%20%20%20run_numerical_case%2C%0A%20%20%20%20%20%20%20%20snapshot%2C%0A%20%20%20%20)%0A%20%20%20%20from%20mlsysim.labs.state%20import%20DesignLedger%0A%20%20%20%20from%20mlsysim.labs.style%20import%20COLORS%2C%20LAB_CSS%2C%20apply_plotly_theme%0A%20%20%20%20from%20mlsysbook_labs%20import%20(%0A%20%20%20%20%20%20%20%20ACADEMIC_LAB_CSS%2C%0A%20%20%20%20%20%20%20%20build_lab_report%2C%0A%20%20%20%20%20%20%20%20get_lab_metadata%2C%0A%20%20%20%20%20%20%20%20report_export_panel%2C%0A%20%20%20%20)%0A%20%20%20%20from%20mlsysbook_labs.experiment_evidence%20import%20audit_evidence%2C%20capture_evidence%0A%0A%20%20%20%20ledger%20%3D%20DesignLedger(volume%3D%22vol1%22)%0A%20%20%20%20if%20ledger.is_wasm%3A%0A%20%20%20%20%20%20%20%20_loaded%20%3D%20await%20ledger.load_async()%0A%20%20%20%20return%20(%0A%20%20%20%20%20%20%20%20ACADEMIC_LAB_CSS%2C%0A%20%20%20%20%20%20%20%20COLORS%2C%0A%20%20%20%20%20%20%20%20LAB_CSS%2C%0A%20%20%20%20%20%20%20%20NUMERICAL_CASES%2C%0A%20%20%20%20%20%20%20%20TRACKS%2C%0A%20%20%20%20%20%20%20%20apply_plotly_theme%2C%0A%20%20%20%20%20%20%20%20audit_evidence%2C%0A%20%20%20%20%20%20%20%20build_lab_report%2C%0A%20%20%20%20%20%20%20%20capture_evidence%2C%0A%20%20%20%20%20%20%20%20default_batch%2C%0A%20%20%20%20%20%20%20%20evaluate_track%2C%0A%20%20%20%20%20%20%20%20get_lab_metadata%2C%0A%20%20%20%20%20%20%20%20go%2C%0A%20%20%20%20%20%20%20%20growth_comparison%2C%0A%20%20%20%20%20%20%20%20ledger%2C%0A%20%20%20%20%20%20%20%20mo%2C%0A%20%20%20%20%20%20%20%20repair_comparison%2C%0A%20%20%20%20%20%20%20%20report_export_panel%2C%0A%20%20%20%20%20%20%20%20run_numerical_case%2C%0A%20%20%20%20%20%20%20%20snapshot%2C%0A%20%20%20%20)%0A%0A%0A%40app.cell%0Adef%20_(mo)%3A%0A%20%20%20%20get_evidence%2C%20set_evidence%20%3D%20mo.state(%7B%7D)%0A%20%20%20%20return%20get_evidence%2C%20set_evidence%0A%0A%0A%40app.cell%0Adef%20_(mo%2C%20set_evidence)%3A%0A%20%20%20%20track%20%3D%20mo.ui.dropdown(%0A%20%20%20%20%20%20%20%20%7B%22TinyML%22%3A%20%22tinyml%22%2C%20%22Mobile%22%3A%20%22mobile%22%2C%20%22Edge%22%3A%20%22edge%22%2C%20%22Cloud%22%3A%20%22cloud%22%7D%2C%0A%20%20%20%20%20%20%20%20value%3D%22TinyML%22%2C%20label%3D%22Deployment%20track%22%2C%20on_change%3Dlambda%20_value%3A%20set_evidence(%7B%7D)%2C%0A%20%20%20%20)%0A%20%20%20%20return%20(track%2C)%0A%0A%0A%40app.cell%0Adef%20_(TRACKS%2C%20track)%3A%0A%20%20%20%20track_id%20%3D%20track.value%0A%20%20%20%20profile%20%3D%20TRACKS%5Btrack_id%5D%0A%20%20%20%20return%20profile%2C%20track_id%0A%0A%0A%40app.cell%0Adef%20_(default_batch%2C%20mo%2C%20track_id)%3A%0A%20%20%20%20_track_key%20%3D%20track_id%0A%20%20%20%20a_target%20%3D%20mo.ui.dropdown(%0A%20%20%20%20%20%20%20%20%7B%22Input%20dimension%22%3A%20%22input%22%2C%20%22Hidden%20width%22%3A%20%22hidden%22%2C%20%22Batch%22%3A%20%22batch%22%7D%2C%0A%20%20%20%20%20%20%20%20value%3D%22Hidden%20width%22%2C%20label%3D%22Dimension%20to%20grow%22%2C%0A%20%20%20%20)%0A%20%20%20%20a_factor%20%3D%20mo.ui.dropdown(%7B%222%C3%97%22%3A%202%2C%20%224%C3%97%22%3A%204%7D%2C%20value%3D%222%C3%97%22%2C%20label%3D%22Growth%20factor%22)%0A%20%20%20%20b_optimizer%20%3D%20mo.ui.dropdown(%0A%20%20%20%20%20%20%20%20%7B%22SGD%22%3A%20%22sgd%22%2C%20%22Momentum%22%3A%20%22momentum%22%2C%20%22Adam%22%3A%20%22adam%22%7D%2C%0A%20%20%20%20%20%20%20%20value%3D%22Adam%22%2C%20label%3D%22Training%20optimizer%22%2C%0A%20%20%20%20)%0A%20%20%20%20b_precision%20%3D%20mo.ui.dropdown(%0A%20%20%20%20%20%20%20%20%7B%22FP32%22%3A%20%22fp32%22%2C%20%22FP16%22%3A%20%22fp16%22%2C%20%22INT8%20storage%22%3A%20%22int8%22%7D%2C%0A%20%20%20%20%20%20%20%20value%3D%22FP32%22%2C%20label%3D%22Tensor%20format%22%2C%0A%20%20%20%20)%0A%20%20%20%20c_batch%20%3D%20mo.ui.dropdown(%0A%20%20%20%20%20%20%20%20%7B%222%22%3A%202%2C%20%224%22%3A%204%2C%20%228%22%3A%208%2C%20%2216%22%3A%2016%2C%20%2232%22%3A%2032%2C%20%2264%22%3A%2064%7D%2C%0A%20%20%20%20%20%20%20%20value%3Dstr(default_batch(track_id))%2C%0A%20%20%20%20%20%20%20%20label%3D%22Batch%20size%22%2C%0A%20%20%20%20)%0A%20%20%20%20d_case%20%3D%20mo.ui.dropdown(%0A%20%20%20%20%20%20%20%20%7B%22Decimal%20rounding%22%3A%20%22rounding%22%2C%20%22Floating-point%20overflow%22%3A%20%22float_overflow%22%2C%20%22Integer%20clipping%22%3A%20%22integer_clipping%22%7D%2C%0A%20%20%20%20%20%20%20%20value%3D%22Floating-point%20overflow%22%2C%20label%3D%22Numerical%20case%22%2C%0A%20%20%20%20)%0A%20%20%20%20d_format%20%3D%20mo.ui.dropdown(%7B%22FP16%22%3A%20%22fp16%22%2C%20%22INT8%22%3A%20%22int8%22%7D%2C%20value%3D%22FP16%22%2C%20label%3D%22Test%20format%22)%0A%20%20%20%20e_choice%20%3D%20mo.ui.radio(%0A%20%20%20%20%20%20%20%20%7B%22Reduce%20hidden%20tensors%22%3A%20%22tensor%22%2C%20%22Reduce%20batch%22%3A%20%22batch%22%2C%20%22Use%20FP16%20within%20tested%20limits%22%3A%20%22format%22%2C%20%22No%20change%20%2F%20hold%20for%20more%20evidence%22%3A%20%22none%22%7D%2C%0A%20%20%20%20%20%20%20%20label%3D%22Decision%20for%20the%20held-out%20failure%22%2C%0A%20%20%20%20)%0A%20%20%20%20e_rejected%20%3D%20mo.ui.radio(%0A%20%20%20%20%20%20%20%20%7B%22Reduce%20hidden%20tensors%22%3A%20%22tensor%22%2C%20%22Reduce%20batch%22%3A%20%22batch%22%2C%20%22Use%20FP16%20within%20tested%20limits%22%3A%20%22format%22%7D%2C%0A%20%20%20%20%20%20%20%20label%3D%22Quantified%20rejected%20alternative%22%2C%0A%20%20%20%20)%0A%20%20%20%20return%20(%0A%20%20%20%20%20%20%20%20a_factor%2C%0A%20%20%20%20%20%20%20%20a_target%2C%0A%20%20%20%20%20%20%20%20b_optimizer%2C%0A%20%20%20%20%20%20%20%20b_precision%2C%0A%20%20%20%20%20%20%20%20c_batch%2C%0A%20%20%20%20%20%20%20%20d_case%2C%0A%20%20%20%20%20%20%20%20d_format%2C%0A%20%20%20%20%20%20%20%20e_choice%2C%0A%20%20%20%20%20%20%20%20e_rejected%2C%0A%20%20%20%20)%0A%0A%0A%40app.cell%0Adef%20_(mo%2C%20track_id)%3A%0A%20%20%20%20_track_key%20%3D%20track_id%0A%20%20%20%20a_prediction%20%3D%20mo.ui.radio(%0A%20%20%20%20%20%20%20%20%7B%22Parameters%20grow%20most%22%3A%20%22parameters%22%2C%20%22Batch%20MACs%20grow%20most%22%3A%20%22macs%22%2C%20%22Activation%20memory%20grows%20most%22%3A%20%22activations%22%2C%20%22They%20grow%20by%20the%20same%20factor%22%3A%20%22same%22%7D%2C%0A%20%20%20%20%20%20%20%20label%3D%22Which%20reported%20quantity%20changes%20most%20proportionally%3F%22%2C%0A%20%20%20%20).form(submit_button_label%3D%22Lock%20Part%20A%20prediction%22)%0A%20%20%20%20b_prediction%20%3D%20mo.ui.radio(%0A%20%20%20%20%20%20%20%20%7B%22Weights%22%3A%20%22weights%22%2C%20%22Retained%20activations%22%3A%20%22activations%22%2C%20%22Parameter%20gradients%22%3A%20%22gradients%22%2C%20%22Optimizer%20state%22%3A%20%22optimizer%22%7D%2C%0A%20%20%20%20%20%20%20%20label%3D%22Which%20added%20state%20will%20dominate%20training%20memory%3F%22%2C%0A%20%20%20%20).form(submit_button_label%3D%22Lock%20Part%20B%20prediction%22)%0A%20%20%20%20c_prediction%20%3D%20mo.ui.radio(%0A%20%20%20%20%20%20%20%20%7B%22Throughput%20rises%3B%20batch%20latency%20rises%22%3A%20%22tradeoff%22%2C%20%22Throughput%20rises%3B%20batch%20latency%20falls%22%3A%20%22both_improve%22%2C%20%22Throughput%20falls%3B%20batch%20latency%20rises%22%3A%20%22both_worsen%22%2C%20%22Neither%20changes%22%3A%20%22unchanged%22%7D%2C%0A%20%20%20%20%20%20%20%20label%3D%22What%20happens%20when%20the%20batch%20grows%20from%20one%3F%22%2C%0A%20%20%20%20).form(submit_button_label%3D%22Lock%20Part%20C%20prediction%22)%0A%20%20%20%20d_prediction%20%3D%20mo.ui.radio(%0A%20%20%20%20%20%20%20%20%7B%22Same%20output%22%3A%20%22same%22%2C%20%22Finite%20rounded%20output%22%3A%20%22rounded%22%2C%20%22Input%20clipping%20changes%20output%22%3A%20%22clipped%22%2C%20%22Nonfinite%20overflow%22%3A%20%22overflow%22%7D%2C%0A%20%20%20%20%20%20%20%20label%3D%22What%20numerical%20behavior%20will%20the%20test%20format%20show%3F%22%2C%0A%20%20%20%20).form(submit_button_label%3D%22Lock%20Part%20D%20prediction%22)%0A%20%20%20%20e_prediction%20%3D%20mo.ui.radio(%0A%20%20%20%20%20%20%20%20%7B%22Reduce%20hidden%20tensors%22%3A%20%22tensor%22%2C%20%22Reduce%20batch%22%3A%20%22batch%22%2C%20%22Use%20FP16%20within%20tested%20limits%22%3A%20%22format%22%2C%20%22None%20will%20fit%22%3A%20%22none%22%7D%2C%0A%20%20%20%20%20%20%20%20label%3D%22Which%20intervention%20will%20repair%20the%20failed%20scenario%3F%22%2C%0A%20%20%20%20).form(submit_button_label%3D%22Lock%20Part%20E%20prediction%22)%0A%20%20%20%20return%20a_prediction%2C%20b_prediction%2C%20c_prediction%2C%20d_prediction%2C%20e_prediction%0A%0A%0A%40app.cell%0Adef%20_(mo%2C%20track_id)%3A%0A%20%20%20%20_track_key%20%3D%20track_id%0A%20%20%20%20final_choice%20%3D%20mo.ui.radio(%0A%20%20%20%20%20%20%20%20%7B%22Reduce%20hidden%20tensors%22%3A%20%22tensor%22%2C%20%22Reduce%20batch%22%3A%20%22batch%22%2C%20%22Use%20FP16%20within%20tested%20limits%22%3A%20%22format%22%2C%20%22No%20change%20%2F%20hold%20for%20more%20evidence%22%3A%20%22none%22%7D%2C%20label%3D%22Recommendation%22%2C%0A%20%20%20%20)%0A%20%20%20%20final_rejected%20%3D%20mo.ui.radio(%0A%20%20%20%20%20%20%20%20%7B%22Reduce%20hidden%20tensors%22%3A%20%22tensor%22%2C%20%22Reduce%20batch%22%3A%20%22batch%22%2C%20%22Use%20FP16%20within%20tested%20limits%22%3A%20%22format%22%7D%2C%20label%3D%22Rejected%20alternative%22%2C%0A%20%20%20%20)%0A%20%20%20%20final_trigger%20%3D%20mo.ui.radio(%0A%20%20%20%20%20%20%20%20%7B%22Tensor%20dimensions%20change%22%3A%20%22dimensions%22%2C%20%22Batch%20demand%20changes%22%3A%20%22batch%22%2C%20%22Numerical%20case%20changes%22%3A%20%22numerics%22%2C%20%22Memory%20envelope%20changes%22%3A%20%22memory%22%7D%2C%20label%3D%22Reevaluation%20trigger%22%2C%0A%20%20%20%20)%0A%20%20%20%20final_risk%20%3D%20mo.ui.radio(%0A%20%20%20%20%20%20%20%20%7B%22Unmodeled%20runtime%20workspace%22%3A%20%22workspace%22%2C%20%22Format%20behavior%20on%20new%20values%22%3A%20%22numeric_range%22%2C%20%22Arrival%20and%20queue%20delay%22%3A%20%22queueing%22%7D%2C%20label%3D%22Remaining%20limitation%22%2C%0A%20%20%20%20)%0A%20%20%20%20rationale%20%3D%20mo.ui.text_area(%0A%20%20%20%20%20%20%20%20label%3D%22Concise%20rationale%22%2C%20placeholder%3D%22Use%20saved%20quantities%20to%20defend%20the%20choice%20and%20reject%20one%20tested%20alternative.%22%2C%0A%20%20%20%20)%0A%20%20%20%20return%20final_choice%2C%20final_rejected%2C%20final_risk%2C%20final_trigger%2C%20rationale%0A%0A%0A%40app.cell%0Adef%20_(%0A%20%20%20%20a_factor%2C%0A%20%20%20%20a_target%2C%0A%20%20%20%20b_optimizer%2C%0A%20%20%20%20b_precision%2C%0A%20%20%20%20c_batch%2C%0A%20%20%20%20d_case%2C%0A%20%20%20%20d_format%2C%0A%20%20%20%20evaluate_track%2C%0A%20%20%20%20growth_comparison%2C%0A%20%20%20%20repair_comparison%2C%0A%20%20%20%20run_numerical_case%2C%0A%20%20%20%20snapshot%2C%0A%20%20%20%20track_id%2C%0A)%3A%0A%20%20%20%20a_comparison%20%3D%20growth_comparison(track_id%2C%20a_target.value%2C%20a_factor.value)%0A%20%20%20%20b_inference%20%3D%20evaluate_track(track_id%2C%20precision%3Db_precision.value%2C%20phase%3D%22inference%22)%0A%20%20%20%20b_training%20%3D%20evaluate_track(track_id%2C%20precision%3Db_precision.value%2C%20phase%3D%22training%22%2C%20optimizer%3Db_optimizer.value)%0A%20%20%20%20c_baseline%20%3D%20evaluate_track(track_id%2C%20batch_size%3D1)%0A%20%20%20%20c_result%20%3D%20evaluate_track(track_id%2C%20batch_size%3Dc_batch.value)%0A%20%20%20%20d_baseline%20%3D%20run_numerical_case(d_case.value%2C%20%22fp32%22)%0A%20%20%20%20d_result%20%3D%20run_numerical_case(d_case.value%2C%20d_format.value)%0A%20%20%20%20e_results%20%3D%20%7Baction%3A%20repair_comparison(track_id%2C%20action)%20for%20action%20in%20(%22tensor%22%2C%20%22batch%22%2C%20%22format%22)%7D%0A%20%20%20%20serial%20%3D%20snapshot%0A%20%20%20%20return%20(%0A%20%20%20%20%20%20%20%20a_comparison%2C%0A%20%20%20%20%20%20%20%20b_inference%2C%0A%20%20%20%20%20%20%20%20b_training%2C%0A%20%20%20%20%20%20%20%20c_baseline%2C%0A%20%20%20%20%20%20%20%20c_result%2C%0A%20%20%20%20%20%20%20%20d_baseline%2C%0A%20%20%20%20%20%20%20%20d_result%2C%0A%20%20%20%20%20%20%20%20e_results%2C%0A%20%20%20%20%20%20%20%20serial%2C%0A%20%20%20%20)%0A%0A%0A%40app.cell%0Adef%20_(%0A%20%20%20%20a_comparison%2C%0A%20%20%20%20a_factor%2C%0A%20%20%20%20a_prediction%2C%0A%20%20%20%20a_target%2C%0A%20%20%20%20b_inference%2C%0A%20%20%20%20b_optimizer%2C%0A%20%20%20%20b_precision%2C%0A%20%20%20%20b_prediction%2C%0A%20%20%20%20b_training%2C%0A%20%20%20%20c_baseline%2C%0A%20%20%20%20c_batch%2C%0A%20%20%20%20c_prediction%2C%0A%20%20%20%20c_result%2C%0A%20%20%20%20capture_evidence%2C%0A%20%20%20%20d_baseline%2C%0A%20%20%20%20d_case%2C%0A%20%20%20%20d_format%2C%0A%20%20%20%20d_prediction%2C%0A%20%20%20%20d_result%2C%0A%20%20%20%20e_choice%2C%0A%20%20%20%20e_prediction%2C%0A%20%20%20%20e_rejected%2C%0A%20%20%20%20e_results%2C%0A%20%20%20%20mo%2C%0A%20%20%20%20serial%2C%0A%20%20%20%20set_evidence%2C%0A%20%20%20%20track_id%2C%0A)%3A%0A%20%20%20%20def%20store(part%2C%20capture)%3A%0A%20%20%20%20%20%20%20%20set_evidence(lambda%20current%3A%20%7B**current%2C%20part%3A%20capture%7D)%0A%0A%20%20%20%20a_upstream%20%3D%20%7B%22target%22%3A%20a_target.value%2C%20%22factor%22%3A%20a_factor.value%7D%0A%20%20%20%20b_upstream%20%3D%20%7B%22precision%22%3A%20b_precision.value%2C%20%22optimizer%22%3A%20b_optimizer.value%7D%0A%20%20%20%20c_upstream%20%3D%20%7B%22baseline_batch%22%3A%201%2C%20%22result_batch%22%3A%20c_batch.value%7D%0A%20%20%20%20d_upstream%20%3D%20%7B%22case%22%3A%20d_case.value%2C%20%22format%22%3A%20d_format.value%7D%0A%20%20%20%20e_upstream%20%3D%20%7B%22choice%22%3A%20e_choice.value%2C%20%22rejected%22%3A%20e_rejected.value%7D%0A%0A%20%20%20%20a_capture%20%3D%20mo.ui.button(%0A%20%20%20%20%20%20%20%20label%3D%22Capture%20tensor-growth%20contrast%22%2C%20kind%3D%22success%22%2C%20disabled%3Da_prediction.value%20is%20None%2C%0A%20%20%20%20%20%20%20%20on_click%3Dlambda%20_value%3A%20store(%22A%22%2C%20capture_evidence(%0A%20%20%20%20%20%20%20%20%20%20%20%20track%3Dtrack_id%2C%20part%3D%22A%22%2C%20prediction%3Da_prediction.value%2C%20inputs%3Da_upstream%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20baseline%3Dserial(a_comparison%5B%22baseline%22%5D)%2C%20result%3Dserial(a_comparison%5B%22result%22%5D)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20upstream_inputs%3Da_upstream%2C%20model_key%3D%22v1_05.evaluate_track%22%2C%0A%20%20%20%20%20%20%20%20))%2C%0A%20%20%20%20)%0A%20%20%20%20b_capture%20%3D%20mo.ui.button(%0A%20%20%20%20%20%20%20%20label%3D%22Capture%20phase%20contrast%22%2C%20kind%3D%22success%22%2C%20disabled%3Db_prediction.value%20is%20None%2C%0A%20%20%20%20%20%20%20%20on_click%3Dlambda%20_value%3A%20store(%22B%22%2C%20capture_evidence(%0A%20%20%20%20%20%20%20%20%20%20%20%20track%3Dtrack_id%2C%20part%3D%22B%22%2C%20prediction%3Db_prediction.value%2C%20inputs%3Db_upstream%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20baseline%3Dserial(b_inference)%2C%20result%3Dserial(b_training)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20upstream_inputs%3Db_upstream%2C%20model_key%3D%22v1_05.evaluate_track%22%2C%0A%20%20%20%20%20%20%20%20))%2C%0A%20%20%20%20)%0A%20%20%20%20c_capture%20%3D%20mo.ui.button(%0A%20%20%20%20%20%20%20%20label%3D%22Capture%20batching%20tradeoff%22%2C%20kind%3D%22success%22%2C%20disabled%3Dc_prediction.value%20is%20None%20or%20c_batch.value%20%3D%3D%201%2C%0A%20%20%20%20%20%20%20%20on_click%3Dlambda%20_value%3A%20store(%22C%22%2C%20capture_evidence(%0A%20%20%20%20%20%20%20%20%20%20%20%20track%3Dtrack_id%2C%20part%3D%22C%22%2C%20prediction%3Dc_prediction.value%2C%20inputs%3Dc_upstream%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20baseline%3Dserial(c_baseline)%2C%20result%3Dserial(c_result)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20upstream_inputs%3Dc_upstream%2C%20model_key%3D%22v1_05.evaluate_track%22%2C%0A%20%20%20%20%20%20%20%20))%2C%0A%20%20%20%20)%0A%20%20%20%20d_capture%20%3D%20mo.ui.button(%0A%20%20%20%20%20%20%20%20label%3D%22Capture%20numerical%20contrast%22%2C%20kind%3D%22success%22%2C%20disabled%3Dd_prediction.value%20is%20None%2C%0A%20%20%20%20%20%20%20%20on_click%3Dlambda%20_value%3A%20store(%22D%22%2C%20capture_evidence(%0A%20%20%20%20%20%20%20%20%20%20%20%20track%3Dtrack_id%2C%20part%3D%22D%22%2C%20prediction%3Dd_prediction.value%2C%20inputs%3Dd_upstream%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20baseline%3Dserial(d_baseline)%2C%20result%3Dserial(d_result)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20upstream_inputs%3Dd_upstream%2C%20model_key%3D%22v1_05.run_numerical_case%22%2C%0A%20%20%20%20%20%20%20%20))%2C%0A%20%20%20%20)%0A%20%20%20%20e_invalid%20%3D%20e_prediction.value%20is%20None%20or%20e_choice.value%20is%20None%20or%20e_rejected.value%20is%20None%20or%20e_choice.value%20%3D%3D%20e_rejected.value%0A%20%20%20%20if%20e_choice.value%20in%20e_results%3A%0A%20%20%20%20%20%20%20%20e_selected%20%3D%20e_results%5Be_choice.value%5D%5B%22result%22%5D%0A%20%20%20%20%20%20%20%20e_chosen%20%3D%20e_selected%0A%20%20%20%20%20%20%20%20e_result_role%20%3D%20%22chosen%20intervention%22%0A%20%20%20%20elif%20e_rejected.value%20in%20e_results%3A%0A%20%20%20%20%20%20%20%20e_selected%20%3D%20e_results%5Be_rejected.value%5D%5B%22result%22%5D%0A%20%20%20%20%20%20%20%20e_chosen%20%3D%20e_results%5B%22tensor%22%5D%5B%22baseline%22%5D%0A%20%20%20%20%20%20%20%20e_result_role%20%3D%20%22rejected%20alternative%22%0A%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20e_selected%20%3D%20e_results%5B%22batch%22%5D%5B%22result%22%5D%0A%20%20%20%20%20%20%20%20e_chosen%20%3D%20e_results%5B%22tensor%22%5D%5B%22baseline%22%5D%0A%20%20%20%20%20%20%20%20e_result_role%20%3D%20%22rejected%20alternative%22%0A%20%20%20%20e_capture%20%3D%20mo.ui.button(%0A%20%20%20%20%20%20%20%20label%3D%22Capture%20repair%20decision%22%2C%20kind%3D%22success%22%2C%20disabled%3De_invalid%2C%0A%20%20%20%20%20%20%20%20on_click%3Dlambda%20_value%3A%20store(%22E%22%2C%20capture_evidence(%0A%20%20%20%20%20%20%20%20%20%20%20%20track%3Dtrack_id%2C%20part%3D%22E%22%2C%20prediction%3De_prediction.value%2C%20inputs%3De_upstream%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20baseline%3Dserial(e_results%5B%22tensor%22%5D%5B%22baseline%22%5D)%2C%20result%3Dserial(e_selected)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20alternatives%3Dtuple(serial(e_results%5Baction%5D%5B%22result%22%5D)%20for%20action%20in%20e_results)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20decision%3De_choice.value%2C%20upstream_inputs%3De_upstream%2C%20model_key%3D%22v1_05.evaluate_track%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20chosen_result%3Dserial(e_chosen)%2C%20result_role%3De_result_role%2C%0A%20%20%20%20%20%20%20%20))%2C%0A%20%20%20%20)%0A%20%20%20%20return%20(%0A%20%20%20%20%20%20%20%20a_capture%2C%0A%20%20%20%20%20%20%20%20a_upstream%2C%0A%20%20%20%20%20%20%20%20b_capture%2C%0A%20%20%20%20%20%20%20%20b_upstream%2C%0A%20%20%20%20%20%20%20%20c_capture%2C%0A%20%20%20%20%20%20%20%20c_upstream%2C%0A%20%20%20%20%20%20%20%20d_capture%2C%0A%20%20%20%20%20%20%20%20d_upstream%2C%0A%20%20%20%20%20%20%20%20e_capture%2C%0A%20%20%20%20%20%20%20%20e_upstream%2C%0A%20%20%20%20)%0A%0A%0A%40app.cell%0Adef%20_(ACADEMIC_LAB_CSS%2C%20LAB_CSS%2C%20mo%2C%20profile%2C%20track)%3A%0A%20%20%20%20css%20%3D%20mo.Html(%22%22%22%0A%20%20%20%20%3Cstyle%3E%0A%20%20%20%20.pilot-head%7Bbackground%3Alinear-gradient(135deg%2C%23101827%2C%23174e63)%3Bcolor%3Awhite%3Bborder-radius%3A14px%3Bpadding%3Aclamp(18px%2C4vw%2C32px)%3Bmargin-bottom%3A14px%7D%0A%20%20%20%20.pilot-top%7Bdisplay%3Aflex%3Bjustify-content%3Aspace-between%3Bgap%3A8px%3Bflex-wrap%3Awrap%3Bfont%3A700%20.72rem%20ui-monospace%3Bletter-spacing%3A.08em%7D%0A%20%20%20%20.pilot-head%20h1%7Bfont-size%3Aclamp(1.65rem%2C5vw%2C2.65rem)%3Bline-height%3A1.05%3Bmargin%3A16px%200%208px%7D.pilot-head%20p%7Bcolor%3A%23dbeafe%3Bmax-width%3A780px%7D%0A%20%20%20%20.pilot-meta%7Bdisplay%3Agrid%3Bgrid-template-columns%3Arepeat(auto-fit%2Cminmax(170px%2C1fr))%3Bgap%3A9px%3Bmargin-top%3A17px%7D.pilot-meta%20div%7Bbackground%3A%23ffffff14%3Bborder%3A1px%20solid%20%23ffffff26%3Bpadding%3A9px%2011px%3Bborder-radius%3A8px%7D%0A%20%20%20%20.pilot-note%7Bcolor%3A%23475569%3Bfont-size%3A.9rem%3Bline-height%3A1.5%3Bmargin%3A0%3Bpadding%3A0%202px%7D.saved%7Bborder-left%3A4px%20solid%20%232ca02c%3Bbackground%3A%23f0fdf4%3Bpadding%3A9px%2012px%3Bborder-radius%3A7px%7D%0A%20%20%20%20.table-wrap%7Bmax-width%3A100%25%3Boverflow-x%3Aauto%7D.lab-hud%7Bdisplay%3Aflex%3Balign-items%3Acenter%3Bflex-wrap%3Awrap%3Bgap%3A10px%3Bbackground%3A%23101827!important%3Bcolor%3A%23fff%3Bpadding%3A14px%2018px%3Bborder-radius%3A9px%7D.lab-hud%20.hud-label%7Bcolor%3A%23a7b9cf%7D.lab-hud%20.hud-value%7Bcolor%3A%23fff%7D.lab-hud%20.hud-active%7Bcolor%3A%2386efac%7D%0A%20%20%20%20%40media(max-width%3A520px)%7B.pilot-head%7Bborder-radius%3A9px%3Bmargin-top%3A30px%7D.pilot-meta%7Bgrid-template-columns%3A1fr%7D%7D%0A%20%20%20%20%3C%2Fstyle%3E%22%22%22)%0A%20%20%20%20header%20%3D%20mo.Html(f%22%22%22%3Csection%20class%3D%22pilot-head%22%3E%3Cdiv%20class%3D%22pilot-top%22%3E%3Cspan%3EVOLUME%20I%20%C2%B7%20LAB%2005%3C%2Fspan%3E%3Cspan%3EABOUT%2050%20MIN%3C%2Fspan%3E%3C%2Fdiv%3E%3Ch1%3ETensor%20Costs%3C%2Fh1%3E%3Cp%3EWhich%20tensor%20choice%20causes%20the%20workload%20to%20cross%20a%20compute%2C%20memory%2C%20or%20numerical%20boundary%3F%3C%2Fp%3E%3Cdiv%20class%3D%22pilot-meta%22%3E%3Cdiv%3E%3Cb%3ETrack%3C%2Fb%3E%3Cbr%3E%7Bprofile%5B'display'%5D%7D%3C%2Fdiv%3E%3Cdiv%3E%3Cb%3EContext%3C%2Fb%3E%3Cbr%3E%7Bprofile%5B'scenario'%5D%7D%3C%2Fdiv%3E%3Cdiv%3E%3Cb%3EOutput%3C%2Fb%3E%3Cbr%3EEvidence-backed%20tensor%20decision%3C%2Fdiv%3E%3C%2Fdiv%3E%3C%2Fsection%3E%22%22%22)%0A%20%20%20%20mo.vstack(%5B%0A%20%20%20%20%20%20%20%20LAB_CSS%2C%20ACADEMIC_LAB_CSS%2C%20css%2C%20header%2C%20track%2C%0A%20%20%20%20%20%20%20%20mo.Html('%3Cp%20class%3D%22pilot-note%22%3EThe%20workloads%20and%20execution%20rates%20are%20illustrative%20analytical%20scenarios%2C%20not%20device%20measurements.%20Each%20Calculation%20Notes%20panel%20states%20the%20counted%20tensors%20and%20exclusions.%3C%2Fp%3E')%2C%0A%20%20%20%20%5D%2C%20gap%3D0.5)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(mo)%3A%0A%20%20%20%20mo.sidebar(%5Bmo.md(%22%23%23%20Lab%20navigation%22)%2C%20mo.outline(label%3D%22Sections%22)%5D)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(%0A%20%20%20%20COLORS%2C%0A%20%20%20%20NUMERICAL_CASES%2C%0A%20%20%20%20a_capture%2C%0A%20%20%20%20a_comparison%2C%0A%20%20%20%20a_factor%2C%0A%20%20%20%20a_prediction%2C%0A%20%20%20%20a_target%2C%0A%20%20%20%20a_upstream%2C%0A%20%20%20%20apply_plotly_theme%2C%0A%20%20%20%20audit_evidence%2C%0A%20%20%20%20b_capture%2C%0A%20%20%20%20b_inference%2C%0A%20%20%20%20b_optimizer%2C%0A%20%20%20%20b_precision%2C%0A%20%20%20%20b_prediction%2C%0A%20%20%20%20b_training%2C%0A%20%20%20%20b_upstream%2C%0A%20%20%20%20c_baseline%2C%0A%20%20%20%20c_batch%2C%0A%20%20%20%20c_capture%2C%0A%20%20%20%20c_prediction%2C%0A%20%20%20%20c_result%2C%0A%20%20%20%20c_upstream%2C%0A%20%20%20%20d_baseline%2C%0A%20%20%20%20d_capture%2C%0A%20%20%20%20d_case%2C%0A%20%20%20%20d_format%2C%0A%20%20%20%20d_prediction%2C%0A%20%20%20%20d_result%2C%0A%20%20%20%20d_upstream%2C%0A%20%20%20%20e_capture%2C%0A%20%20%20%20e_choice%2C%0A%20%20%20%20e_prediction%2C%0A%20%20%20%20e_rejected%2C%0A%20%20%20%20e_results%2C%0A%20%20%20%20e_upstream%2C%0A%20%20%20%20final_choice%2C%0A%20%20%20%20final_rejected%2C%0A%20%20%20%20final_risk%2C%0A%20%20%20%20final_trigger%2C%0A%20%20%20%20get_evidence%2C%0A%20%20%20%20go%2C%0A%20%20%20%20mo%2C%0A%20%20%20%20profile%2C%0A%20%20%20%20rationale%2C%0A%20%20%20%20track_id%2C%0A)%3A%0A%20%20%20%20captures%20%3D%20get_evidence()%0A%20%20%20%20upstream%20%3D%20%7B%22A%22%3A%20a_upstream%2C%20%22B%22%3A%20b_upstream%2C%20%22C%22%3A%20c_upstream%2C%20%22D%22%3A%20d_upstream%2C%20%22E%22%3A%20e_upstream%7D%0A%20%20%20%20audit%20%3D%20audit_evidence(%0A%20%20%20%20%20%20%20%20captures%2C%20track%3Dtrack_id%2C%20required_parts%3Dtuple(%22ABCDE%22)%2C%0A%20%20%20%20%20%20%20%20per_part_upstream_inputs%3Dupstream%2C%20contrast_required_parts%3Dtuple(%22ABCDE%22)%2C%0A%20%20%20%20)%0A%0A%20%20%20%20def%20memory_kib(result%2C%20key%3D%22total_state_memory%22)%3A%0A%20%20%20%20%20%20%20%20return%20result%5Bkey%5D.to(%22KiB%22).magnitude%0A%0A%20%20%20%20def%20milliseconds(result%2C%20key)%3A%0A%20%20%20%20%20%20%20%20return%20result%5Bkey%5D.to(%22millisecond%22).magnitude%0A%0A%20%20%20%20def%20per_second(result)%3A%0A%20%20%20%20%20%20%20%20return%20result%5B%22throughput%22%5D.to(%221%20%2F%20second%22).magnitude%0A%0A%20%20%20%20def%20table(rows)%3A%0A%20%20%20%20%20%20%20%20return%20mo.vstack(%5Bmo.ui.table(rows%2C%20pagination%3DFalse)%5D).style(%7B%22max-width%22%3A%20%22100%25%22%2C%20%22overflow-x%22%3A%20%22auto%22%7D)%0A%0A%20%20%20%20def%20saved(part)%3A%0A%20%20%20%20%20%20%20%20capture%20%3D%20captures.get(part)%0A%20%20%20%20%20%20%20%20if%20capture%20is%20None%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20mo.callout(mo.md(%22No%20saved%20evidence%20for%20this%20part.%22)%2C%20kind%3D%22warn%22)%0A%20%20%20%20%20%20%20%20if%20part%20in%20audit.stale%20or%20(part%2C%20part)%20in%20audit.identical_pairs%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20mo.callout(mo.md(%22**STALE%20OR%20NON-CONTRASTING%20EVIDENCE.**%20A%20dependency%20changed%2C%20or%20the%20saved%20runs%20are%20identical.%20Recapture%20this%20part.%22)%2C%20kind%3D%22danger%22)%0A%20%20%20%20%20%20%20%20data%20%3D%20capture.to_dict()%0A%20%20%20%20%20%20%20%20return%20mo.Html(f'%3Cdiv%20class%3D%22saved%22%3E%3Cb%3ESaved%20snapshot%3C%2Fb%3E%20%C2%B7%20original%20prediction%3A%20%7Bdata%5B%22prediction%22%5D%7D%3Cbr%3E%3Csmall%3ETrack%20%7Bdata%5B%22track%22%5D%7D%3B%20later%20control%20changes%20do%20not%20rewrite%20this%20evidence.%3C%2Fsmall%3E%3C%2Fdiv%3E')%0A%0A%20%20%20%20def%20part_a()%3A%0A%20%20%20%20%20%20%20%20intro%20%3D%20mo.md(%22%23%23%23%20A%20%C2%B7%20What%20becomes%20expensive%20when%20a%20tensor%20dimension%20grows%3F%20(9%20min)%5CnChoose%20one%20dimension%20and%20predict%20the%20largest%20proportional%20change%20before%20opening%20the%20operation%20ledger.%22)%0A%20%20%20%20%20%20%20%20if%20a_prediction.value%20is%20None%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20mo.vstack(%5Bintro%2C%20mo.hstack(%5Ba_target%2C%20a_factor%5D%2C%20wrap%3DTrue)%2C%20a_prediction%5D)%0A%20%20%20%20%20%20%20%20base%2C%20changed%20%3D%20a_comparison%5B%22baseline%22%5D%2C%20a_comparison%5B%22result%22%5D%0A%20%20%20%20%20%20%20%20layer_rows%20%3D%20%5B%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20%22Layer%22%3A%20index%2C%20%22Shape%20before%22%3A%20f%22%7Bleft%5B'input_dim'%5D%7D%20%E2%86%92%20%7Bleft%5B'output_dim'%5D%7D%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22Shape%20after%22%3A%20f%22%7Bright%5B'input_dim'%5D%7D%20%E2%86%92%20%7Bright%5B'output_dim'%5D%7D%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22Parameters%20after%22%3A%20f%22%7Bright%5B'parameters'%5D%3A%2C%7D%22%2C%20%22Batch%20MACs%20after%22%3A%20f%22%7Bright%5B'batch_macs'%5D%3A%2C%7D%22%2C%0A%20%20%20%20%20%20%20%20%7D%20for%20index%2C%20(left%2C%20right)%20in%20enumerate(zip(base%5B%22layers%22%5D%2C%20changed%5B%22layers%22%5D)%2C%20start%3D1)%5D%0A%20%20%20%20%20%20%20%20summary%20%3D%20%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20%7B%22Run%22%3A%20%22Baseline%22%2C%20%22Parameters%22%3A%20f%22%7Bbase%5B'parameters'%5D%3A%2C%7D%22%2C%20%22Batch%20MACs%22%3A%20f%22%7Bbase%5B'batch_macs'%5D%3A%2C%7D%22%2C%20%22Activation%20KiB%22%3A%20f%22%7Bmemory_kib(base%2C%20'activation_memory')%3A.2f%7D%22%2C%20%22Traffic%20KiB%22%3A%20f%22%7Bmemory_kib(base%2C%20'minimum_forward_traffic')%3A.2f%7D%22%7D%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%7B%22Run%22%3A%20%22Changed%22%2C%20%22Parameters%22%3A%20f%22%7Bchanged%5B'parameters'%5D%3A%2C%7D%22%2C%20%22Batch%20MACs%22%3A%20f%22%7Bchanged%5B'batch_macs'%5D%3A%2C%7D%22%2C%20%22Activation%20KiB%22%3A%20f%22%7Bmemory_kib(changed%2C%20'activation_memory')%3A.2f%7D%22%2C%20%22Traffic%20KiB%22%3A%20f%22%7Bmemory_kib(changed%2C%20'minimum_forward_traffic')%3A.2f%7D%22%7D%2C%0A%20%20%20%20%20%20%20%20%5D%0A%20%20%20%20%20%20%20%20return%20mo.vstack(%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20intro%2C%20mo.hstack(%5Ba_target%2C%20a_factor%5D%2C%20wrap%3DTrue)%2C%20a_prediction%2C%20table(layer_rows)%2C%20table(summary)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.callout(mo.md(f%22**Your%20prediction%3A**%20%7Ba_prediction.value%7D.%20The%20intervention%20changed%20only%20**%7Ba_target.value%7D**%3B%20parameter%20count%2C%20batch%20work%2C%20activation%20state%2C%20and%20traffic%20follow%20their%20tensor%20dimensions.%22)%2C%20kind%3D%22info%22)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20a_capture%2C%20saved(%22A%22)%2C%20mo.accordion(%7B%22Calculation%20Notes%22%3A%20mo.md(%22Each%20dense%20layer%20counts%20its%20weight%20matrix%20and%20bias%20vector.%20One%20weight%20application%20is%20one%20MAC%3B%20the%20ledger%20uses%20two%20FLOPs%20per%20MAC%20and%20reports%20bias%20additions%20separately.%20Minimum%20traffic%20reads%20each%20layer%20input%2C%20weights%2C%20and%20biases%20once%20and%20writes%20its%20output%20once.%22)%7D)%2C%0A%20%20%20%20%20%20%20%20%5D)%0A%0A%20%20%20%20def%20part_b()%3A%0A%20%20%20%20%20%20%20%20intro%20%3D%20mo.md(%22%23%23%23%20B%20%C2%B7%20Why%20can%20inference%20fit%20while%20training%20fails%3F%20(9%20min)%5CnChoose%20a%20tensor%20format%20and%20optimizer.%20Predict%20which%20added%20state%20dominates%20before%20comparing%20phases.%22)%0A%20%20%20%20%20%20%20%20if%20b_prediction.value%20is%20None%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20mo.vstack(%5Bintro%2C%20mo.hstack(%5Bb_precision%2C%20b_optimizer%5D%2C%20wrap%3DTrue)%2C%20b_prediction%5D)%0A%20%20%20%20%20%20%20%20rows%20%3D%20%5B%5D%0A%20%20%20%20%20%20%20%20for%20label%2C%20result%20in%20((%22Inference%22%2C%20b_inference)%2C%20(%22Training%22%2C%20b_training))%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20rows.append(%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22Phase%22%3A%20label%2C%20%22Weights%20KiB%22%3A%20f%22%7Bmemory_kib(result%2C%20'weight_memory')%3A.1f%7D%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22Activations%20KiB%22%3A%20f%22%7Bmemory_kib(result%2C%20'activation_memory')%3A.1f%7D%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22Gradients%20KiB%22%3A%20f%22%7Bmemory_kib(result%2C%20'gradient_memory')%3A.1f%7D%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22Optimizer%20KiB%22%3A%20f%22%7Bmemory_kib(result%2C%20'optimizer_memory')%3A.1f%7D%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22Total%20KiB%22%3A%20f%22%7Bmemory_kib(result)%3A.1f%7D%22%2C%20%22Fits%22%3A%20%22PASS%22%20if%20result%5B%22fits_memory%22%5D%20else%20%22FAIL%20%C2%B7%20memory%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%7D)%0A%20%20%20%20%20%20%20%20host_context%20%3D%20%22%20On%20device%20tracks%20(TinyML%20and%20Mobile)%2C%20exceeding%20the%20memory%20envelope%20illustrates%20why%20models%20are%20trained%20on%20a%20development%20host%20and%20only%20inference%20runs%20on-device.%22%20if%20track_id%20in%20(%22tinyml%22%2C%20%22mobile%22)%20else%20%22%22%0A%20%20%20%20%20%20%20%20return%20mo.vstack(%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20intro%2C%20mo.hstack(%5Bb_precision%2C%20b_optimizer%5D%2C%20wrap%3DTrue)%2C%20b_prediction%2C%20table(rows)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.callout(mo.md(f%22**Your%20prediction%3A**%20%7Bb_prediction.value%7D.%20Inference%20uses%20%7Bmemory_kib(b_inference)%3A.1f%7D%20KiB%3B%20training%20uses%20%7Bmemory_kib(b_training)%3A.1f%7D%20KiB%20and%20**%7B'fits'%20if%20b_training%5B'fits_memory'%5D%20else%20'crosses'%7D**%20the%20scenario%20memory%20envelope.%7Bhost_context%7D%22)%2C%20kind%3D%22success%22%20if%20b_training%5B%22fits_memory%22%5D%20else%20%22danger%22)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20b_capture%2C%20saved(%22B%22)%2C%20mo.accordion(%7B%22Calculation%20Notes%22%3A%20mo.md(f%22Inference%20uses%20an%20exact%20two-buffer%20activation%20schedule.%20Training%20retains%20the%20batch%20input%20and%20each%20layer%20output%2C%20adds%20parameter%20gradients%2C%20and%20adds%20zero%2C%20one%2C%20or%20two%20optimizer%20slots%20per%20parameter.%20For%20microcontroller%20and%20mobile%20tracks%2C%20optimizer%20state%20and%20retained%20activations%20can%20exceed%20embedded%20memory%2C%20clarifying%20why%20training%20is%20hosted%20on%20a%20development%20workstation%20while%20only%20the%20inference%20runtime%20fits%20on-device.%20The%20selected%20tensors%20use%20**%7Bb_training%5B'bytes_per_element'%5D%7D%20byte(s)%20per%20element**%3B%20optimizer%20slots%20use%20**%7Bb_training%5B'optimizer_bytes_per_element'%5D%7D%20bytes%20per%20element**.%20The%20FP16%20case%20keeps%20gradients%20in%20FP16%20and%20two%20Adam%20slots%20in%20FP32%3B%20it%20does%20**not**%20include%20a%20separate%20FP32%20master%20copy%20of%20the%20weights.%20Transient%20activation-gradient%20scratch%20and%20runtime%20workspaces%20are%20outside%20this%20analytical%20state%20inventory.%22)%7D)%2C%0A%20%20%20%20%20%20%20%20%5D)%0A%0A%20%20%20%20def%20part_c()%3A%0A%20%20%20%20%20%20%20%20intro%20%3D%20mo.md(f%22%23%23%23%20C%20%C2%B7%20Does%20batching%20make%20every%20request%20faster%3F%20(10%20min)%5CnCompare%20a%20fixed%20batch-one%20baseline%20with%20a%20larger%20batch%20under%20the%20same%20network%20and%20execution%20assumptions%20(track-native%20batch%20is%20%7Bprofile%5B'batch_size'%5D%7D).%22)%0A%20%20%20%20%20%20%20%20if%20c_prediction.value%20is%20None%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20mo.vstack(%5Bintro%2C%20c_batch%2C%20c_prediction%5D)%0A%20%20%20%20%20%20%20%20figure%20%3D%20go.Figure()%0A%20%20%20%20%20%20%20%20figure.add_bar(name%3D%22Batch%20latency%20(ms)%22%2C%20x%3D%5B%22Batch%201%22%2C%20f%22Batch%20%7Bc_batch.value%7D%22%5D%2C%20y%3D%5Bmilliseconds(c_baseline%2C%20%22batch_latency%22)%2C%20milliseconds(c_result%2C%20%22batch_latency%22)%5D%2C%20marker_color%3DCOLORS%5B%22OrangeLine%22%5D)%0A%20%20%20%20%20%20%20%20figure.update_layout(height%3D260%2C%20margin%3Ddict(l%3D20%2C%20r%3D20%2C%20t%3D30%2C%20b%3D20)%2C%20yaxis_title%3D%22Batch%20latency%20(ms)%22%2C%20legend_orientation%3D%22h%22)%0A%20%20%20%20%20%20%20%20rows%20%3D%20%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20%7B%22Batch%22%3A%20c_baseline%5B%22batch_size%22%5D%2C%20%22Batch%20latency%20ms%22%3A%20f%22%7Bmilliseconds(c_baseline%2C%20'batch_latency')%3A.4f%7D%22%2C%20%22Samples%2Fs%22%3A%20f%22%7Bper_second(c_baseline)%3A%2C.0f%7D%22%2C%20%22Traffic%2Fsample%20KiB%22%3A%20f%22%7Bmemory_kib(c_baseline%2C%20'minimum_forward_traffic_per_sample')%3A.2f%7D%22%2C%20%22Activation%20KiB%22%3A%20f%22%7Bmemory_kib(c_baseline%2C%20'activation_memory')%3A.2f%7D%22%2C%20%22Fits%22%3A%20%22PASS%22%20if%20c_baseline%5B%22fits_memory%22%5D%20else%20%22FAIL%20%C2%B7%20memory%22%7D%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%7B%22Batch%22%3A%20c_result%5B%22batch_size%22%5D%2C%20%22Batch%20latency%20ms%22%3A%20f%22%7Bmilliseconds(c_result%2C%20'batch_latency')%3A.4f%7D%22%2C%20%22Samples%2Fs%22%3A%20f%22%7Bper_second(c_result)%3A%2C.0f%7D%22%2C%20%22Traffic%2Fsample%20KiB%22%3A%20f%22%7Bmemory_kib(c_result%2C%20'minimum_forward_traffic_per_sample')%3A.2f%7D%22%2C%20%22Activation%20KiB%22%3A%20f%22%7Bmemory_kib(c_result%2C%20'activation_memory')%3A.2f%7D%22%2C%20%22Fits%22%3A%20%22PASS%22%20if%20c_result%5B%22fits_memory%22%5D%20else%20%22FAIL%20%C2%B7%20memory%22%7D%2C%0A%20%20%20%20%20%20%20%20%5D%0A%20%20%20%20%20%20%20%20mem_status%20%3D%20f%22%20Warning%3A%20Batch%20%7Bc_result%5B'batch_size'%5D%7D%20exceeds%20the%20%7Bprofile%5B'display'%5D%7D%20memory%20limit%20(%7Bmemory_kib(c_result)%3A.1f%7D%20KiB%20vs%20%7Bmemory_kib(c_result%2C%20'memory_limit')%3A.1f%7D%20KiB%20limit).%22%20if%20not%20c_result%5B%22fits_memory%22%5D%20else%20%22%22%0A%20%20%20%20%20%20%20%20return%20mo.vstack(%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20intro%2C%20c_batch%2C%20c_prediction%2C%20apply_plotly_theme(figure)%2C%20table(rows)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.callout(mo.md(f%22**Your%20prediction%3A**%20%7Bc_prediction.value%7D.%20Throughput%20changes%20from%20%7Bper_second(c_baseline)%3A%2C.0f%7D%20to%20%7Bper_second(c_result)%3A%2C.0f%7D%20samples%2Fs%2C%20while%20the%20complete%20batch%20takes%20%7Bmilliseconds(c_baseline%2C%20'batch_latency')%3A.4f%7D%20to%20%7Bmilliseconds(c_result%2C%20'batch_latency')%3A.4f%7D%20ms.%7Bmem_status%7D%22)%2C%20kind%3D%22warn%22%20if%20not%20c_result%5B%22fits_memory%22%5D%20else%20%22info%22)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20c_capture%2C%20saved(%22C%22)%2C%20mo.accordion(%7B%22Calculation%20Notes%22%3A%20mo.md(f%22The%20sequential%20analytical%20time%20adds%20batch%20FLOPs%20divided%20by%20an%20illustrative%20effective%20compute%20rate%20of%20**%7Bc_baseline%5B'effective_compute_rate'%5D%3A~P%7D**%2C%20counted%20tensor%20bytes%20divided%20by%20**%7Bc_baseline%5B'effective_bandwidth'%5D%3A~P%7D**%2C%20and%20**%7Bc_baseline%5B'launch_overhead'%5D%3A~P%7D**%20launch%20overhead%20per%20layer.%20The%20experiment%20compares%20a%20fixed%20batch-one%20baseline%20against%20the%20chosen%20batch%20to%20evaluate%20latency%20and%20throughput%20amortization%2C%20alongside%20the%20track-native%20operating%20batch%20(%7Bprofile%5B'batch_size'%5D%7D).%20If%20activation%20state%20exceeds%20available%20memory%2C%20the%20batch%20is%20physically%20infeasible%20without%20streaming%20or%20memory%20expansion.%20Weights%20and%20launch%20overhead%20are%20amortized%20across%20the%20batch%3B%20work%20and%20activations%20scale%20with%20batch.%20The%20model%20excludes%20overlap%2C%20arrivals%2C%20queue%20delay%2C%20and%20latency%20percentiles.%22)%7D)%2C%0A%20%20%20%20%20%20%20%20%5D)%0A%0A%20%20%20%20def%20part_d()%3A%0A%20%20%20%20%20%20%20%20intro%20%3D%20mo.md(%22%23%23%23%20D%20%C2%B7%20Can%20fewer%20bytes%20produce%20an%20invalid%20answer%3F%20(9%20min)%5CnChoose%20a%20curated%20numerical%20case%20and%20predict%20the%20observed%20low-precision%20behavior.%22)%0A%20%20%20%20%20%20%20%20if%20d_prediction.value%20is%20None%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20mo.vstack(%5Bintro%2C%20mo.hstack(%5Bd_case%2C%20d_format%5D%2C%20wrap%3DTrue)%2C%20d_prediction%5D)%0A%20%20%20%20%20%20%20%20rows%20%3D%20%5B%5D%0A%20%20%20%20%20%20%20%20for%20label%2C%20result%20in%20((%22FP32%20reference%20path%22%2C%20d_baseline)%2C%20(d_format.value.upper()%2C%20d_result))%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20rows.append(%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22Run%22%3A%20label%2C%20%22Inputs%22%3A%20str(result%5B%22represented_inputs%22%5D)%2C%20%22Products%22%3A%20str(result%5B%22products%22%5D)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22Output%22%3A%20str(result%5B%22output%22%5D)%2C%20%22Rounded%22%3A%20%22YES%22%20if%20result%5B%22representation_rounded%22%5D%20else%20%22NO%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22Clipped%22%3A%20%22YES%22%20if%20result%5B%22input_clipped%22%5D%20else%20%22NO%22%2C%20%22Overflow%22%3A%20%22YES%22%20if%20result%5B%22arithmetic_overflow%22%5D%20else%20%22NO%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%7D)%0A%20%20%20%20%20%20%20%20flags%20%3D%20%5B%5D%0A%20%20%20%20%20%20%20%20if%20d_result%5B%22input_clipped%22%5D%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20flags.append(%22input%20clipping%22)%0A%20%20%20%20%20%20%20%20if%20d_result%5B%22arithmetic_overflow%22%5D%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20flags.append(%22arithmetic%20overflow%22)%0A%20%20%20%20%20%20%20%20if%20d_result%5B%22representation_rounded%22%5D%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20flags.append(%22representation%20rounding%22)%0A%20%20%20%20%20%20%20%20observed%20%3D%20%22%2C%20%22.join(flags)%20if%20flags%20else%20%22no%20flagged%20change%22%0A%20%20%20%20%20%20%20%20return%20mo.vstack(%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20intro%2C%20mo.hstack(%5Bd_case%2C%20d_format%5D%2C%20wrap%3DTrue)%2C%20d_prediction%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.md(f%22**Case%20assumption%3A**%20%7BNUMERICAL_CASES%5Bd_case.value%5D%5B'description'%5D%7D%22)%2C%20table(rows)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.callout(mo.md(f%22**Your%20prediction%3A**%20%7Bd_prediction.value%7D.%20**Observed%20analytical%20execution%3A**%20%7Bobserved%7D%3B%20reference%20output%20%7Bd_result%5B'reference_output'%5D%7D%2C%20test-format%20output%20%7Bd_result%5B'output'%5D%7D.%22)%2C%20kind%3D%22danger%22%20if%20d_result%5B%22output_changed%22%5D%20else%20%22success%22)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20d_capture%2C%20saved(%22D%22)%2C%20mo.accordion(%7B%22Calculation%20Notes%22%3A%20mo.md(%22FP32%20and%20FP16%20execute%20the%20displayed%20arrays%20in%20their%20stated%20formats.%20INT8%20uses%20a%20unit%20scale%2C%20round-to-nearest%20conversion%2C%20saturation%20to%20the%20signed%20INT8%20range%2C%20and%20an%20INT32%20accumulator.%20These%20deterministic%20cases%20establish%20behavior%20only%20for%20the%20tested%20values%3B%20they%20do%20not%20validate%20learned-model%20accuracy%2C%20training%20convergence%2C%20or%20untested%20numerical%20ranges.%22)%7D)%2C%0A%20%20%20%20%20%20%20%20%5D)%0A%0A%20%20%20%20def%20part_e()%3A%0A%20%20%20%20%20%20%20%20intro%20%3D%20mo.md(f%22%23%23%23%20E%20%C2%B7%20Which%20intervention%20fixes%20the%20observed%20failure%3F%20(8%20min)%5CnThe%20held-out%20scenario%20is%20a%20fixed-batch%20baseline%20(FP32%20Adam%20training%20at%20batch%20eight%2C%20held%20constant%20across%20tracks%20rather%20than%20track-native%20batch%20%7Bprofile%5B'batch_size'%5D%7D).%20Predict%20a%20repair%2C%20then%20compare%20all%20three%20actions%20from%20that%20same%20failed%20baseline.%22)%0A%20%20%20%20%20%20%20%20if%20e_prediction.value%20is%20None%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20mo.vstack(%5Bintro%2C%20e_prediction%5D)%0A%20%20%20%20%20%20%20%20baseline%20%3D%20e_results%5B%22tensor%22%5D%5B%22baseline%22%5D%0A%20%20%20%20%20%20%20%20rows%20%3D%20%5B%7B%22Design%22%3A%20%22Held-out%20baseline%22%2C%20%22Parameters%22%3A%20f%22%7Bbaseline%5B'parameters'%5D%3A%2C%7D%22%2C%20%22Batch%22%3A%20baseline%5B%22batch_size%22%5D%2C%20%22Format%22%3A%20baseline%5B%22precision%22%5D.upper()%2C%20%22State%20KiB%22%3A%20f%22%7Bmemory_kib(baseline)%3A.1f%7D%22%2C%20%22Outcome%22%3A%20%22PASS%22%20if%20baseline%5B%22fits_memory%22%5D%20else%20%22FAIL%20%C2%B7%20memory%22%7D%5D%0A%20%20%20%20%20%20%20%20labels%20%3D%20%7B%22tensor%22%3A%20%22Reduce%20hidden%20tensors%22%2C%20%22batch%22%3A%20%22Reduce%20batch%22%2C%20%22format%22%3A%20%22FP16%20within%20tested%20limits%22%7D%0A%20%20%20%20%20%20%20%20for%20action%2C%20comparison%20in%20e_results.items()%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20result%20%3D%20comparison%5B%22result%22%5D%0A%20%20%20%20%20%20%20%20%20%20%20%20rows.append(%7B%22Design%22%3A%20labels%5Baction%5D%2C%20%22Parameters%22%3A%20f%22%7Bresult%5B'parameters'%5D%3A%2C%7D%22%2C%20%22Batch%22%3A%20result%5B%22batch_size%22%5D%2C%20%22Format%22%3A%20result%5B%22precision%22%5D.upper()%2C%20%22State%20KiB%22%3A%20f%22%7Bmemory_kib(result)%3A.1f%7D%22%2C%20%22Outcome%22%3A%20%22PASS%22%20if%20result%5B%22fits_memory%22%5D%20else%20%22FAIL%20%C2%B7%20memory%22%7D)%0A%20%20%20%20%20%20%20%20valid%20%3D%20e_choice.value%20is%20not%20None%20and%20e_rejected.value%20is%20not%20None%20and%20e_choice.value%20!%3D%20e_rejected.value%0A%20%20%20%20%20%20%20%20return%20mo.vstack(%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20intro%2C%20e_prediction%2C%20table(rows)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.callout(mo.md(f%22**Your%20prediction%3A**%20%7Be_prediction.value%7D.%20Choose%20a%20decision%20and%20a%20different%2C%20quantified%20rejected%20alternative.%20A%20no-change%20decision%20still%20requires%20one%20tested%20alternative%20as%20evidence.%20On%20constrained%20device%20tracks%2C%20all%20tested%20single%20repairs%20may%20fail%20the%20memory%20envelope%3B%20a%20failed%20repair%20is%20a%20valid%20outcome%20showing%20why%20training%20remains%20on%20a%20development%20host.%22)%2C%20kind%3D%22info%22)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.hstack(%5Be_choice%2C%20e_rejected%5D%2C%20widths%3D%22equal%22%2C%20wrap%3DTrue)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.callout(mo.md(%22Decision%20contrast%20is%20complete.%22%20if%20valid%20else%20%22Select%20a%20decision%20and%20a%20different%20rejected%20alternative.%22)%2C%20kind%3D%22success%22%20if%20valid%20else%20%22warn%22)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20e_capture%2C%20saved(%22E%22)%2C%20mo.accordion(%7B%22Calculation%20Notes%22%3A%20mo.md(f%22All%20repairs%20start%20from%20the%20identical%20failed%20training%20state%20(fixed%20batch%20eight).%20The%20tensor%20action%20halves%20hidden%20widths%2C%20the%20batch%20action%20reduces%20batch%20eight%20to%20one%2C%20and%20the%20format%20action%20uses%20FP16%20weights%20and%20gradients%20with%20two%20FP32%20Adam%20slots%20and%20no%20separate%20FP32%20master-weight%20copy.%20A%20repair%20that%20still%20exceeds%20the%20memory%20envelope%20remains%20a%20failed%20repair%3B%20combined%20changes%20or%20a%20development%20host%20may%20be%20needed.%20Passing%20the%20resource%20envelope%20establishes%20memory%20fit%20under%20those%20assumptions%3B%20it%20does%20not%20validate%20training%20accuracy%2C%20convergence%2C%20or%20numerical%20behavior%20beyond%20the%20tested%20cases.%20The%20comparison%20reports%20consequences%20rather%20than%20an%20aggregate%20score.%22)%7D)%2C%0A%20%20%20%20%20%20%20%20%5D)%0A%0A%20%20%20%20def%20build_synthesis()%3A%0A%20%20%20%20%20%20%20%20rows%20%3D%20%5B%5D%0A%20%20%20%20%20%20%20%20for%20part%20in%20%22ABCDE%22%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20capture%20%3D%20captures.get(part)%0A%20%20%20%20%20%20%20%20%20%20%20%20rows.append(%7B%22Part%22%3A%20part%2C%20%22Original%20prediction%22%3A%20capture.to_dict()%5B%22prediction%22%5D%20if%20capture%20else%20%22%E2%80%94%22%2C%20%22Evidence%22%3A%20%22CURRENT%22%20if%20capture%20and%20part%20not%20in%20audit.stale%20and%20(part%2C%20part)%20not%20in%20audit.identical_pairs%20else%20(%22STALE%22%20if%20capture%20else%20%22MISSING%22)%7D)%0A%20%20%20%20%20%20%20%20saved_decision%20%3D%20captures%5B%22E%22%5D.to_dict()%5B%22decision%22%5D%20if%20%22E%22%20in%20captures%20else%20None%0A%20%20%20%20%20%20%20%20ready%20%3D%20audit.complete%20and%20all(widget.value%20is%20not%20None%20for%20widget%20in%20(final_choice%2C%20final_rejected%2C%20final_trigger%2C%20final_risk))%20and%20bool(rationale.value.strip())%20and%20final_choice.value%20!%3D%20final_rejected.value%20and%20final_choice.value%20%3D%3D%20saved_decision%0A%20%20%20%20%20%20%20%20return%20mo.vstack(%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.md(%22%23%23%23%20Synthesis%20%C2%B7%20Defend%20one%20tensor%20decision%20(5%20min)%5CnUse%20saved%20evidence%20to%20name%20the%20chosen%20intervention%2C%20quantify%20a%20rejected%20tested%20alternative%2C%20state%20the%20remaining%20limitation%2C%20and%20identify%20the%20trigger%20that%20would%20reopen%20the%20decision.%22)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20table(rows)%2C%20mo.callout(mo.md(%22Saved%20snapshots%20remain%20fixed%20when%20live%20controls%20move.%20Recapture%20stale%20evidence%20before%20generating%20the%20report.%22)%2C%20kind%3D%22info%22)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.hstack(%5Bfinal_choice%2C%20final_rejected%5D%2C%20widths%3D%22equal%22%2C%20wrap%3DTrue)%2C%20mo.hstack(%5Bfinal_trigger%2C%20final_risk%5D%2C%20widths%3D%22equal%22%2C%20wrap%3DTrue)%2C%20rationale%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.callout(mo.md(%22**Ready%20for%20the%20local%20report.**%22%20if%20ready%20else%20%22Complete%20five%20current%20contrasts%2C%20match%20the%20recommendation%20to%20saved%20Part%20E%2C%20choose%20a%20different%20rejected%20alternative%2C%20and%20add%20the%20rationale.%22)%2C%20kind%3D%22success%22%20if%20ready%20else%20%22warn%22)%2C%0A%20%20%20%20%20%20%20%20%5D)%0A%0A%20%20%20%20mo.ui.tabs(%7B%22Part%20A%22%3A%20part_a()%2C%20%22Part%20B%22%3A%20part_b()%2C%20%22Part%20C%22%3A%20part_c()%2C%20%22Part%20D%22%3A%20part_d()%2C%20%22Part%20E%22%3A%20part_e()%2C%20%22Synthesis%22%3A%20build_synthesis()%7D)%0A%20%20%20%20return%20(audit%2C)%0A%0A%0A%40app.cell%0Adef%20_(%0A%20%20%20%20audit%2C%0A%20%20%20%20build_lab_report%2C%0A%20%20%20%20final_choice%2C%0A%20%20%20%20final_rejected%2C%0A%20%20%20%20final_risk%2C%0A%20%20%20%20final_trigger%2C%0A%20%20%20%20get_evidence%2C%0A%20%20%20%20get_lab_metadata%2C%0A%20%20%20%20mo%2C%0A%20%20%20%20profile%2C%0A%20%20%20%20rationale%2C%0A%20%20%20%20report_export_panel%2C%0A%20%20%20%20track_id%2C%0A)%3A%0A%20%20%20%20_captures%20%3D%20get_evidence()%0A%20%20%20%20_saved_decision%20%3D%20_captures%5B%22E%22%5D.to_dict()%5B%22decision%22%5D%20if%20%22E%22%20in%20_captures%20else%20None%0A%20%20%20%20_ready%20%3D%20audit.complete%20and%20all(widget.value%20is%20not%20None%20for%20widget%20in%20(final_choice%2C%20final_rejected%2C%20final_trigger%2C%20final_risk))%20and%20bool(rationale.value.strip())%20and%20final_choice.value%20!%3D%20final_rejected.value%20and%20final_choice.value%20%3D%3D%20_saved_decision%0A%20%20%20%20mo.stop(not%20_ready)%0A%20%20%20%20snapshots%20%3D%20%7Bpart%3A%20_captures%5Bpart%5D.to_dict()%20for%20part%20in%20%22ABCDE%22%7D%0A%20%20%20%20report%20%3D%20build_lab_report(%0A%20%20%20%20%20%20%20%20get_lab_metadata(%22vol1%2Flab_05_nn_compute.py%22)%2C%20track%3Dtrack_id%2C%20scenario%3Dprofile%5B%22scenario%22%5D%2C%0A%20%20%20%20%20%20%20%20learning_objectives%3D%5B%22Count%20dense-network%20parameters%2C%20MACs%2C%20FLOPs%2C%20activations%2C%20and%20tensor%20traffic%22%2C%20%22Explain%20why%20training%20state%20can%20cross%20a%20memory%20boundary%20that%20inference%20does%20not%22%2C%20%22Compare%20batching%20and%20numerical-format%20interventions%20from%20preserved%20baselines%22%5D%2C%0A%20%20%20%20%20%20%20%20predictions%3D%7Bpart%3A%20snapshots%5Bpart%5D%5B%22prediction%22%5D%20for%20part%20in%20%22ABCDE%22%7D%2C%0A%20%20%20%20%20%20%20%20knob_settings%3D%7Bpart%3A%20snapshots%5Bpart%5D%5B%22inputs%22%5D%20for%20part%20in%20%22ABCDE%22%7D%2C%0A%20%20%20%20%20%20%20%20evidence_summary%3D%7Bpart%3A%20%7B%22baseline%22%3A%20snapshots%5Bpart%5D%5B%22baseline%22%5D%2C%20%22result%22%3A%20snapshots%5Bpart%5D%5B%22result%22%5D%2C%20%22chosen_result%22%3A%20snapshots%5Bpart%5D.get(%22chosen_result%22)%2C%20%22result_role%22%3A%20snapshots%5Bpart%5D.get(%22result_role%22)%2C%20%22alternatives%22%3A%20snapshots%5Bpart%5D%5B%22alternatives%22%5D%7D%20for%20part%20in%20%22ABCDE%22%7D%2C%0A%20%20%20%20%20%20%20%20binding_constraints%3D%7Bpart%3A%20(snapshots%5Bpart%5D.get(%22chosen_result%22)%20or%20snapshots%5Bpart%5D%5B%22result%22%5D).get(%22violations%22%2C%20%5B%5D)%20for%20part%20in%20%22ABCE%22%7D%2C%0A%20%20%20%20%20%20%20%20decisions%3D%7B%22recommendation%22%3A%20final_choice.value%2C%20%22rejected_alternative%22%3A%20final_rejected.value%2C%20%22reevaluation_trigger%22%3A%20final_trigger.value%7D%2C%0A%20%20%20%20%20%20%20%20final_decision%3D%7B%22recommendation%22%3A%20final_choice.value%2C%20%22rejected_alternative%22%3A%20final_rejected.value%2C%20%22rationale%22%3A%20rationale.value%7D%2C%0A%20%20%20%20%20%20%20%20big_takeaways%3D%5B%22Tensor%20dimensions%20determine%20both%20work%20and%20retained%20state.%22%2C%20%22Batching%20amortizes%20fixed%20traffic%20and%20launch%20overhead%20while%20increasing%20batch%20latency%20and%20activations.%22%2C%20%22A%20smaller%20numerical%20format%20requires%20value-range%20evidence%2C%20not%20a%20quality%20proxy.%22%5D%2C%0A%20%20%20%20%20%20%20%20reflections%3D%7B%22rationale%22%3A%20rationale.value%2C%20%22reevaluation_trigger%22%3A%20final_trigger.value%7D%2C%20residual_risk%3Dfinal_risk.value%2C%0A%20%20%20%20%20%20%20%20result_snapshot%3D%7B%22track%22%3A%20track_id%2C%20%22captures%22%3A%20snapshots%2C%20%22recommendation%22%3A%20final_choice.value%2C%20%22rejected%22%3A%20final_rejected.value%2C%20%22trigger%22%3A%20final_trigger.value%2C%20%22residual_risk%22%3A%20final_risk.value%7D%2C%0A%20%20%20%20%20%20%20%20source_trace%3D%7B%22scenario%22%3A%20%22Illustrative%20analytical%20scenarios%2C%20not%20device%20measurements.%22%2C%20%22calculations%22%3A%20%22MLSysIM%20v1_05_experiments%20evaluator.%22%7D%2C%0A%20%20%20%20)%0A%20%20%20%20mo.vstack(%5Bmo.md(%22%23%23%20Local%20evidence%20report%22)%2C%20report_export_panel(report)%5D)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Aasync%20def%20_(%0A%20%20%20%20audit%2C%0A%20%20%20%20final_choice%2C%0A%20%20%20%20final_rejected%2C%0A%20%20%20%20final_risk%2C%0A%20%20%20%20final_trigger%2C%0A%20%20%20%20get_evidence%2C%0A%20%20%20%20ledger%2C%0A%20%20%20%20mo%2C%0A%20%20%20%20rationale%2C%0A%20%20%20%20track_id%2C%0A)%3A%0A%20%20%20%20_captures%20%3D%20get_evidence()%0A%20%20%20%20_saved_decision%20%3D%20_captures%5B%22E%22%5D.to_dict()%5B%22decision%22%5D%20if%20%22E%22%20in%20_captures%20else%20None%0A%20%20%20%20_ready%20%3D%20audit.complete%20and%20all(widget.value%20is%20not%20None%20for%20widget%20in%20(final_choice%2C%20final_rejected%2C%20final_trigger%2C%20final_risk))%20and%20bool(rationale.value.strip())%20and%20final_choice.value%20!%3D%20final_rejected.value%20and%20final_choice.value%20%3D%3D%20_saved_decision%0A%20%20%20%20_status%20%3D%20%22EVIDENCE%20IN%20PROGRESS%22%0A%20%20%20%20if%20_ready%3A%0A%20%20%20%20%20%20%20%20try%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20ledger.save(chapter%3D5%2C%20design%3D%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22schema_version%22%3A%201%2C%20%22lab_id%22%3A%20%22v1_05%22%2C%20%22track_id%22%3A%20track_id%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22model_id%22%3A%20%22v1_05_experiments%22%2C%20%22evidence%22%3A%20%7Bpart%3A%20capture.to_dict()%20for%20part%2C%20capture%20in%20_captures.items()%7D%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22recommendation%22%3A%20final_choice.value%2C%20%22rejected_alternative%22%3A%20final_rejected.value%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22reevaluation_trigger%22%3A%20final_trigger.value%2C%20%22residual_risk%22%3A%20final_risk.value%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22rationale%22%3A%20rationale.value%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%7D)%0A%20%20%20%20%20%20%20%20%20%20%20%20await%20ledger.flush()%0A%20%20%20%20%20%20%20%20except%20Exception%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20_status%20%3D%20%22LOCAL%20SAVE%20FAILED%20%C2%B7%20DOWNLOAD%20THE%20REPORT%20TO%20KEEP%20YOUR%20EVIDENCE%22%0A%20%20%20%20%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20_status%20%3D%20%22SAVED%22%0A%20%20%20%20mo.Html(f'%3Cdiv%20class%3D%22lab-hud%22%3E%3Cspan%3ELAB%2005%20%C2%B7%20Tensor%20Costs%20%C2%B7%20STATUS%3A%20%7B_status%7D%3C%2Fspan%3E%3C%2Fdiv%3E')%0A%20%20%20%20return%0A%0A%0Aif%20__name__%20%3D%3D%20%22__main__%22%3A%0A%20%20%20%20app.run()%0A