Lab 02: The Compute Infrastructure Wall

Lab 02: The Compute Infrastructure Wall · MLSysBook

import%20marimo%0A%0A__generated_with%20%3D%20%220.25.0%22%0Aapp%20%3D%20marimo.App(%0A%20%20%20%20width%3D%22full%22%2C%0A%20%20%20%20app_title%3D%22Lab%2002%3A%20The%20Compute%20Infrastructure%20Wall%20%C2%B7%20MLSysBook%22%2C%0A)%0A%0A%0A%40app.cell%0Aasync%20def%20_()%3A%0A%20%20%20%20import%20sys%0A%20%20%20%20from%20pathlib%20import%20Path%0A%20%20%20%20import%20marimo%20as%20mo%0A%0A%20%20%20%20if%20sys.platform%20%3D%3D%20%22emscripten%22%3A%0A%20%20%20%20%20%20%20%20import%20micropip%0A%20%20%20%20%20%20%20%20await%20micropip.install(%5B%22pydantic%22%2C%20%22pint%22%2C%20%22plotly%22%2C%20%22pandas%22%5D%2C%20keep_going%3DFalse)%0A%20%20%20%20%20%20%20%20await%20micropip.install(%22..%2F..%2Fwheels%2Fmlsysim-0.1.2-py3-none-any.whl%22%2C%20keep_going%3DFalse)%0A%20%20%20%20%20%20%20%20await%20micropip.install(%22..%2F..%2Fwheels%2Fmlsysbook_labs-0.1.0-py3-none-any.whl%22%2C%20keep_going%3DFalse)%0A%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20labs_dir%20%3D%20Path(__file__).resolve().parents%5B1%5D%0A%20%20%20%20%20%20%20%20if%20str(labs_dir)%20not%20in%20sys.path%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20sys.path.insert(0%2C%20str(labs_dir))%0A%20%20%20%20%20%20%20%20from%20bootstrap%20import%20native_bootstrap%0A%20%20%20%20%20%20%20%20native_bootstrap(__file__)%0A%0A%20%20%20%20import%20plotly.graph_objects%20as%20go%0A%20%20%20%20from%20mlsysim.core.units%20import%20Q_%0A%20%20%20%20from%20mlsysim.engine.v2_02_experiments%20import%20(%0A%20%20%20%20%20%20%20%20MODEL_ID%2C%20compare_systems%2C%20compare_transfer_tiers%2C%20evaluate_facility%2C%0A%20%20%20%20%20%20%20%20evaluate_memory_scale%2C%20evaluate_roofline%2C%20evaluate_transfer_tier%2C%0A%20%20%20%20%20%20%20%20get_facility_count_policy%2C%20get_track_config%2C%0A%20%20%20%20%20%20%20%20get_transfer_tier_options%2C%0A%20%20%20%20)%0A%20%20%20%20from%20mlsysim.labs.state%20import%20DesignLedger%0A%20%20%20%20from%20mlsysim.labs.style%20import%20COLORS%2C%20LAB_CSS%2C%20apply_plotly_theme%0A%20%20%20%20from%20mlsysbook_labs%20import%20(%0A%20%20%20%20%20%20%20%20ACADEMIC_LAB_CSS%2C%20build_lab_report%2C%20get_lab_metadata%2C%20report_export_panel%2C%0A%20%20%20%20)%0A%20%20%20%20from%20mlsysbook_labs.experiment_evidence%20import%20audit_evidence%2C%20capture_evidence%0A%0A%20%20%20%20ledger%20%3D%20DesignLedger(volume%3D%22vol2%22)%0A%20%20%20%20if%20ledger.is_wasm%3A%0A%20%20%20%20%20%20%20%20_loaded%20%3D%20await%20ledger.load_async()%0A%20%20%20%20return%20(%0A%20%20%20%20%20%20%20%20ACADEMIC_LAB_CSS%2C%0A%20%20%20%20%20%20%20%20COLORS%2C%0A%20%20%20%20%20%20%20%20LAB_CSS%2C%0A%20%20%20%20%20%20%20%20MODEL_ID%2C%0A%20%20%20%20%20%20%20%20Q_%2C%0A%20%20%20%20%20%20%20%20apply_plotly_theme%2C%0A%20%20%20%20%20%20%20%20audit_evidence%2C%0A%20%20%20%20%20%20%20%20build_lab_report%2C%0A%20%20%20%20%20%20%20%20capture_evidence%2C%0A%20%20%20%20%20%20%20%20compare_systems%2C%0A%20%20%20%20%20%20%20%20compare_transfer_tiers%2C%0A%20%20%20%20%20%20%20%20evaluate_facility%2C%0A%20%20%20%20%20%20%20%20evaluate_memory_scale%2C%0A%20%20%20%20%20%20%20%20evaluate_roofline%2C%0A%20%20%20%20%20%20%20%20evaluate_transfer_tier%2C%0A%20%20%20%20%20%20%20%20get_facility_count_policy%2C%0A%20%20%20%20%20%20%20%20get_lab_metadata%2C%0A%20%20%20%20%20%20%20%20get_track_config%2C%0A%20%20%20%20%20%20%20%20get_transfer_tier_options%2C%0A%20%20%20%20%20%20%20%20go%2C%0A%20%20%20%20%20%20%20%20ledger%2C%0A%20%20%20%20%20%20%20%20mo%2C%0A%20%20%20%20%20%20%20%20report_export_panel%2C%0A%20%20%20%20)%0A%0A%0A%40app.cell%0Adef%20_(mo)%3A%0A%20%20%20%20get_evidence%2C%20set_evidence%20%3D%20mo.state(%7B%7D)%0A%20%20%20%20return%20get_evidence%2C%20set_evidence%0A%0A%0A%40app.cell%0Adef%20_(mo%2C%20set_evidence)%3A%0A%20%20%20%20track%20%3D%20mo.ui.dropdown(%0A%20%20%20%20%20%20%20%20%7B%22TinyML%22%3A%20%22tinyml%22%2C%20%22Mobile%22%3A%20%22mobile%22%2C%20%22Edge%22%3A%20%22edge%22%2C%20%22Cloud%22%3A%20%22cloud%22%7D%2C%0A%20%20%20%20%20%20%20%20value%3D%22TinyML%22%2C%20label%3D%22Training-infrastructure%20track%22%2C%0A%20%20%20%20%20%20%20%20on_change%3Dlambda%20_value%3A%20set_evidence(%7B%7D)%2C%0A%20%20%20%20)%0A%20%20%20%20return%20(track%2C)%0A%0A%0A%40app.cell%0Adef%20_(get_track_config%2C%20track)%3A%0A%20%20%20%20track_id%20%3D%20track.value%0A%20%20%20%20profile%20%3D%20get_track_config(track_id)%0A%20%20%20%20return%20profile%2C%20track_id%0A%0A%0A%40app.cell%0Adef%20_(%0A%20%20%20%20get_facility_count_policy%2C%0A%20%20%20%20get_transfer_tier_options%2C%0A%20%20%20%20mo%2C%0A%20%20%20%20profile%2C%0A%20%20%20%20track_id%2C%0A)%3A%0A%20%20%20%20_track_key%20%3D%20track_id%0A%20%20%20%20a_intensity%20%3D%20mo.ui.dropdown(%0A%20%20%20%20%20%20%20%20%7B%22100%20FLOP%2Fbyte%22%3A%20100%2C%20%22300%20FLOP%2Fbyte%22%3A%20300%2C%20%22600%20FLOP%2Fbyte%22%3A%20600%2C%20%221%2C000%20FLOP%2Fbyte%22%3A%201000%7D%2C%0A%20%20%20%20%20%20%20%20value%3D%221%2C000%20FLOP%2Fbyte%22%2C%20label%3D%22Changed%20arithmetic%20intensity%22%2C%0A%20%20%20%20)%0A%20%20%20%20b_scale%20%3D%20mo.ui.slider(1.1%2C%202.0%2C%20value%3D1.5%2C%20step%3D0.1%2C%20label%3D%22Working-set%20and%20traffic%20multiplier%22)%0A%20%20%20%20_c_tiers%20%3D%20get_transfer_tier_options(track_id)%0A%20%20%20%20c_destination%20%3D%20mo.ui.dropdown(%0A%20%20%20%20%20%20%20%20_c_tiers%2C%0A%20%20%20%20%20%20%20%20value%3Dprofile.network_tier_name%20if%20profile.network_tier_name%20in%20_c_tiers%20else%20list(_c_tiers.values())%5B0%5D%2C%0A%20%20%20%20%20%20%20%20label%3D%22Changed%20placement%20tier%22%2C%0A%20%20%20%20)%0A%20%20%20%20_d_policy%20%3D%20get_facility_count_policy(track_id)%0A%20%20%20%20d_count%20%3D%20mo.ui.slider(%0A%20%20%20%20%20%20%20%20_d_policy%5B%22min_count%22%5D%2C%20_d_policy%5B%22max_count%22%5D%2C%0A%20%20%20%20%20%20%20%20value%3D_d_policy%5B%22default_count%22%5D%2C%20step%3D_d_policy%5B%22step%22%5D%2C%0A%20%20%20%20%20%20%20%20label%3D%22Accelerators%20installed%22%2C%0A%20%20%20%20)%0A%20%20%20%20e_duty%20%3D%20mo.ui.slider(0.4%2C%200.9%2C%20value%3D0.8%2C%20step%3D0.1%2C%20label%3D%22Expected%20active%20duty%20cycle%22)%0A%20%20%20%20return%20a_intensity%2C%20b_scale%2C%20c_destination%2C%20d_count%2C%20e_duty%0A%0A%0A%40app.cell%0Adef%20_(mo%2C%20track_id)%3A%0A%20%20%20%20_track_key%20%3D%20track_id%0A%20%20%20%20a_prediction%20%3D%20mo.ui.radio(%0A%20%20%20%20%20%20%20%20%7B%22Bandwidth-rich%20option%20still%20wins%22%3A%20%22bandwidth%22%2C%20%22Higher%20peak-compute%20option%20takes%20the%20lead%22%3A%20%22compute%22%2C%20%22The%20ranking%20stays%20tied%22%3A%20%22tie%22%7D%2C%0A%20%20%20%20%20%20%20%20label%3D%22At%20the%20changed%20intensity%2C%20which%20outcome%20do%20you%20expect%3F%22%2C%0A%20%20%20%20).form(submit_button_label%3D%22Lock%20Part%20A%20prediction%22)%0A%20%20%20%20b_prediction%20%3D%20mo.ui.radio(%0A%20%20%20%20%20%20%20%20%7B%22Fits%3B%20memory%20bandwidth%20sets%20the%20floor%22%3A%20%22fits_memory%22%2C%20%22Fits%3B%20compute%20sets%20the%20floor%22%3A%20%22fits_compute%22%2C%20%22Capacity%20fails%20before%20latency%20is%20usable%22%3A%20%22capacity%22%7D%2C%0A%20%20%20%20%20%20%20%20label%3D%22What%20will%20the%20enlarged%20workload%20expose%3F%22%2C%0A%20%20%20%20).form(submit_button_label%3D%22Lock%20Part%20B%20prediction%22)%0A%20%20%20%20c_prediction%20%3D%20mo.ui.radio(%0A%20%20%20%20%20%20%20%20%7B%22Less%20than%202%C3%97%20slower%22%3A%20%22under_2x%22%2C%20%222%E2%80%9310%C3%97%20slower%22%3A%20%222_10x%22%2C%20%22More%20than%2010%C3%97%20slower%22%3A%20%22over_10x%22%7D%2C%0A%20%20%20%20%20%20%20%20label%3D%22How%20much%20slower%20will%20the%20changed%20placement%20be%3F%22%2C%0A%20%20%20%20).form(submit_button_label%3D%22Lock%20Part%20C%20prediction%22)%0A%20%20%20%20d_prediction%20%3D%20mo.ui.radio(%0A%20%20%20%20%20%20%20%20%7B%22Both%20limits%20pass%22%3A%20%22pass%22%2C%20%22Electrical%20fails%20first%22%3A%20%22electrical%22%2C%20%22Cooling%20fails%20first%22%3A%20%22cooling%22%2C%20%22Both%20fail%22%3A%20%22both%22%7D%2C%0A%20%20%20%20%20%20%20%20label%3D%22Which%20facility%20boundary%20will%20the%20installation%20cross%3F%22%2C%0A%20%20%20%20).form(submit_button_label%3D%22Lock%20Part%20D%20prediction%22)%0A%20%20%20%20e_prediction%20%3D%20mo.ui.radio(%0A%20%20%20%20%20%20%20%20%7B%22Lower%20purchase%20cost%20wins%22%3A%20%22purchase%22%2C%20%22Higher%20sustained%20throughput%20wins%22%3A%20%22throughput%22%2C%20%22No%20candidate%20remains%20feasible%22%3A%20%22none%22%7D%2C%0A%20%20%20%20%20%20%20%20label%3D%22What%20will%20dominate%20the%20purchase%20decision%3F%22%2C%0A%20%20%20%20).form(submit_button_label%3D%22Lock%20Part%20E%20prediction%22)%0A%20%20%20%20return%20a_prediction%2C%20b_prediction%2C%20c_prediction%2C%20d_prediction%2C%20e_prediction%0A%0A%0A%40app.cell%0Adef%20_(mo%2C%20profile%2C%20track_id)%3A%0A%20%20%20%20_track_key%20%3D%20track_id%0A%20%20%20%20_first%2C%20_second%20%3D%20profile.procurement_devices%0A%20%20%20%20e_decision%20%3D%20mo.ui.radio(%7B_first%3A%20_first%2C%20_second%3A%20_second%2C%20%22No%20feasible%20purchase%22%3A%20%22none%22%7D%2C%20label%3D%22Purchase%20decision%22)%0A%20%20%20%20e_rejected%20%3D%20mo.ui.radio(%7B_first%3A%20_first%2C%20_second%3A%20_second%7D%2C%20label%3D%22Quantified%20rejected%20alternative%22)%0A%20%20%20%20final_choice%20%3D%20mo.ui.radio(%7B_first%3A%20_first%2C%20_second%3A%20_second%2C%20%22No%20feasible%20purchase%22%3A%20%22none%22%7D%2C%20label%3D%22Final%20recommendation%22)%0A%20%20%20%20final_rejected%20%3D%20mo.ui.radio(%7B_first%3A%20_first%2C%20_second%3A%20_second%7D%2C%20label%3D%22Rejected%20alternative%22)%0A%20%20%20%20final_trigger%20%3D%20mo.ui.radio(%0A%20%20%20%20%20%20%20%20%7B%22Working%20set%20exceeds%20memory%22%3A%20%22memory%22%2C%20%22Facility%20draw%20exceeds%20its%20limit%22%3A%20%22facility%22%2C%20%22Duty%20cycle%20changes%20by%2020%20points%22%3A%20%22duty%22%7D%2C%0A%20%20%20%20%20%20%20%20label%3D%22Reevaluation%20trigger%22%2C%0A%20%20%20%20)%0A%20%20%20%20final_risk%20%3D%20mo.ui.radio(%0A%20%20%20%20%20%20%20%20%7B%22Roofline%20omits%20software%20overhead%22%3A%20%22software%22%2C%20%22Transfer%20model%20omits%20contention%22%3A%20%22contention%22%2C%20%22Cost%20omits%20staffing%20and%20construction%22%3A%20%22cost_boundary%22%7D%2C%0A%20%20%20%20%20%20%20%20label%3D%22Remaining%20limitation%22%2C%0A%20%20%20%20)%0A%20%20%20%20rationale%20%3D%20mo.ui.text_area(%0A%20%20%20%20%20%20%20%20label%3D%22Evidence-based%20rationale%22%2C%0A%20%20%20%20%20%20%20%20placeholder%3D%22Cite%20the%20selected%20option%2C%20one%20number%20for%20the%20rejected%20alternative%2C%20the%20limitation%2C%20and%20the%20trigger.%22%2C%0A%20%20%20%20)%0A%20%20%20%20return%20(%0A%20%20%20%20%20%20%20%20e_decision%2C%0A%20%20%20%20%20%20%20%20e_rejected%2C%0A%20%20%20%20%20%20%20%20final_choice%2C%0A%20%20%20%20%20%20%20%20final_rejected%2C%0A%20%20%20%20%20%20%20%20final_risk%2C%0A%20%20%20%20%20%20%20%20final_trigger%2C%0A%20%20%20%20%20%20%20%20rationale%2C%0A%20%20%20%20)%0A%0A%0A%40app.cell%0Adef%20_(%0A%20%20%20%20Q_%2C%0A%20%20%20%20a_intensity%2C%0A%20%20%20%20b_scale%2C%0A%20%20%20%20c_destination%2C%0A%20%20%20%20compare_systems%2C%0A%20%20%20%20compare_transfer_tiers%2C%0A%20%20%20%20d_count%2C%0A%20%20%20%20e_duty%2C%0A%20%20%20%20evaluate_facility%2C%0A%20%20%20%20evaluate_memory_scale%2C%0A%20%20%20%20evaluate_roofline%2C%0A%20%20%20%20evaluate_transfer_tier%2C%0A%20%20%20%20profile%2C%0A%20%20%20%20track_id%2C%0A)%3A%0A%20%20%20%20a_base%20%3D%20evaluate_roofline(track_id%2C%20Q_(%2210%20flop%2Fbyte%22))%0A%20%20%20%20a_result%20%3D%20evaluate_roofline(track_id%2C%20Q_(a_intensity.value%2C%20%22flop%2Fbyte%22))%0A%20%20%20%20b_base%20%3D%20evaluate_memory_scale(track_id%2C%20scale%3D1.0)%0A%20%20%20%20b_result%20%3D%20evaluate_memory_scale(track_id%2C%20scale%3Db_scale.value)%0A%20%20%20%20c_all%20%3D%20compare_transfer_tiers(track_id)%0A%20%20%20%20c_base%20%3D%20evaluate_transfer_tier(track_id%2C%20tier%3Dc_all%5B%22baseline_tier%22%5D)%0A%20%20%20%20c_result%20%3D%20evaluate_transfer_tier(track_id%2C%20tier%3Dc_destination.value)%0A%20%20%20%20d_base%20%3D%20evaluate_facility(track_id%2C%20accelerator_count%3Dprofile.accelerator_count)%0A%20%20%20%20d_result%20%3D%20evaluate_facility(track_id%2C%20accelerator_count%3Dd_count.value)%0A%20%20%20%20e_base%20%3D%20compare_systems(track_id%2C%20arithmetic_intensity%3DQ_(%221000%20flop%2Fbyte%22)%2C%20duty_cycle%3D0.25)%0A%20%20%20%20e_result%20%3D%20compare_systems(track_id%2C%20arithmetic_intensity%3DQ_(%221000%20flop%2Fbyte%22)%2C%20duty_cycle%3De_duty.value)%0A%20%20%20%20return%20(%0A%20%20%20%20%20%20%20%20a_base%2C%0A%20%20%20%20%20%20%20%20a_result%2C%0A%20%20%20%20%20%20%20%20b_base%2C%0A%20%20%20%20%20%20%20%20b_result%2C%0A%20%20%20%20%20%20%20%20c_all%2C%0A%20%20%20%20%20%20%20%20c_base%2C%0A%20%20%20%20%20%20%20%20c_result%2C%0A%20%20%20%20%20%20%20%20d_base%2C%0A%20%20%20%20%20%20%20%20d_result%2C%0A%20%20%20%20%20%20%20%20e_base%2C%0A%20%20%20%20%20%20%20%20e_result%2C%0A%20%20%20%20)%0A%0A%0A%40app.cell%0Adef%20_(%0A%20%20%20%20a_base%2C%0A%20%20%20%20a_prediction%2C%0A%20%20%20%20a_result%2C%0A%20%20%20%20b_base%2C%0A%20%20%20%20b_prediction%2C%0A%20%20%20%20b_result%2C%0A%20%20%20%20c_base%2C%0A%20%20%20%20c_prediction%2C%0A%20%20%20%20c_result%2C%0A%20%20%20%20capture_evidence%2C%0A%20%20%20%20d_base%2C%0A%20%20%20%20d_prediction%2C%0A%20%20%20%20d_result%2C%0A%20%20%20%20e_base%2C%0A%20%20%20%20e_decision%2C%0A%20%20%20%20e_prediction%2C%0A%20%20%20%20e_rejected%2C%0A%20%20%20%20e_result%2C%0A%20%20%20%20mo%2C%0A%20%20%20%20profile%2C%0A%20%20%20%20set_evidence%2C%0A%20%20%20%20track_id%2C%0A)%3A%0A%20%20%20%20def%20store(part%2C%20capture)%3A%0A%20%20%20%20%20%20%20%20set_evidence(lambda%20current%3A%20%7B**current%2C%20part%3A%20capture%7D)%0A%0A%20%20%20%20a_upstream%20%3D%20%7B%22devices%22%3A%20profile.roofline_devices%7D%0A%20%20%20%20b_upstream%20%3D%20%7B%22device%22%3A%20profile.memory_device%7D%0A%20%20%20%20c_upstream%20%3D%20%7B%22device%22%3A%20profile.memory_device%2C%20%22payload_gib%22%3A%20c_base%5B%22payload_gib%22%5D%7D%0A%20%20%20%20d_upstream%20%3D%20%7B%22device%22%3A%20profile.memory_device%2C%20%22facility%22%3A%20profile.label%7D%0A%20%20%20%20e_upstream%20%3D%20%7B%22candidates%22%3A%20profile.procurement_devices%2C%20%22workload%22%3A%20profile.label%7D%0A%0A%20%20%20%20def%20capture(part%2C%20prediction%2C%20baseline%2C%20result%2C%20upstream%2C%20decision%2C%20alternatives%3D())%3A%0A%20%20%20%20%20%20%20%20return%20capture_evidence(%0A%20%20%20%20%20%20%20%20%20%20%20%20track%3Dtrack_id%2C%20part%3Dpart%2C%20prediction%3Dprediction%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20inputs%3D%7B%22baseline%22%3A%20baseline%5B%22inputs%22%5D%2C%20%22result%22%3A%20result%5B%22inputs%22%5D%7D%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20baseline%3Dbaseline%2C%20result%3Dresult%2C%20upstream_inputs%3Dupstream%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20alternatives%3Dalternatives%2C%20decision%3Ddecision%2C%20model_key%3Dresult%5B%22model_key%22%5D%2C%0A%20%20%20%20%20%20%20%20)%0A%0A%20%20%20%20a_capture%20%3D%20mo.ui.button(%0A%20%20%20%20%20%20%20%20label%3D%22Capture%20Roofline%20contrast%22%2C%20kind%3D%22success%22%2C%20disabled%3Da_prediction.value%20is%20None%2C%0A%20%20%20%20%20%20%20%20on_click%3Dlambda%20_v%3A%20store(%22A%22%2C%20capture(%22A%22%2C%20a_prediction.value%2C%20a_base%2C%20a_result%2C%20a_upstream%2C%20a_result%5B%22winner_device_key%22%5D%2C%20a_result%5B%22rows%22%5D))%2C%0A%20%20%20%20)%0A%20%20%20%20b_capture%20%3D%20mo.ui.button(%0A%20%20%20%20%20%20%20%20label%3D%22Capture%20memory%20contrast%22%2C%20kind%3D%22success%22%2C%20disabled%3Db_prediction.value%20is%20None%2C%0A%20%20%20%20%20%20%20%20on_click%3Dlambda%20_v%3A%20store(%22B%22%2C%20capture(%22B%22%2C%20b_prediction.value%2C%20b_base%2C%20b_result%2C%20b_upstream%2C%20%22fit%22%20if%20b_result%5B%22fits%22%5D%20else%20%22capacity%20failure%22))%2C%0A%20%20%20%20)%0A%20%20%20%20c_capture%20%3D%20mo.ui.button(%0A%20%20%20%20%20%20%20%20label%3D%22Capture%20placement%20contrast%22%2C%20kind%3D%22success%22%2C%20disabled%3Dc_prediction.value%20is%20None%2C%0A%20%20%20%20%20%20%20%20on_click%3Dlambda%20_v%3A%20store(%22C%22%2C%20capture(%22C%22%2C%20c_prediction.value%2C%20c_base%2C%20c_result%2C%20c_upstream%2C%20c_result%5B%22tier%22%5D))%2C%0A%20%20%20%20)%0A%20%20%20%20d_capture%20%3D%20mo.ui.button(%0A%20%20%20%20%20%20%20%20label%3D%22Capture%20facility%20boundary%22%2C%20kind%3D%22success%22%2C%20disabled%3Dd_prediction.value%20is%20None%2C%0A%20%20%20%20%20%20%20%20on_click%3Dlambda%20_v%3A%20store(%22D%22%2C%20capture(%22D%22%2C%20d_prediction.value%2C%20d_base%2C%20d_result%2C%20d_upstream%2C%20%22feasible%22%20if%20d_result%5B%22feasible%22%5D%20else%20%22facility%20limit%22))%2C%0A%20%20%20%20)%0A%20%20%20%20_e_invalid%20%3D%20e_prediction.value%20is%20None%20or%20e_decision.value%20is%20None%20or%20e_rejected.value%20is%20None%20or%20e_decision.value%20%3D%3D%20e_rejected.value%0A%20%20%20%20e_capture%20%3D%20mo.ui.button(%0A%20%20%20%20%20%20%20%20label%3D%22Capture%20procurement%20decision%22%2C%20kind%3D%22success%22%2C%20disabled%3D_e_invalid%2C%0A%20%20%20%20%20%20%20%20on_click%3Dlambda%20_v%3A%20store(%22E%22%2C%20capture_evidence(%0A%20%20%20%20%20%20%20%20%20%20%20%20track%3Dtrack_id%2C%20part%3D%22E%22%2C%20prediction%3De_prediction.value%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20inputs%3D%7B%22baseline%22%3A%20e_base%5B%22inputs%22%5D%2C%20%22result%22%3A%20e_result%5B%22inputs%22%5D%2C%20%22decision%22%3A%20e_decision.value%2C%20%22rejected%22%3A%20e_rejected.value%7D%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20baseline%3De_base%2C%20result%3De_result%2C%20upstream_inputs%3De_upstream%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20alternatives%3De_result%5B%22rows%22%5D%2C%20decision%3De_decision.value%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20model_key%3De_result%5B%22model_key%22%5D%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20chosen_result%3De_base%20if%20e_decision.value%20%3D%3D%20%22none%22%20else%20None%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20result_role%3D%22rejected%20alternative%22%20if%20e_decision.value%20%3D%3D%20%22none%22%20else%20%22tested%20intervention%22%2C%0A%20%20%20%20%20%20%20%20))%2C%0A%20%20%20%20)%0A%20%20%20%20return%20(%0A%20%20%20%20%20%20%20%20a_capture%2C%0A%20%20%20%20%20%20%20%20a_upstream%2C%0A%20%20%20%20%20%20%20%20b_capture%2C%0A%20%20%20%20%20%20%20%20b_upstream%2C%0A%20%20%20%20%20%20%20%20c_capture%2C%0A%20%20%20%20%20%20%20%20c_upstream%2C%0A%20%20%20%20%20%20%20%20d_capture%2C%0A%20%20%20%20%20%20%20%20d_upstream%2C%0A%20%20%20%20%20%20%20%20e_capture%2C%0A%20%20%20%20%20%20%20%20e_upstream%2C%0A%20%20%20%20)%0A%0A%0A%40app.cell%0Adef%20_(ACADEMIC_LAB_CSS%2C%20LAB_CSS%2C%20mo%2C%20profile%2C%20track)%3A%0A%20%20%20%20css%20%3D%20mo.Html(%22%22%22%0A%20%20%20%20%3Cstyle%3E%0A%20%20%20%20.pilot-head%7Bbackground%3Alinear-gradient(135deg%2C%23101827%2C%231d4f78)%3Bcolor%3Awhite%3Bborder-radius%3A14px%3Bpadding%3Aclamp(18px%2C4vw%2C32px)%3Bmargin-bottom%3A14px%7D.pilot-top%7Bdisplay%3Aflex%3Bjustify-content%3Aspace-between%3Bgap%3A8px%3Bflex-wrap%3Awrap%3Bfont%3A700%20.72rem%20ui-monospace%3Bletter-spacing%3A.08em%7D.pilot-head%20h1%7Bfont-size%3Aclamp(1.65rem%2C5vw%2C2.65rem)%3Bline-height%3A1.05%3Bmargin%3A16px%200%208px%7D.pilot-head%20p%7Bcolor%3A%23dbeafe%3Bmax-width%3A780px%7D.pilot-meta%7Bdisplay%3Agrid%3Bgrid-template-columns%3Arepeat(auto-fit%2Cminmax(170px%2C1fr))%3Bgap%3A9px%3Bmargin-top%3A17px%7D.pilot-meta%20div%7Bbackground%3A%23ffffff14%3Bborder%3A1px%20solid%20%23ffffff26%3Bpadding%3A9px%2011px%3Bborder-radius%3A8px%7D.track-outside%7Bborder%3A1px%20solid%20%23cbd5e1%3Bbackground%3A%23f8fafc%3Bborder-radius%3A10px%3Bpadding%3A10px%2014px%3Bmargin-bottom%3A8px%7D.saved%7Bborder-left%3A4px%20solid%20%232ca02c%3Bbackground%3A%23f0fdf4%3Bpadding%3A9px%2012px%3Bborder-radius%3A7px%7D.lab-hud%7Bdisplay%3Aflex%3Balign-items%3Acenter%3Bflex-wrap%3Awrap%3Bgap%3A10px%3Bbackground%3A%23101827!important%3Bcolor%3A%23fff%3Bpadding%3A14px%2018px%3Bborder-radius%3A9px%7D%40media(max-width%3A520px)%7B.pilot-head%7Bborder-radius%3A9px%3Bmargin-top%3A30px%7D.pilot-meta%7Bgrid-template-columns%3A1fr%7D%7D%0A%20%20%20%20%3C%2Fstyle%3E%22%22%22)%0A%20%20%20%20header%20%3D%20mo.Html(f%22%22%22%3Csection%20class%3D%22pilot-head%22%3E%3Cdiv%20class%3D%22pilot-top%22%3E%3Cspan%3EVOLUME%20II%20%C2%B7%20LAB%2002%3C%2Fspan%3E%3Cspan%3EABOUT%2050%E2%80%9355%20MIN%3C%2Fspan%3E%3C%2Fdiv%3E%3Ch1%3EThe%20Compute%20Infrastructure%20Wall%3C%2Fh1%3E%3Cp%3EWhen%20does%20peak%20compute%20stop%20predicting%20useful%20capacity%2C%20and%20which%20accelerator%E2%80%93node%E2%80%93rack%20design%20survives%20the%20full%20constraint%20cascade%3F%3C%2Fp%3E%3Cdiv%20class%3D%22pilot-meta%22%3E%3Cdiv%3E%3Cb%3ETrack%3C%2Fb%3E%3Cbr%3E%7Bprofile.label%7D%3C%2Fdiv%3E%3Cdiv%3E%3Cb%3EFleet%20context%3C%2Fb%3E%3Cbr%3E%7Bprofile.infrastructure_role%7D%3C%2Fdiv%3E%3Cdiv%3E%3Cb%3EOutput%3C%2Fb%3E%3Cbr%3EEvidence-backed%20infrastructure%20decision%3C%2Fdiv%3E%3C%2Fdiv%3E%3C%2Fsection%3E%22%22%22)%0A%20%20%20%20note%20%3D%20mo.md(%22Hardware%20and%20transfer-tier%20specifications%20come%20from%20the%20course%20registry.%20Workload%20sizes%2C%20facility%20envelopes%2C%20duty%20cycles%2C%20and%20efficiency%20are%20**illustrative%20scenario%20assumptions**.%20Each%20part%20states%20omitted%20effects.%22)%0A%20%20%20%20mo.vstack(%5BLAB_CSS%2C%20ACADEMIC_LAB_CSS%2C%20css%2C%20mo.Html('%3Cdiv%20class%3D%22track-outside%22%3E%3Cb%3EChoose%20the%20deployment%20workload%20whose%20training%20infrastructure%20you%20will%20design.%3C%2Fb%3E%3C%2Fdiv%3E')%2C%20track%2C%20header%2C%20note%5D%2C%20gap%3D0.5).style(%7B%22padding-top%22%3A%20%2232px%22%7D)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(mo)%3A%0A%20%20%20%20mo.sidebar(%5Bmo.md(%22%23%23%20Lab%20navigation%22)%2C%20mo.outline(label%3D%22Sections%22)%5D)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Adef%20_(%0A%20%20%20%20COLORS%2C%0A%20%20%20%20a_base%2C%0A%20%20%20%20a_capture%2C%0A%20%20%20%20a_intensity%2C%0A%20%20%20%20a_prediction%2C%0A%20%20%20%20a_result%2C%0A%20%20%20%20a_upstream%2C%0A%20%20%20%20apply_plotly_theme%2C%0A%20%20%20%20audit_evidence%2C%0A%20%20%20%20b_base%2C%0A%20%20%20%20b_capture%2C%0A%20%20%20%20b_prediction%2C%0A%20%20%20%20b_result%2C%0A%20%20%20%20b_scale%2C%0A%20%20%20%20b_upstream%2C%0A%20%20%20%20c_all%2C%0A%20%20%20%20c_base%2C%0A%20%20%20%20c_capture%2C%0A%20%20%20%20c_destination%2C%0A%20%20%20%20c_prediction%2C%0A%20%20%20%20c_result%2C%0A%20%20%20%20c_upstream%2C%0A%20%20%20%20d_base%2C%0A%20%20%20%20d_capture%2C%0A%20%20%20%20d_count%2C%0A%20%20%20%20d_prediction%2C%0A%20%20%20%20d_result%2C%0A%20%20%20%20d_upstream%2C%0A%20%20%20%20e_base%2C%0A%20%20%20%20e_capture%2C%0A%20%20%20%20e_decision%2C%0A%20%20%20%20e_duty%2C%0A%20%20%20%20e_prediction%2C%0A%20%20%20%20e_rejected%2C%0A%20%20%20%20e_result%2C%0A%20%20%20%20e_upstream%2C%0A%20%20%20%20final_choice%2C%0A%20%20%20%20final_rejected%2C%0A%20%20%20%20final_risk%2C%0A%20%20%20%20final_trigger%2C%0A%20%20%20%20get_evidence%2C%0A%20%20%20%20go%2C%0A%20%20%20%20mo%2C%0A%20%20%20%20profile%2C%0A%20%20%20%20rationale%2C%0A%20%20%20%20track_id%2C%0A)%3A%0A%20%20%20%20_captures%20%3D%20get_evidence()%0A%20%20%20%20_upstream%20%3D%20%7B%22A%22%3A%20a_upstream%2C%20%22B%22%3A%20b_upstream%2C%20%22C%22%3A%20c_upstream%2C%20%22D%22%3A%20d_upstream%2C%20%22E%22%3A%20e_upstream%7D%0A%20%20%20%20audit%20%3D%20audit_evidence(_captures%2C%20track%3Dtrack_id%2C%20required_parts%3Dtuple(%22ABCDE%22)%2C%20per_part_upstream_inputs%3D_upstream%2C%20contrast_required_parts%3Dtuple(%22ABCDE%22))%0A%0A%20%20%20%20def%20table(rows)%3A%0A%20%20%20%20%20%20%20%20return%20mo.vstack(%5Bmo.ui.table(rows%2C%20pagination%3DFalse)%5D).style(%7B%22max-width%22%3A%20%22100%25%22%2C%20%22overflow-x%22%3A%20%22auto%22%7D)%0A%0A%20%20%20%20def%20saved(part)%3A%0A%20%20%20%20%20%20%20%20item%20%3D%20_captures.get(part)%0A%20%20%20%20%20%20%20%20if%20item%20is%20None%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20mo.callout(mo.md(%22No%20saved%20evidence%20for%20this%20part.%22)%2C%20kind%3D%22warn%22)%0A%20%20%20%20%20%20%20%20if%20part%20in%20audit.stale%20or%20(part%2C%20part)%20in%20audit.identical_pairs%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20mo.callout(mo.md(%22**STALE%20OR%20NON-CONTRASTING%20EVIDENCE.**%20Recapture%20this%20part.%22)%2C%20kind%3D%22danger%22)%0A%20%20%20%20%20%20%20%20snap%20%3D%20item.to_dict()%0A%20%20%20%20%20%20%20%20return%20mo.Html(f'%3Cdiv%20class%3D%22saved%22%3E%3Cb%3ESaved%20snapshot%3C%2Fb%3E%20%C2%B7%20original%20prediction%3A%20%7Bsnap%5B%22prediction%22%5D%7D%3Cbr%3E%3Csmall%3ELater%20control%20changes%20do%20not%20rewrite%20this%20evidence.%3C%2Fsmall%3E%3C%2Fdiv%3E')%0A%0A%20%20%20%20def%20build_part_a()%3A%0A%20%20%20%20%20%20%20%20intro%20%3D%20mo.md(f%22%23%23%23%20A%20%C2%B7%20When%20does%20the%20faster%20accelerator%20fail%20to%20help%3F%20(9%20min)%5CnFor%20the%20**%7Bprofile.infrastructure_role%7D**%2C%20evaluate%20candidate%20training%20devices.%20The%20options%20trade%20peak%20compute%20against%20memory%20bandwidth.%20Predict%20the%20changed%20ranking%20before%20opening%20the%20instrument.%22)%0A%20%20%20%20%20%20%20%20preview%20%3D%20table(%5B%7B%22Candidate%22%3A%20r%5B%22device_name%22%5D%2C%20%22Peak%20compute%22%3A%20f%22%7Br%5B'peak_tflops'%5D%3A.0f%7D%20TFLOP%2Fs%22%2C%20%22Memory%20bandwidth%22%3A%20f%22%7Br%5B'memory_bandwidth_gb_s'%5D%3A.0f%7D%20GB%2Fs%22%7D%20for%20r%20in%20a_base%5B%22rows%22%5D%5D)%0A%20%20%20%20%20%20%20%20if%20a_prediction.value%20is%20None%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20mo.vstack(%5Bintro%2C%20preview%2C%20a_intensity%2C%20a_prediction%5D)%0A%20%20%20%20%20%20%20%20fig%20%3D%20go.Figure()%0A%20%20%20%20%20%20%20%20for%20label%2C%20result%20in%20((%2210%20FLOP%2Fbyte%22%2C%20a_base)%2C%20(f%22%7Ba_intensity.value%7D%20FLOP%2Fbyte%22%2C%20a_result))%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20fig.add_bar(name%3Dlabel%2C%20x%3D%5Br%5B%22device_name%22%5D%20for%20r%20in%20result%5B%22rows%22%5D%5D%2C%20y%3D%5Br%5B%22useful_tflops%22%5D%20for%20r%20in%20result%5B%22rows%22%5D%5D)%0A%20%20%20%20%20%20%20%20fig.update_layout(barmode%3D%22group%22%2C%20height%3D285%2C%20yaxis_title%3D%22Roofline%20ceiling%20(TFLOP%2Fs)%22%2C%20legend_orientation%3D%22h%22)%0A%20%20%20%20%20%20%20%20rows%20%3D%20%5B%7B%22Run%22%3A%20%22Baseline%22%2C%20%22Intensity%22%3A%2010%2C%20%22Winner%22%3A%20a_base%5B%22winner_device_key%22%5D%7D%2C%20%7B%22Run%22%3A%20%22Changed%22%2C%20%22Intensity%22%3A%20a_intensity.value%2C%20%22Winner%22%3A%20a_result%5B%22winner_device_key%22%5D%7D%5D%0A%20%20%20%20%20%20%20%20reveal%20%3D%20mo.callout(mo.md(f%22**Prediction%3A**%20%7Ba_prediction.value%7D.%20**Analytical%20result%3A**%20%7Ba_base%5B'winner_device_key'%5D%7D%20wins%20at%2010%20FLOP%2Fbyte%3B%20%7Ba_result%5B'winner_device_key'%5D%7D%20wins%20at%20%7Ba_intensity.value%7D%20FLOP%2Fbyte.%22)%2C%20kind%3D%22info%22)%0A%20%20%20%20%20%20%20%20notes%20%3D%20mo.accordion(%7B%22Calculation%20Notes%22%3A%20mo.md(%22Roofline%20throughput%20%3D%20min(peak%20compute%2C%20memory%20bandwidth%20%C3%97%20arithmetic%20intensity).%20This%20upper%20bound%20excludes%20software%20efficiency%2C%20launch%20overhead%2C%20and%20contention.%22)%7D)%0A%20%20%20%20%20%20%20%20return%20mo.vstack(%5Bintro%2C%20a_intensity%2C%20a_prediction%2C%20apply_plotly_theme(fig)%2C%20table(rows)%2C%20reveal%2C%20a_capture%2C%20saved(%22A%22)%2C%20notes%5D)%0A%0A%20%20%20%20def%20build_part_b()%3A%0A%20%20%20%20%20%20%20%20b_device%20%3D%20b_base.get(%22device_name%22%2C%20%22the%20training%20accelerator%22)%0A%20%20%20%20%20%20%20%20intro%20%3D%20mo.md(f%22%23%23%23%20B%20%C2%B7%20Does%20the%20workload%20fit%2C%20and%20what%20sets%20its%20latency%20floor%3F%20(9%20min)%5CnIn%20the%20**%7Bprofile.infrastructure_role%7D**%2C%20capacity%20decides%20whether%20execution%20is%20possible%20on%20%7Bb_device%7D.%20The%20baseline%20is%20**%7Bb_base%5B'working_set_gib'%5D%3A.1f%7D%20GiB**%3B%20the%20selected%20enlargement%20is%20**%7Bb_result%5B'working_set_gib'%5D%3A.1f%7D%20GiB**%20against%20**%7Bb_base%5B'capacity_gib'%5D%3A.1f%7D%20GiB**%20of%20registry%20memory.%22)%0A%20%20%20%20%20%20%20%20if%20b_prediction.value%20is%20None%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20mo.vstack(%5Bintro%2C%20b_scale%2C%20b_prediction%5D)%0A%20%20%20%20%20%20%20%20fig%20%3D%20go.Figure(%5Bgo.Bar(name%3D%22Working%20set%22%2C%20x%3D%5B%22Baseline%22%2C%20%22Enlarged%22%5D%2C%20y%3D%5Bb_base%5B%22working_set_gib%22%5D%2C%20b_result%5B%22working_set_gib%22%5D%5D)%2C%20go.Bar(name%3D%22Capacity%22%2C%20x%3D%5B%22Baseline%22%2C%20%22Enlarged%22%5D%2C%20y%3D%5Bb_base%5B%22capacity_gib%22%5D%2C%20b_result%5B%22capacity_gib%22%5D%5D)%5D)%0A%20%20%20%20%20%20%20%20fig.update_layout(barmode%3D%22group%22%2C%20height%3D275%2C%20yaxis_title%3D%22Memory%20(GiB)%22%2C%20legend_orientation%3D%22h%22)%0A%20%20%20%20%20%20%20%20rows%20%3D%20%5B%7B%22Run%22%3A%20%22Baseline%22%2C%20%22Fit%22%3A%20b_base%5B%22fits%22%5D%2C%20%22Bandwidth%20floor%22%3A%20f%22%7Bb_base%5B'bandwidth_floor_ms'%5D%3A.1f%7D%20ms%22%7D%2C%20%7B%22Run%22%3A%20f%22%7Bb_scale.value%3A.1f%7D%C3%97%22%2C%20%22Fit%22%3A%20b_result%5B%22fits%22%5D%2C%20%22Bandwidth%20floor%22%3A%20f%22%7Bb_result%5B'bandwidth_floor_ms'%5D%3A.1f%7D%20ms%22%7D%5D%0A%20%20%20%20%20%20%20%20outcome%20%3D%20f%22fits%3B%20%7Bb_result%5B'bottleneck'%5D%7D%20binds%22%20if%20b_result%5B%22fits%22%5D%20else%20f%22fails%20capacity%20by%20%7B-b_result%5B'headroom_gib'%5D%3A.1f%7D%20GiB%22%0A%20%20%20%20%20%20%20%20reveal%20%3D%20mo.callout(mo.md(f%22**Prediction%3A**%20%7Bb_prediction.value%7D.%20**Result%3A**%20the%20enlarged%20workload%20%7Boutcome%7D.%22)%2C%20kind%3D%22success%22%20if%20b_result%5B%22fits%22%5D%20else%20%22danger%22)%0A%20%20%20%20%20%20%20%20notes%20%3D%20mo.accordion(%7B%22Calculation%20Notes%22%3A%20mo.md(%22Fit%20requires%20working%20set%20%E2%89%A4%20capacity.%20For%20a%20fit%2C%20latency%20floor%20%3D%20max(operations%20%C3%B7%20peak%20compute%2C%20bytes%20moved%20%C3%B7%20memory%20bandwidth).%22)%7D)%0A%20%20%20%20%20%20%20%20return%20mo.vstack(%5Bintro%2C%20b_scale%2C%20b_prediction%2C%20apply_plotly_theme(fig)%2C%20table(rows)%2C%20reveal%2C%20b_capture%2C%20saved(%22B%22)%2C%20notes%5D)%0A%0A%20%20%20%20def%20build_part_c()%3A%0A%20%20%20%20%20%20%20%20c_device%20%3D%20c_all.get(%22device_name%22%2C%20%22the%20training%20accelerator%22)%0A%20%20%20%20%20%20%20%20intro%20%3D%20mo.md(f%22%23%23%23%20C%20%C2%B7%20Where%20should%20communicating%20work%20reside%3F%20(9%20min)%5CnFor%20the%20**%7Bprofile.infrastructure_role%7D**%2C%20evaluate%20placement%20for%20%7Bc_device%7D.%20Move%20the%20identical%20payload%20from%20baseline%20**%7Bc_base%5B'tier'%5D%7D**%20to%20another%20tier.%20Placement%20bandwidth%20is%20the%20only%20changed%20cause.%22)%0A%20%20%20%20%20%20%20%20preview%20%3D%20table(%5B%7B%22Tier%22%3A%20r%5B%22tier%22%5D%2C%20%22Bandwidth%22%3A%20f%22%7Br%5B'bandwidth_gb_s'%5D%3A.1f%7D%20GB%2Fs%22%7D%20for%20r%20in%20c_all%5B%22rows%22%5D%5D)%0A%20%20%20%20%20%20%20%20if%20c_prediction.value%20is%20None%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20mo.vstack(%5Bintro%2C%20preview%2C%20c_destination%2C%20c_prediction%5D)%0A%20%20%20%20%20%20%20%20rows%20%3D%20%5B%7B%22Tier%22%3A%20r%5B%22tier%22%5D%2C%20%22Bandwidth%22%3A%20f%22%7Br%5B'bandwidth_gb_s'%5D%3A.1f%7D%20GB%2Fs%22%2C%20%22Transfer%22%3A%20f%22%7Br%5B'transfer_ms'%5D%3A.1f%7D%20ms%22%7D%20for%20r%20in%20c_all%5B%22rows%22%5D%5D%0A%20%20%20%20%20%20%20%20slowdown%20%3D%20c_result%5B%22slowdown_vs_baseline%22%5D%0A%20%20%20%20%20%20%20%20fig%20%3D%20go.Figure(%5Bgo.Bar(x%3D%5Bc_base%5B%22tier%22%5D%2C%20c_result%5B%22tier%22%5D%5D%2C%20y%3D%5Bc_base%5B%22transfer_ms%22%5D%2C%20c_result%5B%22transfer_ms%22%5D%5D%2C%20marker_color%3D%5BCOLORS%5B%22BlueLine%22%5D%2C%20COLORS%5B%22OrangeLine%22%5D%5D)%5D)%0A%20%20%20%20%20%20%20%20fig.update_layout(height%3D275%2C%20yaxis_title%3D%22Transfer%20lower%20bound%20(ms)%22%2C%20showlegend%3DFalse)%0A%20%20%20%20%20%20%20%20reveal%20%3D%20mo.callout(mo.md(f%22**Prediction%3A**%20%7Bc_prediction.value%7D.%20**Result%3A**%20%7Bc_result%5B'tier'%5D%7D%20is%20**%7Bslowdown%3A.1f%7D%C3%97**%20slower%20than%20%7Bc_base%5B'tier'%5D%7D%20for%20the%20same%20%7Bc_result%5B'payload_gib'%5D%3A.1f%7D%20GiB%20payload.%22)%2C%20kind%3D%22info%22)%0A%20%20%20%20%20%20%20%20omitted%20%3D%20f%22%20Omitted%2Funmodeled%20registry%20links%20for%20%7Bc_device%7D%3A%20%7B'%2C%20'.join(c_all%5B'omitted_links'%5D)%7D.%22%20if%20c_all.get(%22omitted_links%22)%20else%20%22%22%0A%20%20%20%20%20%20%20%20notes%20%3D%20mo.accordion(%7B%22Calculation%20Notes%22%3A%20mo.md(f%22Transfer%20time%20%3D%20payload%20%C3%B7%20one-way%20bandwidth.%20The%20streaming%20lower%20bound%20excludes%20startup%2C%20protocol%20overhead%2C%20and%20contention.%7Bomitted%7D%20Network%20bandwidth%20is%20an%20illustrative%20scenario%20assumption.%22)%7D)%0A%20%20%20%20%20%20%20%20return%20mo.vstack(%5Bintro%2C%20c_destination%2C%20c_prediction%2C%20apply_plotly_theme(fig)%2C%20table(rows)%2C%20reveal%2C%20c_capture%2C%20saved(%22C%22)%2C%20notes%5D)%0A%0A%20%20%20%20def%20build_part_d()%3A%0A%20%20%20%20%20%20%20%20intro%20%3D%20mo.md(f%22%23%23%23%20D%20%C2%B7%20Can%20the%20facility%20power%20and%20cool%20this%20capacity%3F%20(9%20min)%5CnFor%20the%20**%7Bprofile.infrastructure_role%7D**%2C%20hosts%20and%20rack%20equipment%20add%20heat%20around%20the%20training%20accelerators.%20This%20scenario%20supplies%20**%7Bd_result%5B'electrical_capacity_kw'%5D%3A.1f%7D%20kW%20electrical**%20and%20**%7Bd_result%5B'cooling_capacity_kw'%5D%3A.1f%7D%20kW%20cooling**%3B%20PUE%20adds%20electrical%20draw%20outside%20the%20IT%20load.%22)%0A%20%20%20%20%20%20%20%20if%20d_prediction.value%20is%20None%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20mo.vstack(%5Bintro%2C%20d_count%2C%20d_prediction%5D)%0A%20%20%20%20%20%20%20%20fig%20%3D%20go.Figure(%5Bgo.Bar(x%3D%5B%22IT%20heat%22%2C%20%22Facility%20electrical%22%5D%2C%20y%3D%5Bd_result%5B%22it_power_kw%22%5D%2C%20d_result%5B%22facility_power_kw%22%5D%5D)%5D)%0A%20%20%20%20%20%20%20%20fig.add_hline(y%3Dd_result%5B%22cooling_capacity_kw%22%5D%2C%20line_dash%3D%22dash%22%2C%20line_color%3DCOLORS%5B%22RedLine%22%5D%2C%20annotation_text%3D%22Cooling%20limit%22)%0A%20%20%20%20%20%20%20%20fig.add_hline(y%3Dd_result%5B%22electrical_capacity_kw%22%5D%2C%20line_dash%3D%22dot%22%2C%20line_color%3DCOLORS%5B%22GreenLine%22%5D%2C%20annotation_text%3D%22Electrical%20limit%22)%0A%20%20%20%20%20%20%20%20fig.update_layout(height%3D285%2C%20yaxis_title%3D%22Power%20(kW)%22%2C%20showlegend%3DFalse)%0A%20%20%20%20%20%20%20%20rows%20%3D%20%5B%7B%22Run%22%3A%20f%22%7Bd_base%5B'accelerator_count'%5D%7D%20accelerator(s)%20(baseline)%22%2C%20%22IT%20heat%22%3A%20f%22%7Bd_base%5B'it_power_kw'%5D%3A.2f%7D%20kW%22%2C%20%22Facility%20draw%22%3A%20f%22%7Bd_base%5B'facility_power_kw'%5D%3A.2f%7D%20kW%22%2C%20%22Outcome%22%3A%20%22PASS%22%20if%20d_base%5B%22feasible%22%5D%20else%20%22FAIL%22%7D%2C%20%7B%22Run%22%3A%20f%22%7Bd_count.value%7D%20accelerator(s)%22%2C%20%22IT%20heat%22%3A%20f%22%7Bd_result%5B'it_power_kw'%5D%3A.2f%7D%20kW%22%2C%20%22Facility%20draw%22%3A%20f%22%7Bd_result%5B'facility_power_kw'%5D%3A.2f%7D%20kW%22%2C%20%22Outcome%22%3A%20%22PASS%22%20if%20d_result%5B%22feasible%22%5D%20else%20%22FAIL%22%7D%5D%0A%20%20%20%20%20%20%20%20failed%20%3D%20%5Bname%20for%20name%2C%20ok%20in%20((%22electrical%22%2C%20d_result%5B%22electrical_ok%22%5D)%2C%20(%22cooling%22%2C%20d_result%5B%22cooling_ok%22%5D))%20if%20not%20ok%5D%0A%20%20%20%20%20%20%20%20outcome%20%3D%20%22both%20limits%20pass%22%20if%20not%20failed%20else%20%22%20and%20%22.join(failed)%20%2B%20%22%20fails%22%0A%20%20%20%20%20%20%20%20reveal%20%3D%20mo.callout(mo.md(f%22**Prediction%3A**%20%7Bd_prediction.value%7D.%20**Result%3A**%20%7Boutcome%7D%3B%20the%20design%20occupies%20%7Bd_result%5B'node_count'%5D%7D%20node(s)%20and%20%7Bd_result%5B'rack_count'%5D%7D%20rack(s).%22)%2C%20kind%3D%22success%22%20if%20d_result%5B%22feasible%22%5D%20else%20%22danger%22)%0A%20%20%20%20%20%20%20%20notes%20%3D%20mo.accordion(%7B%22Calculation%20Notes%22%3A%20mo.md(%22IT%20power%20sums%20accelerator%20TDP%2C%20node%20overhead%2C%20and%20rack%20overhead.%20Cooling%20handles%20IT%20heat%3B%20electrical%20capacity%20handles%20IT%20power%20%C3%97%20PUE.%22)%7D)%0A%20%20%20%20%20%20%20%20return%20mo.vstack(%5Bintro%2C%20d_count%2C%20d_prediction%2C%20apply_plotly_theme(fig)%2C%20table(rows)%2C%20reveal%2C%20d_capture%2C%20saved(%22D%22)%2C%20notes%5D)%0A%0A%20%20%20%20def%20build_part_e()%3A%0A%20%20%20%20%20%20%20%20intro%20%3D%20mo.md(f%22%23%23%23%20E%20%C2%B7%20Which%20feasible%20system%20should%20we%20buy%3F%20(9%20min)%5CnFor%20the%20**%7Bprofile.infrastructure_role%7D**%2C%20compare%20equal%20counts%20and%20one%20horizon%20at%20low%20and%20expected%20duty.%20A%20cheaper%20system%20that%20fails%20memory%20or%20facility%20limits%20is%20not%20feasible.%22)%0A%20%20%20%20%20%20%20%20if%20e_prediction.value%20is%20None%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20mo.vstack(%5Bintro%2C%20e_duty%2C%20e_prediction%5D)%0A%20%20%20%20%20%20%20%20rows%20%3D%20%5B%5D%0A%20%20%20%20%20%20%20%20for%20low%2C%20expected%20in%20zip(e_base%5B%22rows%22%5D%2C%20e_result%5B%22rows%22%5D)%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20rows.append(%7B%22Candidate%22%3A%20expected%5B%22device_name%22%5D%2C%20%22Memory%22%3A%20%22PASS%22%20if%20expected%5B%22memory_fits%22%5D%20else%20%22FAIL%22%2C%20%22Facility%22%3A%20%22PASS%22%20if%20expected%5B%22facility_fits%22%5D%20else%20%22FAIL%22%2C%20%22Sustained%22%3A%20f%22%7Bexpected%5B'active_sustained_tflops'%5D%3A.0f%7D%20TFLOP%2Fs%22%2C%20%22Low-duty%20%24%2FPFLOP-h%22%3A%20f%22%24%7Blow%5B'usd_per_useful_pflop_hour'%5D%3A.1f%7D%22%2C%20%22Expected%20%24%2FPFLOP-h%22%3A%20f%22%24%7Bexpected%5B'usd_per_useful_pflop_hour'%5D%3A.1f%7D%22%2C%20%22Ownership%22%3A%20f%22%24%7Bexpected%5B'ownership_cost_usd'%5D%3A%2C.0f%7D%22%7D)%0A%20%20%20%20%20%20%20%20feasible%20%3D%20%5Br%5B%22device_key%22%5D%20for%20r%20in%20e_result%5B%22rows%22%5D%20if%20r%5B%22feasible%22%5D%5D%0A%20%20%20%20%20%20%20%20reveal%20%3D%20mo.callout(mo.md(f%22**Prediction%3A**%20%7Be_prediction.value%7D.%20**Result%3A**%20feasible%20candidates%20are%20%7B'%2C%20'.join(feasible)%20if%20feasible%20else%20'none'%7D.%20Cost%20per%20work%20cannot%20erase%20a%20memory%20or%20facility%20failure.%22)%2C%20kind%3D%22info%22%20if%20feasible%20else%20%22danger%22)%0A%20%20%20%20%20%20%20%20notes%20%3D%20mo.accordion(%7B%22Calculation%20Notes%22%3A%20mo.md(%22Average%20power%20blends%20active%20and%20idle%20draw.%20Cost%20includes%20accelerator%20capital%2C%20explicit%20added%20capital%2C%20maintenance%2C%20and%20PUE-loaded%20electricity%20over%20one%20horizon.%20Staffing%20and%20construction%20remain%20outside%20the%20boundary.%22)%7D)%0A%20%20%20%20%20%20%20%20return%20mo.vstack(%5Bintro%2C%20e_duty%2C%20e_prediction%2C%20table(rows)%2C%20reveal%2C%20mo.hstack(%5Be_decision%2C%20e_rejected%5D%2C%20widths%3D%22equal%22%2C%20wrap%3DTrue)%2C%20e_capture%2C%20saved(%22E%22)%2C%20notes%5D)%0A%0A%20%20%20%20def%20build_synthesis()%3A%0A%20%20%20%20%20%20%20%20rows%20%3D%20%5B%5D%0A%20%20%20%20%20%20%20%20for%20part%20in%20%22ABCDE%22%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20item%20%3D%20_captures.get(part)%0A%20%20%20%20%20%20%20%20%20%20%20%20state%20%3D%20%22MISSING%22%20if%20item%20is%20None%20else%20(%22STALE%22%20if%20part%20in%20audit.stale%20or%20(part%2C%20part)%20in%20audit.identical_pairs%20else%20%22CURRENT%22)%0A%20%20%20%20%20%20%20%20%20%20%20%20rows.append(%7B%22Part%22%3A%20part%2C%20%22Prediction%22%3A%20item.to_dict()%5B%22prediction%22%5D%20if%20item%20else%20%22%E2%80%94%22%2C%20%22Evidence%22%3A%20state%7D)%0A%20%20%20%20%20%20%20%20saved_decision%20%3D%20_captures%5B%22E%22%5D.to_dict()%5B%22decision%22%5D%20if%20%22E%22%20in%20_captures%20else%20None%0A%20%20%20%20%20%20%20%20complete%20%3D%20audit.complete%20and%20all(w.value%20is%20not%20None%20for%20w%20in%20(final_choice%2C%20final_rejected%2C%20final_trigger%2C%20final_risk))%20and%20bool(rationale.value.strip())%20and%20final_choice.value%20!%3D%20final_rejected.value%20and%20final_choice.value%20%3D%3D%20saved_decision%0A%20%20%20%20%20%20%20%20message%20%3D%20%22Ready%20for%20the%20local%20evidence%20report.%22%20if%20complete%20else%20%22Complete%20five%20current%20contrasts%2C%20match%20the%20saved%20Part%20E%20decision%2C%20choose%20a%20different%20rejected%20option%2C%20and%20add%20the%20limitation%2C%20trigger%2C%20and%20rationale.%22%0A%20%20%20%20%20%20%20%20return%20mo.vstack(%5Bmo.md(%22%23%23%23%20Synthesis%20%C2%B7%20Defend%20one%20infrastructure%20decision%20(5%20min)%5CnUse%20saved%20evidence%3A%20chosen%20option%20%E2%86%92%20quantified%20rejected%20alternative%20%E2%86%92%20remaining%20limitation%20%E2%86%92%20reevaluation%20trigger.%22)%2C%20table(rows)%2C%20mo.callout(mo.md(%22Saved%20snapshots%20preserve%20exact%20evaluator%20arguments%20and%20cannot%20be%20rewritten%20by%20later%20controls.%22)%2C%20kind%3D%22info%22)%2C%20mo.hstack(%5Bfinal_choice%2C%20final_rejected%5D%2C%20widths%3D%22equal%22%2C%20wrap%3DTrue)%2C%20mo.hstack(%5Bfinal_trigger%2C%20final_risk%5D%2C%20widths%3D%22equal%22%2C%20wrap%3DTrue)%2C%20rationale%2C%20mo.callout(mo.md(message)%2C%20kind%3D%22success%22%20if%20complete%20else%20%22warn%22)%5D)%0A%0A%20%20%20%20tabs%20%3D%20mo.ui.tabs(%7B%22Part%20A%22%3A%20build_part_a()%2C%20%22Part%20B%22%3A%20build_part_b()%2C%20%22Part%20C%22%3A%20build_part_c()%2C%20%22Part%20D%22%3A%20build_part_d()%2C%20%22Part%20E%22%3A%20build_part_e()%2C%20%22Synthesis%22%3A%20build_synthesis()%7D)%0A%20%20%20%20tabs%0A%20%20%20%20return%20(audit%2C)%0A%0A%0A%40app.cell%0Adef%20_(%0A%20%20%20%20audit%2C%0A%20%20%20%20build_lab_report%2C%0A%20%20%20%20final_choice%2C%0A%20%20%20%20final_rejected%2C%0A%20%20%20%20final_risk%2C%0A%20%20%20%20final_trigger%2C%0A%20%20%20%20get_evidence%2C%0A%20%20%20%20get_lab_metadata%2C%0A%20%20%20%20mo%2C%0A%20%20%20%20profile%2C%0A%20%20%20%20rationale%2C%0A%20%20%20%20report_export_panel%2C%0A%20%20%20%20track_id%2C%0A)%3A%0A%20%20%20%20_captures%20%3D%20get_evidence()%0A%20%20%20%20_saved%20%3D%20_captures%5B%22E%22%5D.to_dict()%5B%22decision%22%5D%20if%20%22E%22%20in%20_captures%20else%20None%0A%20%20%20%20_ready%20%3D%20audit.complete%20and%20all(w.value%20is%20not%20None%20for%20w%20in%20(final_choice%2C%20final_rejected%2C%20final_trigger%2C%20final_risk))%20and%20bool(rationale.value.strip())%20and%20final_choice.value%20!%3D%20final_rejected.value%20and%20final_choice.value%20%3D%3D%20_saved%0A%20%20%20%20mo.stop(not%20_ready)%0A%20%20%20%20snapshots%20%3D%20%7Bpart%3A%20_captures%5Bpart%5D.to_dict()%20for%20part%20in%20%22ABCDE%22%7D%0A%20%20%20%20report%20%3D%20build_lab_report(%0A%20%20%20%20%20%20%20%20get_lab_metadata(%22vol2%2Flab_02_compute_infra.py%22)%2C%20track%3Dtrack_id%2C%0A%20%20%20%20%20%20%20%20scenario%3Dprofile.infrastructure_role%2C%0A%20%20%20%20%20%20%20%20learning_objectives%3D%5B%22Find%20a%20Roofline%20ranking%20reversal%22%2C%20%22Separate%20memory%20capacity%20from%20bandwidth%20latency%22%2C%20%22Compare%20transfer%20placement%22%2C%20%22Test%20electrical%20and%20cooling%20limits%22%2C%20%22Defend%20a%20duty-cycle%20purchase%22%5D%2C%0A%20%20%20%20%20%20%20%20predictions%3D%7Bp%3A%20snapshots%5Bp%5D%5B%22prediction%22%5D%20for%20p%20in%20%22ABCDE%22%7D%2C%0A%20%20%20%20%20%20%20%20knob_settings%3D%7Bp%3A%20snapshots%5Bp%5D%5B%22inputs%22%5D%20for%20p%20in%20%22ABCDE%22%7D%2C%0A%20%20%20%20%20%20%20%20evidence_summary%3D%7Bp%3A%20%7B%22baseline%22%3A%20snapshots%5Bp%5D%5B%22baseline%22%5D%2C%20%22result%22%3A%20snapshots%5Bp%5D%5B%22result%22%5D%2C%20%22chosen_result%22%3A%20snapshots%5Bp%5D%5B%22chosen_result%22%5D%2C%20%22result_role%22%3A%20snapshots%5Bp%5D%5B%22result_role%22%5D%2C%20%22alternatives%22%3A%20snapshots%5Bp%5D%5B%22alternatives%22%5D%7D%20for%20p%20in%20%22ABCDE%22%7D%2C%0A%20%20%20%20%20%20%20%20binding_constraints%3D%7B%22A%22%3A%20snapshots%5B%22A%22%5D%5B%22decision%22%5D%2C%20%22B%22%3A%20snapshots%5B%22B%22%5D%5B%22decision%22%5D%2C%20%22C%22%3A%20snapshots%5B%22C%22%5D%5B%22decision%22%5D%2C%20%22D%22%3A%20snapshots%5B%22D%22%5D%5B%22decision%22%5D%2C%20%22E%22%3A%20snapshots%5B%22E%22%5D%5B%22decision%22%5D%7D%2C%0A%20%20%20%20%20%20%20%20decisions%3D%7B%22recommendation%22%3A%20final_choice.value%2C%20%22rejected_alternative%22%3A%20final_rejected.value%2C%20%22rationale%22%3A%20rationale.value%7D%2C%0A%20%20%20%20%20%20%20%20final_decision%3D%7B%22recommendation%22%3A%20final_choice.value%2C%20%22rejected_alternative%22%3A%20final_rejected.value%2C%20%22rationale%22%3A%20rationale.value%7D%2C%0A%20%20%20%20%20%20%20%20big_takeaways%3D%5B%22Peak%20compute%20matters%20only%20beyond%20the%20memory%20roof.%22%2C%20%22Capacity%2C%20bandwidth%2C%20placement%2C%20power%2C%20and%20cooling%20are%20separate%20boundaries.%22%2C%20%22Feasibility%20precedes%20cost%20per%20useful%20work.%22%5D%2C%0A%20%20%20%20%20%20%20%20reflections%3D%7B%22rationale%22%3A%20rationale.value%2C%20%22trigger%22%3A%20final_trigger.value%7D%2C%0A%20%20%20%20%20%20%20%20residual_risk%3Dfinal_risk.value%2C%0A%20%20%20%20%20%20%20%20result_snapshot%3D%7B%22track%22%3A%20track_id%2C%20%22captures%22%3A%20snapshots%2C%20%22recommendation%22%3A%20final_choice.value%2C%20%22rejected%22%3A%20final_rejected.value%2C%20%22trigger%22%3A%20final_trigger.value%2C%20%22residual_risk%22%3A%20final_risk.value%7D%2C%0A%20%20%20%20%20%20%20%20source_trace%3D%7B%22scenario%22%3A%20%22Illustrative%20workload%20and%20facility%20assumptions.%22%2C%20%22calculations%22%3A%20%22Analytical%20Roofline%2C%20transfer%2C%20facility%2C%20and%20ownership-cost%20equations.%22%7D%2C%0A%20%20%20%20)%0A%20%20%20%20mo.vstack(%5Bmo.md(%22%23%23%20Local%20evidence%20report%22)%2C%20report_export_panel(report)%5D)%0A%20%20%20%20return%0A%0A%0A%40app.cell%0Aasync%20def%20_(%0A%20%20%20%20MODEL_ID%2C%0A%20%20%20%20audit%2C%0A%20%20%20%20final_choice%2C%0A%20%20%20%20final_rejected%2C%0A%20%20%20%20final_risk%2C%0A%20%20%20%20final_trigger%2C%0A%20%20%20%20get_evidence%2C%0A%20%20%20%20ledger%2C%0A%20%20%20%20mo%2C%0A%20%20%20%20rationale%2C%0A%20%20%20%20track_id%2C%0A)%3A%0A%20%20%20%20_captures%20%3D%20get_evidence()%0A%20%20%20%20_saved%20%3D%20_captures%5B%22E%22%5D.to_dict()%5B%22decision%22%5D%20if%20%22E%22%20in%20_captures%20else%20None%0A%20%20%20%20_ready%20%3D%20audit.complete%20and%20all(w.value%20is%20not%20None%20for%20w%20in%20(final_choice%2C%20final_rejected%2C%20final_trigger%2C%20final_risk))%20and%20bool(rationale.value.strip())%20and%20final_choice.value%20!%3D%20final_rejected.value%20and%20final_choice.value%20%3D%3D%20_saved%0A%20%20%20%20_status%20%3D%20%22EVIDENCE%20IN%20PROGRESS%22%0A%20%20%20%20if%20_ready%3A%0A%20%20%20%20%20%20%20%20try%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20ledger.save(chapter%3D2%2C%20design%3D%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22schema_version%22%3A%201%2C%20%22lab_id%22%3A%20%22v2_02%22%2C%20%22track_id%22%3A%20track_id%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22model_id%22%3A%20MODEL_ID%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22evidence%22%3A%20%7Bpart%3A%20item.to_dict()%20for%20part%2C%20item%20in%20_captures.items()%7D%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22recommendation%22%3A%20final_choice.value%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22rejected_alternative%22%3A%20final_rejected.value%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22reevaluation_trigger%22%3A%20final_trigger.value%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22residual_risk%22%3A%20final_risk.value%2C%20%22rationale%22%3A%20rationale.value%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%7D)%0A%20%20%20%20%20%20%20%20%20%20%20%20await%20ledger.flush()%0A%20%20%20%20%20%20%20%20except%20Exception%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20_status%20%3D%20%22LOCAL%20SAVE%20FAILED%20%C2%B7%20DOWNLOAD%20THE%20REPORT%20TO%20KEEP%20YOUR%20EVIDENCE%22%0A%20%20%20%20%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20_status%20%3D%20%22SAVED%22%0A%20%20%20%20mo.Html(f'%3Cdiv%20class%3D%22lab-hud%22%3E%3Cspan%3ELAB%2002%20%C2%B7%20The%20Compute%20Infrastructure%20Wall%20%C2%B7%20STATUS%3A%20%7B_status%7D%3C%2Fspan%3E%3C%2Fdiv%3E')%0A%20%20%20%20return%0A%0A%0Aif%20__name__%20%3D%3D%20%22__main__%22%3A%0A%20%20%20%20app.run()%0A