lab 12 perf bench

import%20marimo%0A%0A__generated_with%20%3D%20%220.21.1%22%0Aapp%20%3D%20marimo.App(width%3D%22full%22)%0A%0A%0A%40app.cell%0Aasync%20def%20_()%3A%0A%20%20%20%20import%20marimo%20as%20mo%0A%20%20%20%20import%20sys%0A%20%20%20%20import%20math%0A%20%20%20%20from%20pathlib%20import%20Path%0A%20%20%20%20import%20numpy%20as%20np%0A%0A%20%20%20%20if%20sys.platform%20%3D%3D%20%22emscripten%22%3A%0A%20%20%20%20%20%20%20%20import%20micropip%0A%20%20%20%20%20%20%20%20await%20micropip.install(%5B%22pydantic%22%2C%20%22pint%22%2C%20%22plotly%22%2C%20%22pandas%22%5D%2C%20keep_going%3DFalse)%0A%20%20%20%20%20%20%20%20await%20micropip.install(%0A%20%20%20%20%20%20%20%20%20%20%20%20%22..%2F..%2F..%2Fwheels%2Fmlsysim-0.1.0-py3-none-any.whl%22%2C%20keep_going%3DFalse%0A%20%20%20%20%20%20%20%20)%0A%20%20%20%20elif%20%22mlsysim%22%20not%20in%20sys.modules%3A%0A%20%20%20%20%20%20%20%20_root%20%3D%20Path(__file__).resolve().parents%5B2%5D%0A%20%20%20%20%20%20%20%20if%20str(_root)%20not%20in%20sys.path%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20sys.path.insert(0%2C%20str(_root))%0A%0A%20%20%20%20import%20plotly.graph_objects%20as%20go%0A%20%20%20%20from%20mlsysim.labs.state%20import%20DesignLedger%0A%20%20%20%20from%20mlsysim.labs.style%20import%20COLORS%2C%20LAB_CSS%2C%20apply_plotly_theme%0A%20%20%20%20import%20mlsysim%0A%0A%20%20%20%20H100_TFLOPS%20%3D%20mlsysim.Hardware.Cloud.H100.compute.peak_flops.m_as(%22TFLOPs%2Fs%22)%0A%20%20%20%20H100_BW%20%20%20%20%20%3D%20mlsysim.Hardware.Cloud.H100.memory.bandwidth.m_as(%22GB%2Fs%22)%0A%20%20%20%20H100_TDP%20%20%20%20%3D%20mlsysim.Hardware.Cloud.H100.tdp.m_as(%22W%22)%0A%0A%20%20%20%20A100_TFLOPS%20%3D%20mlsysim.Hardware.Cloud.A100.compute.peak_flops.m_as(%22TFLOPs%2Fs%22)%0A%20%20%20%20A100_BW%20%20%20%20%20%3D%20mlsysim.Hardware.Cloud.A100.memory.bandwidth.m_as(%22GB%2Fs%22)%0A%0A%20%20%20%20JETSON_TFLOPS%20%3D%20mlsysim.Hardware.Edge.JetsonOrinNX.compute.peak_flops.m_as(%22TFLOPs%2Fs%22)%0A%20%20%20%20JETSON_TDP%20%20%20%20%3D%20mlsysim.Hardware.Edge.JetsonOrinNX.tdp.m_as(%22W%22)%0A%0A%20%20%20%20RESNET50_FLOPS%20%3D%20mlsysim.Models.ResNet50.inference_flops.m_as(%22flop%22)%0A%20%20%20%20RESNET50_PARAMS%20%3D%20mlsysim.Models.ResNet50.parameters.m_as(%22count%22)%0A%0A%20%20%20%20ledger%20%3D%20DesignLedger()%0A%20%20%20%20if%20getattr(ledger%2C%20%22is_wasm%22%2C%20False)%3A%0A%20%20%20%20%20%20%20%20await%20ledger.load_async()%0A%20%20%20%20return%20(%0A%20%20%20%20%20%20%20%20COLORS%2C%0A%20%20%20%20%20%20%20%20H100_BW%2C%0A%20%20%20%20%20%20%20%20H100_TFLOPS%2C%0A%20%20%20%20%20%20%20%20LAB_CSS%2C%0A%20%20%20%20%20%20%20%20RESNET50_FLOPS%2C%0A%20%20%20%20%20%20%20%20RESNET50_PARAMS%2C%0A%20%20%20%20%20%20%20%20apply_plotly_theme%2C%0A%20%20%20%20%20%20%20%20go%2C%0A%20%20%20%20%20%20%20%20ledger%2C%0A%20%20%20%20%20%20%20%20math%2C%0A%20%20%20%20%20%20%20%20mo%2C%0A%20%20%20%20%20%20%20%20np%2C%0A%20%20%20%20)%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(LAB_CSS%2C%20mo)%3A%0A%20%20%20%20mo.vstack(%5B%0A%20%20%20%20%20%20%20%20LAB_CSS%2C%0A%20%20%20%20%20%20%20%20mo.Html(%22%22%22%0A%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22background%3A%20linear-gradient(135deg%2C%20%230f172a%200%25%2C%20%231e293b%2060%25%2C%20%230c1a2e%20100%25)%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20padding%3A%2036px%2044px%3B%20border-radius%3A%2016px%3B%20color%3A%20white%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20box-shadow%3A%200%208px%2032px%20rgba(0%2C0%2C0%2C0.35)%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-size%3A%200.72rem%3B%20font-weight%3A%20700%3B%20letter-spacing%3A%200.18em%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20color%3A%20%23475569%3B%20text-transform%3A%20uppercase%3B%20margin-bottom%3A%2010px%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20Machine%20Learning%20Systems%20%26middot%3B%20Volume%20I%20%26middot%3B%20Lab%2012%0A%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Ch1%20style%3D%22margin%3A%200%200%2010px%200%3B%20font-size%3A%202.4rem%3B%20font-weight%3A%20900%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20color%3A%20%23f8fafc%3B%20line-height%3A%201.1%3B%20letter-spacing%3A%20-0.02em%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20The%20Benchmarking%20Trap%0A%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fh1%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Cp%20style%3D%22margin%3A%200%200%206px%200%3B%20font-size%3A%201.15rem%3B%20font-weight%3A%20600%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20color%3A%20%2394a3b8%3B%20letter-spacing%3A%200.04em%3B%20font-family%3A%20'SF%20Mono'%2C%20monospace%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20Amdahl%20%26middot%3B%20Thermal%20Cliff%20%26middot%3B%20Multi-Metric%20%26middot%3B%20Tail%20Latency%0A%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fp%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Cp%20style%3D%22margin%3A%200%200%2022px%200%3B%20font-size%3A%201.0rem%3B%20color%3A%20%2364748b%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20max-width%3A%20680px%3B%20line-height%3A%201.65%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20Vendor%20benchmarks%20are%20designed%20to%20make%20hardware%20look%20good.%20Your%20job%20is%20to%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20make%20hardware%20look%20honest%20%26mdash%3B%20and%20the%20gap%20between%20the%20two%20is%20where%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20millions%20of%20dollars%20disappear.%0A%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fp%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22display%3A%20flex%3B%20gap%3A%2012px%3B%20flex-wrap%3A%20wrap%3B%20margin-bottom%3A%2020px%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cspan%20style%3D%22background%3A%20rgba(99%2C102%2C241%2C0.18)%3B%20color%3A%20%23a5b4fc%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20padding%3A%205px%2014px%3B%20border-radius%3A%2020px%3B%20font-size%3A%200.8rem%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20font-weight%3A%20600%3B%20border%3A%201px%20solid%20rgba(99%2C102%2C241%2C0.3)%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%204%20Parts%20%26middot%3B%20~52%20min%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fspan%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cspan%20style%3D%22background%3A%20rgba(203%2C32%2C45%2C0.15)%3B%20color%3A%20%23fca5a5%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20padding%3A%205px%2014px%3B%20border-radius%3A%2020px%3B%20font-size%3A%200.8rem%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20font-weight%3A%20600%3B%20border%3A%201px%20solid%20rgba(203%2C32%2C45%2C0.25)%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20Chapter%2012%3A%20Performance%20Benchmarking%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fspan%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22display%3A%20flex%3B%20gap%3A%2010px%3B%20flex-wrap%3A%20wrap%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cspan%20class%3D%22badge%20badge-info%22%3EAmdahl's%20Law%3C%2Fspan%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cspan%20class%3D%22badge%20badge-warn%22%3EThermal%20Throttle%3C%2Fspan%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cspan%20class%3D%22badge%20badge-fail%22%3ETail%20Latency%3C%2Fspan%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%22%22%22)%2C%0A%20%20%20%20%5D)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(COLORS%2C%20mo)%3A%0A%20%20%20%20mo.Html(f%22%22%22%0A%20%20%20%20%3Cdiv%20style%3D%22border-left%3A%204px%20solid%20%7BCOLORS%5B'BlueLine'%5D%7D%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20background%3A%20white%3B%20border-radius%3A%200%2012px%2012px%200%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20padding%3A%2020px%2028px%3B%20margin%3A%208px%200%2016px%200%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20box-shadow%3A%200%201px%204px%20rgba(0%2C0%2C0%2C0.06)%3B%22%3E%0A%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22margin-bottom%3A%2016px%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-size%3A%200.7rem%3B%20font-weight%3A%20700%3B%20color%3A%20%7BCOLORS%5B'TextMuted'%5D%7D%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20text-transform%3A%20uppercase%3B%20letter-spacing%3A%200.12em%3B%20margin-bottom%3A%206px%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20Learning%20Objectives%0A%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-size%3A%200.9rem%3B%20color%3A%20%7BCOLORS%5B'TextSec'%5D%7D%3B%20line-height%3A%201.7%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22margin-bottom%3A%203px%3B%22%3E1.%20%3Cstrong%3EApply%20Amdahl's%20Law%20to%20system%20speedup%3C%2Fstrong%3E%20%26mdash%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20a%2010x%20inference%20speedup%20with%2045%25%20non-inference%20overhead%20yields%20only%202.0x%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20end-to-end%20improvement.%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22margin-bottom%3A%203px%3B%22%3E2.%20%3Cstrong%3EDiagnose%20thermal%20throttling%3C%2Fstrong%3E%20%26mdash%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20vendor%20burst%20benchmarks%20at%2030%20FPS%20degrade%20to%2015%20FPS%20sustained%20in%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20fanless%20enclosures%20after%20thermal%20steady-state.%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22margin-bottom%3A%203px%3B%22%3E3.%20%3Cstrong%3EDistinguish%20average%20from%20tail%20latency%3C%2Fstrong%3E%20%26mdash%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%2050%20ms%20average%20latency%20can%20hide%20500%20ms%20p99%20that%20violates%20a%20200%20ms%20SLO%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20for%201%25%20of%20requests.%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22border-top%3A%201px%20solid%20%7BCOLORS%5B'Border'%5D%7D%3B%20margin%3A%200%20-28px%3B%20padding%3A%200%2028px%3B%22%3E%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22display%3A%20flex%3B%20gap%3A%2032px%3B%20margin-top%3A%2016px%3B%20flex-wrap%3A%20wrap%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22flex%3A%201%3B%20min-width%3A%20220px%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-size%3A%200.7rem%3B%20font-weight%3A%20700%3B%20color%3A%20%7BCOLORS%5B'TextMuted'%5D%7D%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20text-transform%3A%20uppercase%3B%20letter-spacing%3A%200.12em%3B%20margin-bottom%3A%206px%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20Prerequisites%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-size%3A%200.85rem%3B%20color%3A%20%7BCOLORS%5B'TextSec'%5D%7D%3B%20line-height%3A%201.65%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20Iron%20Law%20from%20%40sec-ml-systems%20%26middot%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20Roofline%20model%20from%20%40sec-hw-acceleration%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22flex%3A%200%200%20180px%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-size%3A%200.7rem%3B%20font-weight%3A%20700%3B%20color%3A%20%7BCOLORS%5B'TextMuted'%5D%7D%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20text-transform%3A%20uppercase%3B%20letter-spacing%3A%200.12em%3B%20margin-bottom%3A%206px%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20Duration%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-size%3A%200.85rem%3B%20color%3A%20%7BCOLORS%5B'TextSec'%5D%7D%3B%20line-height%3A%201.65%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cstrong%3E~52%20min%3C%2Fstrong%3E%3Cbr%2F%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20A%3A%20~12%20%26middot%3B%20B%3A%20~12%20%26middot%3B%20C%3A%20~10%20%26middot%3B%20D%3A%20~12%20min%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22border-top%3A%201px%20solid%20%7BCOLORS%5B'Border'%5D%7D%3B%20margin%3A%2012px%20-28px%200%20-28px%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20padding%3A%2016px%2028px%200%2028px%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-size%3A%200.7rem%3B%20font-weight%3A%20700%3B%20color%3A%20%7BCOLORS%5B'BlueLine'%5D%7D%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20text-transform%3A%20uppercase%3B%20letter-spacing%3A%200.12em%3B%20margin-bottom%3A%206px%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20Core%20Question%0A%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-size%3A%201.05rem%3B%20color%3A%20%7BCOLORS%5B'Text'%5D%7D%3B%20font-weight%3A%20600%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20line-height%3A%201.5%3B%20font-style%3A%20italic%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%26ldquo%3BA%20vendor%20claims%2010x%20faster%20inference%2C%2030%20FPS%20sustained%2C%2050%20ms%20average%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20latency.%20Which%20of%20these%20numbers%20can%20you%20trust%20in%20production%3F%26rdquo%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20mo.callout(mo.md(%22%22%22%0A%20%20%20%20**Recommended%20Reading**%20--%20Complete%20the%20following%20before%20this%20lab%3A%0A%0A%20%20%20%20-%20**Chapter%2012%3A%20Performance%20Benchmarking**%20--%20Amdahl's%20Law%20for%20systems%2C%20thermal%0A%20%20%20%20%20%20throttling%20model%2C%20multi-metric%20SLO%20gates%2C%20and%20latency%20distributions.%0A%20%20%20%20-%20**Chapter%2011%3A%20Hardware%20Acceleration**%20--%20Roofline%20model%20and%20hardware%20constraints.%0A%20%20%20%20%22%22%22)%2C%20kind%3D%22info%22)%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo)%3A%0A%20%20%20%20%23%20%E2%94%80%E2%94%80%20Widgets%20%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%0A%20%20%20%20pA_pred%20%3D%20mo.ui.radio(%0A%20%20%20%20%20%20%20%20options%3D%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20%22A)%20~10x%20(the%20new%20GPU%20is%2010x%20faster)%22%3A%20%2210x%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22B)%20~5x%20(about%20half%20speeds%20up)%22%3A%20%225x%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22C)%20~2.0x%20(Amdahl's%20Law%20caps%20the%20gain)%22%3A%20%222x%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22D)%20~1.5x%20(even%20worse%20than%20expected)%22%3A%20%221_5x%22%2C%0A%20%20%20%20%20%20%20%20%7D%2C%0A%20%20%20%20%20%20%20%20label%3D%22Replace%20inference%20GPU%20with%2010x%20faster.%20Pipeline%3A%2045%25%20preprocessing%20%2B%2055%25%20inference.%20%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22End-to-end%20speedup%3F%22%2C%0A%20%20%20%20)%0A%20%20%20%20return%20(pA_pred%2C)%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo%2C%20pA_pred)%3A%0A%20%20%20%20mo.stop(pA_pred.value%20is%20None%2C%20mo.md(%22**Make%20your%20prediction%20above%20to%20unlock%20this%20part.**%22))%0A%0A%20%20%20%20pA_speedup%20%3D%20mo.ui.slider(start%3D1%2C%20stop%3D100%2C%20value%3D10%2C%20step%3D1%2C%20label%3D%22Inference%20speedup%20(x)%22)%0A%20%20%20%20pA_serial%20%3D%20mo.ui.slider(start%3D5%2C%20stop%3D80%2C%20value%3D45%2C%20step%3D5%2C%20label%3D%22Non-inference%20fraction%20(%25)%22)%0A%0A%20%20%20%20pB_pred%20%3D%20mo.ui.radio(%0A%20%20%20%20%20%20%20%20options%3D%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20%22A)%20~28%20FPS%20(minor%20degradation)%22%3A%20%2228%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22B)%20~24%20FPS%20(some%20throttling)%22%3A%20%2224%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22C)%20~15%20FPS%20(thermal%20throttle%20halves%20performance)%22%3A%20%2215%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22D)%20~8%20FPS%20(severe%20throttling)%22%3A%20%228%22%2C%0A%20%20%20%20%20%20%20%20%7D%2C%0A%20%20%20%20%20%20%20%20label%3D%22Edge%20device%20benchmarks%20at%2030%20FPS%20(1-min%20vendor%20test).%20%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22Sustained%20FPS%20after%2010%20min%20in%20fanless%20enclosure%20at%2035C%3F%22%2C%0A%20%20%20%20)%0A%20%20%20%20return%20pA_serial%2C%20pA_speedup%2C%20pB_pred%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo%2C%20pB_pred)%3A%0A%20%20%20%20mo.stop(pB_pred.value%20is%20None%2C%20mo.md(%22**Make%20your%20prediction%20above%20to%20unlock%20this%20part.**%22))%0A%0A%20%20%20%20pB_time%20%3D%20mo.ui.slider(start%3D0%2C%20stop%3D600%2C%20value%3D0%2C%20step%3D10%2C%20label%3D%22Time%20(seconds)%22)%0A%20%20%20%20pB_ambient%20%3D%20mo.ui.slider(start%3D20%2C%20stop%3D45%2C%20value%3D35%2C%20step%3D1%2C%20label%3D%22Ambient%20temp%20(C)%22)%0A%20%20%20%20pB_cooling%20%3D%20mo.ui.dropdown(%0A%20%20%20%20%20%20%20%20options%3D%7B%22Active%20fan%22%3A%20%22active%22%2C%20%22Passive%20heatsink%22%3A%20%22passive%22%2C%20%22Fanless%22%3A%20%22fanless%22%7D%2C%0A%20%20%20%20%20%20%20%20value%3D%22Fanless%22%2C%0A%20%20%20%20%20%20%20%20label%3D%22Cooling%20type%22%2C%0A%20%20%20%20)%0A%0A%20%20%20%20pC_pred%20%3D%20mo.ui.radio(%0A%20%20%20%20%20%20%20%20options%3D%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20%22A)%20Yes%20--%20highest%20accuracy%20is%20always%20best%22%3A%20%22yes%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22B)%20Probably%20--%20other%20metrics%20secondary%22%3A%20%22probably%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22C)%20No%20--%20violates%20latency%20SLO%20(p99%20%3E%20100%20ms)%22%3A%20%22no_latency%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22D)%20No%20--%20violates%20power%20budget%20(%3E%205%20W)%22%3A%20%22no_power%22%2C%0A%20%20%20%20%20%20%20%20%7D%2C%0A%20%20%20%20%20%20%20%20label%3D%22Config%20A%20has%20highest%20accuracy%20(94%25).%20Is%20it%20deployable%3F%22%2C%0A%20%20%20%20)%0A%20%20%20%20return%20pB_ambient%2C%20pB_cooling%2C%20pB_time%2C%20pC_pred%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(mo%2C%20pC_pred)%3A%0A%20%20%20%20mo.stop(pC_pred.value%20is%20None%2C%20mo.md(%22**Make%20your%20prediction%20above%20to%20unlock%20this%20part.**%22))%0A%0A%20%20%20%20pC_batch%20%3D%20mo.ui.slider(start%3D1%2C%20stop%3D64%2C%20value%3D1%2C%20step%3D1%2C%20label%3D%22Batch%20size%22)%0A%20%20%20%20pC_precision%20%3D%20mo.ui.dropdown(%0A%20%20%20%20%20%20%20%20options%3D%7B%22FP32%22%3A%20%22fp32%22%2C%20%22FP16%22%3A%20%22fp16%22%2C%20%22INT8%22%3A%20%22int8%22%7D%2C%0A%20%20%20%20%20%20%20%20value%3D%22FP32%22%2C%0A%20%20%20%20%20%20%20%20label%3D%22Precision%22%2C%0A%20%20%20%20)%0A%0A%20%20%20%20pD_pred%20%3D%20mo.ui.radio(%0A%20%20%20%20%20%20%20%20options%3D%7B%0A%20%20%20%20%20%20%20%20%20%20%20%20%22A)%20Yes%20--%20200%20ms%20is%204x%20the%20average%22%3A%20%22yes%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22B)%20Probably%20--%20p99%20~2x%20the%20average%22%3A%20%22probably%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22C)%20No%20--%20p99%20~500%20ms%20due%20to%20heavy%20tail%22%3A%20%22no%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%22D)%20Cannot%20determine%22%3A%20%22unknown%22%2C%0A%20%20%20%20%20%20%20%20%7D%2C%0A%20%20%20%20%20%20%20%20label%3D%22Inference%20service%3A%2050%20ms%20average%20latency.%20SLO%3A%20200%20ms%20p99.%20Is%20the%20SLO%20satisfied%3F%22%2C%0A%20%20%20%20)%0A%20%20%20%20return%20pC_batch%2C%20pC_precision%2C%20pD_pred%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(%0A%20%20%20%20COLORS%2C%0A%20%20%20%20H100_BW%2C%0A%20%20%20%20H100_TFLOPS%2C%0A%20%20%20%20RESNET50_FLOPS%2C%0A%20%20%20%20RESNET50_PARAMS%2C%0A%20%20%20%20apply_plotly_theme%2C%0A%20%20%20%20go%2C%0A%20%20%20%20math%2C%0A%20%20%20%20mo%2C%0A%20%20%20%20np%2C%0A%20%20%20%20pA_pred%2C%0A%20%20%20%20pA_serial%2C%0A%20%20%20%20pA_speedup%2C%0A%20%20%20%20pB_ambient%2C%0A%20%20%20%20pB_cooling%2C%0A%20%20%20%20pB_pred%2C%0A%20%20%20%20pB_time%2C%0A%20%20%20%20pC_batch%2C%0A%20%20%20%20pC_precision%2C%0A%20%20%20%20pC_pred%2C%0A%20%20%20%20pD_pred%2C%0A)%3A%0A%20%20%20%20mo.stop(pD_pred.value%20is%20None%2C%20mo.md(%22**Make%20your%20prediction%20above%20to%20unlock%20this%20part.**%22))%0A%0A%20%20%20%20pD_sigma%20%3D%20mo.ui.slider(start%3D0.1%2C%20stop%3D1.5%2C%20value%3D0.8%2C%20step%3D0.05%2C%20label%3D%22Tail%20heaviness%20(sigma)%22)%0A%20%20%20%20pD_slo%20%3D%20mo.ui.slider(start%3D50%2C%20stop%3D500%2C%20value%3D200%2C%20step%3D10%2C%20label%3D%22SLO%20threshold%20(ms)%22)%0A%0A%20%20%20%20%23%20%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%0A%20%20%20%20%23%20PART%20A%3A%20The%20Amdahl%20Ceiling%0A%20%20%20%20%23%20%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%0A%20%20%20%20def%20build_part_a()%3A%0A%20%20%20%20%20%20%20%20items%20%3D%20%5B%5D%0A%20%20%20%20%20%20%20%20items.append(mo.Html(f%22%22%22%0A%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22border-left%3A4px%20solid%20%7BCOLORS%5B'BlueLine'%5D%7D%3B%20background%3A%7BCOLORS%5B'BlueL'%5D%7D%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20border-radius%3A0%2010px%2010px%200%3B%20padding%3A16px%2022px%3B%20margin%3A12px%200%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-size%3A0.72rem%3B%20font-weight%3A700%3B%20color%3A%7BCOLORS%5B'BlueLine'%5D%7D%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20text-transform%3Auppercase%3B%20letter-spacing%3A0.1em%3B%20margin-bottom%3A6px%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20Incoming%20Message%20%26middot%3B%20CFO%2C%20VisionStack%20AI%0A%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-style%3Aitalic%3B%20font-size%3A1.0rem%3B%20color%3A%231e293b%3B%20line-height%3A1.65%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%26ldquo%3BEngineering%20wants%20a%20%2430K%20GPU%20upgrade%20that%20is%2010x%20faster%20for%20inference.%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20They%20claim%20it%20will%20make%20the%20whole%20pipeline%2010x%20faster.%20Finance%20wants%20to%20know%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20the%20actual%20end-to-end%20speedup%20before%20approving%20the%20budget.%26rdquo%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%22%22%22))%0A%20%20%20%20%20%20%20%20items.append(mo.md(%22%22%22%0A%20%20%20%20%20%20%20%20%23%23%20Amdahl's%20Law%3A%20Component%20Speedup%20is%20Not%20System%20Speedup%0A%0A%20%20%20%20%20%20%20%20%60%60%60%0A%20%20%20%20%20%20%20%20System%20Speedup%20%3D%201%20%2F%20(f_serial%20%2B%20f_parallel%20%2F%20S)%0A%20%20%20%20%20%20%20%20%60%60%60%0A%0A%20%20%20%20%20%20%20%20Where%20f_serial%20is%20the%20fraction%20of%20time%20NOT%20affected%20by%20the%20speedup.%0A%20%20%20%20%20%20%20%20A%2010x%20inference%20speedup%20with%2045%25%20preprocessing%20overhead%20yields%3A%0A%0A%20%20%20%20%20%20%20%20%60%60%60%0A%20%20%20%20%20%20%20%20Speedup%20%3D%201%20%2F%20(0.45%20%2B%200.55%2F10)%20%3D%201%20%2F%200.505%20%3D%201.98x%0A%20%20%20%20%20%20%20%20%60%60%60%0A%0A%20%20%20%20%20%20%20%20The%20other%208x%20of%20hardware%20investment%20is%20wasted%20on%20a%20bottleneck%20that%20has%20already%20moved.%0A%20%20%20%20%20%20%20%20%22%22%22))%0A%20%20%20%20%20%20%20%20items.append(pA_pred)%0A%20%20%20%20%20%20%20%20if%20pA_pred.value%20is%20None%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20items.append(mo.callout(mo.md(%22Select%20your%20prediction%20to%20unlock%20the%20Amdahl%20simulator.%22)%2C%20kind%3D%22warn%22))%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20mo.vstack(items)%0A%0A%20%20%20%20%20%20%20%20items.append(mo.hstack(%5BpA_speedup%2C%20pA_serial%5D%2C%20justify%3D%22start%22))%0A%0A%20%20%20%20%20%20%20%20_S%20%3D%20pA_speedup.value%0A%20%20%20%20%20%20%20%20_f%20%3D%20pA_serial.value%20%2F%20100.0%0A%20%20%20%20%20%20%20%20_system_speedup%20%3D%201.0%20%2F%20(_f%20%2B%20(1%20-%20_f)%20%2F%20_S)%0A%20%20%20%20%20%20%20%20_asymptote%20%3D%201.0%20%2F%20_f%20if%20_f%20%3E%200%20else%20float('inf')%0A%20%20%20%20%20%20%20%20_wasted%20%3D%20(_S%20-%20_system_speedup)%20%2F%20_S%20*%20100%20%20%23%20%25%20of%20component%20speedup%20wasted%0A%0A%20%20%20%20%20%20%20%20%23%20Amdahl%20curve%0A%20%20%20%20%20%20%20%20_speeds%20%3D%20np.arange(1%2C%20101)%0A%20%20%20%20%20%20%20%20_sys_speeds%20%3D%20%5B1.0%20%2F%20(_f%20%2B%20(1%20-%20_f)%20%2F%20s)%20for%20s%20in%20_speeds%5D%0A%0A%20%20%20%20%20%20%20%20_fig%20%3D%20go.Figure()%0A%20%20%20%20%20%20%20%20_fig.add_trace(go.Scatter(%0A%20%20%20%20%20%20%20%20%20%20%20%20x%3D_speeds.tolist()%2C%20y%3D_sys_speeds%2C%20mode%3D%22lines%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20line%3Ddict(color%3DCOLORS%5B%22BlueLine%22%5D%2C%20width%3D3)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20name%3D%22System%20Speedup%22%2C%0A%20%20%20%20%20%20%20%20))%0A%20%20%20%20%20%20%20%20_fig.add_hline(y%3D_asymptote%2C%20line_dash%3D%22dash%22%2C%20line_color%3DCOLORS%5B%22RedLine%22%5D%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20annotation_text%3Df%22Asymptote%3A%20%7B_asymptote%3A.1f%7Dx%22)%0A%20%20%20%20%20%20%20%20_fig.add_trace(go.Scatter(%0A%20%20%20%20%20%20%20%20%20%20%20%20x%3D%5B_S%5D%2C%20y%3D%5B_system_speedup%5D%2C%20mode%3D%22markers%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20marker%3Ddict(size%3D14%2C%20color%3DCOLORS%5B%22RedLine%22%5D%2C%20symbol%3D%22diamond%22)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20name%3Df%22Your%20GPU%3A%20%7B_S%7Dx%22%2C%0A%20%20%20%20%20%20%20%20))%0A%20%20%20%20%20%20%20%20_fig.update_layout(%0A%20%20%20%20%20%20%20%20%20%20%20%20height%3D340%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20xaxis%3Ddict(title%3D%22Component%20Speedup%20(x)%22)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20yaxis%3Ddict(title%3D%22System%20Speedup%20(x)%22%2C%20range%3D%5B0%2C%20max(_asymptote%20*%201.2%2C%205)%5D)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20legend%3Ddict(orientation%3D%22h%22%2C%20y%3D1.12%2C%20x%3D0)%2C%0A%20%20%20%20%20%20%20%20)%0A%20%20%20%20%20%20%20%20apply_plotly_theme(_fig)%0A%20%20%20%20%20%20%20%20items.append(mo.as_html(_fig))%0A%0A%20%20%20%20%20%20%20%20%23%20Before%2Fafter%20waterfall%0A%20%20%20%20%20%20%20%20_t_pre%20%3D%20_f%0A%20%20%20%20%20%20%20%20_t_inf_before%20%3D%201%20-%20_f%0A%20%20%20%20%20%20%20%20_t_inf_after%20%3D%20(1%20-%20_f)%20%2F%20_S%0A%20%20%20%20%20%20%20%20_total_before%20%3D%201.0%0A%20%20%20%20%20%20%20%20_total_after%20%3D%20_t_pre%20%2B%20_t_inf_after%0A%0A%20%20%20%20%20%20%20%20_fig2%20%3D%20go.Figure()%0A%20%20%20%20%20%20%20%20_fig2.add_trace(go.Bar(name%3D%22Preprocessing%22%2C%20x%3D%5B%22Before%22%2C%20%22After%22%5D%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20y%3D%5B_t_pre%20*%20100%2C%20_t_pre%20*%20100%5D%2C%20marker_color%3DCOLORS%5B%22OrangeLine%22%5D))%0A%20%20%20%20%20%20%20%20_fig2.add_trace(go.Bar(name%3D%22Inference%22%2C%20x%3D%5B%22Before%22%2C%20%22After%22%5D%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20y%3D%5B_t_inf_before%20*%20100%2C%20_t_inf_after%20*%20100%5D%2C%20marker_color%3DCOLORS%5B%22BlueLine%22%5D))%0A%20%20%20%20%20%20%20%20_fig2.update_layout(%0A%20%20%20%20%20%20%20%20%20%20%20%20barmode%3D%22stack%22%2C%20height%3D280%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20yaxis%3Ddict(title%3D%22Time%20(%25%20of%20original)%22)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20legend%3Ddict(orientation%3D%22h%22%2C%20y%3D1.12%2C%20x%3D0)%2C%0A%20%20%20%20%20%20%20%20)%0A%20%20%20%20%20%20%20%20apply_plotly_theme(_fig2)%0A%20%20%20%20%20%20%20%20items.append(mo.as_html(_fig2))%0A%0A%20%20%20%20%20%20%20%20_new_pre_frac%20%3D%20_t_pre%20%2F%20_total_after%20*%20100%0A%20%20%20%20%20%20%20%20items.append(mo.Html(f%22%22%22%0A%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22display%3Aflex%3B%20gap%3A14px%3B%20flex-wrap%3Awrap%3B%20margin%3A16px%200%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22padding%3A16px%3B%20border%3A1px%20solid%20%23e2e8f0%3B%20border-radius%3A10px%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20text-align%3Acenter%3B%20background%3Awhite%3B%20border-top%3A3px%20solid%20%7BCOLORS%5B'BlueLine'%5D%7D%3B%20flex%3A1%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22color%3A%2394a3b8%3B%20font-size%3A0.78rem%3B%20font-weight%3A600%3B%22%3ESystem%20Speedup%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-size%3A1.7rem%3B%20font-weight%3A800%3B%20color%3A%7BCOLORS%5B'BlueLine'%5D%7D%3B%22%3E%7B_system_speedup%3A.2f%7Dx%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-size%3A0.72rem%3B%20color%3A%2394a3b8%3B%22%3Enot%20%7B_S%7Dx%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22padding%3A16px%3B%20border%3A1px%20solid%20%23e2e8f0%3B%20border-radius%3A10px%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20text-align%3Acenter%3B%20background%3Awhite%3B%20border-top%3A3px%20solid%20%7BCOLORS%5B'RedLine'%5D%7D%3B%20flex%3A1%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22color%3A%2394a3b8%3B%20font-size%3A0.78rem%3B%20font-weight%3A600%3B%22%3EWasted%20Speedup%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-size%3A1.7rem%3B%20font-weight%3A800%3B%20color%3A%7BCOLORS%5B'RedLine'%5D%7D%3B%22%3E%7B_wasted%3A.0f%7D%25%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-size%3A0.72rem%3B%20color%3A%2394a3b8%3B%22%3Eof%20hardware%20investment%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22padding%3A16px%3B%20border%3A1px%20solid%20%23e2e8f0%3B%20border-radius%3A10px%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20text-align%3Acenter%3B%20background%3Awhite%3B%20border-top%3A3px%20solid%20%7BCOLORS%5B'OrangeLine'%5D%7D%3B%20flex%3A1%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22color%3A%2394a3b8%3B%20font-size%3A0.78rem%3B%20font-weight%3A600%3B%22%3ENew%20Bottleneck%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-size%3A1.7rem%3B%20font-weight%3A800%3B%20color%3A%7BCOLORS%5B'OrangeLine'%5D%7D%3B%22%3E%7B_new_pre_frac%3A.0f%7D%25%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-size%3A0.72rem%3B%20color%3A%2394a3b8%3B%22%3Epreprocessing%20(was%20%7B_f*100%3A.0f%7D%25)%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%22%22%22))%0A%0A%20%20%20%20%20%20%20%20items.append(mo.md(f%22%22%22%0A%20%20%20%20**Amdahl's%20Law%20--%20Live%20Calculation**%0A%0A%20%20%20%20%60%60%60%0A%20%20%20%20f_serial%20%3D%20%7B_f%3A.2f%7D%20(non-inference%20fraction)%0A%20%20%20%20S%20%20%20%20%20%20%20%20%3D%20%7B_S%7Dx%20(inference%20speedup)%0A%20%20%20%20System%20%20%20%3D%201%20%2F%20(%7B_f%3A.2f%7D%20%2B%20%7B1-_f%3A.2f%7D%2F%7B_S%7D)%20%3D%201%20%2F%20%7B_f%20%2B%20(1-_f)%2F_S%3A.3f%7D%20%3D%20%7B_system_speedup%3A.2f%7Dx%0A%20%20%20%20Asymptote%20%3D%201%20%2F%20%7B_f%3A.2f%7D%20%3D%20%7B_asymptote%3A.1f%7Dx%20(cannot%20exceed%20this%20regardless%20of%20S)%0A%20%20%20%20%60%60%60%0A%20%20%20%20*Source%3A%20Chapter%2012%2C%20Amdahl's%20Law%20applied%20to%20ML%20pipelines*%0A%20%20%20%20%20%20%20%20%22%22%22))%0A%0A%20%20%20%20%20%20%20%20if%20pA_pred.value%20%3D%3D%20%222x%22%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20items.append(mo.callout(mo.md(f%22**Correct.**%20A%20%7B_S%7Dx%20component%20speedup%20yields%20only%20%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20f%22%7B_system_speedup%3A.1f%7Dx%20system%20speedup.%20The%20%7B_f*100%3A.0f%7D%25%20preprocessing%20fraction%20%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20f%22is%20now%20%7B_new_pre_frac%3A.0f%7D%25%20of%20total%20time.%20The%20bottleneck%20has%20moved.%22)%2C%20kind%3D%22success%22))%0A%20%20%20%20%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20items.append(mo.callout(mo.md(f%22**The%20system%20speedup%20is%20only%20%7B_system_speedup%3A.1f%7Dx%2C%20not%20%7B_S%7Dx.**%20%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20f%22Amdahl's%20Law%3A%20the%20%7B_f*100%3A.0f%7D%25%20serial%20fraction%20caps%20the%20gain%20at%20%7B_asymptote%3A.1f%7Dx.%20%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22The%20%2430K%20GPU%20upgrade%20delivered%202x%2C%20not%2010x.%22)%2C%20kind%3D%22warn%22))%0A%20%20%20%20%20%20%20%20return%20mo.vstack(items)%0A%0A%20%20%20%20%23%20%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%0A%20%20%20%20%23%20PART%20B%3A%20Thermal%20Cliff%0A%20%20%20%20%23%20%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%0A%20%20%20%20def%20build_part_b()%3A%0A%20%20%20%20%20%20%20%20items%20%3D%20%5B%5D%0A%20%20%20%20%20%20%20%20items.append(mo.Html(f%22%22%22%0A%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22border-left%3A4px%20solid%20%7BCOLORS%5B'OrangeLine'%5D%7D%3B%20background%3A%7BCOLORS%5B'OrangeL'%5D%7D%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20border-radius%3A0%2010px%2010px%200%3B%20padding%3A16px%2022px%3B%20margin%3A12px%200%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-size%3A0.72rem%3B%20font-weight%3A700%3B%20color%3A%7BCOLORS%5B'OrangeLine'%5D%7D%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20text-transform%3Auppercase%3B%20letter-spacing%3A0.1em%3B%20margin-bottom%3A6px%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20Incoming%20Message%20%26middot%3B%20Edge%20Deployment%20Manager%0A%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-style%3Aitalic%3B%20font-size%3A1.0rem%3B%20color%3A%231e293b%3B%20line-height%3A1.65%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%26ldquo%3BThe%20vendor%20demo%20showed%2030%20FPS.%20Our%20deployed%20units%20in%20outdoor%20enclosures%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20average%2016%20FPS%20after%20the%20first%20hour.%20The%20vendor%20says%20our%20hardware%20is%20defective.%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20Is%20it%3F%26rdquo%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%22%22%22))%0A%20%20%20%20%20%20%20%20items.append(mo.md(%22%22%22%0A%20%20%20%20%20%20%20%20%23%23%20Peak%20vs.%20Sustained%3A%20The%20Thermal%20Cliff%0A%0A%20%20%20%20%20%20%20%20Vendor%20benchmarks%20are%20**burst**%20measurements.%20Production%20runs%20are%20**sustained**.%0A%0A%20%20%20%20%20%20%20%20%60%60%60%0A%20%20%20%20%20%20%20%20T_junction(t)%20%3D%20T_ambient%20%2B%20(TDP%20%2F%20G_thermal)%20x%20(1%20-%20exp(-t%20%2F%20tau))%0A%20%20%20%20%20%20%20%20%60%60%60%0A%0A%20%20%20%20%20%20%20%20When%20junction%20temperature%20exceeds%20T_throttle%20(~85C)%2C%20the%20chip%20reduces%20clock%0A%20%20%20%20%20%20%20%20frequency.%20In%20a%20fanless%20enclosure%20at%2035C%20ambient%2C%20thermal%20throttling%20can%20halve%0A%20%20%20%20%20%20%20%20sustained%20throughput%20within%205%20minutes.%0A%20%20%20%20%20%20%20%20%22%22%22))%0A%20%20%20%20%20%20%20%20items.append(pB_pred)%0A%20%20%20%20%20%20%20%20if%20pB_pred.value%20is%20None%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20items.append(mo.callout(mo.md(%22Select%20your%20prediction%20to%20unlock%20the%20thermal%20simulator.%22)%2C%20kind%3D%22warn%22))%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20mo.vstack(items)%0A%0A%20%20%20%20%20%20%20%20items.append(mo.hstack(%5BpB_time%2C%20pB_ambient%2C%20pB_cooling%5D%2C%20justify%3D%22start%22))%0A%0A%20%20%20%20%20%20%20%20_t%20%3D%20pB_time.value%20%20%23%20seconds%0A%20%20%20%20%20%20%20%20_t_amb%20%3D%20pB_ambient.value%0A%20%20%20%20%20%20%20%20_cooling%20%3D%20pB_cooling.value%0A%20%20%20%20%20%20%20%20_tdp%20%3D%2025%20%20%23%20Jetson-class%20TDP%0A%0A%20%20%20%20%20%20%20%20%23%20Thermal%20conductance%20by%20cooling%20type%20(W%2FK)%0A%20%20%20%20%20%20%20%20_g_thermal%20%3D%20%7B%22active%22%3A%205.0%2C%20%22passive%22%3A%202.0%2C%20%22fanless%22%3A%200.8%7D%5B_cooling%5D%0A%20%20%20%20%20%20%20%20_tau%20%3D%20%7B%22active%22%3A%20120%2C%20%22passive%22%3A%2060%2C%20%22fanless%22%3A%2030%7D%5B_cooling%5D%20%20%23%20thermal%20time%20constant%20(s)%0A%20%20%20%20%20%20%20%20_t_throttle%20%3D%2085%20%20%23%20throttle%20threshold%20(C)%0A%0A%20%20%20%20%20%20%20%20%23%20Piecewise%20thermal%20model%0A%20%20%20%20%20%20%20%20_t_junction%20%3D%20_t_amb%20%2B%20(_tdp%20%2F%20_g_thermal)%20*%20(1%20-%20math.exp(-_t%20%2F%20_tau))%0A%20%20%20%20%20%20%20%20_throttled%20%3D%20_t_junction%20%3E%20_t_throttle%0A%20%20%20%20%20%20%20%20_peak_fps%20%3D%2030.0%0A%0A%20%20%20%20%20%20%20%20if%20_throttled%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%23%20Throttle%3A%20reduce%20FPS%20proportionally%20to%20how%20far%20over%20threshold%0A%20%20%20%20%20%20%20%20%20%20%20%20_throttle_factor%20%3D%20max(0.3%2C%201.0%20-%20(_t_junction%20-%20_t_throttle)%20%2F%2050.0)%0A%20%20%20%20%20%20%20%20%20%20%20%20_sustained_fps%20%3D%20_peak_fps%20*%20_throttle_factor%0A%20%20%20%20%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20_sustained_fps%20%3D%20_peak_fps%0A%0A%20%20%20%20%20%20%20%20%23%20Time%20series%0A%20%20%20%20%20%20%20%20_times%20%3D%20np.linspace(0%2C%20600%2C%20200)%0A%20%20%20%20%20%20%20%20_temps%20%3D%20%5B_t_amb%20%2B%20(_tdp%20%2F%20_g_thermal)%20*%20(1%20-%20math.exp(-t%20%2F%20_tau))%20for%20t%20in%20_times%5D%0A%20%20%20%20%20%20%20%20_fps_series%20%3D%20%5B%5D%0A%20%20%20%20%20%20%20%20for%20_temp%20in%20_temps%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20if%20_temp%20%3E%20_t_throttle%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20_tf%20%3D%20max(0.3%2C%201.0%20-%20(_temp%20-%20_t_throttle)%20%2F%2050.0)%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20_fps_series.append(_peak_fps%20*%20_tf)%0A%20%20%20%20%20%20%20%20%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20_fps_series.append(_peak_fps)%0A%0A%20%20%20%20%20%20%20%20from%20plotly.subplots%20import%20make_subplots%0A%20%20%20%20%20%20%20%20_fig%20%3D%20make_subplots(rows%3D2%2C%20cols%3D1%2C%20shared_xaxes%3DTrue%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20subplot_titles%3D(%22Junction%20Temperature%22%2C%20%22Throughput%20(FPS)%22)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20vertical_spacing%3D0.12)%0A%0A%20%20%20%20%20%20%20%20_fig.add_trace(go.Scatter(x%3D_times.tolist()%2C%20y%3D_temps%2C%20mode%3D%22lines%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20line%3Ddict(color%3DCOLORS%5B%22OrangeLine%22%5D%2C%20width%3D2)%2C%20name%3D%22Temperature%22%2C%20showlegend%3DFalse)%2C%20row%3D1%2C%20col%3D1)%0A%20%20%20%20%20%20%20%20_fig.add_hline(y%3D_t_throttle%2C%20line_dash%3D%22dash%22%2C%20line_color%3DCOLORS%5B%22RedLine%22%5D%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20annotation_text%3Df%22Throttle%3A%20%7B_t_throttle%7DC%22%2C%20row%3D1%2C%20col%3D1)%0A%20%20%20%20%20%20%20%20_fig.add_trace(go.Scatter(x%3D%5B_t%5D%2C%20y%3D%5B_t_junction%5D%2C%20mode%3D%22markers%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20marker%3Ddict(size%3D12%2C%20color%3DCOLORS%5B%22RedLine%22%5D%2C%20symbol%3D%22diamond%22)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20name%3D%22Current%22%2C%20showlegend%3DFalse)%2C%20row%3D1%2C%20col%3D1)%0A%0A%20%20%20%20%20%20%20%20_fig.add_trace(go.Scatter(x%3D_times.tolist()%2C%20y%3D_fps_series%2C%20mode%3D%22lines%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20line%3Ddict(color%3DCOLORS%5B%22BlueLine%22%5D%2C%20width%3D2)%2C%20name%3D%22FPS%22%2C%20showlegend%3DFalse)%2C%20row%3D2%2C%20col%3D1)%0A%20%20%20%20%20%20%20%20_fig.add_trace(go.Scatter(x%3D%5B_t%5D%2C%20y%3D%5B_sustained_fps%5D%2C%20mode%3D%22markers%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20marker%3Ddict(size%3D12%2C%20color%3DCOLORS%5B%22RedLine%22%5D%2C%20symbol%3D%22diamond%22)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20name%3D%22Current%22%2C%20showlegend%3DFalse)%2C%20row%3D2%2C%20col%3D1)%0A%0A%20%20%20%20%20%20%20%20_fig.update_layout(height%3D440%2C%20margin%3Ddict(l%3D50%2C%20r%3D20%2C%20t%3D40%2C%20b%3D40))%0A%20%20%20%20%20%20%20%20_fig.update_xaxes(title_text%3D%22Time%20(seconds)%22%2C%20row%3D2%2C%20col%3D1)%0A%20%20%20%20%20%20%20%20_fig.update_yaxes(title_text%3D%22Temperature%20(C)%22%2C%20row%3D1%2C%20col%3D1)%0A%20%20%20%20%20%20%20%20_fig.update_yaxes(title_text%3D%22FPS%22%2C%20row%3D2%2C%20col%3D1)%0A%20%20%20%20%20%20%20%20apply_plotly_theme(_fig)%0A%20%20%20%20%20%20%20%20items.append(mo.as_html(_fig))%0A%0A%20%20%20%20%20%20%20%20_fps_color%20%3D%20COLORS%5B%22RedLine%22%5D%20if%20_sustained_fps%20%3C%2020%20else%20(COLORS%5B%22OrangeLine%22%5D%20if%20_sustained_fps%20%3C%2025%20else%20COLORS%5B%22GreenLine%22%5D)%0A%20%20%20%20%20%20%20%20_temp_color%20%3D%20COLORS%5B%22RedLine%22%5D%20if%20_t_junction%20%3E%20_t_throttle%20else%20COLORS%5B%22GreenLine%22%5D%0A%20%20%20%20%20%20%20%20items.append(mo.Html(f%22%22%22%0A%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22display%3Aflex%3B%20gap%3A14px%3B%20flex-wrap%3Awrap%3B%20margin%3A16px%200%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22padding%3A16px%3B%20border%3A1px%20solid%20%23e2e8f0%3B%20border-radius%3A10px%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20text-align%3Acenter%3B%20background%3Awhite%3B%20border-top%3A3px%20solid%20%7B_temp_color%7D%3B%20flex%3A1%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22color%3A%2394a3b8%3B%20font-size%3A0.78rem%3B%20font-weight%3A600%3B%22%3EJunction%20Temp%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-size%3A1.5rem%3B%20font-weight%3A800%3B%20color%3A%7B_temp_color%7D%3B%22%3E%7B_t_junction%3A.0f%7DC%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-size%3A0.72rem%3B%20color%3A%2394a3b8%3B%22%3E%7B%22THROTTLING%22%20if%20_throttled%20else%20%22normal%22%7D%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22padding%3A16px%3B%20border%3A1px%20solid%20%23e2e8f0%3B%20border-radius%3A10px%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20text-align%3Acenter%3B%20background%3Awhite%3B%20border-top%3A3px%20solid%20%7B_fps_color%7D%3B%20flex%3A1%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22color%3A%2394a3b8%3B%20font-size%3A0.78rem%3B%20font-weight%3A600%3B%22%3ESustained%20FPS%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-size%3A1.5rem%3B%20font-weight%3A800%3B%20color%3A%7B_fps_color%7D%3B%22%3E%7B_sustained_fps%3A.0f%7D%20FPS%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-size%3A0.72rem%3B%20color%3A%2394a3b8%3B%22%3Evendor%20claimed%2030%20FPS%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22padding%3A16px%3B%20border%3A1px%20solid%20%23e2e8f0%3B%20border-radius%3A10px%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20text-align%3Acenter%3B%20background%3Awhite%3B%20border-top%3A3px%20solid%20%7BCOLORS%5B'OrangeLine'%5D%7D%3B%20flex%3A1%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22color%3A%2394a3b8%3B%20font-size%3A0.78rem%3B%20font-weight%3A600%3B%22%3EPerformance%20Loss%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-size%3A1.5rem%3B%20font-weight%3A800%3B%20color%3A%7BCOLORS%5B'OrangeLine'%5D%7D%3B%22%3E%7B(1%20-%20_sustained_fps%2F_peak_fps)*100%3A.0f%7D%25%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-size%3A0.72rem%3B%20color%3A%2394a3b8%3B%22%3Evs%20peak%20burst%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%22%22%22))%0A%0A%20%20%20%20%20%20%20%20items.append(mo.md(f%22%22%22%0A%20%20%20%20**Thermal%20Model%20--%20Live%20Calculation**%20(%60%7B_cooling%7D%2C%20%7B_t_amb%7DC%20ambient%2C%20t%3D%7B_t%7Ds%60)%0A%0A%20%20%20%20%60%60%60%0A%20%20%20%20T_junction%20%3D%20%7B_t_amb%7D%20%2B%20(%7B_tdp%7D%20%2F%20%7B_g_thermal%3A.1f%7D)%20x%20(1%20-%20exp(-%7B_t%7D%20%2F%20%7B_tau%7D))%0A%20%20%20%20%20%20%20%20%20%20%20%3D%20%7B_t_junction%3A.1f%7DC%20%20%7B%22(%3E%2085C%20%3D%20THROTTLING)%22%20if%20_throttled%20else%20%22(%3C%2085C%20%3D%20normal)%22%7D%0A%20%20%20%20FPS%20%20%20%20%20%20%20%20%3D%20%7B_sustained_fps%3A.0f%7D%20(vendor%20peak%3A%20%7B_peak_fps%3A.0f%7D)%0A%20%20%20%20%60%60%60%0A%20%20%20%20*Source%3A%20Chapter%2012%2C%20thermal%20throttling%20model*%0A%20%20%20%20%20%20%20%20%22%22%22))%0A%0A%20%20%20%20%20%20%20%20if%20pB_pred.value%20%3D%3D%20%2215%22%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20items.append(mo.callout(mo.md(%22**Correct.**%20In%20a%20fanless%20enclosure%20at%2035C%2C%20thermal%20throttling%20%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22halves%20sustained%20performance%20after%20steady-state.%20Vendor%20benchmarks%20are%201-minute%20burst%20%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22measurements%20that%20never%20reach%20thermal%20equilibrium.%22)%2C%20kind%3D%22success%22))%0A%20%20%20%20%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20items.append(mo.callout(mo.md(%22**Sustained%20FPS%20drops%20dramatically.**%20%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22Scrub%20the%20time%20slider%20forward%20to%20300%2B%20seconds.%20In%20fanless%20enclosures%2C%20%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22thermal%20throttling%20kicks%20in%20within%20minutes.%22)%2C%20kind%3D%22warn%22))%0A%20%20%20%20%20%20%20%20return%20mo.vstack(items)%0A%0A%20%20%20%20%23%20%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%0A%20%20%20%20%23%20PART%20C%3A%20Multi-Metric%20Trap%0A%20%20%20%20%23%20%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%0A%20%20%20%20def%20build_part_c()%3A%0A%20%20%20%20%20%20%20%20items%20%3D%20%5B%5D%0A%20%20%20%20%20%20%20%20items.append(mo.Html(f%22%22%22%0A%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22border-left%3A4px%20solid%20%7BCOLORS%5B'RedLine'%5D%7D%3B%20background%3A%7BCOLORS%5B'RedL'%5D%7D%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20border-radius%3A0%2010px%2010px%200%3B%20padding%3A16px%2022px%3B%20margin%3A12px%200%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-size%3A0.72rem%3B%20font-weight%3A700%3B%20color%3A%7BCOLORS%5B'RedLine'%5D%7D%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20text-transform%3Auppercase%3B%20letter-spacing%3A0.1em%3B%20margin-bottom%3A6px%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20Incoming%20Message%20%26middot%3B%20Production%20SRE%0A%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-style%3Aitalic%3B%20font-size%3A1.0rem%3B%20color%3A%231e293b%3B%20line-height%3A1.65%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%26ldquo%3BWe%20picked%20the%20configuration%20with%20the%20highest%20accuracy%20(94%25).%20It%20passed%20QA.%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20But%20production%20shows%20SLO%20violations%20on%20latency%20and%20power.%20How%20did%2094%25%20accuracy%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20not%20translate%20to%20a%20deployable%20system%3F%26rdquo%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%22%22%22))%0A%20%20%20%20%20%20%20%20items.append(mo.md(%22%22%22%0A%20%20%20%20%20%20%20%20%23%23%20The%20Multi-Metric%20Trap%0A%0A%20%20%20%20%20%20%20%20The%20configuration%20with%20the%20best%20single%20metric%20(accuracy)%20violates%20**other**%0A%20%20%20%20%20%20%20%20deployment%20gates%20(latency%2C%20power%2C%20throughput).%20Production%20deployment%20requires%0A%20%20%20%20%20%20%20%20passing%20**all**%20SLOs%20simultaneously.%0A%0A%20%20%20%20%20%20%20%20%7C%20SLO%20Gate%20%7C%20Threshold%20%7C%0A%20%20%20%20%20%20%20%20%7C----------%7C-----------%7C%0A%20%20%20%20%20%20%20%20%7C%20Accuracy%20%7C%20%3E%2090%25%20%7C%0A%20%20%20%20%20%20%20%20%7C%20P99%20Latency%20%7C%20%3C%20100%20ms%20%7C%0A%20%20%20%20%20%20%20%20%7C%20Power%20%7C%20%3C%205%20W%20%7C%0A%20%20%20%20%20%20%20%20%7C%20Throughput%20%7C%20%3E%20500%20QPS%20%7C%0A%20%20%20%20%20%20%20%20%22%22%22))%0A%20%20%20%20%20%20%20%20items.append(pC_pred)%0A%20%20%20%20%20%20%20%20if%20pC_pred.value%20is%20None%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20items.append(mo.callout(mo.md(%22Select%20your%20prediction%20to%20unlock%20the%20multi-metric%20analyzer.%22)%2C%20kind%3D%22warn%22))%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20mo.vstack(items)%0A%0A%20%20%20%20%20%20%20%20items.append(mo.hstack(%5BpC_batch%2C%20pC_precision%5D%2C%20justify%3D%22start%22))%0A%0A%20%20%20%20%20%20%20%20_batch%20%3D%20pC_batch.value%0A%20%20%20%20%20%20%20%20_prec%20%3D%20pC_precision.value%0A%0A%20%20%20%20%20%20%20%20%23%20Model%20configurations%0A%20%20%20%20%20%20%20%20_bpp%20%3D%20%7B%22fp32%22%3A%204%2C%20%22fp16%22%3A%202%2C%20%22int8%22%3A%201%7D%0A%20%20%20%20%20%20%20%20_acc_map%20%3D%20%7B%22fp32%22%3A%2094.0%2C%20%22fp16%22%3A%2093.8%2C%20%22int8%22%3A%2091.0%7D%0A%20%20%20%20%20%20%20%20_acc%20%3D%20_acc_map%5B_prec%5D%0A%0A%20%20%20%20%20%20%20%20%23%20Latency%20(simplified%20roofline)%0A%20%20%20%20%20%20%20%20_model_gb%20%3D%20RESNET50_PARAMS%20*%20_bpp%5B_prec%5D%20%2F%201e9%0A%20%20%20%20%20%20%20%20_eta%20%3D%200.5%0A%20%20%20%20%20%20%20%20_t_mem%20%3D%20(_model_gb%20%2F%20H100_BW)%20*%201000%20%20%23%20ms%0A%20%20%20%20%20%20%20%20_t_comp%20%3D%20(RESNET50_FLOPS%20*%20_batch%20%2F%20(H100_TFLOPS%20*%201e12%20*%20_eta))%20*%201000%20%20%23%20ms%0A%20%20%20%20%20%20%20%20_latency%20%3D%20max(_t_mem%2C%20_t_comp)%20%2B%200.5%20%20%23%20%2B%20overhead%0A%20%20%20%20%20%20%20%20_p99%20%3D%20_latency%20*%203.5%20%20%23%20log-normal%20tail%20approximation%0A%0A%20%20%20%20%20%20%20%20%23%20Throughput%0A%20%20%20%20%20%20%20%20_qps%20%3D%20_batch%20%2F%20(_latency%20%2F%201000)%20if%20_latency%20%3E%200%20else%200%0A%0A%20%20%20%20%20%20%20%20%23%20Power%20(scales%20with%20batch%20and%20precision)%0A%20%20%20%20%20%20%20%20_base_power%20%3D%203.0%20%20%23%20W%20for%20edge%20inference%0A%20%20%20%20%20%20%20%20_power%20%3D%20_base_power%20*%20(1%20%2B%200.3%20*%20math.log2(max(_batch%2C%201)))%20*%20_bpp%5B_prec%5D%20%2F%202%0A%0A%20%20%20%20%20%20%20%20%23%20SLO%20checks%0A%20%20%20%20%20%20%20%20_slo_acc%20%3D%20_acc%20%3E%2090%0A%20%20%20%20%20%20%20%20_slo_lat%20%3D%20_p99%20%3C%20100%0A%20%20%20%20%20%20%20%20_slo_power%20%3D%20_power%20%3C%205%0A%20%20%20%20%20%20%20%20_slo_qps%20%3D%20_qps%20%3E%20500%0A%20%20%20%20%20%20%20%20_all_pass%20%3D%20_slo_acc%20and%20_slo_lat%20and%20_slo_power%20and%20_slo_qps%0A%0A%20%20%20%20%20%20%20%20%23%20Radar%20chart%0A%20%20%20%20%20%20%20%20_radar_r%20%3D%20%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20min(_acc%20%2F%2094%20*%20100%2C%20100)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20min((100%20%2F%20_p99)%20*%20100%2C%20100)%20if%20_p99%20%3E%200%20else%200%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20min((5%20%2F%20_power)%20*%20100%2C%20100)%20if%20_power%20%3E%200%20else%200%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20min(_qps%20%2F%201200%20*%20100%2C%20100)%2C%0A%20%20%20%20%20%20%20%20%5D%0A%20%20%20%20%20%20%20%20_radar_r.append(_radar_r%5B0%5D)%20%20%23%20close%20the%20polygon%0A%20%20%20%20%20%20%20%20_radar_theta%20%3D%20%5B%22Accuracy%22%2C%20%22Latency%22%2C%20%22Power%22%2C%20%22Throughput%22%2C%20%22Accuracy%22%5D%0A%0A%20%20%20%20%20%20%20%20_fig%20%3D%20go.Figure()%0A%20%20%20%20%20%20%20%20%23%20SLO%20ring%20(all%20at%20normalized%20threshold)%0A%20%20%20%20%20%20%20%20_slo_ring%20%3D%20%5B90%2F94*100%2C%20100%2C%20100%2C%20500%2F1200*100%2C%2090%2F94*100%5D%0A%20%20%20%20%20%20%20%20_fig.add_trace(go.Scatterpolar(%0A%20%20%20%20%20%20%20%20%20%20%20%20r%3D_slo_ring%2C%20theta%3D_radar_theta%2C%20mode%3D%22lines%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20line%3Ddict(color%3DCOLORS%5B%22GreenLine%22%5D%2C%20width%3D2%2C%20dash%3D%22dash%22)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20name%3D%22SLO%20Threshold%22%2C%0A%20%20%20%20%20%20%20%20))%0A%20%20%20%20%20%20%20%20_fig.add_trace(go.Scatterpolar(%0A%20%20%20%20%20%20%20%20%20%20%20%20r%3D_radar_r%2C%20theta%3D_radar_theta%2C%20mode%3D%22lines%2Bmarkers%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20line%3Ddict(color%3DCOLORS%5B%22BlueLine%22%5D%20if%20_all_pass%20else%20COLORS%5B%22RedLine%22%5D%2C%20width%3D2)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20fill%3D%22toself%22%2C%20fillcolor%3Df%22rgba(0%2C99%2C149%2C0.15)%22%20if%20_all_pass%20else%20f%22rgba(203%2C32%2C45%2C0.15)%22%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20name%3D%22Your%20Config%22%2C%0A%20%20%20%20%20%20%20%20))%0A%20%20%20%20%20%20%20%20_fig.update_layout(%0A%20%20%20%20%20%20%20%20%20%20%20%20height%3D350%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20polar%3Ddict(radialaxis%3Ddict(range%3D%5B0%2C%20110%5D))%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20legend%3Ddict(orientation%3D%22h%22%2C%20y%3D-0.1%2C%20x%3D0)%2C%0A%20%20%20%20%20%20%20%20)%0A%20%20%20%20%20%20%20%20items.append(mo.as_html(_fig))%0A%0A%20%20%20%20%20%20%20%20if%20not%20_all_pass%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20_violations%20%3D%20%5B%5D%0A%20%20%20%20%20%20%20%20%20%20%20%20if%20not%20_slo_acc%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20_violations.append(f%22Accuracy%20%7B_acc%3A.1f%7D%25%20%3C%2090%25%22)%0A%20%20%20%20%20%20%20%20%20%20%20%20if%20not%20_slo_lat%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20_violations.append(f%22P99%20Latency%20%7B_p99%3A.0f%7D%20ms%20%3E%20100%20ms%22)%0A%20%20%20%20%20%20%20%20%20%20%20%20if%20not%20_slo_power%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20_violations.append(f%22Power%20%7B_power%3A.1f%7D%20W%20%3E%205%20W%22)%0A%20%20%20%20%20%20%20%20%20%20%20%20if%20not%20_slo_qps%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20_violations.append(f%22Throughput%20%7B_qps%3A.0f%7D%20QPS%20%3C%20500%20QPS%22)%0A%20%20%20%20%20%20%20%20%20%20%20%20items.append(mo.callout(mo.md(%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20f%22**DEPLOYMENT%20BLOCKED.**%20Violated%20SLOs%3A%20%7B'%2C%20'.join(_violations)%7D.%22%0A%20%20%20%20%20%20%20%20%20%20%20%20)%2C%20kind%3D%22danger%22))%0A%0A%20%20%20%20%20%20%20%20_pass_badge%20%3D%20lambda%20ok%3A%20f'%3Cspan%20style%3D%22color%3A%7BCOLORS%5B%22GreenLine%22%5D%7D%3B%20font-weight%3A700%3B%22%3EPASS%3C%2Fspan%3E'%20if%20ok%20else%20f'%3Cspan%20style%3D%22color%3A%7BCOLORS%5B%22RedLine%22%5D%7D%3B%20font-weight%3A700%3B%22%3EFAIL%3C%2Fspan%3E'%0A%20%20%20%20%20%20%20%20items.append(mo.Html(f%22%22%22%0A%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22display%3Aflex%3B%20gap%3A14px%3B%20flex-wrap%3Awrap%3B%20margin%3A16px%200%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22padding%3A12px%2016px%3B%20border%3A1px%20solid%20%23e2e8f0%3B%20border-radius%3A10px%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20background%3Awhite%3B%20flex%3A1%3B%20text-align%3Acenter%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22color%3A%2394a3b8%3B%20font-size%3A0.72rem%3B%22%3EAccuracy%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-size%3A1.2rem%3B%20font-weight%3A700%3B%22%3E%7B_acc%3A.1f%7D%25%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%3E%7B_pass_badge(_slo_acc)%7D%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22padding%3A12px%2016px%3B%20border%3A1px%20solid%20%23e2e8f0%3B%20border-radius%3A10px%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20background%3Awhite%3B%20flex%3A1%3B%20text-align%3Acenter%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22color%3A%2394a3b8%3B%20font-size%3A0.72rem%3B%22%3EP99%20Latency%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-size%3A1.2rem%3B%20font-weight%3A700%3B%22%3E%7B_p99%3A.0f%7D%20ms%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%3E%7B_pass_badge(_slo_lat)%7D%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22padding%3A12px%2016px%3B%20border%3A1px%20solid%20%23e2e8f0%3B%20border-radius%3A10px%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20background%3Awhite%3B%20flex%3A1%3B%20text-align%3Acenter%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22color%3A%2394a3b8%3B%20font-size%3A0.72rem%3B%22%3EPower%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-size%3A1.2rem%3B%20font-weight%3A700%3B%22%3E%7B_power%3A.1f%7D%20W%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%3E%7B_pass_badge(_slo_power)%7D%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22padding%3A12px%2016px%3B%20border%3A1px%20solid%20%23e2e8f0%3B%20border-radius%3A10px%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20background%3Awhite%3B%20flex%3A1%3B%20text-align%3Acenter%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22color%3A%2394a3b8%3B%20font-size%3A0.72rem%3B%22%3EThroughput%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-size%3A1.2rem%3B%20font-weight%3A700%3B%22%3E%7B_qps%3A.0f%7D%20QPS%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%3E%7B_pass_badge(_slo_qps)%7D%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%22%22%22))%0A%0A%20%20%20%20%20%20%20%20if%20pC_pred.value%20%3D%3D%20%22no_latency%22%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20items.append(mo.callout(mo.md(%22**Correct.**%20The%20highest-accuracy%20configuration%20violates%20%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22the%20latency%20SLO.%20Production%20deployment%20requires%20passing%20ALL%20gates%20simultaneously.%22)%2C%20kind%3D%22success%22))%0A%20%20%20%20%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20items.append(mo.callout(mo.md(%22**Accuracy%20alone%20is%20not%20enough.**%20Try%20INT8%20precision%20to%20see%20%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22which%20configuration%20passes%20all%20four%20SLO%20gates%20simultaneously.%22)%2C%20kind%3D%22warn%22))%0A%20%20%20%20%20%20%20%20return%20mo.vstack(items)%0A%0A%20%20%20%20%23%20%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%0A%20%20%20%20%23%20PART%20D%3A%20Tail%20Latency%20Diagnostic%0A%20%20%20%20%23%20%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%0A%20%20%20%20def%20build_part_d()%3A%0A%20%20%20%20%20%20%20%20items%20%3D%20%5B%5D%0A%20%20%20%20%20%20%20%20items.append(mo.Html(f%22%22%22%0A%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22border-left%3A4px%20solid%20%236366f1%3B%20background%3A%23f0f4ff%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20border-radius%3A0%2010px%2010px%200%3B%20padding%3A16px%2022px%3B%20margin%3A12px%200%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-size%3A0.72rem%3B%20font-weight%3A700%3B%20color%3A%236366f1%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20text-transform%3Auppercase%3B%20letter-spacing%3A0.1em%3B%20margin-bottom%3A6px%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20Incoming%20Message%20%26middot%3B%20Reliability%20Engineer%0A%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-style%3Aitalic%3B%20font-size%3A1.0rem%3B%20color%3A%231e293b%3B%20line-height%3A1.65%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%26ldquo%3BOur%20inference%20service%20reports%2050%20ms%20average%20latency.%20Our%20SLO%20is%20200%20ms%20p99.%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20The%20ops%20team%20says%20we%20are%20fine.%20But%20users%20are%20complaining%20about%20slow%20responses.%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20What%20is%20the%20actual%20p99%3F%26rdquo%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%22%22%22))%0A%20%20%20%20%20%20%20%20items.append(mo.md(%22%22%22%0A%20%20%20%20%20%20%20%20%23%23%20Tail%20Latency%3A%20Average%20Hides%20Catastrophic%20Tails%0A%0A%20%20%20%20%20%20%20%20Real%20inference%20latency%20follows%20a%20**log-normal%20distribution**%20with%20a%20heavy%20right%20tail.%0A%20%20%20%20%20%20%20%20Average%20latency%20is%20actively%20misleading%20because%20it%20hides%20the%20distribution%20shape.%0A%0A%20%20%20%20%20%20%20%20%60%60%60%0A%20%20%20%20%20%20%20%20latency_sample%20%3D%20base_latency%20x%20exp(N(0%2C%20sigma%5E2))%0A%20%20%20%20%20%20%20%20p99%20%3D%20base_latency%20x%20exp(2.326%20x%20sigma)%0A%20%20%20%20%20%20%20%20%60%60%60%0A%0A%20%20%20%20%20%20%20%20At%20sigma%3D0.8%2C%20p99%20is%20~6.4x%20the%20median.%20A%20%2250%20ms%20average%22%20system%20can%20have%20a%0A%20%20%20%20%20%20%20%20500%20ms%20p99%20that%20violates%20a%20200%20ms%20SLO%20for%201%25%20of%20requests.%0A%20%20%20%20%20%20%20%20%22%22%22))%0A%20%20%20%20%20%20%20%20items.append(pD_pred)%0A%20%20%20%20%20%20%20%20if%20pD_pred.value%20is%20None%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20items.append(mo.callout(mo.md(%22Select%20your%20prediction%20to%20unlock%20the%20latency%20distribution.%22)%2C%20kind%3D%22warn%22))%0A%20%20%20%20%20%20%20%20%20%20%20%20return%20mo.vstack(items)%0A%0A%20%20%20%20%20%20%20%20items.append(mo.hstack(%5BpD_sigma%2C%20pD_slo%5D%2C%20justify%3D%22start%22))%0A%0A%20%20%20%20%20%20%20%20_sigma%20%3D%20pD_sigma.value%0A%20%20%20%20%20%20%20%20_slo%20%3D%20pD_slo.value%0A%20%20%20%20%20%20%20%20_base%20%3D%2050.0%20%20%23%20ms%20base%20latency%20(median)%0A%0A%20%20%20%20%20%20%20%20%23%20Generate%20log-normal%20distribution%0A%20%20%20%20%20%20%20%20np.random.seed(42)%0A%20%20%20%20%20%20%20%20_n_samples%20%3D%2010000%0A%20%20%20%20%20%20%20%20_samples%20%3D%20_base%20*%20np.exp(np.random.normal(0%2C%20_sigma%2C%20_n_samples))%0A%0A%20%20%20%20%20%20%20%20_mean%20%3D%20float(np.mean(_samples))%0A%20%20%20%20%20%20%20%20_p50%20%3D%20float(np.percentile(_samples%2C%2050))%0A%20%20%20%20%20%20%20%20_p95%20%3D%20float(np.percentile(_samples%2C%2095))%0A%20%20%20%20%20%20%20%20_p99%20%3D%20float(np.percentile(_samples%2C%2099))%0A%20%20%20%20%20%20%20%20_p999%20%3D%20float(np.percentile(_samples%2C%2099.9))%0A%0A%20%20%20%20%20%20%20%20_violation_pct%20%3D%20float(np.sum(_samples%20%3E%20_slo)%20%2F%20len(_samples)%20*%20100)%0A%20%20%20%20%20%20%20%20_slo_ok%20%3D%20_p99%20%3C%3D%20_slo%0A%0A%20%20%20%20%20%20%20%20_fig%20%3D%20go.Figure()%0A%20%20%20%20%20%20%20%20_fig.add_trace(go.Histogram(%0A%20%20%20%20%20%20%20%20%20%20%20%20x%3D_samples.tolist()%2C%20nbinsx%3D100%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20marker_color%3DCOLORS%5B%22BlueLine%22%5D%2C%20opacity%3D0.7%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20name%3D%22Latency%20Distribution%22%2C%0A%20%20%20%20%20%20%20%20))%0A%20%20%20%20%20%20%20%20_fig.add_vline(x%3D_mean%2C%20line_dash%3D%22dash%22%2C%20line_color%3DCOLORS%5B%22BlueLine%22%5D%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20annotation_text%3Df%22Mean%3A%20%7B_mean%3A.0f%7D%20ms%22)%0A%20%20%20%20%20%20%20%20_fig.add_vline(x%3D_p99%2C%20line_dash%3D%22solid%22%2C%20line_color%3DCOLORS%5B%22RedLine%22%5D%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20annotation_text%3Df%22P99%3A%20%7B_p99%3A.0f%7D%20ms%22)%0A%20%20%20%20%20%20%20%20_fig.add_vline(x%3D_slo%2C%20line_dash%3D%22dot%22%2C%20line_color%3DCOLORS%5B%22GreenLine%22%5D%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20annotation_text%3Df%22SLO%3A%20%7B_slo%7D%20ms%22)%0A%20%20%20%20%20%20%20%20_fig.update_layout(%0A%20%20%20%20%20%20%20%20%20%20%20%20height%3D340%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20xaxis%3Ddict(title%3D%22Latency%20(ms)%22%2C%20range%3D%5B0%2C%20min(max(_samples)%20*%200.8%2C%201000)%5D)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20yaxis%3Ddict(title%3D%22Count%22)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20showlegend%3DFalse%2C%0A%20%20%20%20%20%20%20%20)%0A%20%20%20%20%20%20%20%20apply_plotly_theme(_fig)%0A%20%20%20%20%20%20%20%20items.append(mo.as_html(_fig))%0A%0A%20%20%20%20%20%20%20%20_v_color%20%3D%20COLORS%5B%22GreenLine%22%5D%20if%20_slo_ok%20else%20COLORS%5B%22RedLine%22%5D%0A%20%20%20%20%20%20%20%20items.append(mo.Html(f%22%22%22%0A%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22display%3Aflex%3B%20gap%3A14px%3B%20flex-wrap%3Awrap%3B%20margin%3A16px%200%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22padding%3A16px%3B%20border%3A1px%20solid%20%23e2e8f0%3B%20border-radius%3A10px%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20text-align%3Acenter%3B%20background%3Awhite%3B%20border-top%3A3px%20solid%20%7BCOLORS%5B'BlueLine'%5D%7D%3B%20flex%3A1%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22color%3A%2394a3b8%3B%20font-size%3A0.78rem%3B%20font-weight%3A600%3B%22%3EMean%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-size%3A1.5rem%3B%20font-weight%3A800%3B%20color%3A%7BCOLORS%5B'BlueLine'%5D%7D%3B%22%3E%7B_mean%3A.0f%7D%20ms%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22padding%3A16px%3B%20border%3A1px%20solid%20%23e2e8f0%3B%20border-radius%3A10px%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20text-align%3Acenter%3B%20background%3Awhite%3B%20border-top%3A3px%20solid%20%7BCOLORS%5B'RedLine'%5D%7D%3B%20flex%3A1%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22color%3A%2394a3b8%3B%20font-size%3A0.78rem%3B%20font-weight%3A600%3B%22%3EP99%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-size%3A1.5rem%3B%20font-weight%3A800%3B%20color%3A%7BCOLORS%5B'RedLine'%5D%7D%3B%22%3E%7B_p99%3A.0f%7D%20ms%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-size%3A0.72rem%3B%20color%3A%2394a3b8%3B%22%3E%7B_p99%2F_mean%3A.1f%7Dx%20the%20mean%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22padding%3A16px%3B%20border%3A1px%20solid%20%23e2e8f0%3B%20border-radius%3A10px%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20text-align%3Acenter%3B%20background%3Awhite%3B%20border-top%3A3px%20solid%20%7B_v_color%7D%3B%20flex%3A1%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22color%3A%2394a3b8%3B%20font-size%3A0.78rem%3B%20font-weight%3A600%3B%22%3ESLO%20(%7B_slo%7D%20ms)%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-size%3A1.5rem%3B%20font-weight%3A800%3B%20color%3A%7B_v_color%7D%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%7B%22PASS%22%20if%20_slo_ok%20else%20%22FAIL%22%7D%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-size%3A0.72rem%3B%20color%3A%2394a3b8%3B%22%3E%7B_violation_pct%3A.1f%7D%25%20violations%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%22%22%22))%0A%0A%20%20%20%20%20%20%20%20if%20not%20_slo_ok%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20items.append(mo.callout(mo.md(%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20f%22**SLO%20VIOLATED.**%20P99%20%3D%20%7B_p99%3A.0f%7D%20ms%20exceeds%20the%20%7B_slo%7D%20ms%20threshold.%20%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20f%22%7B_violation_pct%3A.1f%7D%25%20of%20requests%20fail.%20At%2010K%20QPS%2C%20that%20is%20%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20f%22%7B_violation_pct%2F100*10000%3A.0f%7D%20failures%20per%20second.%22%0A%20%20%20%20%20%20%20%20%20%20%20%20)%2C%20kind%3D%22danger%22))%0A%0A%20%20%20%20%20%20%20%20items.append(mo.md(f%22%22%22%0A%20%20%20%20**Tail%20Latency%20--%20Live%20Calculation**%20(%60sigma%3D%7B_sigma%3A.2f%7D%60)%0A%0A%20%20%20%20%60%60%60%0A%20%20%20%20Base%20latency%3A%20%20%7B_base%3A.0f%7D%20ms%0A%20%20%20%20Distribution%3A%20%20log-normal%2C%20sigma%20%3D%20%7B_sigma%3A.2f%7D%0A%20%20%20%20Mean%3A%20%20%20%20%20%20%20%20%20%20%7B_mean%3A.0f%7D%20ms%0A%20%20%20%20P50%3A%20%20%20%20%20%20%20%20%20%20%20%7B_p50%3A.0f%7D%20ms%0A%20%20%20%20P95%3A%20%20%20%20%20%20%20%20%20%20%20%7B_p95%3A.0f%7D%20ms%0A%20%20%20%20P99%3A%20%20%20%20%20%20%20%20%20%20%20%7B_p99%3A.0f%7D%20ms%20%20(%7B_p99%2F_mean%3A.1f%7Dx%20mean)%0A%20%20%20%20P99.9%3A%20%20%20%20%20%20%20%20%20%7B_p999%3A.0f%7D%20ms%0A%20%20%20%20SLO%20(%7B_slo%7D%20ms)%3A%20%7B%22PASS%22%20if%20_slo_ok%20else%20%22FAIL%22%7D%20(%7B_violation_pct%3A.1f%7D%25%20violations)%0A%20%20%20%20%60%60%60%0A%20%20%20%20*Source%3A%20Chapter%2012%2C%20latency%20distributions%20and%20tail%20behavior*%0A%20%20%20%20%20%20%20%20%22%22%22))%0A%0A%20%20%20%20%20%20%20%20if%20pD_pred.value%20%3D%3D%20%22no%22%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20items.append(mo.callout(mo.md(f%22**Correct.**%20P99%20%3D%20%7B_p99%3A.0f%7D%20ms%2C%20well%20above%20the%20200%20ms%20SLO.%20%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22Average%20latency%20hides%20the%20heavy%20tail.%20Real%20inference%20distributions%20are%20log-normal%2C%20%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22where%20p99%20can%20be%205-10x%20the%20mean.%22)%2C%20kind%3D%22success%22))%0A%20%20%20%20%20%20%20%20else%3A%0A%20%20%20%20%20%20%20%20%20%20%20%20items.append(mo.callout(mo.md(f%22**Average%20latency%20is%20actively%20misleading.**%20%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20f%22P99%20(%7B_p99%3A.0f%7D%20ms)%20is%20%7B_p99%2F_mean%3A.1f%7Dx%20the%20mean%20(%7B_mean%3A.0f%7D%20ms).%20%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%22Adjust%20sigma%20to%20see%20how%20tail%20heaviness%20affects%20SLO%20compliance.%22)%2C%20kind%3D%22warn%22))%0A%20%20%20%20%20%20%20%20return%20mo.vstack(items)%0A%0A%20%20%20%20%23%20%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%0A%20%20%20%20%23%20SYNTHESIS%0A%20%20%20%20%23%20%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%E2%94%80%0A%20%20%20%20def%20build_synthesis()%3A%0A%20%20%20%20%20%20%20%20return%20mo.vstack(%5B%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.md(%22---%22)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.Html(f%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22background%3A%20%7BCOLORS%5B'Surface2'%5D%7D%3B%20border%3A%201px%20solid%20%7BCOLORS%5B'Border'%5D%7D%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20border-radius%3A%2012px%3B%20padding%3A%2024px%2028px%3B%20margin%3A%2016px%200%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-size%3A%200.7rem%3B%20font-weight%3A%20700%3B%20color%3A%20%7BCOLORS%5B'TextMuted'%5D%7D%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20text-transform%3A%20uppercase%3B%20letter-spacing%3A%200.12em%3B%20margin-bottom%3A%2012px%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20Key%20Takeaways%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-size%3A%200.92rem%3B%20color%3A%20%7BCOLORS%5B'Text'%5D%7D%3B%20line-height%3A%201.75%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22margin-bottom%3A%2010px%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cstrong%3E1.%20Component%20speedup%20is%20not%20system%20speedup.%3C%2Fstrong%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20Amdahl's%20Law%3A%20a%2010x%20inference%20speedup%20with%2045%25%20serial%20overhead%20yields%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20only%202.0x%20end-to-end%20improvement.%20The%20bottleneck%20has%20already%20moved.%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22margin-bottom%3A%2010px%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cstrong%3E2.%20Vendor%20benchmarks%20are%20burst%2C%20not%20sustained.%3C%2Fstrong%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20Thermal%20throttling%20halves%20throughput%20in%20fanless%20enclosures%20within%20minutes.%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20Always%20measure%20at%20thermal%20steady-state%2C%20not%20in%20a%201-minute%20demo.%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cstrong%3E3.%20Average%20latency%20hides%20catastrophic%20tails.%3C%2Fstrong%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20A%2050%20ms%20average%20can%20mask%20a%20500%20ms%20p99.%20Production%20SLOs%20require%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20measuring%20p99%2Fp99.9%2C%20not%20the%20mean.%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%22%22%22)%2C%0A%20%20%20%20%20%20%20%20%20%20%20%20mo.Html(f%22%22%22%0A%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22display%3A%20flex%3B%20gap%3A%2016px%3B%20margin%3A%208px%200%2016px%200%3B%20flex-wrap%3A%20wrap%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22flex%3A%201%3B%20min-width%3A%20280px%3B%20background%3A%20white%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20border%3A%201px%20solid%20%7BCOLORS%5B'Border'%5D%7D%3B%20border-radius%3A%2012px%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20padding%3A%2020px%2024px%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-size%3A%200.7rem%3B%20font-weight%3A%20700%3B%20color%3A%20%7BCOLORS%5B'BlueLine'%5D%7D%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20text-transform%3A%20uppercase%3B%20letter-spacing%3A%200.12em%3B%20margin-bottom%3A%208px%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20What's%20Next%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-size%3A%200.88rem%3B%20color%3A%20%7BCOLORS%5B'TextSec'%5D%7D%3B%20line-height%3A%201.6%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cstrong%3ELab%2013%3A%3C%2Fstrong%3E%20The%20Tail%20Latency%20Trap%20--%20the%20tail%20you%20measured%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20in%20Part%20D%20explodes%20under%20load.%20Queuing%20theory%20explains%20why%20utilization%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20above%2070%25%20is%20dangerous.%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22flex%3A%201%3B%20min-width%3A%20280px%3B%20background%3A%20white%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20border%3A%201px%20solid%20%7BCOLORS%5B'Border'%5D%7D%3B%20border-radius%3A%2012px%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20padding%3A%2020px%2024px%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-size%3A%200.7rem%3B%20font-weight%3A%20700%3B%20color%3A%20%7BCOLORS%5B'GreenLine'%5D%7D%3B%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20text-transform%3A%20uppercase%3B%20letter-spacing%3A%200.12em%3B%20margin-bottom%3A%208px%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20Textbook%20%26amp%3B%20TinyTorch%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cdiv%20style%3D%22font-size%3A%200.88rem%3B%20color%3A%20%7BCOLORS%5B'TextSec'%5D%7D%3B%20line-height%3A%201.6%3B%22%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cstrong%3ERead%3A%3C%2Fstrong%3E%20%40sec-perf-benchmarking%20for%20Amdahl's%20Law%20derivation%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20and%20thermal%20models.%3Cbr%2F%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3Cstrong%3EBuild%3A%3C%2Fstrong%3E%20TinyTorch%20Module%2012%20--%20benchmark%20harness%20with%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20percentile%20tracking.%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%20%20%20%20%20%20%20%20%22%22%22)%2C%0A%20%20%20%20%20%20%20%20%5D)%0A%0A%20%20%20%20_tabs%20%3D%20mo.ui.tabs(%7B%0A%20%20%20%20%20%20%20%20%22Part%20A%3A%20Amdahl%20Ceiling%22%3A%20build_part_a()%2C%0A%20%20%20%20%20%20%20%20%22Part%20B%3A%20Thermal%20Cliff%22%3A%20build_part_b()%2C%0A%20%20%20%20%20%20%20%20%22Part%20C%3A%20Multi-Metric%20Trap%22%3A%20build_part_c()%2C%0A%20%20%20%20%20%20%20%20%22Part%20D%3A%20Tail%20Latency%22%3A%20build_part_d()%2C%0A%20%20%20%20%20%20%20%20%22Synthesis%22%3A%20build_synthesis()%2C%0A%20%20%20%20%7D)%0A%20%20%20%20_tabs%0A%20%20%20%20return%0A%0A%0A%40app.cell(hide_code%3DTrue)%0Adef%20_(ledger%2C%20mo)%3A%0A%20%20%20%20ledger.save(chapter%3D12%2C%20design%3D%7B%22lab%22%3A%20%22perf_bench%22%2C%20%22completed%22%3A%20True%7D)%0A%20%20%20%20mo.Html(f%22%22%22%0A%20%20%20%20%3Cdiv%20class%3D%22lab-hud%22%3E%0A%20%20%20%20%20%20%20%20%3Cspan%20class%3D%22hud-label%22%3ELAB%3C%2Fspan%3E%0A%20%20%20%20%20%20%20%20%3Cspan%20class%3D%22hud-value%22%3E12%20%26middot%3B%20Performance%20Benchmarking%3C%2Fspan%3E%0A%20%20%20%20%20%20%20%20%3Cspan%20style%3D%22flex%3A1%3B%22%3E%3C%2Fspan%3E%0A%20%20%20%20%20%20%20%20%3Cspan%20class%3D%22hud-label%22%3ECH%3C%2Fspan%3E%0A%20%20%20%20%20%20%20%20%3Cspan%20class%3D%22hud-value%22%3E12%3C%2Fspan%3E%0A%20%20%20%20%20%20%20%20%3Cspan%20class%3D%22hud-label%22%3ESTATUS%3C%2Fspan%3E%0A%20%20%20%20%20%20%20%20%3Cspan%20class%3D%22hud-active%22%3ECOMPLETE%3C%2Fspan%3E%0A%20%20%20%20%3C%2Fdiv%3E%0A%20%20%20%20%22%22%22)%0A%20%20%20%20return%0A%0A%0Aif%20__name__%20%3D%3D%20%22__main__%22%3A%0A%20%20%20%20app.run()%0A