BC perf-workload-profiling

Инструментация кода для измерения рабочих нагрузок. Два сценария: (1) Цикл обучения — вставка ручного измерения для отчетности о задержке каждой итерации, пропускной способности (образцы/сек) и времени загрузки данных. (2) Автономное ядро/операция — написание кода измерения времени CUDA с прогревом, статистикой по итерациям и избеганием антишаблонов. Также охватывает аннотацию NVTX для маркировки временных шкал профилировщика. НЕ для: запуска или анализа инструментов профилирования (nsys, ncu, Nsight Systems, Nsight Compute), написания ядер (Triton, CuTe, CUDA), применения оптимизаций (CUDA Graphs, gradient checkpointing, fusion) или интерпретации метрик roofline/SOL%. Триггеры: "measure throughput", "benchmark this function", "time my training loop", "samples per second", "NVTX annotate", "instrument my dataloader", "data load time", "kernel timing", "how do I time".

машинный переводПоказать оригиналСкрыть оригинал«Code instrumentation for timing workloads. Two scenarios: (1) Training…»

Code instrumentation for timing workloads. Two scenarios: (1) Training loop — inject manual timing to report per-iteration latency, throughput (samples/sec), and data load time. (2) Standalone kernel/op — write CUDA event timing code with warmup, per-iteration statistics, and anti-pattern avoidance. Also covers NVTX annotation for labeling profiler timelines. NOT for: running or analyzing profiler tools (nsys, ncu, Nsight Systems, Nsight Compute), writing kernels (Triton, CuTe, CUDA), applying optimizations (CUDA Graphs, gradient checkpointing, fusion), or interpreting roofline/SOL% metrics. Triggers: "measure throughput", "benchmark this function", "time my training loop", "samples per second", "NVTX annotate", "instrument my dataloader", "data load time", "kernel timing", "how do I time".

Инструментация кода для измерения рабочих нагрузок.

Как процесс C 54/100 · Есть пробелы — слабые места: результат и критерий готовности, входы и предусловия, ошибки и развилки