AC perf-host-analysis
Анализирует накладные расходы хоста/ЦП при инференсе TensorRT-LLM по трассировкам nsys. Определяет, являются ли накладные расходы хоста узким местом, используя коэффициент простоя GPU, коэффициент раскрытия подготовки хоста и свидетельства по фазам. Для регрессий изолирует шаги прямого распространения через шаблоны allreduce/NVTX, сравнивает разбивку операций хоста между версиями и выявляет накладные расходы на планирование или управление запросами. Поддерживает необязательный разрыв между ядрами, режим eager-vs-graph, сопоставление шаблонов и детализацию отстающих многоранговых процессов. Используйте отдельно или в рамках perf-analysis. Триггеры: host overhead, inter-step gap, scheduling overhead, forward step isolation, nsys iteration analysis, NVTX breakdown, request management overhead, GPU idle, host bottleneck, host prep exposed, inter-kernel gap, bubble analysis, graph coverage, eager kernel, rank imbalance, straggler detection.
машинный переводПоказать оригиналСкрыть оригинал«Analyze host/CPU overhead in TensorRT-LLM inference from nsys traces.…»
Analyze host/CPU overhead in TensorRT-LLM inference from nsys traces. Detect whether host overhead is the bottleneck using GPU idle ratio, host prep exposed ratio, and per-phase evidence. For regressions, isolate forward steps via allreduce/NVTX patterns, compare host operation breakdowns across versions, and identify scheduling or request-management overhead. Supports optional inter-kernel gap, eager-vs-graph, pattern mapping, and multi-rank straggler drill-down. Use standalone or within perf-analysis. Triggers: host overhead, inter-step gap, scheduling overhead, forward step isolation, nsys iteration analysis, NVTX breakdown, request management overhead, GPU idle, host bottleneck, host prep exposed, inter-kernel gap, bubble analysis, graph coverage, eager kernel, rank imbalance, straggler detection.
Скилл анализирует профайлы nsys из TensorRT-LLM, ловит узкие места на хосте через GPU idle ratio и host prep exposed ratio. Обещает изолировать forward steps, сравнивать версии, находить scheduling overhead и стрэглеры на разных ранках.
В папке 12 файлов, 2 скрипта, 3972 токена кода. Оценка качества 92, safety 100, критических находок нет. Скилл рассчитан на nsys traces и NVTX разметку — без них толку мало. Работает на всех популярных платформах, включая Claude и Cursor. Процесс-оценка 64 намекает, что логика есть, но сложная и требует чистых входных данных.
Поставить стоит, если вы профилируете LLM-инференс и ловите регрессии. Без nsys и NVTX разметки в коде будет бесполезен.
Анализирует накладные расходы хоста/ЦП при инференсе TensorRT-LLM по трассировкам nsys.
Как процесс C 64/100 · Есть пробелы — слабые места: результат и критерий готовности, отчётность по ходу
Как улучшить
- Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
- spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.
Находки guard · 0
✓ Критических и высоких находок нет
Просканировано файлов: 12. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.
По спецификации Agent Skills
- заметка
frontmatter-keyнеизвестное поле фронтматтера "dependencies"
Процессный рейтинг: все десять параметров 64/100
- 0Результат и критерий готовности. Не сказано, что считать результатом
- 0Отчётность по ходу. Скилл ничего не сообщает по ходу работы
- 50Когда включается. Не сказано, при каком запросе скилл включается
- 60Инструменты и файлы. Используются инструменты (web, python), но во frontmatter они не объявлены
- 60Ошибки и развилки. Развилок: 2
- 70Входы и предусловия. Входные данные и предусловия перечислены
- 100Шаги. Шагов: 38
- 100Согласованность. Имя и обязательные поля на месте
- 100Стоимость исполнения. Тело инструкции 3970 токенов
- 100Повторный запуск. Изменяющих операций нет
Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.
Сигналы качества
- +5В description нет примеров фраз, по которым скилл должен срабатывать
- +3Длина description 812: рекомендуется 120–800 символов
- +3Формат ответа не описан: модель каждый раз решает сама
- +2Инструкции на одном языке
- +4Описание говорит, когда скилл НЕ применять
- +4Структура: 40 заголовков
- +3Пошаговые инструкции: 38 пунктов
- +4Есть примеры (10 блоков кода)
- +4Справочные файлы упоминаются в инструкциях (9 из 9)
- +3Все 2 скриптов описаны в инструкциях
- +1Лицензия указана
База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 92.