SKILLEMALL.ai
GitHub ↗ EN Войти

CD perf-regression-cookbook

Справочник по тому, как возникают регрессии производительности TensorRT-LLM и как они были исправлены, на основе коммитов с исправлениями NVBug в основной ветке. Обращайтесь, когда наблюдается или подозревается регрессия производительности (снижение пропускной способности/TTFT/ITL, сбой планки CI производительности, рост использования памяти), чтобы сопоставить симптом с известными шаблонами регрессий и их прецедентными исправлениями. Каждый шаблон точно отслеживает все связанные хэши коммитов и идентификаторы NVBug. Также обращайтесь при проверке рискованного изменения, чтобы узнать, какие классы регрессий оно может повторно ввести.

машинный переводПоказать оригиналСкрыть оригинал«Cookbook of how TensorRT-LLM performance regressions happen and how th…»

Cookbook of how TensorRT-LLM performance regressions happen and how they were fixed, distilled from NVBug-fix commits on main. Consult when a perf regression is observed or suspected (throughput/TTFT/ITL drop, perf CI bar failure, memory-footprint growth) to match the symptom against known regression patterns and their precedent fixes. Each pattern precisely tracks all related commit hashes and NVBug IDs. Also consult when reviewing a risky change to check which regression classes it could reintroduce.

NVIDIA/TensorRT-LLM Agent Skills автор: NVIDIA 80 файлов тело ≈ 5 841 токенов Открыть источникgithub.com↗ проанализирован 5 дн назад

Справочник по тому, как возникают регрессии производительности TensorRT-LLM и как они были исправлены, на основе коммитов с исправлениями NVBug в основной…

Как процесс D 43/100 · Процесс не доведён — Скилл ссылается на файлы, которых нет в архиве: references/spec-decode/index.md, references/tokenization/index.md, references/<module>/<slug>.md

ПроцедураПоддержка клиентовтип и темы размечены автоматически по тексту скилла
Запускается в: Claude / Claude Code ChatGPT / Codex Gemini CLI Cursor GitHub Copilot / VS Code Qwen Code Kimi Code CLI Z.ai (GLM) DeepSeek (Deep Code) Mistral Vibe LangChain (deepagents) OpenClaw Goose OpenCode
JSON
Технический рейтинг
C
84/100
безопасность, качество, тесты
Безопасность 60%
98
Качество 40%
63
Прогон на моделях
не было
Процессный рейтинг
D
43/100
Процесс не доведён
Скилл ссылается на файлы, которых нет в архиве: references/spec-decode/index.md, references/tokenization/index.md, references/<module>/<slug>.md
Инструменты и файлы вес 18
0
Входы и предусловия вес 11
0
Когда включается вес 12
20
три самых слабых из десяти параметров · все десять

Как улучшить

  1. Тело SKILL.md длиннее 5 000 токенов: вынесите справочные детали в references/ и подключайте по необходимости.
  2. В тексте есть ссылки на отсутствующие файлы: добавьте файлы или уберите ссылки.
Для прогона на моделях — необязательно
  • Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
  • spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.

Находки guard · 2

✓ Критических и высоких находок нет

Средние и низкие: 2
  • низкая Секреты в коде secret-high-entropy-token references/gemm-and-quantization/fp8-pertensor-quant-slower-than-te.md:31
    Строка, похожая на токен (может быть id, хеш или секрет) (в кавычках — упоминание, а не команда)
    though TE's `Floa…zer` kernel is faster on H100 —
    в кавычках
  • низкая Секреты в коде secret-high-entropy-token references/model-definition/vlm-vision-tower-loaded-for-text-only-bench.md:52
    Строка, похожая на токен (может быть id, хеш или секрет) (в кавычках — упоминание, а не команда)
    `Qwen…ion` / `Qwen…ion`
    в кавычках

Просканировано файлов: 80. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.

По спецификации Agent Skills

  • предупреждение body-long тело SKILL.md ≈ 5841 токенов (рекомендуется < 5000); вынесите детали в references/
  • предупреждение missing-ref ссылка на отсутствующий файл: references/spec-decode/index.md
  • предупреждение missing-ref ссылка на отсутствующий файл: references/tokenization/index.md
  • предупреждение missing-ref ссылка на отсутствующий файл: references/<module>/<slug>.md

Процессный рейтинг: все десять параметров 43/100

Не запустится. Скилл ссылается на файлы, которых нет в архиве: references/spec-decode/index.md, references/tokenization/index.md, references/<module>/<slug>.md
  • 0Инструменты и файлы. Не хватает 3 файла(ов): references/spec-decode/index.md, references/tokenization/index.md, references/<module>/<slug>.md
  • 0Входы и предусловия. Не сказано, что нужно иметь на входе
  • 20Когда включается. Не сказано, при каком запросе скилл включается
  • 30Повторный запуск. Изменяющих операций: 31, без проверки текущего состояния
  • 40Результат и критерий готовности. Не сказано, что считать результатом
  • 50Ошибки и развилки. Развилок: 0, есть раздел про ошибки
  • 70Стоимость исполнения. Тело инструкции 5841 токенов
  • 100Шаги. Шагов: 36
  • 100Согласованность. Имя и обязательные поля на месте
  • 100Отчётность по ходу. Скилл сообщает о ходе работы
  • medium Правила безопасности и запреты внутри скилла: их место в системном промпте, здесь они не защищают
  • low Ответ описан самодельной разметкой (7 тегов): типизированный вызов надёжнее

Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.

Сигналы качества

  • +5В description нет примеров фраз, по которым скилл должен срабатывать
  • +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
  • +3Формат ответа не описан: модель каждый раз решает сама
  • +4Нет примеров входа/выхода
  • +2Инструкции на одном языке
  • +3Длина description 507 символов: достаточно сигнала, не съедает бюджет
  • +4Структура: 12 заголовков
  • +3Пошаговые инструкции: 36 пунктов
  • +4Справочные файлы упоминаются в инструкциях (1 из 1)
  • +1Лицензия указана

База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 63.