SKILLEMALL.ai

BD perf-optimization-casebook

Сборник прошлых успешных и классических оптимизаций TensorRT-LLM (на уровне времени выполнения/исполнения и ядра), записанных как повторно используемые прецеденты принятия решений. Обращайтесь к нему при принятии решения о том, какую оптимизацию применить для классифицированного узкого места или заданной конфигурации/модели/оборудования, чтобы найти предыдущие решения и адаптировать проверенный подход вместо угадывания. Каждый случай записывает сигналы применимости, механизм, способ применения, ожидаемый эффект, риск точности, проверку и откат.

машинный переводПоказать оригиналСкрыть оригинал«Casebook of past successful and classic TensorRT-LLM optimizations (ru…»

Casebook of past successful and classic TensorRT-LLM optimizations (runtime/execution and kernel level) recorded as reusable decision precedents. Consult when deciding which optimization to apply for a classified bottleneck or a given config/model/hardware, to find prior art and adapt a proven approach instead of guessing. Each case records applicability signals, mechanism, how to apply, expected effect, accuracy risk, verification, and rollback.

Разбор skillemall

Скилл обещает справочник оптимизаций TensorRT-LLM: готовые решения для узких мест в runtime и ядрах. Каждый случай содержит условия применения, механизм, инструкцию и риски. На практике — 49 файлов, но половина ссылок на место назначения не указывает. Качество текста 76 баллов, процесс сборки 39. Критических находок нет, но структура хромает: без запусков на моделях непонятно, насколько рекомендации актуальны для текущих версий TensorRT-LLM и действительно ли экономят время вместо того, чтобы его тратить на поиск нужного случая.

Ставить, если вы уже знаете, какой узкий участок оптимизировать и ищете прецеденты. Если боретесь с неизвестной проблемой — справочник может завести в тупик неполной информацией.

NVIDIA/TensorRT-LLM Agent Skills автор: NVIDIA NOASSERTION 49 файлов тело ≈ 4 500 токенов Открыть источникgithub.com↗ проанализирован 5 дн назад

Сборник прошлых успешных и классических оптимизаций TensorRT-LLM (на уровне времени выполнения/исполнения и ядра), записанных как повторно используемые…

Как процесс D 39/100 · Процесс не доведён — Скилл ссылается на файлы, которых нет в архиве: references/<family>/, references/<family>/<slug>.md

ПроцедураПоддержка клиентовтип и темы размечены автоматически по тексту скилла
JSON
Технический рейтинг
B
90/100
безопасность, качество, тесты
Безопасность 60%
100
Качество 40%
76
Прогон на моделях
не было
Процессный рейтинг
D
39/100
Процесс не доведён
Скилл ссылается на файлы, которых нет в архиве: references/<family>/, references/<family>/<slug>.md
Инструменты и файлы вес 18
0
Входы и предусловия вес 11
0
Отчётность по ходу вес 2
0
три самых слабых из десяти параметров · все десять

Как улучшить

  1. В тексте есть ссылки на отсутствующие файлы: добавьте файлы или уберите ссылки.
Для прогона на моделях — необязательно
  • Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
  • spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.

Находки guard · 0

✓ Критических и высоких находок нет

Просканировано файлов: 49. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.

По спецификации Agent Skills

  • предупреждение missing-ref ссылка на отсутствующий файл: references/<family>/
  • предупреждение missing-ref ссылка на отсутствующий файл: references/<family>/<slug>.md
  • заметка edit-residue в тексте есть пометки об устаревшем (строки 76): проверьте, не остались ли старые правила рядом с новыми — полная проверка читает текст на противоречия

Процессный рейтинг: все десять параметров 39/100

Не запустится. Скилл ссылается на файлы, которых нет в архиве: references/<family>/, references/<family>/<slug>.md
  • 0Инструменты и файлы. Не хватает 2 файла(ов): references/<family>/, references/<family>/<slug>.md
  • 0Входы и предусловия. Не сказано, что нужно иметь на входе
  • 0Отчётность по ходу. Скилл ничего не сообщает по ходу работы
  • 20Когда включается. Не сказано, при каком запросе скилл включается
  • 30Повторный запуск. Изменяющих операций: 15, без проверки текущего состояния
  • 40Результат и критерий готовности. Не сказано, что считать результатом
  • 50Ошибки и развилки. Развилок: 0, есть раздел про ошибки
  • 70Стоимость исполнения. Тело инструкции 4500 токенов
  • 85Шаги. Шагов: 43, расплывчатых формулировок: 2
  • 100Согласованность. Имя и обязательные поля на месте
  • medium Правила безопасности и запреты внутри скилла: их место в системном промпте, здесь они не защищают
  • low Ответ описан самодельной разметкой (9 тегов): типизированный вызов надёжнее

Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.

Сигналы качества

  • +5В description нет примеров фраз, по которым скилл должен срабатывать
  • +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
  • +3Формат ответа не описан: модель каждый раз решает сама
  • +4Нет примеров входа/выхода
  • +2Инструкции на одном языке
  • +3Длина description 450 символов: достаточно сигнала, не съедает бюджет
  • +4Структура: 12 заголовков
  • +3Пошаговые инструкции: 43 пунктов
  • +4Справочные файлы упоминаются в инструкциях (1 из 1)
  • +1Лицензия указана

База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 76.