SKILLEMALL.ai
GitHub ↗ EN Войти

CB llm-torch-profiler-analysis

Унифицированный навык диагностики torch-profiler для LLM: `sglang`, `vllm`, `TensorRT-LLM` и `TokenSpeed`. Используйте его для проверки существующего файла `trace.json(.gz)` или каталога профилирования, или для проведения прямого профилирования на работающем сервере (если поддерживается) и получения трехтабличного отчета с таблицами ядер, возможностей наложения и шаблонов слияния.

машинный переводПоказать оригиналСкрыть оригинал«Unified LLM torch-profiler triage skill for `sglang`, `vllm`, `TensorR…»

Unified LLM torch-profiler triage skill for `sglang`, `vllm`, `TensorRT-LLM`, and `TokenSpeed`. Use it to inspect an existing `trace.json(.gz)` or profile directory, or to drive live profiling against a running server when supported and return one three-table report with kernel, overlap-opportunity, and fuse-pattern tables.

sgl-project/sglang Agent Skills автор: sgl-project Apache-2.0 18 файлов · 12 скриптов тело ≈ 6 272 токенов Открыть источникgithub.com↗ проанализирован 5 дн назад

Унифицированный навык диагностики torch-profiler для LLM: sglang, vllm, TensorRT-LLM и TokenSpeed.

Как процесс B 74/100 · Почти готов — слабые места: отчётность по ходу

АнализаторИИ и агентыРазработкатип и темы размечены автоматически по тексту скилла
Запускается в: Claude / Claude Code ChatGPT / Codex Gemini CLI Cursor GitHub Copilot / VS Code Qwen Code Kimi Code CLI Z.ai (GLM) DeepSeek (Deep Code) Mistral Vibe LangChain (deepagents) OpenClaw Goose OpenCode
JSON
Технический рейтинг
C
87/100
безопасность, качество, тесты
Безопасность 60%
95
Качество 40%
76
Прогон на моделях
не было
Процессный рейтинг
B
74/100
Почти готов
Отчётность по ходу вес 2
0
Когда включается вес 12
50
Инструменты и файлы вес 18
60
три самых слабых из десяти параметров · все десять

Как улучшить

  1. Тело SKILL.md длиннее 5 000 токенов: вынесите справочные детали в references/ и подключайте по необходимости.
Для прогона на моделях — необязательно
  • Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
  • spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.

Находки guard · 5

✓ Критических и высоких находок нет

Средние и низкие: 5
  • низкая Секреты в коде secret-high-entropy-token references/vllm-torch-compile-fusions.md:30
    Строка, похожая на токен (может быть id, хеш или секрет) (определение детектора / чёрного списка; строка таблицы в документации)
    | `fuse_act_quant` + AITER | `Rocm…ass` | AITER SiLU-and-mul followed by FP8 group quant |
    детектортаблица
  • низкая Секреты в коде secret-high-entropy-token references/vllm-torch-compile-fusions.md:43
    Строка, похожая на токен (может быть id, хеш или секрет) (определение детектора / чёрного списка; строка таблицы в документации)
    | `fusion/allreduce_rms_fusion.py` | `AllReduceRMSNormPattern`, `AllReduceFusedAddRMSNormPattern`, `AllR…ern`, `AllR…ern`, `AllRe
    детектортаблица
  • низкая Секреты в коде secret-high-entropy-token references/vllm-torch-compile-fusions.md:45
    Строка, похожая на токен (может быть id, хеш или секрет) (определение детектора / чёрного списка; строка таблицы в документации)
    | `fusion/rocm_aiter_fusion.py` | `AiterRMSNormDynamicQuantPattern`, `AiterFusedAddRMSNormDynamicQuantPattern`, `Aite…ern`, `Aite…ern` | AITER RMSNorm/f
    детектортаблица
  • низкая Секреты в коде secret-high-entropy-token references/vllm-torch-compile-fusions.md:46
    Строка, похожая на токен (может быть id, хеш или секрет) (строка таблицы в документации)
    | `fusion/act_quant_fusion.py` | `Silu…ern`, `Silu…ern`, `SiluMulBlockQuantPattern` | SiLU-and-mul activation output immediately quantized | fused activation-plus-q
    таблица
  • низкая Секреты в коде secret-high-entropy-token references/vllm-torch-compile-fusions.md:47
    Строка, похожая на токен (может быть id, хеш или секрет) (строка таблицы в документации)
    | `fusion/rocm_aiter_fusion.py` | `Aite…ern` | AITER SiLU-and-mul followed by FP8 group quant | AITER `act_…ant` |
    таблица

Просканировано файлов: 18. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.

По спецификации Agent Skills

  • предупреждение body-long тело SKILL.md ≈ 6272 токенов (рекомендуется < 5000); вынесите детали в references/
  • заметка edit-residue в тексте есть пометки об устаревшем (строки 213, 465, 506, 508): проверьте, не остались ли старые правила рядом с новыми — полная проверка читает текст на противоречия

Процессный рейтинг: все десять параметров 74/100

  • 0Отчётность по ходу. Скилл ничего не сообщает по ходу работы
  • 50Когда включается. Не сказано, при каком запросе скилл включается
  • 60Инструменты и файлы. Используются инструменты (bash, python), но во frontmatter они не объявлены
  • 60Результат и критерий готовности. Формат результата описан, критерия завершения нет
  • 70Входы и предусловия. Входные данные и предусловия перечислены
  • 70Стоимость исполнения. Тело инструкции 6272 токенов
  • 100Шаги. Шагов: 118
  • 100Ошибки и развилки. Развилок: 1, есть раздел про ошибки
  • 100Согласованность. Имя и обязательные поля на месте
  • 100Повторный запуск. Изменяющие операции проверяют текущее состояние
  • low Разделов верхнего уровня: 12. Похоже на несколько доменов в одном скилле
  • low Ответ описан самодельной разметкой (4 тегов): типизированный вызов надёжнее

Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.

Сигналы качества

  • +5В description нет примеров фраз, по которым скилл должен срабатывать
  • +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
  • -2Ссылки на localhost: у другого пользователя не заработает
  • -36 из 12 скриптов не упомянуты в SKILL.md
  • +1Лицензия не указана
  • +2Инструкции на одном языке
  • +3Длина description 325 символов: достаточно сигнала, не съедает бюджет
  • +4Структура: 24 заголовков
  • +3Пошаговые инструкции: 118 пунктов
  • +3Формат ответа описан явно
  • +4Есть примеры (15 блоков кода)
  • +4Справочные файлы упоминаются в инструкциях (5 из 5)

База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 76.