CD trtllm-test-specialist
Выполняет модульные и модельные тесты для TensorRT-LLM. Сначала классифицирует область тестирования (модульный тест или тест модели), затем направляет в соответствующий рабочий процесс. Тесты моделей далее классифицируются по типу (функциональный/smoke-тест, бенчмарк или оценка). Запрашивает у пользователя параметры параллелизма (tp, ep, dp), пути к наборам данных, тип устройства или конфигурационный файл по мере необходимости. Все выполнение тестов делегируется trtllm-case-executor.
машинный переводПоказать оригиналСкрыть оригинал«Runs model-level and module-level tests for TensorRT-LLM. First classi…»
Runs model-level and module-level tests for TensorRT-LLM. First classifies the test scope (module test or model test), then dispatches to the appropriate workflow. Model tests are further classified by type (functionality/smoke test, benchmark, or evaluation). Prompts the user for parallelism parameters (tp, ep, dp), dataset paths, device type, or a config file as needed. All test execution is delegated to trtllm-case-executor.
Скилл запускает тесты для TensorRT-LLM: сортирует их по типам (модульные или модельные), затем отправляет в нужный воркфлоу. Просит параметры параллелизма, пути к датасетам, тип устройства или конфиг. Само выполнение делегирует другому инструменту.
Файлы на месте, но без прогонов на моделях и в песочнице. Оценка качества 60 — половина. Ссылки в коде ломаны или файлы потеряны. Критических ошибок нет, но среднего уровня находок не видно в отчёте, хотя процесс-скор 46 намекает на проблемы. Если вы тестируете TensorRT-LLM локально и готовы самостоятельно проверить, работает ли диспетчер — ставьте. Если ждёте готового решения — не стоит.
Выполняет модульные и модельные тесты для TensorRT-LLM.
Как процесс D 46/100 · Процесс не доведён — Скилл ссылается на файлы, которых нет в архиве: examples/disaggregated/slurm/benchmark/config.yaml
Как улучшить
- Скажите в description, КОГДА применять скилл («используй, когда…», примеры запросов): это главный сигнал для агента.
- Тело SKILL.md длиннее 5 000 токенов: вынесите справочные детали в references/ и подключайте по необходимости.
- В тексте есть ссылки на отсутствующие файлы: добавьте файлы или уберите ссылки.
- Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
- spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.
Находки guard · 0
✓ Критических и высоких находок нет
Просканировано файлов: 12. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.
По спецификации Agent Skills
- предупреждение
description-no-whendescription не говорит, КОГДА применять скилл (нет "use when / используй когда") - предупреждение
body-longтело SKILL.md ≈ 8989 токенов (рекомендуется < 5000); вынесите детали в references/ - предупреждение
missing-refссылка на отсутствующий файл: examples/disaggregated/slurm/benchmark/config.yaml
Процессный рейтинг: все десять параметров 46/100
- 0Инструменты и файлы. Не хватает 1 файла(ов): examples/disaggregated/slurm/benchmark/config.yaml
- 0Результат и критерий готовности. Не сказано, что считать результатом
- 20Когда включается. Не сказано, при каком запросе скилл включается
- 30Повторный запуск. Изменяющих операций: 5, без проверки текущего состояния
- 40Стоимость исполнения. Тело инструкции 8989 токенов: вытесняет саму задачу из окна
- 70Входы и предусловия. Входные данные и предусловия перечислены
- 85Шаги. Шагов: 75, расплывчатых формулировок: 3
- 100Ошибки и развилки. Развилок: 5, есть раздел про ошибки
- 100Согласованность. Имя и обязательные поля на месте
- 100Отчётность по ходу. Скилл сообщает о ходе работы
- low Разделов верхнего уровня: 12. Похоже на несколько доменов в одном скилле
- low Ответ описан самодельной разметкой (20 тегов): типизированный вызов надёжнее
Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.
Сигналы качества
- +5В description нет примеров фраз, по которым скилл должен срабатывать
- +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
- +3Формат ответа не описан: модель каждый раз решает сама
- -4Абсолютные локальные пути (C:\Users, /home/…): скилл не переносим
- +2Инструкции на одном языке
- +3Длина description 431 символов: достаточно сигнала, не съедает бюджет
- +4Структура: 41 заголовков
- +3Пошаговые инструкции: 75 пунктов
- +4Есть примеры (14 блоков кода)
- +4Справочные файлы упоминаются в инструкциях (1 из 1)
- +3Все 5 скриптов описаны в инструкциях
- +1Лицензия указана
База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 60.