SKILLEMALL.ai

AB deployment

Предоставляет доступ к LLM-модели (квантованной или нет) через API, совместимый с OpenAI, с использованием vLLM, SGLang или TRT-LLM. Используйте, когда пользователь говорит «развернуть модель», «запустить модель», «запустить сервер vLLM», «запустить SGLang», «развернуть TRT-LLM», «AutoDeploy», «измерить пропускную способность», «запустить чекпойнт» или когда нужен конечный узел для инференса из чекпойнта, квантованного HuggingFace или ModelOpt. НЕ используйте для квантования моделей (используйте ptq) или оценки точности (используйте evaluation).

машинный переводПоказать оригиналСкрыть оригинал«Serve a quantized or unquantized LLM checkpoint as an OpenAI-compatibl…»

Serve a quantized or unquantized LLM checkpoint as an OpenAI-compatible API endpoint using vLLM, SGLang, or TRT-LLM. Use when user says "deploy model", "serve model", "start vLLM server", "launch SGLang", "TRT-LLM deploy", "AutoDeploy", "benchmark throughput", "serve checkpoint", or needs an inference endpoint from a HuggingFace or ModelOpt-quantized checkpoint. Do NOT use for quantizing models (use ptq) or evaluating accuracy (use evaluation).

NVIDIA/Model-Optimizer Agent Skills автор: NVIDIA Apache-2.0 10 файлов · 1 скрипт тело ≈ 3 158 токенов Открыть источникgithub.com↗ проанализирован 3 дн назад

Предоставляет доступ к LLM-модели (квантованной или нет) через API, совместимый с OpenAI, с использованием vLLM, SGLang или TRT-LLM.

Как процесс B 65/100 · Почти готов — слабые места: результат и критерий готовности, входы и предусловия, отчётность по ходу

ИнтеграцияDockerИнфраструктураИИ и агентытип и темы размечены автоматически по тексту скилла
JSON
Технический рейтинг
A
98/100
безопасность, качество, тесты
Безопасность 60%
98
Качество 40%
99
Прогон на моделях
не было
Процессный рейтинг
B
65/100
Почти готов
Входы и предусловия вес 11
0
Отчётность по ходу вес 2
0
Результат и критерий готовности вес 14
40
три самых слабых из десяти параметров · все десять

Как улучшить

    Для прогона на моделях — необязательно
    • spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.

    Находки guard · 2

    ✓ Критических и высоких находок нет

    Средние и низкие: 2
    • низкая Опасные команды cmd-background-process scripts/deploy.sh:292
      Запуск фонового / автозапускаемого процесса
      nohup "${cmd[@]}" >"$LOG_FILE" 2>&1 &
    • низкая Опасные команды cmd-background-process scripts/deploy.sh:319
      Запуск фонового / автозапускаемого процесса
      nohup "${cmd[@]}" >"$LOG_FILE" 2>&1 &

    Просканировано файлов: 9. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.

    По спецификации Agent Skills

    ✓ По спецификации Agent Skills замечаний нет

    Процессный рейтинг: все десять параметров 65/100

    • 0Входы и предусловия. Не сказано, что нужно иметь на входе
    • 0Отчётность по ходу. Скилл ничего не сообщает по ходу работы
    • 40Результат и критерий готовности. Не сказано, что считать результатом
    • 50Когда включается. Не сказано, при каком запросе скилл включается
    • 60Инструменты и файлы. Используются инструменты (web, python, node), но во frontmatter они не объявлены
    • 100Шаги. Шагов: 20
    • 100Ошибки и развилки. Развилок: 3, есть раздел про ошибки
    • 100Согласованность. Имя и обязательные поля на месте
    • 100Стоимость исполнения. Тело инструкции 3158 токенов
    • 100Повторный запуск. Изменяющие операции проверяют текущее состояние
    • low Ответ описан самодельной разметкой (13 тегов): типизированный вызов надёжнее
    • medium Тестов 3, и все положительные: нет ни одного случая «должен отказать» или «должен переспросить»

    Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.

    Сигналы качества

    • +3Формат ответа не описан: модель каждый раз решает сама
    • -2Ссылки на localhost: у другого пользователя не заработает
    • +2Инструкции на одном языке
    • +5В description 8 примера фраз-триггеров в кавычках
    • +4Описание говорит, когда скилл НЕ применять
    • +3Длина description 448 символов: достаточно сигнала, не съедает бюджет
    • +4Структура: 18 заголовков
    • +3Пошаговые инструкции: 20 пунктов
    • +4Есть примеры (12 блоков кода)
    • +4Справочные файлы упоминаются в инструкциях (7 из 7)
    • +3Все 1 скриптов описаны в инструкциях
    • +1Лицензия указана

    База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 99.