SKILLEMALL.ai

BF rag-perf

Тестирование производительности развернутого сервера NVIDIA RAG Blueprint: профилирование + нагрузочное тестирование aiperf, управляемое единой конфигурацией YAML. Не для оценки точности / RAGAS (используйте rag-eval) или для развертывания / исправления служб (используйте rag-blueprint).

машинный переводПоказать оригиналСкрыть оригинал«Performance benchmarking for a deployed NVIDIA RAG Blueprint server: p…»

Performance benchmarking for a deployed NVIDIA RAG Blueprint server: profiling pass + aiperf load test driven by a single YAML config. Not for accuracy / RAGAS scoring (use rag-eval) or for deploying / repairing services (use rag-blueprint).

ClawHub Agent Skills автор: NVIDIA 1 файл тело ≈ 3 665 токенов Открыть источникclawhub.ai проанализирован 24 ч назад

Тестирование производительности развернутого сервера NVIDIA RAG Blueprint: профилирование + нагрузочное тестирование aiperf, управляемое единой конфигурацией…

Как процесс F 52/100 · Не запустится — Скилл ссылается на файлы, которых нет в архиве: ../../scripts/rag-perf/configs, references/output-and-analysis.md, references/output-and-analysis.md

ПроцедураИИ и агентытип и темы размечены автоматически по тексту скилла
JSON
Технический рейтинг
B
87/100
безопасность, качество, тесты
Безопасность 60%
95
Качество 40%
75
Прогон на моделях
не было
Процессный рейтинг
F
52/100
Не запустится
Скилл ссылается на файлы, которых нет в архиве: ../../scripts/rag-perf/configs, references/output-and-analysis.md, references/output-and-analysis.md
Инструменты и файлы вес 18
0
Результат и критерий готовности вес 14
0
Отчётность по ходу вес 2
0
три самых слабых из десяти параметров · все десять

Чем это грозит

Находки средней серьёзности: скорее всего скилл честный, но прочитайте, что именно насторожило сканер.

Широкие права средняя серьёзность

Ниже описан худший случай для этой категории. Здесь находка средней серьёзности: guard увидел признак, но не доказательство.

Если установить

Скилл просит больше прав, чем нужно для задачи: широкий доступ к инструментам, секретные переменные окружения, бинарные файлы. Каждое лишнее право расширяет ущерб при ошибке или взломе.

Автору

Сузьте allowed-tools и список переменных до минимума, замените бинарники на исходники или скрипты, которые можно прочитать.

Как улучшить

  1. В тексте есть ссылки на отсутствующие файлы: добавьте файлы или уберите ссылки.
Для прогона на моделях — необязательно
  • Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
  • spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.

Находки guard · 1

✓ Критических и высоких находок нет

Средние и низкие: 1
  • средняя Широкие права meta-broad-allowed-tools SKILL.md:1
    Заранее разрешены широкие инструменты: Bash(curl
    allowed-tools: Read Grep Glob Bash(ls *) Bash(python3 *) Bash(uv *) Bash(cat *) Bash(curl *) Write Edit

Просканировано файлов: 1. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.

По спецификации Agent Skills

  • предупреждение missing-ref ссылка на отсутствующий файл: ../../scripts/rag-perf/configs
  • предупреждение missing-ref ссылка на отсутствующий файл: references/output-and-analysis.md
  • предупреждение missing-ref ссылка на отсутствующий файл: references/output-and-analysis.md
  • предупреждение missing-ref ссылка на отсутствующий файл: ../../docs/performance-benchmarking.md
  • предупреждение missing-ref ссылка на отсутствующий файл: ../../scripts/rag-perf/rag_perf/cli.py
  • предупреждение missing-ref ссылка на отсутствующий файл: ../../scripts/rag-perf/rag_perf/config.py
  • предупреждение missing-ref ссылка на отсутствующий файл: ../../scripts/rag-perf/rag_perf/runner.py
  • предупреждение missing-ref ссылка на отсутствующий файл: ../../scripts/rag-perf/rag_perf/plugin/nvidia_rag.py
  • предупреждение missing-ref ссылка на отсутствующий файл: ../../scripts/rag-perf/configs/
  • предупреждение missing-ref ссылка на отсутствующий файл: ../../scripts/rag-perf/examples/queries.jsonl
  • предупреждение missing-ref ссылка на отсутствующий файл: ../../scripts/rag-perf/prompts/default_prompts.yaml
  • предупреждение missing-ref ссылка на отсутствующий файл: references/config-schema.md
  • предупреждение missing-ref ссылка на отсутствующий файл: references/synthetic-generation.md
  • предупреждение missing-ref ссылка на отсутствующий файл: scripts/rag-perf/configs/
  • предупреждение missing-ref ссылка на отсутствующий файл: scripts/rag-perf/rag_perf/runner.py
  • предупреждение missing-ref ссылка на отсутствующий файл: scripts/rag-perf/examples/queries.jsonl
  • предупреждение missing-ref ссылка на отсутствующий файл: scripts/rag-perf/prompts/default_prompts.yaml
  • предупреждение missing-ref ссылка на отсутствующий файл: scripts/rag-perf/
  • предупреждение missing-ref ссылка на отсутствующий файл: scripts/rag-perf/rag_perf/plugin/nvidia_rag.py
  • предупреждение missing-ref ссылка на отсутствующий файл: scripts/rag-perf/rag_perf/cli.py
  • предупреждение missing-ref ссылка на отсутствующий файл: scripts/rag-perf/rag_perf/config.py
  • предупреждение missing-ref ссылка на отсутствующий файл: scripts/rag-perf/configs/{quick_profile,single_run,sweep}.yaml
  • предупреждение missing-ref ссылка на отсутствующий файл: scripts/rag-perf/configs/<preset>.yaml

Процессный рейтинг: все десять параметров 52/100

Не запустится. Скилл ссылается на файлы, которых нет в архиве: ../../scripts/rag-perf/configs, references/output-and-analysis.md, references/output-and-analysis.md
  • 0Инструменты и файлы. Не хватает 23 файла(ов): ../../scripts/rag-perf/configs, references/output-and-analysis.md, references/output-and-analysis.md
  • 0Результат и критерий готовности. Не сказано, что считать результатом
  • 0Отчётность по ходу. Скилл ничего не сообщает по ходу работы
  • 30Повторный запуск. Изменяющих операций: 8, без проверки текущего состояния
  • 50Когда включается. Не сказано, при каком запросе скилл включается
  • 70Входы и предусловия. Входные данные и предусловия перечислены
  • 85Шаги. Шагов: 47, расплывчатых формулировок: 1
  • 100Ошибки и развилки. Развилок: 1, есть раздел про ошибки
  • 100Согласованность. Имя и обязательные поля на месте
  • 100Стоимость исполнения. Тело инструкции 3665 токенов
  • low Разделов верхнего уровня: 10. Похоже на несколько доменов в одном скилле
  • low Ответ описан самодельной разметкой (7 тегов): типизированный вызов надёжнее

Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.

Сигналы качества

  • +5В description нет примеров фраз, по которым скилл должен срабатывать
  • +3Формат ответа не описан: модель каждый раз решает сама
  • -2Ссылки на localhost: у другого пользователя не заработает
  • +2Инструкции на одном языке
  • +4Описание говорит, когда скилл НЕ применять
  • +3Длина description 241 символов: достаточно сигнала, не съедает бюджет
  • +4Структура: 11 заголовков
  • +3Пошаговые инструкции: 47 пунктов
  • +4Есть примеры (5 блоков кода)
  • +1Лицензия указана

База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 75.