BF rag-perf
Тестирование производительности развернутого сервера NVIDIA RAG Blueprint: профилирование + нагрузочное тестирование aiperf, управляемое единой конфигурацией YAML. Не для оценки точности / RAGAS (используйте rag-eval) или для развертывания / исправления служб (используйте rag-blueprint).
машинный переводПоказать оригиналСкрыть оригинал«Performance benchmarking for a deployed NVIDIA RAG Blueprint server: p…»
Performance benchmarking for a deployed NVIDIA RAG Blueprint server: profiling pass + aiperf load test driven by a single YAML config. Not for accuracy / RAGAS scoring (use rag-eval) or for deploying / repairing services (use rag-blueprint).
Тестирование производительности развернутого сервера NVIDIA RAG Blueprint: профилирование + нагрузочное тестирование aiperf, управляемое единой конфигурацией…
Как процесс F 52/100 · Не запустится — Скилл ссылается на файлы, которых нет в архиве: ../../scripts/rag-perf/configs, references/output-and-analysis.md, references/output-and-analysis.md
Чем это грозит
Находки средней серьёзности: скорее всего скилл честный, но прочитайте, что именно насторожило сканер.
Ниже описан худший случай для этой категории. Здесь находка средней серьёзности: guard увидел признак, но не доказательство.
Скилл просит больше прав, чем нужно для задачи: широкий доступ к инструментам, секретные переменные окружения, бинарные файлы. Каждое лишнее право расширяет ущерб при ошибке или взломе.
Сузьте allowed-tools и список переменных до минимума, замените бинарники на исходники или скрипты, которые можно прочитать.
Как улучшить
- В тексте есть ссылки на отсутствующие файлы: добавьте файлы или уберите ссылки.
- Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
- spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.
Находки guard · 1
✓ Критических и высоких находок нет
Средние и низкие: 1
-
средняя Широкие права
meta-broad-allowed-toolsSKILL.md:1Заранее разрешены широкие инструменты: Bash(curlallowed-tools: Read Grep Glob Bash(ls *) Bash(python3 *) Bash(uv *) Bash(cat *) Bash(curl *) Write Edit
Просканировано файлов: 1. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.
По спецификации Agent Skills
- предупреждение
missing-refссылка на отсутствующий файл: ../../scripts/rag-perf/configs - предупреждение
missing-refссылка на отсутствующий файл: references/output-and-analysis.md - предупреждение
missing-refссылка на отсутствующий файл: references/output-and-analysis.md - предупреждение
missing-refссылка на отсутствующий файл: ../../docs/performance-benchmarking.md - предупреждение
missing-refссылка на отсутствующий файл: ../../scripts/rag-perf/rag_perf/cli.py - предупреждение
missing-refссылка на отсутствующий файл: ../../scripts/rag-perf/rag_perf/config.py - предупреждение
missing-refссылка на отсутствующий файл: ../../scripts/rag-perf/rag_perf/runner.py - предупреждение
missing-refссылка на отсутствующий файл: ../../scripts/rag-perf/rag_perf/plugin/nvidia_rag.py - предупреждение
missing-refссылка на отсутствующий файл: ../../scripts/rag-perf/configs/ - предупреждение
missing-refссылка на отсутствующий файл: ../../scripts/rag-perf/examples/queries.jsonl - предупреждение
missing-refссылка на отсутствующий файл: ../../scripts/rag-perf/prompts/default_prompts.yaml - предупреждение
missing-refссылка на отсутствующий файл: references/config-schema.md - предупреждение
missing-refссылка на отсутствующий файл: references/synthetic-generation.md - предупреждение
missing-refссылка на отсутствующий файл: scripts/rag-perf/configs/ - предупреждение
missing-refссылка на отсутствующий файл: scripts/rag-perf/rag_perf/runner.py - предупреждение
missing-refссылка на отсутствующий файл: scripts/rag-perf/examples/queries.jsonl - предупреждение
missing-refссылка на отсутствующий файл: scripts/rag-perf/prompts/default_prompts.yaml - предупреждение
missing-refссылка на отсутствующий файл: scripts/rag-perf/ - предупреждение
missing-refссылка на отсутствующий файл: scripts/rag-perf/rag_perf/plugin/nvidia_rag.py - предупреждение
missing-refссылка на отсутствующий файл: scripts/rag-perf/rag_perf/cli.py - предупреждение
missing-refссылка на отсутствующий файл: scripts/rag-perf/rag_perf/config.py - предупреждение
missing-refссылка на отсутствующий файл: scripts/rag-perf/configs/{quick_profile,single_run,sweep}.yaml - предупреждение
missing-refссылка на отсутствующий файл: scripts/rag-perf/configs/<preset>.yaml
Процессный рейтинг: все десять параметров 52/100
- 0Инструменты и файлы. Не хватает 23 файла(ов): ../../scripts/rag-perf/configs, references/output-and-analysis.md, references/output-and-analysis.md
- 0Результат и критерий готовности. Не сказано, что считать результатом
- 0Отчётность по ходу. Скилл ничего не сообщает по ходу работы
- 30Повторный запуск. Изменяющих операций: 8, без проверки текущего состояния
- 50Когда включается. Не сказано, при каком запросе скилл включается
- 70Входы и предусловия. Входные данные и предусловия перечислены
- 85Шаги. Шагов: 47, расплывчатых формулировок: 1
- 100Ошибки и развилки. Развилок: 1, есть раздел про ошибки
- 100Согласованность. Имя и обязательные поля на месте
- 100Стоимость исполнения. Тело инструкции 3665 токенов
- low Разделов верхнего уровня: 10. Похоже на несколько доменов в одном скилле
- low Ответ описан самодельной разметкой (7 тегов): типизированный вызов надёжнее
Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.
Сигналы качества
- +5В description нет примеров фраз, по которым скилл должен срабатывать
- +3Формат ответа не описан: модель каждый раз решает сама
- -2Ссылки на localhost: у другого пользователя не заработает
- +2Инструкции на одном языке
- +4Описание говорит, когда скилл НЕ применять
- +3Длина description 241 символов: достаточно сигнала, не съедает бюджет
- +4Структура: 11 заголовков
- +3Пошаговые инструкции: 47 пунктов
- +4Есть примеры (5 блоков кода)
- +1Лицензия указана
База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 75.