AC promptfoo
Работайте с Promptfoo для локальных, повторяемых оценок LLM и тестирования на проникновение. Используйте, когда запрос явно включает Promptfoo, `promptfooconfig.yaml`, команды CLI Promptfoo (`promptfoo eval`, `validate`, `view`, `redteam`, `generate`, `mcp`), примеры Promptfoo, утверждения/метрики, сравнения провайдеров, оценки RAG, оценки агентов или преобразование рабочего процесса приложения/API LLM в тесты качества или безопасности на основе Promptfoo. Не активируйте для простого написания подсказок, если задача специально не требует Promptfoo.
машинный переводПоказать оригиналСкрыть оригинал«Work with Promptfoo for local, repeatable LLM evals and red-team testi…»
Work with Promptfoo for local, repeatable LLM evals and red-team testing. Use when a request explicitly involves Promptfoo, `promptfooconfig.yaml`, Promptfoo CLI commands (`promptfoo eval`, `validate`, `view`, `redteam`, `generate`, `mcp`), Promptfoo examples, assertions/metrics, provider comparisons, RAG evals, agent evals, or converting an LLM app/API workflow into Promptfoo-based quality or security tests. Do not trigger for generic prompt-writing alone unless the task specifically needs Promptfoo.
Работайте с Promptfoo для локальных, повторяемых оценок LLM и тестирования на проникновение.
Как процесс C 54/100 · Есть пробелы — слабые места: результат и критерий готовности, когда включается, входы и предусловия
Как улучшить
- Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
- spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.
Находки guard · 0
✓ Критических и высоких находок нет
Просканировано файлов: 6. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.
По спецификации Agent Skills
✓ По спецификации Agent Skills замечаний нет
Процессный рейтинг: все десять параметров 54/100
- 0Результат и критерий готовности. Не сказано, что считать результатом
- 0Входы и предусловия. Не сказано, что нужно иметь на входе
- 0Отчётность по ходу. Скилл ничего не сообщает по ходу работы
- 20Когда включается. Не сказано, при каком запросе скилл включается
- 60Инструменты и файлы. Используются инструменты (bash), но во frontmatter они не объявлены
- 85Шаги. Шагов: 82, расплывчатых формулировок: 2
- 100Ошибки и развилки. Развилок: 3, есть раздел про ошибки
- 100Согласованность. Имя и обязательные поля на месте
- 100Стоимость исполнения. Тело инструкции 2637 токенов
- 100Повторный запуск. Изменяющие операции проверяют текущее состояние
- low Разделов верхнего уровня: 14. Похоже на несколько доменов в одном скилле
Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.
Сигналы качества
- +5В description нет примеров фраз, по которым скилл должен срабатывать
- +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
- +3Формат ответа не описан: модель каждый раз решает сама
- +1Лицензия не указана
- +2Инструкции на одном языке
- +3Длина description 506 символов: достаточно сигнала, не съедает бюджет
- +4Структура: 27 заголовков
- +3Пошаговые инструкции: 82 пунктов
- +4Есть примеры (12 блоков кода)
- +4Справочные файлы упоминаются в инструкциях (2 из 2)
- +3Все 2 скриптов описаны в инструкциях
База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 91.