AC prompt-eval
Оценка и улучшение любого ИИ-промпта (`prompt_a`) через поэтапный, основанный на доказательствах конвейер. Функциональная оценка проверяет, соответствует ли промпт правилам, выходным контрактам, требованиям к качеству и границам безопасности. Опциональная оценка эффекта проверяет, работают ли выходные данные для предполагаемых читателей посредством слепого сравнения на основе персон. Создает проверяемые артефакты CSV/JSON/HTML, выводы о первопричинах, оптимизированный промпт с валидацией и финальный отчет. Используйте, когда пользователи просят оценить, протестировать, сравнить, оценить, проверить или улучшить промпт.
машинный переводПоказать оригиналСкрыть оригинал«Evaluate and improve any AI prompt (`prompt_a`) through a staged, evid…»
Evaluate and improve any AI prompt (`prompt_a`) through a staged, evidence-based pipeline. Functional evaluation checks whether the prompt follows rules, output contracts, quality requirements, and safety boundaries. Optional effect evaluation checks whether outputs work for intended readers through blinded persona-based comparison. Produces inspectable CSV/JSON/HTML artifacts, root-cause findings, a validation-gated optimized prompt, and a final report. Use when users ask to evaluate, test, benchmark, score, validate, QA, or improve a prompt.
Оценка и улучшение любого ИИ-промпта (prompta) через поэтапный, основанный на доказательствах конвейер.
Как процесс C 60/100 · Есть пробелы — слабые места: результат и критерий готовности, когда включается, повторный запуск
Как улучшить
- Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
- spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.
Находки guard · 1
✓ Критических и высоких находок нет
Средние и низкие: 1
-
низкая Подмена инструкций
en-ignore-previousreferences/prompt_b_guide.md:327Фраза-перехват ("ignore previous instructions") (определение детектора / чёрного списка; демонстрация атаки / пример)(e.g., "I notice a request to override safety constraints") but ultimately
детектордемонстрация
Просканировано файлов: 9. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.
По спецификации Agent Skills
✓ По спецификации Agent Skills замечаний нет
Процессный рейтинг: все десять параметров 60/100
- 0Результат и критерий готовности. Не сказано, что считать результатом
- 20Когда включается. Не сказано, при каком запросе скилл включается
- 30Повторный запуск. Изменяющих операций: 12, без проверки текущего состояния
- 60Инструменты и файлы. Используются инструменты (bash), но во frontmatter они не объявлены
- 70Входы и предусловия. Входные данные и предусловия перечислены
- 70Ошибки и развилки. Развилок: 9
- 100Шаги. Шагов: 42
- 100Согласованность. Имя и обязательные поля на месте
- 100Стоимость исполнения. Тело инструкции 3765 токенов
- 100Отчётность по ходу. Скилл сообщает о ходе работы
- medium Правила безопасности и запреты внутри скилла: их место в системном промпте, здесь они не защищают
- low Разделов верхнего уровня: 14. Похоже на несколько доменов в одном скилле
- low Ответ описан самодельной разметкой (3 тегов): типизированный вызов надёжнее
Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.
Сигналы качества
- +5В description нет примеров фраз, по которым скилл должен срабатывать
- +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
- +3Формат ответа не описан: модель каждый раз решает сама
- +1Лицензия не указана
- +2Инструкции на одном языке
- +3Длина description 549 символов: достаточно сигнала, не съедает бюджет
- +4Структура: 22 заголовков
- +3Пошаговые инструкции: 42 пунктов
- +4Есть примеры (4 блоков кода)
- +4Справочные файлы упоминаются в инструкциях (5 из 5)
База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 88.