AB promoter-test
Сгенерируйте файл evals для разработанного навыка и измерьте, срабатывает ли его описание триггера на правильные запросы: пять-восемь фраз, которые должны его активировать, пять, которые не должны, три эталонных пары входных и выходных данных, затем точность и полноту по отношению к описанию, с циклом перезаписи, когда точность ниже 0.8. Используйте, когда вас просят: "Протестируй триггеры этого навыка", "Напиши evals для нового навыка", "Проверь, правильно ли срабатывают триггеры описания" или как третий шаг цикла продвижения. Создает evals.json рядом с навыком, запись в библиотеке evals и отчет о точности и полноте.
машинный переводПоказать оригиналСкрыть оригинал«Generate an evals file for a drafted skill and measure whether its tri…»
Generate an evals file for a drafted skill and measure whether its trigger description fires on the right requests: five to eight phrases that should trigger it, five that should not, three golden input and output pairs, then precision and recall against the description, with a rewrite loop when precision is below 0.8. Use when asked to test this skill's triggers, write evals for the new skill, check the description fires correctly, or as the third step of the promote loop. Produces an evals.json beside the skill, a case in the library's evals, and a precision and recall report.
Сгенерируйте файл evals для разработанного навыка и измерьте, срабатывает ли его описание триггера на правильные запросы: пять-восемь фраз, которые должны его…
Как процесс B 69/100 · Почти готов — слабые места: когда включается, ошибки и развилки, повторный запуск
Как улучшить
- Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
- spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.
Находки guard · 0
✓ Критических и высоких находок нет
Просканировано файлов: 2. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.
По спецификации Agent Skills
✓ По спецификации Agent Skills замечаний нет
Процессный рейтинг: все десять параметров 69/100
- 0Ошибки и развилки. Линейный процесс без обработки сбоев
- 20Когда включается. Не сказано, при каком запросе скилл включается
- 30Повторный запуск. Изменяющих операций: 2, без проверки текущего состояния
- 60Результат и критерий готовности. Формат результата описан, критерия завершения нет
- 70Входы и предусловия. Входные данные и предусловия перечислены
- 100Инструменты и файлы. Внешние инструменты не нужны
- 100Шаги. Шагов: 25
- 100Согласованность. Имя и обязательные поля на месте
- 100Стоимость исполнения. Тело инструкции 997 токенов
- 100Отчётность по ходу. Скилл сообщает о ходе работы
- low Ответ описан самодельной разметкой (3 тегов): типизированный вызов надёжнее
Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.
Сигналы качества
- +5В description нет примеров фраз, по которым скилл должен срабатывать
- +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
- +1Лицензия не указана
- +2Инструкции на одном языке
- +3Длина description 585 символов: достаточно сигнала, не съедает бюджет
- +4Структура: 10 заголовков
- +3Пошаговые инструкции: 25 пунктов
- +3Формат ответа описан явно
- +4Есть примеры (1 блоков кода)
- +3Все 1 скриптов описаны в инструкциях
База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 90.