AF advanced-evaluation
Этот навык следует использовать, когда пользователь просит "реализовать LLM как судью", "сравнить результаты моделей", "создать оценочные рубрики", "уменьшить предвзятость оценки" или упоминает прямое выставление оценок, попарное сравнение, позиционную предвзятость, конвейеры оценки или автоматизированную оценку качества.
машинный переводПоказать оригиналСкрыть оригинал«This skill should be used when the user asks to "implement LLM-as-judg…»
This skill should be used when the user asks to "implement LLM-as-judge", "compare model outputs", "create evaluation rubrics", "mitigate evaluation bias", or mentions direct scoring, pairwise comparison, position bias, evaluation pipelines, or automated quality assessment.
Этот навык следует использовать, когда пользователь просит "реализовать LLM как судью", "сравнить результаты моделей", "создать оценочные рубрики", "уменьшить…
Как процесс F 54/100 · Не запустится — Скилл ссылается на файлы, которых нет в архиве: references/implementation-patterns.md, references/bias-mitigation.md, references/metrics-guide.md
Как улучшить
- В тексте есть ссылки на отсутствующие файлы: добавьте файлы или уберите ссылки.
- Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
- spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.
Находки guard · 0
✓ Критических и высоких находок нет
Просканировано файлов: 2. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.
По спецификации Agent Skills
- предупреждение
missing-refссылка на отсутствующий файл: references/implementation-patterns.md - предупреждение
missing-refссылка на отсутствующий файл: references/bias-mitigation.md - предупреждение
missing-refссылка на отсутствующий файл: references/metrics-guide.md
Процессный рейтинг: все десять параметров 54/100
- 0Инструменты и файлы. Не хватает 3 файла(ов): references/implementation-patterns.md, references/bias-mitigation.md, references/metrics-guide.md
- 0Входы и предусловия. Не сказано, что нужно иметь на входе
- 0Отчётность по ходу. Скилл ничего не сообщает по ходу работы
- 30Повторный запуск. Изменяющих операций: 1, без проверки текущего состояния
- 55Ошибки и развилки. Развилок: 1
- 60Результат и критерий готовности. Формат результата описан, критерия завершения нет
- 70Стоимость исполнения. Тело инструкции 4090 токенов
- 100Шаги. Шагов: 73
- 100Когда включается. Сказано, когда применять и когда не применять
- 100Согласованность. Имя и обязательные поля на месте
- medium Правила безопасности и запреты внутри скилла: их место в системном промпте, здесь они не защищают
Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.
Сигналы качества
- +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
- +1Лицензия не указана
- +2Инструкции на одном языке
- +5В description 4 примера фраз-триггеров в кавычках
- +3Длина description 274 символов: достаточно сигнала, не съедает бюджет
- +4Структура: 23 заголовков
- +3Пошаговые инструкции: 73 пунктов
- +3Формат ответа описан явно
- +4Есть примеры (14 блоков кода)
База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 80.