AA advanced-evaluation
Этот навык следует использовать, когда пользователь просит "реализовать LLM как судью", "сравнить результаты моделей", "создать оценочные рубрики", "уменьшить предвзятость оценки" или упоминает прямое выставление оценок, попарное сравнение, позиционную предвзятость, конвейеры оценки или автоматизированную оценку качества.
машинный переводПоказать оригиналСкрыть оригинал«This skill should be used when the user asks to "implement LLM-as-judg…»
This skill should be used when the user asks to "implement LLM-as-judge", "compare model outputs", "create evaluation rubrics", "mitigate evaluation bias", or mentions direct scoring, pairwise comparison, position bias, evaluation pipelines, or automated quality assessment.
Этот навык следует использовать, когда пользователь просит "реализовать LLM как судью", "сравнить результаты моделей", "создать оценочные рубрики", "уменьшить…
Как процесс A 80/100 · Дойдёт до конца — слабые места: ошибки и развилки, повторный запуск, отчётность по ходу
Такой же скилл встречается ещё в 2 местах: agentic-awesome-skills, agentic-awesome-skills
Как улучшить
- Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
- spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.
Находки guard · 0
✓ Критических и высоких находок нет
Просканировано файлов: 1. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.
По спецификации Agent Skills
- заметка
frontmatter-keyнеизвестное поле фронтматтера "risk" - заметка
frontmatter-keyнеизвестное поле фронтматтера "source" - заметка
frontmatter-keyнеизвестное поле фронтматтера "date_added"
Процессный рейтинг: все десять параметров 80/100
- 0Ошибки и развилки. Линейный процесс без обработки сбоев
- 0Отчётность по ходу. Скилл ничего не сообщает по ходу работы
- 30Повторный запуск. Изменяющих операций: 1, без проверки текущего состояния
- 70Входы и предусловия. Входные данные и предусловия перечислены
- 70Стоимость исполнения. Тело инструкции 4140 токенов
- 100Инструменты и файлы. Внешние инструменты не нужны
- 100Шаги. Шагов: 76
- 100Результат и критерий готовности. Формат результата и критерий готовности описаны
- 100Когда включается. Сказано, когда применять и когда не применять
- 100Согласованность. Имя и обязательные поля на месте
- low Разделов верхнего уровня: 10. Похоже на несколько доменов в одном скилле
Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.
Сигналы качества
- +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
- +1Лицензия не указана
- +2Инструкции на одном языке
- +5В description 4 примера фраз-триггеров в кавычках
- +3Длина description 274 символов: достаточно сигнала, не съедает бюджет
- +4Структура: 24 заголовков
- +3Пошаговые инструкции: 76 пунктов
- +3Формат ответа описан явно
- +4Есть примеры (14 блоков кода)
База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 89.