SKILLEMALL.ai

CC eval-harness

Формальная структура оценки сеансов кода Claude, реализующая принципы разработки, управляемой оценкой (EDD).

машинный переводПоказать оригиналСкрыть оригинал«克劳德代码会话的正式评估框架,实施评估驱动开发(EDD)原则…»

克劳德代码会话的正式评估框架,实施评估驱动开发(EDD)原则

affaan-m/everything-claude-code Agent Skills автор: affaan-m MIT 1 файл тело ≈ 885 токенов Открыть источникgithub.com↗ проанализирован 22 ч назад

Формальная структура оценки сеансов кода Claude, реализующая принципы разработки, управляемой оценкой (EDD).

Как процесс C 53/100 · Есть пробелы — слабые места: результат и критерий готовности, когда включается, входы и предусловия

ПроцедураДанные и аналитикатип и темы размечены автоматически по тексту скилла
JSON
Технический рейтинг
C
84/100
безопасность, качество, тесты
Безопасность 60%
100
Качество 40%
59
Прогон на моделях
не было
Процессный рейтинг
C
53/100
Есть пробелы
Результат и критерий готовности вес 14
0
Когда включается вес 12
0
Входы и предусловия вес 11
0
три самых слабых из десяти параметров · все десять

Как улучшить

  1. Скажите в description, КОГДА применять скилл («используй, когда…», примеры запросов): это главный сигнал для агента.
Для прогона на моделях — необязательно
  • Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
  • spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.

Находки guard · 0

✓ Критических и высоких находок нет

Просканировано файлов: 1. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.

По спецификации Agent Skills

  • предупреждение description-short description короче 40 символов: модели не хватит сигнала для срабатывания
  • предупреждение description-no-when description не говорит, КОГДА применять скилл (нет "use when / используй когда")
  • заметка frontmatter-key неизвестное поле фронтматтера "origin"
  • заметка frontmatter-key неизвестное поле фронтматтера "tools"

Процессный рейтинг: все десять параметров 53/100

  • 0Результат и критерий готовности. Не сказано, что считать результатом
  • 0Когда включается. Не сказано, при каком запросе скилл включается
  • 0Входы и предусловия. Не сказано, что нужно иметь на входе
  • 0Ошибки и развилки. Линейный процесс без обработки сбоев
  • 100Инструменты и файлы. Инструменты объявлены во frontmatter
  • 100Шаги. Шагов: 38
  • 100Согласованность. Имя и обязательные поля на месте
  • 100Стоимость исполнения. Тело инструкции 885 токенов
  • 100Повторный запуск. Изменяющих операций нет
  • 100Отчётность по ходу. Скилл сообщает о ходе работы
  • low Разделов верхнего уровня: 11. Похоже на несколько доменов в одном скилле
  • low Ответ описан самодельной разметкой (3 тегов): типизированный вызов надёжнее

Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.

Сигналы качества

  • +5В description нет примеров фраз, по которым скилл должен срабатывать
  • +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
  • +3Длина description 30: рекомендуется 120–800 символов
  • +3Формат ответа не описан: модель каждый раз решает сама
  • +1Лицензия не указана
  • +2Инструкции на одном языке
  • +4Структура: 30 заголовков
  • +3Пошаговые инструкции: 38 пунктов
  • +4Есть примеры (13 блоков кода)

База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 59.