SKILLEMALL.ai
GitHub ↗ EN Войти

BB omh-agent-evaluation

[omh] Выбор между агентами кодирования на основе доказательств: сравните выбор исполнителей или агентов для воспроизводимых задач, используя метрики качества, стоимости, времени, инструментов и доказательств. Используйте, когда пользователь говорит: agent-evaluation, agent evaluation, agent eval, agent benchmark, executor evaluation, executor benchmark, compare agents, compare codex claude.

машинный переводПоказать оригиналСкрыть оригинал«[omh] Choosing between coding agents on evidence: compare executor or…»

[omh] Choosing between coding agents on evidence: compare executor or agent choices on reproducible tasks using quality, cost, time, tool, and evidence metrics. Use when the user says: agent-evaluation, agent evaluation, agent eval, agent benchmark, executor evaluation, executor benchmark, compare agents, compare codex claude.

rlaope/oh-my-hermes Hermes автор: rlaope 2 файла тело ≈ 2 046 токенов Открыть источникgithub.com↗ проанализирован 14 ч назад

[omh] Выбор между агентами кодирования на основе доказательств: сравните выбор исполнителей или агентов для воспроизводимых задач, используя метрики качества…

Как процесс B 73/100 · Почти готов — слабые места: результат и критерий готовности, ошибки и развилки, отчётность по ходу

АнализаторИИ и агентытип и темы размечены автоматически по тексту скилла
Запускается в: Hermes Agent
JSON
Технический рейтинг
B
93/100
безопасность, качество, тесты
Безопасность 60%
100
Качество 40%
83
Прогон на моделях
не было
Процессный рейтинг
B
73/100
Почти готов
Ошибки и развилки вес 10
0
Отчётность по ходу вес 2
0
Результат и критерий готовности вес 14
40
три самых слабых из десяти параметров · все десять

Как улучшить

  1. Для Hermes description должен быть одним предложением до 60 символов; условия применения вынесите в раздел «When to Use».
Для прогона на моделях — необязательно
  • Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
  • spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.

Находки guard · 0

✓ Критических и высоких находок нет

Просканировано файлов: 2. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.

По спецификации Agent Skills

  • предупреждение description-long-hermes description 328 символов, а стандарт Hermes требует ≤ 60 (одно предложение, с точкой)

Процессный рейтинг: все десять параметров 73/100

  • 0Ошибки и развилки. Линейный процесс без обработки сбоев
  • 0Отчётность по ходу. Скилл ничего не сообщает по ходу работы
  • 40Результат и критерий готовности. Не сказано, что считать результатом
  • 60Согласованность. Диалект Hermes требует category и tags
  • 70Входы и предусловия. Входные данные и предусловия перечислены
  • 100Инструменты и файлы. Внешние инструменты не нужны
  • 100Шаги. Шагов: 42
  • 100Когда включается. Сказано, когда применять и когда не применять
  • 100Стоимость исполнения. Тело инструкции 2046 токенов
  • 100Повторный запуск. Изменяющих операций нет

Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.

Сигналы качества

  • +5В description нет примеров фраз, по которым скилл должен срабатывать
  • +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
  • +3Формат ответа не описан: модель каждый раз решает сама
  • +2Инструкции на одном языке
  • +3Длина description 328 символов: достаточно сигнала, не съедает бюджет
  • +4Структура: 10 заголовков
  • +3Пошаговые инструкции: 42 пунктов
  • +4Есть примеры (1 блоков кода)
  • +4Справочные файлы упоминаются в инструкциях (1 из 1)
  • +1Лицензия указана

База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 83.