SKILLEMALL.ai
GitHub ↗ EN Войти

BD eval-bench-builder

Используйте, когда пользователь говорит «Как оценить этот ИИ/навык?», «Создай мне тестовый набор», «Как спроектировать тестовые случаи?», «Нужна воспроизводимая оценка», или когда нужно создать воспроизводимый эталон оценки для агента/модели/навыка. Генерирует структурированные образцы оценки (входные данные/ожидаемый результат/критерии суждения) из описания возможностей + граничных случаев, обеспечивая воспроизводимость и возможность регрессии. Исполняемый скрипт (генератор bench_build). Теоретическая основа: LGD Triple Rule — наличие доказательств (воспроизводимость и проверяемость оценки). Триггеры: эталон оценки, eval, тестовый набор, benchmark, воспроизводимая оценка, тестовый случай, как тестировать ИИ.

машинный переводПоказать оригиналСкрыть оригинал«当用户说『怎么评测这个AI/技能好不好』『给我造个测试集』『评测用例怎么设计』『要可复现的评测』，或要给一个 agent/模型/技能建可复现…»

当用户说『怎么评测这个AI/技能好不好』『给我造个测试集』『评测用例怎么设计』『要可复现的评测』，或要给一个 agent/模型/技能建可复现评测基准时使用。从能力说明+边界用例生成结构化 eval 样本（输入/期望/判定标准），保证可复现、可回归。可运行脚本（bench_build 生成器）。理论根基：LGD 三律之有证（评测可复现、可核验）。触发词：评测基准、eval、测试集、benchmark、可复现评测、评测用例、怎么测AI。

ClawHub Hermes автор: zhaoxinghua09-cell v1.0.0 MIT-0 7 файлов тело ≈ 439 токенов Открыть источникclawhub.ai↗ проанализирован 22 ч назад

Используйте, когда пользователь говорит «Как оценить этот ИИ/навык?», «Создай мне тестовый набор», «Как спроектировать тестовые случаи?», «Нужна…

Как процесс D 46/100 · Процесс не доведён — слабые места: результат и критерий готовности, когда включается, входы и предусловия

ПроцедураИИ и агентытип и темы размечены автоматически по тексту скилла
Запускается в: OpenClaw Hermes Agent
JSON
Технический рейтинг
B
84/100
безопасность, качество, тесты
Безопасность 60%
100
Качество 40%
61
Прогон на моделях
не было
Процессный рейтинг
D
46/100
Процесс не доведён
Результат и критерий готовности вес 14
0
Входы и предусловия вес 11
0
Ошибки и развилки вес 10
0
три самых слабых из десяти параметров · все десять

Как улучшить

  1. Скажите в description, КОГДА применять скилл («используй, когда…», примеры запросов): это главный сигнал для агента.
  2. Для Hermes description должен быть одним предложением до 60 символов; условия применения вынесите в раздел «When to Use».
Для прогона на моделях — необязательно
  • Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
  • spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.

Находки guard · 0

✓ Критических и высоких находок нет

Просканировано файлов: 7. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.

По спецификации Agent Skills

  • предупреждение description-long-hermes description 218 символов, а стандарт Hermes требует ≤ 60 (одно предложение, с точкой)
  • предупреждение description-no-when ни description, ни раздел "## When to Use" не говорят, когда применять скилл
  • заметка frontmatter-key неизвестное поле фронтматтера "slug"
  • заметка frontmatter-key неизвестное поле фронтматтера "display_name"
  • заметка frontmatter-key неизвестное поле фронтматтера "displayName"
  • заметка frontmatter-key неизвестное поле фронтматтера "title"
  • заметка frontmatter-key неизвестное поле фронтматтера "display_name_en"
  • заметка frontmatter-key неизвестное поле фронтматтера "summary"
  • заметка frontmatter-key неизвестное поле фронтматтера "agent_created"
  • заметка frontmatter-key неизвестное поле фронтматтера "copyright"
  • заметка frontmatter-key неизвестное поле фронтматтера "read_when"
  • заметка frontmatter-key неизвестное поле фронтматтера "homepage"

Процессный рейтинг: все десять параметров 46/100

  • 0Результат и критерий готовности. Не сказано, что считать результатом
  • 0Входы и предусловия. Не сказано, что нужно иметь на входе
  • 0Ошибки и развилки. Линейный процесс без обработки сбоев
  • 0Отчётность по ходу. Скилл ничего не сообщает по ходу работы
  • 20Когда включается. Не сказано, при каком запросе скилл включается
  • 60Инструменты и файлы. Используются инструменты (python), но во frontmatter они не объявлены
  • 100Шаги. Шагов: 12
  • 100Согласованность. Имя и обязательные поля на месте
  • 100Стоимость исполнения. Тело инструкции 439 токенов
  • 100Повторный запуск. Изменяющих операций нет

Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.

Сигналы качества

  • +5В description нет примеров фраз, по которым скилл должен срабатывать
  • +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
  • +3Формат ответа не описан: модель каждый раз решает сама
  • -31 из 1 скриптов не упомянуты в SKILL.md
  • +2Инструкции на одном языке
  • +3Длина description 218 символов: достаточно сигнала, не съедает бюджет
  • +4Структура: 9 заголовков
  • +3Пошаговые инструкции: 12 пунктов
  • +4Есть примеры (1 блоков кода)
  • +1Лицензия указана

База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 61.

Внешние проверки

ClawHub: suspicious
The skill’s core benchmark script is simple and purpose-matched, but its instructions use an unpinned global installer and push proactive self-promotion, so it should be reviewed before installation.
LLM: suspicious (high) · 11 сент. 2026 г.