SKILLEMALL.ai
GitHub ↗ EN Войти

AB evaluation

Создавайте фреймворки оценки для систем агентов. Используйте при систематическом тестировании производительности агентов, проверке выбора инжиниринга контекста или измерении улучшений с течением времени.

машинный переводПоказать оригиналСкрыть оригинал«Build evaluation frameworks for agent systems. Use when testing agent…»

Build evaluation frameworks for agent systems. Use when testing agent performance systematically, validating context engineering choices, or measuring improvements over time.

sickn33/agentic-awesome-skills Agent Skills автор: sickn33 MIT 1 файл тело ≈ 2 670 токенов Открыть источникgithub.com↗ проанализирован 2 дн назад

Создавайте фреймворки оценки для систем агентов.

Как процесс B 69/100 · Почти готов — слабые места: результат и критерий готовности, когда включается, повторный запуск

АнализаторИИ и агентытип и темы размечены автоматически по тексту скилла
Запускается в: Claude / Claude Code ChatGPT / Codex Gemini CLI Cursor GitHub Copilot / VS Code Qwen Code Kimi Code CLI Z.ai (GLM) DeepSeek (Deep Code) Mistral Vibe LangChain (deepagents) OpenClaw Goose OpenCode
JSON
Технический рейтинг
A
92/100
безопасность, качество, тесты
Безопасность 60%
100
Качество 40%
81
Прогон на моделях
не было
Процессный рейтинг
B
69/100
Почти готов
Отчётность по ходу вес 2
0
Когда включается вес 12
20
Повторный запуск вес 4
30
три самых слабых из десяти параметров · все десять

Такой же скилл встречается ещё в 3 местах: agentic-awesome-skills, agentic-awesome-skills, RA-Skills

Как улучшить

    Для прогона на моделях — необязательно
    • Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
    • spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.

    Находки guard · 0

    ✓ Критических и высоких находок нет

    Просканировано файлов: 1. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.

    По спецификации Agent Skills

    • заметка frontmatter-key неизвестное поле фронтматтера "risk"
    • заметка frontmatter-key неизвестное поле фронтматтера "source"
    • заметка frontmatter-key неизвестное поле фронтматтера "date_added"

    Процессный рейтинг: все десять параметров 69/100

    • 0Отчётность по ходу. Скилл ничего не сообщает по ходу работы
    • 20Когда включается. Не сказано, при каком запросе скилл включается
    • 30Повторный запуск. Изменяющих операций: 4, без проверки текущего состояния
    • 40Результат и критерий готовности. Не сказано, что считать результатом
    • 55Ошибки и развилки. Развилок: 1
    • 70Входы и предусловия. Входные данные и предусловия перечислены
    • 100Инструменты и файлы. Внешние инструменты не нужны
    • 100Шаги. Шагов: 40
    • 100Согласованность. Имя и обязательные поля на месте
    • 100Стоимость исполнения. Тело инструкции 2670 токенов
    • low Разделов верхнего уровня: 11. Похоже на несколько доменов в одном скилле

    Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.

    Сигналы качества

    • +5В description нет примеров фраз, по которым скилл должен срабатывать
    • +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
    • +3Формат ответа не описан: модель каждый раз решает сама
    • +1Лицензия не указана
    • +2Инструкции на одном языке
    • +3Длина description 174 символов: достаточно сигнала, не съедает бюджет
    • +4Структура: 21 заголовков
    • +3Пошаговые инструкции: 40 пунктов
    • +4Есть примеры (2 блоков кода)

    База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 81.