SKILLEMALL.ai
GitHub ↗ EN Войти

AB oracle

Проектирование и оценка систем ИИ/МО: инженерия запросов, проектирование RAG, шаблоны приложений LLM, безопасность ИИ, фреймворки оценки, MLOps, оптимизация затрат. Используйте для конвейеров ИИ или средств оценки.

машинный переводПоказать оригиналСкрыть оригинал«Designing and evaluating AI/ML systems: prompt engineering, RAG design…»

Designing and evaluating AI/ML systems: prompt engineering, RAG design, LLM application patterns, AI safety, evaluation frameworks, MLOps, cost optimization. Use for AI pipelines or eval harnesses.

simota/agent-skills Agent Skills автор: simota 16 файлов тело ≈ 5 845 токенов Открыть источникgithub.com↗ проанализирован 78 мин назад

Проектирование и оценка систем ИИ/МО: инженерия запросов, проектирование RAG, шаблоны приложений LLM, безопасность ИИ, фреймворки оценки, MLOps, оптимизация…

Как процесс B 65/100 · Почти готов — слабые места: когда включается, входы и предусловия, повторный запуск

АнализаторИИ и агентытип и темы размечены автоматически по тексту скилла
Запускается в: Claude / Claude Code ChatGPT / Codex Gemini CLI Cursor GitHub Copilot / VS Code Qwen Code Kimi Code CLI Z.ai (GLM) DeepSeek (Deep Code) Mistral Vibe LangChain (deepagents) OpenClaw Goose OpenCode
JSON
Технический рейтинг
A
92/100
безопасность, качество, тесты
Безопасность 60%
99
Качество 40%
81
Прогон на моделях
не было
Процессный рейтинг
B
65/100
Почти готов
Входы и предусловия вес 11
0
Отчётность по ходу вес 2
0
Когда включается вес 12
20
три самых слабых из десяти параметров · все десять

Как улучшить

  1. Тело SKILL.md длиннее 5 000 токенов: вынесите справочные детали в references/ и подключайте по необходимости.
Для прогона на моделях — необязательно
  • Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
  • spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.

Находки guard · 1

✓ Критических и высоких находок нет

Средние и низкие: 1
  • низкая Рискованное назначение intent-offensive-security SKILL.md:63
    Наступательная безопасность / двойное назначение (допустимо для авторизованного тестирования; проверьте назначение)
    - Security audit or penetration testing dominates → `Sentinel` / `Probe`

Просканировано файлов: 16. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.

По спецификации Agent Skills

  • предупреждение body-long тело SKILL.md ≈ 5845 токенов (рекомендуется < 5000); вынесите детали в references/

Процессный рейтинг: все десять параметров 65/100

  • 0Входы и предусловия. Не сказано, что нужно иметь на входе
  • 0Отчётность по ходу. Скилл ничего не сообщает по ходу работы
  • 20Когда включается. Не сказано, при каком запросе скилл включается
  • 30Повторный запуск. Изменяющих операций: 12, без проверки текущего состояния
  • 60Результат и критерий готовности. Формат результата описан, критерия завершения нет
  • 70Стоимость исполнения. Тело инструкции 5845 токенов
  • 85Шаги. Шагов: 101, расплывчатых формулировок: 1
  • 100Инструменты и файлы. Внешние инструменты не нужны
  • 100Ошибки и развилки. Развилок: 2, есть раздел про ошибки
  • 100Согласованность. Имя и обязательные поля на месте
  • medium Правила безопасности и запреты внутри скилла: их место в системном промпте, здесь они не защищают
  • low Разделов верхнего уровня: 17. Похоже на несколько доменов в одном скилле

Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.

Сигналы качества

  • +5В description нет примеров фраз, по которым скилл должен срабатывать
  • +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
  • +1Лицензия не указана
  • +2Инструкции на одном языке
  • +3Длина description 197 символов: достаточно сигнала, не съедает бюджет
  • +4Структура: 23 заголовков
  • +3Пошаговые инструкции: 101 пунктов
  • +3Формат ответа описан явно
  • +4Есть примеры (2 блоков кода)
  • +4Справочные файлы упоминаются в инструкциях (9 из 15)

База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 81.