SKILLEMALL.ai

BC redteam-report-template

Формат результатов для red-team, ориентированный на клиента

машинный переводПоказать оригиналСкрыть оригинал«Client-facing red-team deliverable format…»

Client-facing red-team deliverable format

sickn33/agentic-awesome-skills Agent Skills автор: sickn33 MIT 1 файл тело ≈ 3 819 токенов Открыть источникgithub.com проанализирован 22 ч назад

Формат результатов для red-team, ориентированный на клиента

Как процесс C 58/100 · Есть пробелы — слабые места: результат и критерий готовности, повторный запуск, отчётность по ходу

ШаблонWordБезопасностьтип и темы размечены автоматически по тексту скилла
JSON
Технический рейтинг
B
90/100
безопасность, качество, тесты
Безопасность 60%
98
Качество 40%
78
Прогон на моделях
не было
Процессный рейтинг
C
58/100
Есть пробелы
Результат и критерий готовности вес 14
0
Отчётность по ходу вес 2
0
Повторный запуск вес 4
30
три самых слабых из десяти параметров · все десять
Это копия скилла из другого каталога, в рейтинге считается основная: redteam-report-template (sickn33/agentic-awesome-skills)

Как улучшить

    Для прогона на моделях — необязательно
    • Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
    • spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.

    Находки guard · 2

    ✓ Критических и высоких находок нет

    Средние и низкие: 2
    • низкая Рискованное назначение intent-offensive-security SKILL.md:22
      Наступательная безопасность / двойное назначение (допустимо для авторизованного тестирования; проверьте назначение)
      - Pentest reports going to a CISO / IT-Sec team (not a triager)
    • низкая Рискованное назначение intent-offensive-security SKILL.md:264
      Наступательная безопасность / двойное назначение (допустимо для авторизованного тестирования; проверьте назначение)
      Bug bounty would reject most of these. Red-team deliverables embrace them — the client paid for the assessment to know.

    Просканировано файлов: 1. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.

    По спецификации Agent Skills

    • заметка frontmatter-key неизвестное поле фронтматтера "risk"
    • заметка frontmatter-key неизвестное поле фронтматтера "source"
    • заметка frontmatter-key неизвестное поле фронтматтера "source_repo"
    • заметка frontmatter-key неизвестное поле фронтматтера "source_type"
    • заметка frontmatter-key неизвестное поле фронтматтера "date_added"
    • заметка frontmatter-key неизвестное поле фронтматтера "license_source"
    • заметка frontmatter-key неизвестное поле фронтматтера "sources"
    • заметка frontmatter-key неизвестное поле фронтматтера "report_count"

    Процессный рейтинг: все десять параметров 58/100

    • 0Результат и критерий готовности. Не сказано, что считать результатом
    • 0Отчётность по ходу. Скилл ничего не сообщает по ходу работы
    • 30Повторный запуск. Изменяющих операций: 7, без проверки текущего состояния
    • 50Когда включается. Не сказано, при каком запросе скилл включается
    • 55Ошибки и развилки. Развилок: 1
    • 60Инструменты и файлы. Используются инструменты (web), но во frontmatter они не объявлены
    • 70Входы и предусловия. Входные данные и предусловия перечислены
    • 85Шаги. Шагов: 65, расплывчатых формулировок: 2
    • 100Согласованность. Имя и обязательные поля на месте
    • 100Стоимость исполнения. Тело инструкции 3819 токенов
    • low Разделов верхнего уровня: 17. Похоже на несколько доменов в одном скилле

    Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.

    Сигналы качества

    • +5В description нет примеров фраз, по которым скилл должен срабатывать
    • +3Длина description 41: рекомендуется 120–800 символов
    • +3Формат ответа не описан: модель каждый раз решает сама
    • -5В тексте остались TODO / заглушки
    • +2Инструкции на одном языке
    • +4Описание говорит, когда скилл НЕ применять
    • +4Структура: 26 заголовков
    • +3Пошаговые инструкции: 65 пунктов
    • +4Есть примеры (8 блоков кода)
    • +1Лицензия указана

    База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 78.