SKILLEMALL.ai
GitHub ↗ EN Войти

CC continuous-llm-red-teaming-with-promptfoo

Интегрирует Promptfoo и DeepTeam в CI/CD для автоматизированного, повторяемого тестирования LLM-приложений красной командой на соответствие пресетам OWASP LLM Top 10, OWASP Agentic и MITRE ATLAS, сбой сборки при регрессии уязвимостей джейлбрейка или инъекций. Используйте для непрерывного тестирования на проникновение в CI/CD, для блокировки слияния в качестве охранного механизма или для сравнения версий моделей/промптов для отчетности о соответствии.

машинный переводПоказать оригиналСкрыть оригинал«Wires Promptfoo and DeepTeam into CI/CD for automated, repeatable red-…»

Wires Promptfoo and DeepTeam into CI/CD for automated, repeatable red-teaming of LLM apps against OWASP LLM Top 10, OWASP Agentic, and MITRE ATLAS presets, failing the build when jailbreak or injection vulnerabilities regress. Use for continuous adversarial testing in CI/CD, a merge-blocking security gate, or comparing model/prompt versions for compliance reporting.

mukul975/Anthropic-Cybersecurity-Skills Agent Skills автор: mukul975 Apache-2.0 5 файлов · 1 скрипт тело ≈ 2 278 токенов Открыть источникgithub.com↗ проанализирован 5 дн назад

Интегрирует Promptfoo и DeepTeam в CI/CD для автоматизированного, повторяемого тестирования LLM-приложений красной командой на соответствие пресетам OWASP LLM…

Как процесс C 56/100 · Есть пробелы — слабые места: результат и критерий готовности, когда включается, повторный запуск

ПроцедураGitHubИИ и агентытип и темы размечены автоматически по тексту скилла
Запускается в: Claude / Claude Code ChatGPT / Codex Gemini CLI Cursor GitHub Copilot / VS Code Qwen Code Kimi Code CLI Z.ai (GLM) DeepSeek (Deep Code) Mistral Vibe LangChain (deepagents) OpenClaw Goose OpenCode
JSON
Технический рейтинг
C
86/100
безопасность, качество, тесты
Безопасность 60%
94
Качество 40%
75
Прогон на моделях
не было
Процессный рейтинг
C
56/100
Есть пробелы
Результат и критерий готовности вес 14
0
Отчётность по ходу вес 2
0
Когда включается вес 12
20
три самых слабых из десяти параметров · все десять

Как улучшить

    Для прогона на моделях — необязательно
    • Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
    • spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.

    Находки guard · 6

    ✓ Критических и высоких находок нет

    Средние и низкие: 6
    • низкая Рискованное назначение intent-offensive-security references/api-reference.md:48
      Наступательная безопасность / двойное назначение (допустимо для авторизованного тестирования; проверьте назначение)
      | `deepteam run config.yaml` | Run red teaming from a YAML config |
    • низкая Рискованное назначение intent-offensive-security references/standards.md:1
      Наступательная безопасность / двойное назначение (допустимо для авторизованного тестирования; проверьте назначение)
      # Standards and References — Continuous LLM Red Teaming with Promptfoo
    • низкая Рискованное назначение intent-offensive-security SKILL.md:23
      Наступательная безопасность / двойное назначение (допустимо для авторизованного тестирования; проверьте назначение)
      # Continuous LLM Red Teaming with Promptfoo
    • низкая Рискованное назначение intent-offensive-security SKILL.md:69
      Наступательная безопасность / двойное назначение (допустимо для авторизованного тестирования; проверьте назначение)
      | AML.T0054 | LLM Jailbreak | Privilege Escalation / Defense Evasion (LLM) |
    • низкая Рискованное назначение intent-offensive-security SKILL.md:147
      Наступательная безопасность / двойное назначение (допустимо для авторизованного тестирования; проверьте назначение)
      name: LLM Red Team
    • низкая Рискованное назначение intent-offensive-security SKILL.md:157
      Наступательная безопасность / двойное назначение (допустимо для авторизованного тестирования; проверьте назначение)
      - name: Run red team (fails build on new vulns)

    Просканировано файлов: 5. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.

    По спецификации Agent Skills

    • заметка frontmatter-key неизвестное поле фронтматтера "domain"
    • заметка frontmatter-key неизвестное поле фронтматтера "subdomain"
    • заметка frontmatter-key неизвестное поле фронтматтера "nist_ai_rmf"
    • заметка frontmatter-key неизвестное поле фронтматтера "atlas_techniques"

    Процессный рейтинг: все десять параметров 56/100

    • 0Результат и критерий готовности. Не сказано, что считать результатом
    • 0Отчётность по ходу. Скилл ничего не сообщает по ходу работы
    • 20Когда включается. Не сказано, при каком запросе скилл включается
    • 30Повторный запуск. Изменяющих операций: 4, без проверки текущего состояния
    • 50Ошибки и развилки. Развилок: 0, есть раздел про ошибки
    • 60Инструменты и файлы. Используются инструменты (python), но во frontmatter они не объявлены
    • 70Входы и предусловия. Входные данные и предусловия перечислены
    • 100Шаги. Шагов: 23
    • 100Согласованность. Имя и обязательные поля на месте
    • 100Стоимость исполнения. Тело инструкции 2278 токенов

    Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.

    Сигналы качества

    • +5В description нет примеров фраз, по которым скилл должен срабатывать
    • +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
    • +3Формат ответа не описан: модель каждый раз решает сама
    • -42 справочных файлов, но SKILL.md на них не ссылается: модель их не откроет
    • -31 из 1 скриптов не упомянуты в SKILL.md
    • +2Инструкции на одном языке
    • +3Длина description 368 символов: достаточно сигнала, не съедает бюджет
    • +4Структура: 16 заголовков
    • +3Пошаговые инструкции: 23 пунктов
    • +4Есть примеры (8 блоков кода)
    • +1Лицензия указана

    База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 75.