BC ai-security-redteam
Практическое руководство по безопасности ИИ и тестированию Red Team — охватывает шесть основных векторов атак на системы ИИ (внедрение подсказок, превышение полномочий и злоупотребление инструментами, утечка данных и конфиденциальности, галлюцинации и дефекты качества, цепочка поставок и отравление моделей, отказ в обслуживании), сопоставление с OWASP LLM Top 10 рисков, полный процесс тестирования Red Team (определение целей/моделирование векторов атак/проектирование вариантов использования/выполнение/отчетность/повторное тестирование исправлений), библиотека вариантов тестирования внедрения подсказок, прямого и косвенного, тестирование превышения полномочий агента и побега из песочницы, тестирование утечки данных обучения и атак на память, эталон для обнаружения галлюцинаций, с классификацией уязвимостей и рекомендациями по исправлению, генерация списка рисков в один клик без зависимостей локальных инструментов, шаблоны вариантов тестирования и отчетов. Предназначен для инженеров ИИ, специалистов по тестированию безопасности, руководителей информационной безопасности, формируя замкнутый цикл «политика + технология» с управлением ИИ/управлением агентами.
машинный переводПоказать оригиналСкрыть оригинал«AI 安全与红队测试实操手册——覆盖 AI 系统六大攻击面（提示注入、越权与工具滥用、数据与隐私泄露、幻觉与质量缺陷、供应链与模型投毒、拒绝…»
AI 安全与红队测试实操手册——覆盖 AI 系统六大攻击面（提示注入、越权与工具滥用、数据与隐私泄露、幻觉与质量缺陷、供应链与模型投毒、拒绝服务），OWASP LLM Top 10 风险映射，完整红队测试流程（目标定义/攻击面建模/用例设计/执行/报告/修复复测），直接与间接提示注入测试用例库、Agent 越权与沙箱逃逸测试、训练数据泄露与记忆攻击测试、幻觉检测基准，附漏洞分级与修复建议、零依赖本地工具一键生成风险清单、测试用例与报告模板。面向 AI 工程、安全测试、信息安全负责人，与 AI 治理/智能体治理形成"制度+技术"闭环。
Практическое руководство по безопасности ИИ и тестированию Red Team — охватывает шесть основных векторов атак на системы ИИ (внедрение подсказок, превышение…
Как процесс C 53/100 · Есть пробелы — слабые места: результат и критерий готовности, когда включается, входы и предусловия
Как улучшить
- Скажите в description, КОГДА применять скилл («используй, когда…», примеры запросов): это главный сигнал для агента.
- Для Hermes description должен быть одним предложением до 60 символов; условия применения вынесите в раздел «When to Use».
- Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
- spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.
Находки guard · 2
✓ Критических и высоких находок нет
Средние и низкие: 2
-
низкая Рискованное назначение
intent-offensive-securitySKILL.md:17Наступательная безопасность / двойное назначение (допустимо для авторизованного тестирования; проверьте назначение)description_en: A hands-on playbook for AI security and red team testing — covering six attack surfaces of AI systems (prompt injection, overreach and tool misuse, data and privacy leakage, hallucinat
-
низкая Рискованное назначение
intent-offensive-securitySKILL.md:27Наступательная безопасность / двойное назначение (допустимо для авторизованного тестирования; проверьте назначение)- Red Teaming
Просканировано файлов: 19. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.
По спецификации Agent Skills
- предупреждение
description-long-hermesdescription 269 символов, а стандарт Hermes требует ≤ 60 (одно предложение, с точкой) - предупреждение
description-no-whenни description, ни раздел "## When to Use" не говорят, когда применять скилл - заметка
frontmatter-keyнеизвестное поле фронтматтера "slug" - заметка
frontmatter-keyнеизвестное поле фронтматтера "display_name" - заметка
frontmatter-keyнеизвестное поле фронтматтера "displayName" - заметка
frontmatter-keyнеизвестное поле фронтматтера "title" - заметка
frontmatter-keyнеизвестное поле фронтматтера "description_en"
Процессный рейтинг: все десять параметров 53/100
- 0Результат и критерий готовности. Не сказано, что считать результатом
- 0Входы и предусловия. Не сказано, что нужно иметь на входе
- 0Ошибки и развилки. Линейный процесс без обработки сбоев
- 0Отчётность по ходу. Скилл ничего не сообщает по ходу работы
- 20Когда включается. Не сказано, при каком запросе скилл включается
- 100Инструменты и файлы. Внешние инструменты не нужны
- 100Шаги. Шагов: 16
- 100Согласованность. Имя и обязательные поля на месте
- 100Стоимость исполнения. Тело инструкции 603 токенов
- 100Повторный запуск. Изменяющих операций нет
Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.
Сигналы качества
- +5В description нет примеров фраз, по которым скилл должен срабатывать
- +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
- +3Формат ответа не описан: модель каждый раз решает сама
- +2Инструкции на одном языке
- +3Длина description 269 символов: достаточно сигнала, не съедает бюджет
- +4Структура: 10 заголовков
- +3Пошаговые инструкции: 16 пунктов
- +4Есть примеры (1 блоков кода)
- +4Справочные файлы упоминаются в инструкциях (9 из 9)
- +1Лицензия указана
База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 68.