CD ClawTrial Courtroom
AI-суд для мониторинга поведения агентов и подачи исков о нарушениях.
машинный переводПоказать оригиналСкрыть оригинал«AI Courtroom for monitoring agent behavior and filing cases for violat…»
AI Courtroom for monitoring agent behavior and filing cases for violations.
AI-суд для мониторинга поведения агентов и подачи исков о нарушениях.
Как процесс D 46/100 · Процесс не доведён — слабые места: результат и критерий готовности, когда включается, входы и предусловия
Чем это грозит
Находки средней серьёзности: скорее всего скилл честный, но прочитайте, что именно насторожило сканер.
Ниже описан худший случай для этой категории. Здесь находка средней серьёзности: guard увидел признак, но не доказательство.
В тексте есть фразы вроде «игнорируй предыдущие инструкции» или «теперь ты…». Это попытка перехватить управление агентом: он может нарушить ваши правила, системные ограничения или политику компании.
Такие фразы не нужны честному скиллу: сформулируйте роль и правила прямо, без отмены чужих инструкций. Иначе сканеры каталогов и корпоративные фильтры заблокируют публикацию.
Как улучшить
- Скажите в description, КОГДА применять скилл («используй, когда…», примеры запросов): это главный сигнал для агента.
- Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
- spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.
Находки guard · 10
✓ Критических и высоких находок нет
Средние и низкие: 10
-
средняя Подмена инструкций
en-ignore-previousscripts/setup-cron.js:26Фраза-перехват ("ignore previous instructions") (в кавычках — упоминание, а не команда)- **Jailbreak Attempts**: User trying to bypass safety guidelines
в кавычках -
средняя Подмена инструкций
en-ignore-previousscripts/trigger-evaluation.js:43Фраза-перехват ("ignore previous instructions") (в кавычках — упоминание, а не команда)4. **Jailbreak Attempts**: User trying to bypass safety guidelines
в кавычках -
средняя Подмена инструкций
en-ignore-previoussrc/evaluator.js:199Фраза-перехват ("ignore previous instructions") (в кавычках — упоминание, а не команда)- **Jailbreak Attempts**: User trying to bypass safety guidelines
в кавычках -
низкая Секреты в коде
secret-high-entropy-tokenpackage-lock.json:289Строка, похожая на токен (может быть id, хеш или секрет) (в кавычках — упоминание, а не команда)"integrity": "sha5…ywo+qwL+oL8H…C1U+vRfLQDvw==",
в кавычках -
низкая Секреты в коде
secret-high-entropy-tokenpackage-lock.json:305Строка, похожая на токен (может быть id, хеш или секрет) (определение детектора / чёрного списка)"integrity": "sha512-Yqfm+XDx0+Prh3…1yC+JWZ2…IL7+vK+Clp7…D7g==",
детектор -
низкая Секреты в коде
secret-high-entropy-tokenpackage-lock.json:318Строка, похожая на токен (может быть id, хеш или секрет) (определение детектора / чёрного списка)"integrity": "sha5…xZl+RoGR…fbT/ZgrF…0EA==",
детектор -
низкая Секреты в коде
secret-high-entropy-tokenpackage-lock.json:331Строка, похожая на токен (может быть id, хеш или секрет) (определение детектора / чёрного списка)"integrity": "sha5…3bJ+V0If…IXN+CL65…a4w==",
детектор -
низкая Секреты в коде
secret-high-entropy-tokenpackage-lock.json:347Строка, похожая на токен (может быть id, хеш или секрет) (в кавычках — упоминание, а не команда)"integrity": "sha5…H47+FFon…OsV/4+RRsz…0ig==",
в кавычках -
низкая Опасные команды
cmd-cron-mentionscripts/clawtrial.js:619Упоминание редактирования crontab (в кавычках — упоминание, а не команда)const currentCrontab = execSync('crontab -l 2>/dev/null || echo ""', { encoding: 'utf8' });в кавычках -
низкая Опасные команды
cmd-cron-mentionscripts/setup-cron.js:108Упоминание редактирования crontab (строковый литерал в коде, не выполняется)console.log('Add this to your crontab (crontab -e):\n');строка в коде
Просканировано файлов: 44. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.
По спецификации Agent Skills
- предупреждение
name-formatname должен быть в kebab-case (строчные буквы, цифры, дефисы) - предупреждение
description-no-whendescription не говорит, КОГДА применять скилл (нет "use when / используй когда")
Процессный рейтинг: все десять параметров 46/100
- 0Результат и критерий готовности. Не сказано, что считать результатом
- 0Входы и предусловия. Не сказано, что нужно иметь на входе
- 0Ошибки и развилки. Линейный процесс без обработки сбоев
- 0Отчётность по ходу. Скилл ничего не сообщает по ходу работы
- 20Когда включается. Не сказано, при каком запросе скилл включается
- 30Повторный запуск. Изменяющих операций: 1, без проверки текущего состояния
- 40Согласованность. Имя во frontmatter (ClawTrial Courtroom) не совпадает с папкой (clawtrial)
- 100Инструменты и файлы. Внешние инструменты не нужны
- 100Шаги. Шагов: 19
- 100Стоимость исполнения. Тело инструкции 811 токенов
- medium Правила безопасности и запреты внутри скилла: их место в системном промпте, здесь они не защищают
- low Разделов верхнего уровня: 11. Похоже на несколько доменов в одном скилле
Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.
Сигналы качества
- +5В description нет примеров фраз, по которым скилл должен срабатывать
- +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
- +3Длина description 75: рекомендуется 120–800 символов
- +3Формат ответа не описан: модель каждый раз решает сама
- -37 из 7 скриптов не упомянуты в SKILL.md
- +1Лицензия не указана
- +2Инструкции на одном языке
- +4Структура: 14 заголовков
- +3Пошаговые инструкции: 19 пунктов
- +4Есть примеры (3 блоков кода)
База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 61.