DC v19-agent-rating
Дифференцированная оценка по типам агентов (когнитивно-операционные/поведенческо-исполнительные/связующие-диспетчерские) — каждый тип агента имеет независимый коэффициент веса доверия. Проверено на трех различных типах агентов: Моянь, TestAgent, BridgeAgent.
машинный переводПоказать оригиналСкрыть оригинал«按Agent类型（认知运营型/行为执行型/桥接调度型）差异化评分——每个Agent类型有独立的信任分权重系数。已在墨言、TestAgent、…»
按Agent类型（认知运营型/行为执行型/桥接调度型）差异化评分——每个Agent类型有独立的信任分权重系数。已在墨言、TestAgent、BridgeAgent三个不同类型Agent上验证。
Дифференцированная оценка по типам агентов (когнитивно-операционные/поведенческо-исполнительные/связующие-диспетчерские) — каждый тип агента имеет независимый…
Как процесс C 53/100 · Есть пробелы — слабые места: результат и критерий готовности, когда включается, входы и предусловия
Чем это грозит
Скилл содержит фрагменты, которые в чужих руках стоят денег или данных. Ниже, что рискует потерять тот, кто установит, и что должен сделать автор.
Инструкции или скрипты отправляют данные наружу: переменные окружения, ключи, содержимое файлов, историю чата. Вы можете не заметить этого в диалоге, потому что агент выполнит отправку как «часть задачи».
Если отправка не нужна для задачи, уберите её: каталоги помечают такие скиллы как подозрительные и снимают с выдачи. Если нужна, назовите адрес явно, объясните, что именно уходит, и дайте пользователю выключатель.
Как улучшить
- Разберите находки высокой серьёзности: каждая стоит 18 баллов безопасности. Если это ложное срабатывание, добавьте код правила в guard.allow в spec.yaml.
- Скажите в description, КОГДА применять скилл («используй, когда…», примеры запросов): это главный сигнал для агента.
- Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
- spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.
Находки guard · 3
-
высокая Утечка данных
exfil-webhook-urlSKILL.md:50URL вебхука / коллбэка, типичный для эксфильтрации (проверьте адрес)curl -s https://boat-atlas-spa-flexible.trycloudflare.com/governance/agent-rating \
-
высокая Утечка данных
exfil-webhook-urlSKILL.md:60URL вебхука / коллбэка, типичный для эксфильтрации (проверьте адрес)curl -s https://boat-atlas-spa-flexible.trycloudflare.com/governance/health \
-
высокая Утечка данных
exfil-webhook-urlSKILL.md:67URL вебхука / коллбэка, типичный для эксфильтрации (проверьте адрес)curl -s -X POST https://boat-atlas-spa-flexible.trycloudflare.com/governance/register \
Просканировано файлов: 2. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.
По спецификации Agent Skills
- предупреждение
description-no-whendescription не говорит, КОГДА применять скилл (нет "use when / используй когда")
Процессный рейтинг: все десять параметров 53/100
- 0Результат и критерий готовности. Не сказано, что считать результатом
- 0Входы и предусловия. Не сказано, что нужно иметь на входе
- 0Ошибки и развилки. Линейный процесс без обработки сбоев
- 0Отчётность по ходу. Скилл ничего не сообщает по ходу работы
- 20Когда включается. Не сказано, при каком запросе скилл включается
- 100Инструменты и файлы. Внешние инструменты не нужны
- 100Шаги. Шагов: 6
- 100Согласованность. Имя и обязательные поля на месте
- 100Стоимость исполнения. Тело инструкции 453 токенов
- 100Повторный запуск. Изменяющих операций нет
Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.
Сигналы качества
- +5В description нет примеров фраз, по которым скилл должен срабатывать
- +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
- +3Длина description 96: рекомендуется 120–800 символов
- +3Формат ответа не описан: модель каждый раз решает сама
- +1Лицензия не указана
- +2Инструкции на одном языке
- +4Структура: 9 заголовков
- +3Пошаговые инструкции: 6 пунктов
- +4Есть примеры (4 блоков кода)
База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 69.