CA wei-cross-research
Перекрестная проверка исследовательских ответов путем параллельного запроса нескольких LLM с синтезом на основе судейства. Уменьшает галлюцинации и выявляет разногласия моделей по вопросам с высокими ставками. 交叉研究:多模型并行查询与裁判合成,通过交叉验证降低幻觉、暴露分歧,适用于高 stakes 决策.
машинный переводПоказать оригиналСкрыть оригинал«Cross-validate research answers by querying multiple LLMs in parallel…»
Cross-validate research answers by querying multiple LLMs in parallel with judge-based synthesis. Reduces hallucination and surfaces model disagreements for high-stakes questions. 交叉研究:多模型并行查询与裁判合成,通过交叉验证降低幻觉、暴露分歧,适用于高 stakes 决策。
Перекрестная проверка исследовательских ответов путем параллельного запроса нескольких LLM с синтезом на основе судейства.
Как процесс A 88/100 · Дойдёт до конца — слабые места: повторный запуск
Чем это грозит
Скилл содержит фрагменты, которые в чужих руках стоят денег или данных. Ниже, что рискует потерять тот, кто установит, и что должен сделать автор.
В тексте есть фразы вроде «игнорируй предыдущие инструкции» или «теперь ты…». Это попытка перехватить управление агентом: он может нарушить ваши правила, системные ограничения или политику компании.
Такие фразы не нужны честному скиллу: сформулируйте роль и правила прямо, без отмены чужих инструкций. Иначе сканеры каталогов и корпоративные фильтры заблокируют публикацию.
Ниже описан худший случай для этой категории. Здесь находка средней серьёзности: guard увидел признак, но не доказательство.
Инструкции или скрипты отправляют данные наружу: переменные окружения, ключи, содержимое файлов, историю чата. Вы можете не заметить этого в диалоге, потому что агент выполнит отправку как «часть задачи».
Если отправка не нужна для задачи, уберите её: каталоги помечают такие скиллы как подозрительные и снимают с выдачи. Если нужна, назовите адрес явно, объясните, что именно уходит, и дайте пользователю выключатель.
Ниже описан худший случай для этой категории. Здесь находка средней серьёзности: guard увидел признак, но не доказательство.
Скилл содержит команды, которые удаляют файлы, переписывают диски или исполняют код, скачанный из сети. Агент может выполнить их без вопроса, если считает, что так требует инструкция.
Замените разрушительные команды на безопасные аналоги с подтверждением, ограничьте область действия конкретной папкой и не тяните код через curl | bash: укажите версию и контрольную сумму.
Как улучшить
- Разберите находки высокой серьёзности: каждая стоит 18 баллов безопасности. Если это ложное срабатывание, добавьте код правила в guard.allow в spec.yaml.
- Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
- spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.
Находки guard · 11
-
высокая Подмена инструкций
en-ignore-previousscripts/agent.ts:286Фраза-перехват ("ignore previous instructions")/ignore previous instructions/gi,
Средние и низкие: 10
-
средняя Утечка данных
net-redirectable-api-keyscripts/clients/bailian.ts:152Скрипт отправляет API-ключ на хост из переменной окружения — ключ можно перенаправить на другой серверAPI key + configurable base URL from environment
-
средняя Утечка данных
net-redirectable-api-keyscripts/clients/openai_compliant.ts:178Скрипт отправляет API-ключ на хост из переменной окружения — ключ можно перенаправить на другой серверAPI key + configurable base URL from environment
-
средняя Утечка данных
net-redirectable-api-keyscripts/clients/openrouter.ts:132Скрипт отправляет API-ключ на хост из переменной окружения — ключ можно перенаправить на другой серверAPI key + configurable base URL from environment
-
средняя Опасные команды
cmd-pipe-to-shell-known-hostSKILL.md:84Установщик через pipe в shell с известного хоста (всё равно выполняет удалённый код)curl -fsSL https://bun.sh/install | bash
-
низкая Секреты в коде
secret-high-entropy-tokenpackage-lock.json:26Строка, похожая на токен (может быть id, хеш или секрет) (определение детектора / чёрного списка)"integrity": "sha5…7pY+zoMV…h0x/Ptw8…8dg==",
детектор -
низкая Секреты в коде
secret-high-entropy-tokenpackage-lock.json:43Строка, похожая на токен (может быть id, хеш или секрет) (определение детектора / чёрного списка)"integrity": "sha5…b00+Gxjx…zRc/oZwU…hzA==",
детектор -
низкая Секреты в коде
secret-high-entropy-tokenpackage-lock.json:111Строка, похожая на токен (может быть id, хеш или секрет) (определение детектора / чёрного списка)"integrity": "sha512-vHk/hA7/1Ack…wbo+jaSh…Gtl+A5zq…HFg==",
детектор -
низкая Секреты в коде
secret-high-entropy-tokenpackage-lock.json:145Строка, похожая на токен (может быть id, хеш или секрет) (определение детектора / чёрного списка)"integrity": "sha5…Dsc+j03S…0oA==",
детектор -
низкая Секреты в коде
secret-high-entropy-tokenpackage-lock.json:434Строка, похожая на токен (может быть id, хеш или секрет) (определение детектора / чёрного списка)"integrity": "sha5…NS8+tHW7…WOF+PEzk…X4Q==",
детектор -
низкая Подмена инструкций
en-ignore-previousscripts/agent.ts:265Фраза-перехват ("ignore previous instructions") (определение детектора / чёрного списка; комментарий в коде; демонстрация атаки / пример)* SECURITY NOTE: The patterns below (e.g., "ignore previous instructions") are
детекторкомментарийдемонстрация
Просканировано файлов: 20. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.
По спецификации Agent Skills
- заметка
frontmatter-keyнеизвестное поле фронтматтера "execution" - заметка
frontmatter-keyнеизвестное поле фронтматтера "env"
Процессный рейтинг: все десять параметров 88/100
- 30Повторный запуск. Изменяющих операций: 2, без проверки текущего состояния
- 60Результат и критерий готовности. Формат результата описан, критерия завершения нет
- 70Входы и предусловия. Входные данные и предусловия перечислены
- 100Инструменты и файлы. Внешние инструменты не нужны
- 100Шаги. Шагов: 57
- 100Когда включается. Сказано, когда применять и когда не применять
- 100Ошибки и развилки. Развилок: 4, есть раздел про ошибки
- 100Согласованность. Имя и обязательные поля на месте
- 100Стоимость исполнения. Тело инструкции 3798 токенов
- 100Отчётность по ходу. Скилл сообщает о ходе работы
- medium Правила безопасности и запреты внутри скилла: их место в системном промпте, здесь они не защищают
- low Разделов верхнего уровня: 15. Похоже на несколько доменов в одном скилле
Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.
Сигналы качества
- +5В description нет примеров фраз, по которым скилл должен срабатывать
- -31 из 2 скриптов не упомянуты в SKILL.md
- +1Лицензия не указана
- +2Инструкции на одном языке
- +4Описание говорит, когда скилл НЕ применять
- +3Длина description 229 символов: достаточно сигнала, не съедает бюджет
- +4Структура: 38 заголовков
- +3Пошаговые инструкции: 57 пунктов
- +3Формат ответа описан явно
- +4Есть примеры (15 блоков кода)
База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 86.