DC openclaw-bastion
Защита от внедрения подсказок во время выполнения для рабочих областей агентов. В то время как другие инструменты следят за файлами идентификации рабочей области, Bastion защищает границу ввода/вывода — файлы, которые читает агент, веб-контент,...
машинный переводПоказать оригиналСкрыть оригинал«Runtime prompt injection defense for agent workspaces. While other too…»
Runtime prompt injection defense for agent workspaces. While other tools watch workspace identity files, Bastion protects the input/output boundary — the files being read by the agent, web content,...
Защита от внедрения подсказок во время выполнения для рабочих областей агентов.
Как процесс C 51/100 · Есть пробелы — слабые места: результат и критерий готовности, когда включается, входы и предусловия
Чем это грозит
Скилл содержит фрагменты, которые в чужих руках стоят денег или данных. Ниже, что рискует потерять тот, кто установит, и что должен сделать автор.
Скилл содержит команды, которые удаляют файлы, переписывают диски или исполняют код, скачанный из сети. Агент может выполнить их без вопроса, если считает, что так требует инструкция.
Замените разрушительные команды на безопасные аналоги с подтверждением, ограничьте область действия конкретной папкой и не тяните код через curl | bash: укажите версию и контрольную сумму.
Ниже описан худший случай для этой категории. Здесь находка средней серьёзности: guard увидел признак, но не доказательство.
В тексте есть фразы вроде «игнорируй предыдущие инструкции» или «теперь ты…». Это попытка перехватить управление агентом: он может нарушить ваши правила, системные ограничения или политику компании.
Такие фразы не нужны честному скиллу: сформулируйте роль и правила прямо, без отмены чужих инструкций. Иначе сканеры каталогов и корпоративные фильтры заблокируют публикацию.
Ниже описан худший случай для этой категории. Здесь находка средней серьёзности: guard увидел признак, но не доказательство.
Скилл просит агента что-то скрывать от вас: не показывать ошибки, не упоминать действия, отвечать иначе, чем было сделано. Вы теряете возможность контролировать, что агент реально сделал.
Прозрачность важнее гладкого ответа. Если хочется спрятать технический шум, попросите агента «кратко сообщить», а не «не сообщать».
Как улучшить
- Разберите находки высокой серьёзности: каждая стоит 18 баллов безопасности. Если это ложное срабатывание, добавьте код правила в guard.allow в spec.yaml.
- Скажите в description, КОГДА применять скилл («используй, когда…», примеры запросов): это главный сигнал для агента.
- Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
- spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.
Находки guard · 13
-
высокая Опасные команды
cmd-destructive-fsscripts/bastion.py:225Разрушительная команда для файловой системы (корень / домашняя папка / диск) (строковый литерал в коде, не выполняется)":(){ :|:& };:",строка в коде
Средние и низкие: 12
-
средняя Подмена инструкций
en-ignore-previousscripts/bastion.py:94Фраза-перехват ("ignore previous instructions") (определение детектора / чёрного списка)(r"(?i)ignore\s+(all\s+)?previous\s+instructions", "ignore previous instructions"),
детектор -
средняя Сокрытие от пользователя
en-hide-from-userscripts/bastion.py:120Инструкция скрыть действия от пользователя (определение детектора / чёрного списка)(r"(?i)do\s+not\s+(tell|inform|alert|warn)\s+(the\s+)?user", "stealth: do not tell the user"),
детектор -
средняя Сокрытие от пользователя
en-hide-from-userscripts/bastion.py:121Инструкция скрыть действия от пользователя (определение детектора / чёрного списка)(r"(?i)hide\s+this\s+(from|in)\s+(the\s+)?(user|output|response)", "stealth: hide this from user"),
детектор -
средняя Опасные команды
cmd-destructive-fsscripts/bastion.py:191Разрушительная команда для файловой системы (корень / домашняя папка / диск) (определение детектора / чёрного списка; строковый литерал в коде, не выполняется)(r"(?i)rm\s+-rf\s+/(?:\s|$)", "rm -rf / (destructive)"),
детекторстрока в коде -
средняя Опасные команды
cmd-destructive-fs-scopedscripts/bastion.py:227Разрушительная команда для раздела / текущей папки (в админских документах это норма; проверьте цель) (строковый литерал в коде, не выполняется)"dd if=/dev/zero of=/dev/*",
строка в коде -
средняя Опасные команды
cmd-destructive-fs-scopedscripts/bastion.py:228Разрушительная команда для раздела / текущей папки (в админских документах это норма; проверьте цель) (строковый литерал в коде, не выполняется)"dd if=/dev/random of=/dev/*",
строка в коде -
низкая Опасные команды
cmd-privilegescripts/bastion.py:230Повышение привилегий / права на запись для всех (строковый литерал в коде, не выполняется)"chmod 777 /",
строка в коде
Ещё 5 совпадений отнесены к цитатам в документации скилла по безопасности и не считаются находками.
Просканировано файлов: 3. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.
По спецификации Agent Skills
- предупреждение
description-no-whendescription не говорит, КОГДА применять скилл (нет "use when / используй когда")
Процессный рейтинг: все десять параметров 51/100
- 0Результат и критерий готовности. Не сказано, что считать результатом
- 0Входы и предусловия. Не сказано, что нужно иметь на входе
- 20Когда включается. Не сказано, при каком запросе скилл включается
- 30Повторный запуск. Изменяющих операций: 1, без проверки текущего состояния
- 55Ошибки и развилки. Развилок: 1
- 60Инструменты и файлы. Используются инструменты (bash, web, python), но во frontmatter они не объявлены
- 100Шаги. Шагов: 9
- 100Согласованность. Имя и обязательные поля на месте
- 100Стоимость исполнения. Тело инструкции 1146 токенов
- 100Отчётность по ходу. Скилл сообщает о ходе работы
- low Ответ описан самодельной разметкой (4 тегов): типизированный вызов надёжнее
Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.
Сигналы качества
- +5В description нет примеров фраз, по которым скилл должен срабатывать
- +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
- +3Формат ответа не описан: модель каждый раз решает сама
- +1Лицензия не указана
- +2Инструкции на одном языке
- +3Длина description 200 символов: достаточно сигнала, не съедает бюджет
- +4Структура: 14 заголовков
- +3Пошаговые инструкции: 9 пунктов
- +4Есть примеры (6 блоков кода)
- +3Все 1 скриптов описаны в инструкциях
База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 75.