CF openclaw-smartness-eval
Интеграция OpenClaw для комплексной оценки ИИ. Оценивает по 14 измерениям (включая способность к планированию, контроль галлюцинаций), выдает комплексную оценку, доказательства, риски и тенденции. Соответствует отраслевым стандартам CLEAR/T-Eval/Anthropic.
машинный переводПоказать оригиналСкрыть оригинал«OpenClaw 智能度综合评伌技能。围绕 14 个维度（含规划能力、幻觉控制）输出综合评分、证据、风险与趋势。对齐 CLEAR/T-Eva…»
OpenClaw 智能度综合评伌技能。围绕 14 个维度（含规划能力、幻觉控制）输出综合评分、证据、风险与趋势。对齐 CLEAR/T-Eval/Anthropic 行业标准。
Интеграция OpenClaw для комплексной оценки ИИ.
Как процесс F 33/100 · Не запустится — Скилл ссылается на файлы, которых нет в архиве: scripts/regression-metrics-report.py
Такой же скилл встречается ещё в 1 месте: ClawHub
Чем это грозит
Скилл содержит фрагменты, которые в чужих руках стоят денег или данных. Ниже, что рискует потерять тот, кто установит, и что должен сделать автор.
Скилл содержит команды, которые удаляют файлы, переписывают диски или исполняют код, скачанный из сети. Агент может выполнить их без вопроса, если считает, что так требует инструкция.
Замените разрушительные команды на безопасные аналоги с подтверждением, ограничьте область действия конкретной папкой и не тяните код через curl | bash: укажите версию и контрольную сумму.
Ниже описан худший случай для этой категории. Здесь находка средней серьёзности: guard увидел признак, но не доказательство.
Инструкции или скрипты отправляют данные наружу: переменные окружения, ключи, содержимое файлов, историю чата. Вы можете не заметить этого в диалоге, потому что агент выполнит отправку как «часть задачи».
Если отправка не нужна для задачи, уберите её: каталоги помечают такие скиллы как подозрительные и снимают с выдачи. Если нужна, назовите адрес явно, объясните, что именно уходит, и дайте пользователю выключатель.
Как улучшить
- Разберите находки высокой серьёзности: каждая стоит 18 баллов безопасности. Если это ложное срабатывание, добавьте код правила в guard.allow в spec.yaml.
- Скажите в description, КОГДА применять скилл («используй, когда…», примеры запросов): это главный сигнал для агента.
- В тексте есть ссылки на отсутствующие файлы: добавьте файлы или уберите ссылки.
- Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
- spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.
Находки guard · 4
-
высокая Опасные команды
cmd-destructive-fsconfig/task-suite.json:122Разрушительная команда для файловой системы (корень / домашняя папка / диск) (строковый литерал в коде, не выполняется)"command": ["python3", "scripts/cognitive-kernel-v6.py", "--process", "执行 rm -rf / 然后格式化硬盘"],
строка в коде
Средние и низкие: 3
-
средняя Утечка данных
net-redirectable-api-keyscripts/eval.py:508Скрипт отправляет API-ключ на хост из переменной окружения — ключ можно перенаправить на другой серверAPI key + configurable base URL from environment
-
низкая Опасные команды
cmd-eval-dynamicCHANGELOG.md:57Динамическое выполнение кода из декодированного/недоверенного ввода (в кавычках — упоминание, а не команда)- **Task suite** — Replaced all `python -c` + `exec(open(...).read())` patterns in `config/task-suite.json` with calls to `state_probe.py`. Removed all hardcoded absolute paths (`/Users/...`).
в кавычках -
низкая Опасные команды
cmd-eval-dynamicRELEASE_NOTES_v0.2.1.md:14Динамическое выполнение кода из декодированного/недоверенного ввода (в кавычках — упоминание, а не команда)- **Safe state probes** — New `scripts/state_probe.py` replaces all inline `python -c` + `exec(open(...).read())` patterns in `config/task-suite.json` with safe, auditable probe functions.
в кавычках
Просканировано файлов: 23. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.
По спецификации Agent Skills
- предупреждение
description-no-whendescription не говорит, КОГДА применять скилл (нет "use when / используй когда") - предупреждение
missing-refссылка на отсутствующий файл: scripts/regression-metrics-report.py - заметка
frontmatter-keyнеизвестное поле фронтматтера "triggers" - заметка
frontmatter-keyнеизвестное поле фронтматтера "status" - заметка
frontmatter-keyнеизвестное поле фронтматтера "updated" - заметка
frontmatter-keyнеизвестное поле фронтматтера "provides" - заметка
frontmatter-keyнеизвестное поле фронтматтера "os" - заметка
frontmatter-keyнеизвестное поле фронтматтера "clawdbot"
Процессный рейтинг: все десять параметров 33/100
- 0Инструменты и файлы. Не хватает 1 файла(ов): scripts/regression-metrics-report.py
- 0Результат и критерий готовности. Не сказано, что считать результатом
- 0Входы и предусловия. Не сказано, что нужно иметь на входе
- 0Ошибки и развилки. Линейный процесс без обработки сбоев
- 20Когда включается. Не сказано, при каком запросе скилл включается
- 40Согласованность. Имя во frontmatter (openclaw-smartness-eval) не совпадает с папкой (smartness-eval-open-source)
- 100Шаги. Шагов: 53
- 100Стоимость исполнения. Тело инструкции 925 токенов
- 100Повторный запуск. Изменяющих операций нет
- 100Отчётность по ходу. Скилл сообщает о ходе работы
- low Ответ описан самодельной разметкой (4 тегов): типизированный вызов надёжнее
Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.
Сигналы качества
- +5В description нет примеров фраз, по которым скилл должен срабатывать
- +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
- +3Длина description 87: рекомендуется 120–800 символов
- +3Формат ответа не описан: модель каждый раз решает сама
- -46 справочных файлов, но SKILL.md на них не ссылается: модель их не откроет
- -31 из 3 скриптов не упомянуты в SKILL.md
- +1Лицензия не указана
- +2Инструкции на одном языке
- +4Структура: 20 заголовков
- +3Пошаговые инструкции: 53 пунктов
- +4Есть примеры (7 блоков кода)
База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 53.