SKILLEMALL.ai
GitHub ↗ EN Войти

CC frontierharness-eval

Сравните сторонний фреймворк для кодинг-агентов с FrontierHarness Eval, используя среды выполнения Runta. Предоставляет чистую среду выполнения, привязанную к оцениваемому репозиторию GitHub, устанавливает стеки Harbor и Pier, необходимые для задач Terminal-Bench и DeepSWE, создает эталонную контрольную точку, запускает задачи из идентичных свежих копий, сохраняя траектории в качестве доказательств, генерирует сравнительную диаграмму и создает отчет для совместного использования. Используйте для оценки, тестирования, ранжирования или сравнения фреймворков для кодинг-агентов, или когда пользователь упоминает FrontierHarness, DeepSWE, Terminal-Bench, Harbor, Pier, эталонные контрольные точки или траектории фреймворка.

машинный переводПоказать оригиналСкрыть оригинал«Benchmark a third-party coding-agent harness against FrontierHarness E…»

Benchmark a third-party coding-agent harness against FrontierHarness Eval using Runta runtimes. Provisions a clean runtime bound to the GitHub repo under evaluation, installs the Harbor and Pier stacks needed for Terminal-Bench and DeepSWE tasks, freezes a golden checkpoint, runs tasks from identical fresh restores while saving trajectories as evidence, generates a comparison diagram, and builds a shareable report. Use when evaluating, benchmarking, scoring, or comparing a coding agent harness, or when the user mentions FrontierHarness, DeepSWE, Terminal-Bench, Harbor, Pier, golden checkpoints, or harness trajectories.

frontier-harness-eval/eval Agent Skills автор: frontier-harness-eval 22 файла · 16 скриптов тело ≈ 7 838 токенов Открыть источникgithub.com↗ проанализирован 48 мин назад

Сравните сторонний фреймворк для кодинг-агентов с FrontierHarness Eval, используя среды выполнения Runta.

Как процесс C 61/100 · Есть пробелы — Скилл ссылается на файлы, которых нет в архиве: scripts/generate-hero.mjs

ПроцедураGitHubДанные и аналитикатип и темы размечены автоматически по тексту скилла
Запускается в: Claude / Claude Code ChatGPT / Codex Gemini CLI Cursor GitHub Copilot / VS Code Qwen Code Kimi Code CLI Z.ai (GLM) DeepSeek (Deep Code) Mistral Vibe LangChain (deepagents) OpenClaw Goose OpenCode
JSON
Технический рейтинг
C
80/100
безопасность, качество, тесты
Безопасность 60%
90
Качество 40%
65
Прогон на моделях
не было
Процессный рейтинг
C
61/100
Есть пробелы
Скилл ссылается на файлы, которых нет в архиве: scripts/generate-hero.mjs
Инструменты и файлы вес 18
0
Результат и критерий готовности вес 14
0
Входы и предусловия вес 11
70
три самых слабых из десяти параметров · все десять

Чем это грозит

Находки средней серьёзности: скорее всего скилл честный, но прочитайте, что именно насторожило сканер.

Опасные команды средняя серьёзность

Ниже описан худший случай для этой категории. Здесь находка средней серьёзности: guard увидел признак, но не доказательство.

Если установить

Скилл содержит команды, которые удаляют файлы, переписывают диски или исполняют код, скачанный из сети. Агент может выполнить их без вопроса, если считает, что так требует инструкция.

Автору

Замените разрушительные команды на безопасные аналоги с подтверждением, ограничьте область действия конкретной папкой и не тяните код через curl | bash: укажите версию и контрольную сумму.

Как улучшить

  1. Тело SKILL.md длиннее 5 000 токенов: вынесите справочные детали в references/ и подключайте по необходимости.
  2. В тексте есть ссылки на отсутствующие файлы: добавьте файлы или уберите ссылки.
Для прогона на моделях — необязательно
  • Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
  • spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.

Находки guard · 6

✓ Критических и высоких находок нет

Средние и низкие: 6
  • средняя Опасные команды cmd-pipe-to-shell-known-host scripts/provision-golden-checkpoint.sh:198
    Установщик через pipe в shell с известного хоста (всё равно выполняет удалённый код)
    command -v uv >/dev/null || curl -LsSf https://astral.sh/uv/install.sh | sh
  • низкая Опасные команды cmd-background-process reference.md:350
    Запуск фонового / автозапускаемого процесса (в кавычках — упоминание, а не команда)
    `setsid`, and a lock, with a remote timeout and atomic completion record. Repeating
    в кавычках
  • низкая Опасные команды cmd-background-process scripts/run-trials-shared-runtime.sh:399
    Запуск фонового / автозапускаемого процесса (строковый литерал в коде, не выполняется)
    "rm -rf $jobs_dir $state_dir; mkdir -p $jobs_dir $state_dir; command -v flock && command -v setsid && command -v timeout" >>"$trial_dir/transport.log" 2>&1 \
    строка в коде
  • низкая Опасные команды cmd-background-process scripts/run-trials-shared-runtime.sh:418
    Запуск фонового / автозапускаемого процесса
    nohup setsid bash $state_dir/worker.sh $state_dir $TIMEOUT $(shell_quote "$command") </dev/null >>$state_dir/worker.log 2>&1 &
  • низкая Опасные команды cmd-background-process scripts/run-trials.sh:336
    Запуск фонового / автозапускаемого процесса (строковый литерал в коде, не выполняется)
    "mkdir -p $jobs_dir $state_dir; command -v flock && command -v setsid && command -v timeout" >>"$trial_dir/transport.log" 2>&1 \
    строка в коде
  • низкая Опасные команды cmd-background-process scripts/run-trials.sh:356
    Запуск фонового / автозапускаемого процесса
    nohup setsid bash $state_dir/worker.sh $state_dir $TIMEOUT $(shell_quote "$command") </dev/null >>$state_dir/worker.log 2>&1 &

Просканировано файлов: 22. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.

По спецификации Agent Skills

  • предупреждение body-long тело SKILL.md ≈ 7838 токенов (рекомендуется < 5000); вынесите детали в references/
  • предупреждение missing-ref ссылка на отсутствующий файл: scripts/generate-hero.mjs

Процессный рейтинг: все десять параметров 61/100

Не запустится. Скилл ссылается на файлы, которых нет в архиве: scripts/generate-hero.mjs
  • 0Инструменты и файлы. Не хватает 1 файла(ов): scripts/generate-hero.mjs
  • 0Результат и критерий готовности. Не сказано, что считать результатом
  • 70Входы и предусловия. Входные данные и предусловия перечислены
  • 70Стоимость исполнения. Тело инструкции 7838 токенов
  • 85Шаги. Шагов: 28, расплывчатых формулировок: 2
  • 100Когда включается. Сказано, когда применять и когда не применять
  • 100Ошибки и развилки. Развилок: 1, есть раздел про ошибки
  • 100Согласованность. Имя и обязательные поля на месте
  • 100Повторный запуск. Изменяющие операции проверяют текущее состояние
  • 100Отчётность по ходу. Скилл сообщает о ходе работы
  • medium Правила безопасности и запреты внутри скилла: их место в системном промпте, здесь они не защищают
  • low Ответ описан самодельной разметкой (9 тегов): типизированный вызов надёжнее

Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.

Сигналы качества

  • +5В description нет примеров фраз, по которым скилл должен срабатывать
  • +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
  • +3Формат ответа не описан: модель каждый раз решает сама
  • -38 из 16 скриптов не упомянуты в SKILL.md
  • +1Лицензия не указана
  • +2Инструкции на одном языке
  • +3Длина description 626 символов: достаточно сигнала, не съедает бюджет
  • +4Структура: 20 заголовков
  • +3Пошаговые инструкции: 28 пунктов
  • +4Есть примеры (13 блоков кода)

База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 65.