SKILLEMALL.ai
GitHub ↗ EN Войти

CD coral-new-task

Сквозной рецепт для добавления новой задачи в `examples/` — три части, которые должны совпадать (`task.yaml`, `seed/` и `grader/`), что поместить в каждую, поверхность API `TaskGrader`, цикл `coral validate` → smoke-test, и распространенные ошибки (неправильный путь `repo_path`, обратное направление оценки, утечка скрытых ключей ответов в `seed/`, запись оценщиком в `codebase_path`, который демон принудительно удаляет, путаница между private/public, отсутствие сигнатуры `run()`). Используйте всякий раз, когда пользователь хочет добавить новую задачу CORAL или портировать существующий бенчмарк в CORAL.

машинный переводПоказать оригиналСкрыть оригинал«End-to-end recipe for adding a new task under `examples/` — the three…»

End-to-end recipe for adding a new task under `examples/` — the three pieces that have to line up (`task.yaml`, `seed/`, and `grader/`), what to put in each, the `TaskGrader` API surface, the `coral validate` → smoke-test loop, and the common mistakes (repo_path pointing at the wrong dir, score direction backwards, hidden answer keys leaking into seed/, grader writing to codebase_path which the daemon force-removes, private-vs-public confusion, missing `run()` signature). Use whenever the user wants to add a new CORAL task or port an existing benchmark into CORAL.

Human-Agent-Society/Coral Agent Skills автор: Human-Agent-Society 1 файл тело ≈ 3 208 токенов Открыть источникgithub.com↗ проанализирован 7 ч назад

Сквозной рецепт для добавления новой задачи в examples/ — три части, которые должны совпадать (task.yaml, seed/ и grader/), что поместить в каждую…

Как процесс D 46/100 · Процесс не доведён — Скилл ссылается на файлы, которых нет в архиве: examples/erdos/, examples/dna_design/, examples/swebench-verified/

ИнтеграцияРазработкаИИ и агентытип и темы размечены автоматически по тексту скилла
Запускается в: Claude / Claude Code ChatGPT / Codex Gemini CLI Cursor GitHub Copilot / VS Code Qwen Code Kimi Code CLI Z.ai (GLM) DeepSeek (Deep Code) Mistral Vibe LangChain (deepagents) OpenClaw Goose OpenCode
JSON
Технический рейтинг
C
89/100
безопасность, качество, тесты
Безопасность 60%
100
Качество 40%
72
Прогон на моделях
не было
Процессный рейтинг
D
46/100
Процесс не доведён
Скилл ссылается на файлы, которых нет в архиве: examples/erdos/, examples/dna_design/, examples/swebench-verified/
Инструменты и файлы вес 18
0
Результат и критерий готовности вес 14
0
Входы и предусловия вес 11
0
три самых слабых из десяти параметров · все десять

Как улучшить

  1. В тексте есть ссылки на отсутствующие файлы: добавьте файлы или уберите ссылки.
Для прогона на моделях — необязательно
  • Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
  • spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.

Находки guard · 0

✓ Критических и высоких находок нет

Просканировано файлов: 1. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.

По спецификации Agent Skills

  • предупреждение missing-ref ссылка на отсутствующий файл: examples/erdos/
  • предупреждение missing-ref ссылка на отсутствующий файл: examples/dna_design/
  • предупреждение missing-ref ссылка на отсутствующий файл: examples/swebench-verified/
  • предупреждение missing-ref ссылка на отсутствующий файл: examples/circle_packing/
  • предупреждение missing-ref ссылка на отсутствующий файл: examples/mnist/
  • предупреждение missing-ref ссылка на отсутствующий файл: examples/erdos/grader/pyproject.toml
  • предупреждение missing-ref ссылка на отсутствующий файл: examples/dna_design/grader/src/dna_design_grader/grader.py
  • предупреждение missing-ref ссылка на отсутствующий файл: examples/dna_design/grader/pyproject.toml
  • предупреждение missing-ref ссылка на отсутствующий файл: examples/ADRS/txn_scheduling/
  • предупреждение missing-ref ссылка на отсутствующий файл: examples/README.md
  • предупреждение missing-ref ссылка на отсутствующий файл: examples/<task>/
  • предупреждение missing-ref ссылка на отсутствующий файл: examples/<task>/seed/

Процессный рейтинг: все десять параметров 46/100

Не запустится. Скилл ссылается на файлы, которых нет в архиве: examples/erdos/, examples/dna_design/, examples/swebench-verified/
  • 0Инструменты и файлы. Не хватает 12 файла(ов): examples/erdos/, examples/dna_design/, examples/swebench-verified/
  • 0Результат и критерий готовности. Не сказано, что считать результатом
  • 0Входы и предусловия. Не сказано, что нужно иметь на входе
  • 0Отчётность по ходу. Скилл ничего не сообщает по ходу работы
  • 30Повторный запуск. Изменяющих операций: 2, без проверки текущего состояния
  • 70Когда включается. Сказано, когда применять, но не сказано, когда не стоит
  • 85Шаги. Шагов: 7, расплывчатых формулировок: 2
  • 100Ошибки и развилки. Развилок: 1, есть раздел про ошибки
  • 100Согласованность. Имя и обязательные поля на месте
  • 100Стоимость исполнения. Тело инструкции 3208 токенов
  • medium Правила безопасности и запреты внутри скилла: их место в системном промпте, здесь они не защищают
  • low Ответ описан самодельной разметкой (10 тегов): типизированный вызов надёжнее

Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.

Сигналы качества

  • +5В description нет примеров фраз, по которым скилл должен срабатывать
  • +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
  • +3Формат ответа не описан: модель каждый раз решает сама
  • +1Лицензия не указана
  • +2Инструкции на одном языке
  • +3Длина description 570 символов: достаточно сигнала, не съедает бюджет
  • +4Структура: 12 заголовков
  • +3Пошаговые инструкции: 7 пунктов
  • +4Есть примеры (9 блоков кода)

База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 72.