SKILLEMALL.ai
GitHub ↗ EN Войти

CD dsh-ci-test-reliability

Проектируйте, проверяйте и диагностируйте тесты и фикстуры DeepSeek Harness, которые могут сбоить недетерминированно из-за параллелизма CI, общих ресурсов хоста, часов, глобального состояния процессов, подпроцессов, сетевых слушателей или асинхронного завершения. Используйте при добавлении или изменении тестов с такими рисками, при исследовании нестабильных CI или при проверке изоляции тестов; используйте dsh-pre-push-checks отдельно для выбора исходящих команд.

машинный переводПоказать оригиналСкрыть оригинал«Design, review, and diagnose DeepSeek Harness tests and fixtures that…»

Design, review, and diagnose DeepSeek Harness tests and fixtures that can fail nondeterministically under CI concurrency, shared host resources, clocks, process-global state, subprocesses, network listeners, or asynchronous teardown. Use when adding or changing tests with those risks, investigating flaky CI, or reviewing test isolation; use dsh-pre-push-checks separately to select outgoing commands.

Разбор skillemall

Скилл обещает помощь в диагностике нестабильных тестов в CI — ловить проблемы с конкурентностью, состоянием процессов, сетевыми слушателями и асинхронным teardown. В файлах — 2245 токенов анализатора без скриптов. Оценка качества 72, процессов 38; критических находок нет, но broken_references указывает на пропущенные файлы. На моделях не прогонялся, в песочнице не тестировался.

Для проекта с флакующими тестами скилл может помочь структурировать поиск причин, но полноты инструкции недостаточно — есть пробелы в документации. Ставить, если в проекте уже есть опыт работы с такими проблемами и нужна подсказка, где искать; новичку может не хватить деталей.

deepseek-ai/deepseek-harness Agent Skills автор: deepseek-ai MIT 2 файла тело ≈ 2 247 токенов Открыть источникgithub.com↗ проанализирован 5 дн назад

Проектируйте, проверяйте и диагностируйте тесты и фикстуры DeepSeek Harness, которые могут сбоить недетерминированно из-за параллелизма CI, общих ресурсов…

Как процесс D 38/100 · Процесс не доведён — Скилл ссылается на файлы, которых нет в архиве: ../../../docs/testing.md, ../../../docs/defensive-patterns/general.md, ../../../snapshots/AGENTS.md

АнализаторДанные и аналитикатип и темы размечены автоматически по тексту скилла
Запускается в: Claude / Claude Code ChatGPT / Codex Gemini CLI Cursor GitHub Copilot / VS Code Qwen Code Kimi Code CLI Z.ai (GLM) DeepSeek (Deep Code) Mistral Vibe LangChain (deepagents) OpenClaw Goose OpenCode
JSON
Технический рейтинг
C
89/100
безопасность, качество, тесты
Безопасность 60%
100
Качество 40%
72
Прогон на моделях
не было
Процессный рейтинг
D
38/100
Процесс не доведён
Скилл ссылается на файлы, которых нет в архиве: ../../../docs/testing.md, ../../../docs/defensive-patterns/general.md, ../../../snapshots/AGENTS.md
Инструменты и файлы вес 18
0
Результат и критерий готовности вес 14
0
Входы и предусловия вес 11
0
три самых слабых из десяти параметров · все десять

Как улучшить

  1. В тексте есть ссылки на отсутствующие файлы: добавьте файлы или уберите ссылки.
Для прогона на моделях — необязательно
  • Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
  • spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.

Находки guard · 0

✓ Критических и высоких находок нет

Просканировано файлов: 2. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.

По спецификации Agent Skills

  • предупреждение missing-ref ссылка на отсутствующий файл: ../../../docs/testing.md
  • предупреждение missing-ref ссылка на отсутствующий файл: ../../../docs/defensive-patterns/general.md
  • предупреждение missing-ref ссылка на отсутствующий файл: ../../../snapshots/AGENTS.md
  • предупреждение missing-ref ссылка на отсутствующий файл: ../dsh-pre-push-checks/SKILL.md

Процессный рейтинг: все десять параметров 38/100

Не запустится. Скилл ссылается на файлы, которых нет в архиве: ../../../docs/testing.md, ../../../docs/defensive-patterns/general.md, ../../../snapshots/AGENTS.md
  • 0Инструменты и файлы. Не хватает 4 файла(ов): ../../../docs/testing.md, ../../../docs/defensive-patterns/general.md, ../../../snapshots/AGENTS.md
  • 0Результат и критерий готовности. Не сказано, что считать результатом
  • 0Входы и предусловия. Не сказано, что нужно иметь на входе
  • 0Отчётность по ходу. Скилл ничего не сообщает по ходу работы
  • 20Когда включается. Не сказано, при каком запросе скилл включается
  • 30Повторный запуск. Изменяющих операций: 7, без проверки текущего состояния
  • 50Ошибки и развилки. Развилок: 0, есть раздел про ошибки
  • 100Шаги. Шагов: 46
  • 100Согласованность. Имя и обязательные поля на месте
  • 100Стоимость исполнения. Тело инструкции 2247 токенов
  • low Разделов верхнего уровня: 12. Похоже на несколько доменов в одном скилле

Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.

Сигналы качества

  • +5В description нет примеров фраз, по которым скилл должен срабатывать
  • +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
  • +3Формат ответа не описан: модель каждый раз решает сама
  • +4Нет примеров входа/выхода
  • +1Лицензия не указана
  • +2Инструкции на одном языке
  • +3Длина description 402 символов: достаточно сигнала, не съедает бюджет
  • +4Структура: 13 заголовков
  • +3Пошаговые инструкции: 46 пунктов
  • +4Справочные файлы упоминаются в инструкциях (1 из 1)

База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 72.