SKILLEMALL.ai

AC model-validation

Разработайте или проверьте клиническое исследование для инженерной модели медицинской визуализации (сегментация, классификация или обнаружение) перед написанием отчета об оценке или рукописи. Охватывает дизъюнктивность разделения на уровне пациентов и таксономию утечек данных, тюнинг на тестовых данных, внутреннюю и истинную внешнюю валидацию, дизайн компаратора, дисперсию одного запуска против нескольких семян, выбор метрик, корректных для задачи, размер тестового набора и соответствие отчетности CLAIM 2024 / TRIPOD+AI / STARD-AI. Предоставляет детерминированный гейт утечек разделения, который доказывает дизъюнктивность пациентов с помощью арифметики множеств на выданной таблице назначения разделений. Не создает и не обучает модели — интегрируется с MONAI / nnU-Net, не заменяет их.

машинный переводПоказать оригиналСкрыть оригинал«Design or audit the clinical-validation study for an engineer-built me…»

Design or audit the clinical-validation study for an engineer-built medical-imaging model (segmentation, classification, or detection) before the validation report or manuscript is written. Covers patient-level split disjointness and the data-leakage taxonomy, tuning-on-test, internal versus genuine external validation, comparator design, single-run versus multi-seed variance, task-correct metric selection, test-set sizing, and CLAIM 2024 / TRIPOD+AI / STARD-AI reporting fit. Ships a deterministic split-leakage gate that proves patient disjointness by set arithmetic on the emitted split-assignment table. Does not build or train models — it integrates with MONAI / nnU-Net, it does not replace them.

Aperivue/medsci-skills Agent Skills автор: Aperivue MIT 15 файлов · 3 скрипта тело ≈ 2 542 токенов Открыть источникgithub.com проанализирован 27 ч назад

Разработайте или проверьте клиническое исследование для инженерной модели медицинской визуализации (сегментация, классификация или обнаружение) перед…

Как процесс C 54/100 · Есть пробелы — слабые места: результат и критерий готовности, входы и предусловия, ошибки и развилки

АнализаторДанные и аналитикатип и темы размечены автоматически по тексту скилла
JSON
Технический рейтинг
A
96/100
безопасность, качество, тесты
Безопасность 60%
100
Качество 40%
89
Прогон на моделях
не было
Процессный рейтинг
C
54/100
Есть пробелы
Результат и критерий готовности вес 14
0
Входы и предусловия вес 11
0
Ошибки и развилки вес 10
0
три самых слабых из десяти параметров · все десять

Как улучшить

    Для прогона на моделях — необязательно
    • Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
    • spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.

    Находки guard · 0

    ✓ Критических и высоких находок нет

    Просканировано файлов: 11. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.

    По спецификации Agent Skills

    • заметка frontmatter-key неизвестное поле фронтматтера "triggers"
    • заметка frontmatter-key неизвестное поле фронтматтера "tools"

    Процессный рейтинг: все десять параметров 54/100

    • 0Результат и критерий готовности. Не сказано, что считать результатом
    • 0Входы и предусловия. Не сказано, что нужно иметь на входе
    • 0Ошибки и развилки. Линейный процесс без обработки сбоев
    • 0Отчётность по ходу. Скилл ничего не сообщает по ходу работы
    • 30Повторный запуск. Изменяющих операций: 7, без проверки текущего состояния
    • 50Когда включается. Не сказано, при каком запросе скилл включается
    • 100Инструменты и файлы. Инструменты объявлены во frontmatter
    • 100Шаги. Шагов: 13
    • 100Согласованность. Имя и обязательные поля на месте
    • 100Стоимость исполнения. Тело инструкции 2542 токенов
    • medium Правила безопасности и запреты внутри скилла: их место в системном промпте, здесь они не защищают

    Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.

    Сигналы качества

    • +5В description нет примеров фраз, по которым скилл должен срабатывать
    • +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
    • +3Формат ответа не описан: модель каждый раз решает сама
    • +1Лицензия не указана
    • +2Инструкции на одном языке
    • +3Длина description 706 символов: достаточно сигнала, не съедает бюджет
    • +4Структура: 17 заголовков
    • +3Пошаговые инструкции: 13 пунктов
    • +4Есть примеры (2 блоков кода)
    • +4Справочные файлы упоминаются в инструкциях (1 из 1)
    • +3Все 1 скриптов описаны в инструкциях

    База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 89.