SKILLEMALL.ai

AC uncertainty-imaging

Разработайте или проверьте слой количественной оценки неопределенности, обнаружения выбросов (OOD) и выборочного прогнозирования для модели медицинской визуализации, подготовленной к развертыванию — чтобы клиническое использование сопровождалось калиброванной неопределенностью для каждого случая (MC-dropout / deep ensemble / conformal / Bayesian), защитой от OOD, проверенной на выделенном наборе OOD, правилом отказа при заранее заданном рабочем режиме и проверкой неопределенности при сдвиге распределения. Выдает манифест неопределенности и детерминированный гейт, который помечает заявление о развертывании, построенное на точечных прогнозах, конформных интервалах с неизмеренным покрытием и заявлении OOD без выделенных данных OOD. Интегрирует MAPIE / captum / предварительно обученные OOD-скоринг; он не переписывает их и никогда не запускает модель на реальных данных пациента.

машинный переводПоказать оригиналСкрыть оригинал«Design or audit the uncertainty-quantification, out-of-distribution (O…»

Design or audit the uncertainty-quantification, out-of-distribution (OOD) detection, and selective-prediction layer of a medical-imaging model framed for deployment — so a clinical-use claim carries calibrated per-case uncertainty (MC-dropout / deep ensemble / conformal / Bayesian), an OOD guard validated on a held-out OOD set, an abstention rule at a pre-specified operating point, and uncertainty checked under distribution shift. Emits an uncertainty manifest and a deterministic gate that flags a deployment claim built on point predictions, conformal intervals with unmeasured coverage, and an OOD claim with no held-out OOD data. Integrates MAPIE / captum / pretrained OOD scorers; it does not reimplement them and never runs a model on real patient data.

Aperivue/medsci-skills Agent Skills автор: Aperivue MIT 11 файлов · 3 скрипта тело ≈ 1 718 токенов Открыть источникgithub.com проанализирован 27 ч назад

Разработайте или проверьте слой количественной оценки неопределенности, обнаружения выбросов (OOD) и выборочного прогнозирования для модели медицинской…

Как процесс C 54/100 · Есть пробелы — слабые места: результат и критерий готовности, входы и предусловия, ошибки и развилки

АнализаторИнфраструктуратип и темы размечены автоматически по тексту скилла
JSON
Технический рейтинг
A
96/100
безопасность, качество, тесты
Безопасность 60%
100
Качество 40%
89
Прогон на моделях
не было
Процессный рейтинг
C
54/100
Есть пробелы
Результат и критерий готовности вес 14
0
Входы и предусловия вес 11
0
Ошибки и развилки вес 10
0
три самых слабых из десяти параметров · все десять

Как улучшить

    Для прогона на моделях — необязательно
    • Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
    • spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.

    Находки guard · 0

    ✓ Критических и высоких находок нет

    Просканировано файлов: 10. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.

    По спецификации Agent Skills

    • заметка frontmatter-key неизвестное поле фронтматтера "triggers"
    • заметка frontmatter-key неизвестное поле фронтматтера "tools"

    Процессный рейтинг: все десять параметров 54/100

    • 0Результат и критерий готовности. Не сказано, что считать результатом
    • 0Входы и предусловия. Не сказано, что нужно иметь на входе
    • 0Ошибки и развилки. Линейный процесс без обработки сбоев
    • 0Отчётность по ходу. Скилл ничего не сообщает по ходу работы
    • 30Повторный запуск. Изменяющих операций: 16, без проверки текущего состояния
    • 50Когда включается. Не сказано, при каком запросе скилл включается
    • 100Инструменты и файлы. Инструменты объявлены во frontmatter
    • 100Шаги. Шагов: 29
    • 100Согласованность. Имя и обязательные поля на месте
    • 100Стоимость исполнения. Тело инструкции 1718 токенов
    • medium Правила безопасности и запреты внутри скилла: их место в системном промпте, здесь они не защищают

    Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.

    Сигналы качества

    • +5В description нет примеров фраз, по которым скилл должен срабатывать
    • +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
    • +3Формат ответа не описан: модель каждый раз решает сама
    • +1Лицензия не указана
    • +2Инструкции на одном языке
    • +3Длина description 763 символов: достаточно сигнала, не съедает бюджет
    • +4Структура: 14 заголовков
    • +3Пошаговые инструкции: 29 пунктов
    • +4Есть примеры (2 блоков кода)
    • +4Справочные файлы упоминаются в инструкциях (1 из 1)
    • +3Все 1 скриптов описаны в инструкциях

    База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 89.