SKILLEMALL.ai

BC model-sourcing

Проверка конкретной сторонней модели, на которой будет построено исследование — этот репозиторий, эта ревизия, этот чекпойнт — а не семейства архитектур. Записывает досье модели (источник и фиксация версии, лицензия и файл, из которого она была прочитана, предполагаемое использование, происхождение предварительно обученных весов, задача модели против задачи исследования, сообщенная валидация, на чем модель была разработана, ваши этапы оценки) и детерминированно проверяет его. Выявляет то, что проверка лицензии и подсчет цитирований не могут: этап оценки, основанный на бенчмарке, на котором модель была разработана или настроена, так что этап читается как валидация, будучи ближе к оценке на тренировочном наборе. Также набор для оценки внутри корпуса предварительного обучения, неуказанная или несовместимая с использованием лицензия, не зафиксированная ревизия и заявка на оборудование, которая никогда не выполнялась. Он проверяет артефакт; он никогда не скачивает и не запускает его.

машинный переводПоказать оригиналСкрыть оригинал«Vet the concrete third-party model a study will be built on — this rep…»

Vet the concrete third-party model a study will be built on — this repository, this revision, this checkpoint — not the architecture family. Records a model dossier (source and version pin, licence and the file it was read from, intended use, pretrained-weight provenance, model task vs study task, reported validation, what the model was developed on, your evaluation arms) and gates it deterministically. Catches what a licence check and a citation count cannot: an evaluation arm sitting on the benchmark the model was developed or tuned on, so the arm reads like validation while being closer to a training-set score. Also an evaluation set inside a pretraining corpus, an unstated or use-incompatible licence, an unpinned revision, and a hardware claim never executed. It vets an artifact; it never downloads or runs one.

Aperivue/medsci-skills Agent Skills автор: Aperivue MIT 12 файлов · 3 скрипта тело ≈ 1 965 токенов Открыть источникgithub.com проанализирован 31 ч назад

Проверка конкретной сторонней модели, на которой будет построено исследование — этот репозиторий, эта ревизия, этот чекпойнт — а не семейства архитектур.

Как процесс C 51/100 · Есть пробелы — слабые места: результат и критерий готовности, когда включается, входы и предусловия

ПроцедураGitHubРазработкаИнфраструктураДанные и аналитикатип и темы размечены автоматически по тексту скилла
JSON
Технический рейтинг
B
93/100
безопасность, качество, тесты
Безопасность 60%
100
Качество 40%
82
Прогон на моделях
не было
Процессный рейтинг
C
51/100
Есть пробелы
Результат и критерий готовности вес 14
0
Входы и предусловия вес 11
0
Ошибки и развилки вес 10
0
три самых слабых из десяти параметров · все десять

Как улучшить

    Для прогона на моделях — необязательно
    • Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
    • spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.

    Находки guard · 0

    ✓ Критических и высоких находок нет

    Просканировано файлов: 11. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.

    По спецификации Agent Skills

    • заметка frontmatter-key неизвестное поле фронтматтера "triggers"
    • заметка frontmatter-key неизвестное поле фронтматтера "tools"

    Процессный рейтинг: все десять параметров 51/100

    • 0Результат и критерий готовности. Не сказано, что считать результатом
    • 0Входы и предусловия. Не сказано, что нужно иметь на входе
    • 0Ошибки и развилки. Линейный процесс без обработки сбоев
    • 0Отчётность по ходу. Скилл ничего не сообщает по ходу работы
    • 20Когда включается. Не сказано, при каком запросе скилл включается
    • 30Повторный запуск. Изменяющих операций: 3, без проверки текущего состояния
    • 100Инструменты и файлы. Инструменты объявлены во frontmatter
    • 100Шаги. Шагов: 19
    • 100Согласованность. Имя и обязательные поля на месте
    • 100Стоимость исполнения. Тело инструкции 1965 токенов
    • medium Правила безопасности и запреты внутри скилла: их место в системном промпте, здесь они не защищают

    Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.

    Сигналы качества

    • +5В description нет примеров фраз, по которым скилл должен срабатывать
    • +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
    • +3Длина description 826: рекомендуется 120–800 символов
    • +3Формат ответа не описан: модель каждый раз решает сама
    • +1Лицензия не указана
    • +2Инструкции на одном языке
    • +4Структура: 12 заголовков
    • +3Пошаговые инструкции: 19 пунктов
    • +4Есть примеры (3 блоков кода)
    • +3Все 1 скриптов описаны в инструкциях

    База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 82.