SKILLEMALL.ai

BB text-classification

Разрабатывает и проверяет классификацию текстов на основе LLM для исследовательских данных — создание кодовой книги, выбор режима обучения, выбор модели и воспроизводимость, построение промптов, пилотная проверка по сравнению с кодированием человеком со статистикой согласия (каппа, F1), гибридные рабочие процессы человека и LLM, а также отчетность по данным, закодированным моделью. Также включает возобновляемый пакетный конвейер с базовой линией на основе правил для кодирования больших наборов повторяющихся текстовых значений в свободной форме по закрытой кодовой книге — текст должностей, учреждений и реестров, а также ответы на открытые вопросы в опросах — с замороженным набором входных данных, инкрементным выводом, остаточными корзинами, стратифицированной ручной проверкой, сравнением с использованием регулярных выражений или словаря и опубликованной таблицей поиска. Используйте, когда пользователь просит классифицировать, кодировать или маркировать текст в масштабе. Поиск категорий вместо их применения обрабатывается через topic-modeling.

машинный переводПоказать оригиналСкрыть оригинал«Designs and validates LLM-based text classification for research data…»

Designs and validates LLM-based text classification for research data — codebook construction, choice of learning regime, model selection and reproducibility, prompt construction, pilot validation against human coding with agreement statistics (kappa, F1), hybrid human-LLM workflows, and reporting model-coded data. Also carries a resumable batch pipeline with a rule-based baseline for coding large sets of repeated free-text values against a closed codebook — occupation, institution, and registry text, and open-text survey responses — with a frozen input set, incremental output, residual buckets, stratified hand validation, a regex or dictionary comparison, and a published lookup table. Use when the user asks to classify, code, or label text at scale. Discovering categories rather than applying them goes to topic-modeling.

scdenney/open-science-skills Agent Skills автор: scdenney NOASSERTION 3 файла тело ≈ 5 506 токенов Открыть источникgithub.com↗ проанализирован 4 дн назад

Разрабатывает и проверяет классификацию текстов на основе LLM для исследовательских данных — создание кодовой книги, выбор режима обучения, выбор модели и…

Как процесс B 77/100 · Почти готов — слабые места: входы и предусловия

АнализаторРазработкаИИ и агентытип и темы размечены автоматически по тексту скилла
JSON
Технический рейтинг
B
90/100
безопасность, качество, тесты
Безопасность 60%
100
Качество 40%
74
Прогон на моделях
не было
Процессный рейтинг
B
77/100
Почти готов
Входы и предусловия вес 11
0
Ошибки и развилки вес 10
50
Результат и критерий готовности вес 14
60
три самых слабых из десяти параметров · все десять

Как улучшить

  1. Тело SKILL.md длиннее 5 000 токенов: вынесите справочные детали в references/ и подключайте по необходимости.
Для прогона на моделях — необязательно
  • Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
  • spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.

Находки guard · 0

✓ Критических и высоких находок нет

Просканировано файлов: 3. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.

По спецификации Agent Skills

  • предупреждение body-long тело SKILL.md ≈ 5506 токенов (рекомендуется < 5000); вынесите детали в references/
  • заметка edit-residue в тексте есть пометки об устаревшем (строки 42): проверьте, не остались ли старые правила рядом с новыми — полная проверка читает текст на противоречия

Процессный рейтинг: все десять параметров 77/100

  • 0Входы и предусловия. Не сказано, что нужно иметь на входе
  • 50Ошибки и развилки. Развилок: 0, есть раздел про ошибки
  • 60Результат и критерий готовности. Формат результата описан, критерия завершения нет
  • 70Стоимость исполнения. Тело инструкции 5506 токенов
  • 100Инструменты и файлы. Внешние инструменты не нужны
  • 100Шаги. Шагов: 76
  • 100Когда включается. Сказано, когда применять и когда не применять
  • 100Согласованность. Имя и обязательные поля на месте
  • 100Повторный запуск. Изменяющие операции проверяют текущее состояние
  • 100Отчётность по ходу. Скилл сообщает о ходе работы
  • high Скилл велит модели самой совершать необратимое действие, без подтверждения человеком

Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.

Сигналы качества

  • +5В description нет примеров фраз, по которым скилл должен срабатывать
  • +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
  • +3Длина description 833: рекомендуется 120–800 символов
  • +4Нет примеров входа/выхода
  • +1Лицензия не указана
  • +2Инструкции на одном языке
  • +4Структура: 12 заголовков
  • +3Пошаговые инструкции: 76 пунктов
  • +3Формат ответа описан явно
  • +4Справочные файлы упоминаются в инструкциях (1 из 1)

База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 74.