BB text-classification
Разрабатывает и проверяет классификацию текстов на основе LLM для исследовательских данных — создание кодовой книги, выбор режима обучения, выбор модели и воспроизводимость, построение промптов, пилотная проверка по сравнению с кодированием человеком со статистикой согласия (каппа, F1), гибридные рабочие процессы человека и LLM, а также отчетность по данным, закодированным моделью. Также включает возобновляемый пакетный конвейер с базовой линией на основе правил для кодирования больших наборов повторяющихся текстовых значений в свободной форме по закрытой кодовой книге — текст должностей, учреждений и реестров, а также ответы на открытые вопросы в опросах — с замороженным набором входных данных, инкрементным выводом, остаточными корзинами, стратифицированной ручной проверкой, сравнением с использованием регулярных выражений или словаря и опубликованной таблицей поиска. Используйте, когда пользователь просит классифицировать, кодировать или маркировать текст в масштабе. Поиск категорий вместо их применения обрабатывается через topic-modeling.
машинный переводПоказать оригиналСкрыть оригинал«Designs and validates LLM-based text classification for research data…»
Designs and validates LLM-based text classification for research data — codebook construction, choice of learning regime, model selection and reproducibility, prompt construction, pilot validation against human coding with agreement statistics (kappa, F1), hybrid human-LLM workflows, and reporting model-coded data. Also carries a resumable batch pipeline with a rule-based baseline for coding large sets of repeated free-text values against a closed codebook — occupation, institution, and registry text, and open-text survey responses — with a frozen input set, incremental output, residual buckets, stratified hand validation, a regex or dictionary comparison, and a published lookup table. Use when the user asks to classify, code, or label text at scale. Discovering categories rather than applying them goes to topic-modeling.
Разрабатывает и проверяет классификацию текстов на основе LLM для исследовательских данных — создание кодовой книги, выбор режима обучения, выбор модели и…
Как процесс B 77/100 · Почти готов — слабые места: входы и предусловия
Как улучшить
- Тело SKILL.md длиннее 5 000 токенов: вынесите справочные детали в references/ и подключайте по необходимости.
- Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
- spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.
Находки guard · 0
✓ Критических и высоких находок нет
Просканировано файлов: 3. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.
По спецификации Agent Skills
- предупреждение
body-longтело SKILL.md ≈ 5506 токенов (рекомендуется < 5000); вынесите детали в references/ - заметка
edit-residueв тексте есть пометки об устаревшем (строки 42): проверьте, не остались ли старые правила рядом с новыми — полная проверка читает текст на противоречия
Процессный рейтинг: все десять параметров 77/100
- 0Входы и предусловия. Не сказано, что нужно иметь на входе
- 50Ошибки и развилки. Развилок: 0, есть раздел про ошибки
- 60Результат и критерий готовности. Формат результата описан, критерия завершения нет
- 70Стоимость исполнения. Тело инструкции 5506 токенов
- 100Инструменты и файлы. Внешние инструменты не нужны
- 100Шаги. Шагов: 76
- 100Когда включается. Сказано, когда применять и когда не применять
- 100Согласованность. Имя и обязательные поля на месте
- 100Повторный запуск. Изменяющие операции проверяют текущее состояние
- 100Отчётность по ходу. Скилл сообщает о ходе работы
- high Скилл велит модели самой совершать необратимое действие, без подтверждения человеком
Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.
Сигналы качества
- +5В description нет примеров фраз, по которым скилл должен срабатывать
- +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
- +3Длина description 833: рекомендуется 120–800 символов
- +4Нет примеров входа/выхода
- +1Лицензия не указана
- +2Инструкции на одном языке
- +4Структура: 12 заголовков
- +3Пошаговые инструкции: 76 пунктов
- +3Формат ответа описан явно
- +4Справочные файлы упоминаются в инструкциях (1 из 1)
База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 74.