CC text-classification
Разрабатывает и проверяет классификацию текста на основе LLM для исследовательских данных. Охватывает построение кодовой книги, выбор режима обучения, выбор модели и воспроизводимость, построение промптов, пилотную валидацию по сравнению с человеческим кодированием с использованием каппы и F1, гибридные рабочие процессы человек-LLM и отчетность. Включает возобновляемый пакетный конвейер с базовой линией на основе правил для повторяющегося свободного текста по закрытой кодовой книге, включая должности, учреждения, текст реестра и ответы на открытые опросы, с замороженными входными данными, инкрементным выводом, остаточными корзинами, стратифицированной ручной валидацией, сравнением с помощью регулярных выражений или словаря и опубликованной таблицей поиска. Используйте, когда пользователь просит классифицировать, кодировать или маркировать текст в масштабе. Обнаружение категорий передается в topic-modeling.
машинный переводПоказать оригиналСкрыть оригинал«Designs and validates LLM-based text classification for research data.…»
Designs and validates LLM-based text classification for research data. Covers codebook construction, learning-regime choice, model selection and reproducibility, prompt construction, pilot validation against human coding with kappa and F1, hybrid human-LLM workflows, and reporting. Includes a resumable batch pipeline with a rule-based baseline for repeated free text against a closed codebook, including occupation, institution, registry text, and open-text survey responses, with frozen inputs, incremental output, residual buckets, stratified hand validation, regex or dictionary comparison, and a published lookup table. Use when the user asks to classify, code, or label text at scale. Category discovery goes to topic-modeling.
Разрабатывает и проверяет классификацию текста на основе LLM для исследовательских данных.
Как процесс C 59/100 · Есть пробелы — Скилл ссылается на файлы, которых нет в архиве: ../llm-calibration-logprobs/SKILL.md, ../model-council-voting/SKILL.md
Как улучшить
- Тело SKILL.md длиннее 5 000 токенов: вынесите справочные детали в references/ и подключайте по необходимости.
- В тексте есть ссылки на отсутствующие файлы: добавьте файлы или уберите ссылки.
- Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
- spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.
Находки guard · 0
✓ Критических и высоких находок нет
Просканировано файлов: 2. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.
По спецификации Agent Skills
- предупреждение
body-longтело SKILL.md ≈ 5524 токенов (рекомендуется < 5000); вынесите детали в references/ - предупреждение
missing-refссылка на отсутствующий файл: ../llm-calibration-logprobs/SKILL.md - предупреждение
missing-refссылка на отсутствующий файл: ../model-council-voting/SKILL.md - заметка
edit-residueв тексте есть пометки об устаревшем (строки 42): проверьте, не остались ли старые правила рядом с новыми — полная проверка читает текст на противоречия
Процессный рейтинг: все десять параметров 59/100
- 0Инструменты и файлы. Не хватает 2 файла(ов): ../llm-calibration-logprobs/SKILL.md, ../model-council-voting/SKILL.md
- 0Входы и предусловия. Не сказано, что нужно иметь на входе
- 50Ошибки и развилки. Развилок: 0, есть раздел про ошибки
- 60Результат и критерий готовности. Формат результата описан, критерия завершения нет
- 70Стоимость исполнения. Тело инструкции 5524 токенов
- 100Шаги. Шагов: 76
- 100Когда включается. Сказано, когда применять и когда не применять
- 100Согласованность. Имя и обязательные поля на месте
- 100Повторный запуск. Изменяющие операции проверяют текущее состояние
- 100Отчётность по ходу. Скилл сообщает о ходе работы
- high Скилл велит модели самой совершать необратимое действие, без подтверждения человеком
Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.
Сигналы качества
- +5В description нет примеров фраз, по которым скилл должен срабатывать
- +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
- +4Нет примеров входа/выхода
- +1Лицензия не указана
- +2Инструкции на одном языке
- +3Длина description 734 символов: достаточно сигнала, не съедает бюджет
- +4Структура: 12 заголовков
- +3Пошаговые инструкции: 76 пунктов
- +3Формат ответа описан явно
- +4Справочные файлы упоминаются в инструкциях (1 из 1)
База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 68.