AB self-improving-ai
Собирает знания о настройке GenAI/LLM, выборе моделей, оптимизации инференса, дообучении, конвейерах RAG, инженерии промптов, мультимодальной обработке и управлении затратами. Используйте, когда: (1) Качество ответов модели ухудшается после обновления поставщика или изменения версии, (2) Задержка инференса превышает допустимые пределы, (3) Дообученная модель регрессирует по эталонным показателям оценки, (4) RAG-поиск возвращает нерелевантные или устаревшие фрагменты, (5) Затраты на токены превышают бюджетные прогнозы, (6) Уровень галлюцинаций увеличивается при фактических запросах, (7) Переполнение контекстного окна вызывает критическую обрезку информации, (8) Мультимодальный конвейер сбоит на определенных типах входных данных (изображение, аудио, видео, PDF), (9) Для задачи обнаружена лучшая модель или конфигурация, (10) Защитные механизмы блокируют допустимый вывод или пропускают вредоносный контент.
машинный переводПоказать оригиналСкрыть оригинал«Captures learnings about GenAI/LLM configuration, model selection, inf…»
Captures learnings about GenAI/LLM configuration, model selection, inference optimization, fine-tuning, RAG pipelines, prompt engineering, multimodal processing, and cost management. Use when: (1) Model response quality degrades after a provider update or version change, (2) Inference latency exceeds acceptable thresholds, (3) Fine-tuned model regresses on evaluation benchmarks, (4) RAG retrieval returns irrelevant or stale chunks, (5) Token costs exceed budget projections, (6) Hallucination rate increases on factual queries, (7) Context window overflows cause critical information truncation, (8) Multimodal pipeline fails on specific input types (image, audio, video, PDF), (9) A better model or configuration is discovered for a task, (10) Guardrails block valid output or miss harmful content.
Собирает знания о настройке GenAI/LLM, выборе моделей, оптимизации инференса, дообучении, конвейерах RAG, инженерии промптов, мультимодальной обработке и…
Как процесс B 66/100 · Почти готов — слабые места: входы и предусловия, повторный запуск
Как улучшить
- Тело SKILL.md длиннее 5 000 токенов: вынесите справочные детали в references/ и подключайте по необходимости.
- Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
- spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.
Находки guard · 0
✓ Критических и высоких находок нет
Просканировано файлов: 15. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.
По спецификации Agent Skills
- предупреждение
body-longтело SKILL.md ≈ 7157 токенов (рекомендуется < 5000); вынесите детали в references/
Процессный рейтинг: все десять параметров 66/100
- 0Входы и предусловия. Не сказано, что нужно иметь на входе
- 30Повторный запуск. Изменяющих операций: 18, без проверки текущего состояния
- 50Когда включается. Не сказано, при каком запросе скилл включается
- 60Инструменты и файлы. Используются инструменты (bash), но во frontmatter они не объявлены
- 60Результат и критерий готовности. Формат результата описан, критерия завершения нет
- 70Стоимость исполнения. Тело инструкции 7157 токенов
- 100Шаги. Шагов: 112
- 100Ошибки и развилки. Развилок: 2, есть раздел про ошибки
- 100Согласованность. Имя и обязательные поля на месте
- 100Отчётность по ходу. Скилл сообщает о ходе работы
- medium Правила безопасности и запреты внутри скилла: их место в системном промпте, здесь они не защищают
- low Разделов верхнего уровня: 21. Похоже на несколько доменов в одном скилле
Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.
Сигналы качества
- +5В description нет примеров фраз, по которым скилл должен срабатывать
- +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
- +3Длина description 803: рекомендуется 120–800 символов
- +1Лицензия не указана
- +2Инструкции на одном языке
- +4Структура: 53 заголовков
- +3Пошаговые инструкции: 112 пунктов
- +3Формат ответа описан явно
- +4Есть примеры (18 блоков кода)
- +4Справочные файлы упоминаются в инструкциях (2 из 3)
- +3Все 3 скриптов описаны в инструкциях
База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 81.