BC bootstrap-realtime-eval
Запустите новую папку realtime eval в этом репозитории cookbook, выбрав правильный фреймворк из examples/evals/realtime_evals, создав файлы prompt/tools/data, сгенерировав полезный README и проверив его с помощью smoke, full eval и test runs. Используйте, когда пользователь хочет начать новый краул, прогулку или запустить realtime eval в этом репозитории.
машинный переводПоказать оригиналСкрыть оригинал«Bootstrap a new realtime eval folder inside this cookbook repo by choo…»
Bootstrap a new realtime eval folder inside this cookbook repo by choosing the right harness from examples/evals/realtime_evals, scaffolding prompt/tools/data files, generating a useful README, and validating it with smoke, full eval, and test runs. Use when a user wants to start a new crawl, walk, or run realtime eval in this repository.
Запустите новую папку realtime eval в этом репозитории cookbook, выбрав правильный фреймворк из examples/evals/realtimeevals, создав файлы prompt/tools/data…
Как процесс C 51/100 · Есть пробелы — Скилл ссылается на файлы, которых нет в архиве: examples/evals/realtime_evals/, examples/evals/realtime_evals/crawl_harness, examples/evals/realtime_evals/walk_harness
Как улучшить
- В тексте есть ссылки на отсутствующие файлы: добавьте файлы или уберите ссылки.
- Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
- spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.
Находки guard · 0
✓ Критических и высоких находок нет
Просканировано файлов: 4. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.
По спецификации Agent Skills
- предупреждение
missing-refссылка на отсутствующий файл: examples/evals/realtime_evals/ - предупреждение
missing-refссылка на отсутствующий файл: examples/evals/realtime_evals/crawl_harness - предупреждение
missing-refссылка на отсутствующий файл: examples/evals/realtime_evals/walk_harness - предупреждение
missing-refссылка на отсутствующий файл: examples/evals/realtime_evals/run_harness - предупреждение
missing-refссылка на отсутствующий файл: examples/evals/realtime_evals/<name>_realtime_eval/
Процессный рейтинг: все десять параметров 51/100
- 0Инструменты и файлы. Не хватает 5 файла(ов): examples/evals/realtime_evals/, examples/evals/realtime_evals/crawl_harness, examples/evals/realtime_evals/walk_harness
- 0Результат и критерий готовности. Не сказано, что считать результатом
- 0Отчётность по ходу. Скилл ничего не сообщает по ходу работы
- 30Повторный запуск. Изменяющих операций: 5, без проверки текущего состояния
- 70Когда включается. Сказано, когда применять, но не сказано, когда не стоит
- 70Входы и предусловия. Входные данные и предусловия перечислены
- 70Ошибки и развилки. Развилок: 11
- 85Шаги. Шагов: 73, расплывчатых формулировок: 1
- 100Согласованность. Имя и обязательные поля на месте
- 100Стоимость исполнения. Тело инструкции 1975 токенов
Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.
Сигналы качества
- +5В description нет примеров фраз, по которым скилл должен срабатывать
- +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
- +3Формат ответа не описан: модель каждый раз решает сама
- +1Лицензия не указана
- +2Инструкции на одном языке
- +3Длина description 340 символов: достаточно сигнала, не съедает бюджет
- +4Структура: 6 заголовков
- +3Пошаговые инструкции: 73 пунктов
- +4Есть примеры (1 блоков кода)
- +4Справочные файлы упоминаются в инструкциях (1 из 1)
- +3Все 1 скриптов описаны в инструкциях
База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 79.