AB llm-benchmark-analyst
Ищет и анализирует результаты эталонных тестов LLM в рамках фиксированной вселенной эталонных тестов, затем создает основанные на доказательствах отчеты о сильных и слабых сторонах моделей или сводки по лидерам в домене. Используйте при сравнении модели по эталонным тестам, ранжировании лучших моделей по домену, объяснении того, что измеряет эталонный тест, проверке прогресса от предшественника к текущей версии или при написании отчетов по эталонным тестам, которые должны отдавать приоритет точной версии модели, дате оценки, варианту эталонного теста, семантике оценки, субоценкам и предупреждениям о дефектах эталонного теста. Работает с извлечением данных из браузера, веб-страниц и мультимодальных источников для текстовых, табличных, холстов или только изображений в виде таблиц лидеров.
машинный переводПоказать оригиналСкрыть оригинал«search and analyze llm benchmark results within a fixed benchmark univ…»
search and analyze llm benchmark results within a fixed benchmark universe, then produce evidence-based model strength and weakness reports or domain-leader summaries. use when comparing a model across benchmarks, ranking the best models by domain, explaining what a benchmark measures, checking predecessor-vs-current progress, or writing benchmark reports that must prioritize exact model version, evaluation date, benchmark variant, score semantics, sub-scores, and benchmark defect warnings. works with browser, web, and multimodal extraction for text, table, canvas, or image-only leaderboards.
Ищет и анализирует результаты эталонных тестов LLM в рамках фиксированной вселенной эталонных тестов, затем создает основанные на доказательствах отчеты о…
Как процесс B 72/100 · Почти готов — слабые места: входы и предусловия
Как улучшить
- Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
- spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.
Находки guard · 0
✓ Критических и высоких находок нет
Просканировано файлов: 9. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.
По спецификации Agent Skills
✓ По спецификации Agent Skills замечаний нет
Процессный рейтинг: все десять параметров 72/100
- 0Входы и предусловия. Не сказано, что нужно иметь на входе
- 50Когда включается. Не сказано, при каком запросе скилл включается
- 60Результат и критерий готовности. Формат результата описан, критерия завершения нет
- 70Ошибки и развилки. Развилок: 5
- 85Шаги. Шагов: 79, расплывчатых формулировок: 1
- 100Инструменты и файлы. Внешние инструменты не нужны
- 100Согласованность. Имя и обязательные поля на месте
- 100Стоимость исполнения. Тело инструкции 1735 токенов
- 100Повторный запуск. Изменяющих операций нет
- 100Отчётность по ходу. Скилл сообщает о ходе работы
Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.
Сигналы качества
- +5В description нет примеров фраз, по которым скилл должен срабатывать
- +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
- +1Лицензия не указана
- +2Инструкции на одном языке
- +3Длина description 599 символов: достаточно сигнала, не съедает бюджет
- +4Структура: 9 заголовков
- +3Пошаговые инструкции: 79 пунктов
- +3Формат ответа описан явно
- +4Есть примеры (0 блоков кода)
- +4Справочные файлы упоминаются в инструкциях (5 из 5)
База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 91.