SKILLEMALL.ai
GitHub ↗ EN Войти

AB arize-experiment

Создает, запускает и анализирует эксперименты Arize для оценки и сравнения производительности моделей. Охватывает CRUD экспериментов, экспорт запусков, сравнение результатов и рабочие процессы оценки с использованием ax CLI. Используйте, когда пользователь упоминает "создать эксперимент", "запустить эксперимент", "сравнить модели", "производительность модели", "оценить ИИ", "результаты эксперимента", "бенчмарк", "A/B тестирование моделей" или "измерить точность".

машинный переводПоказать оригиналСкрыть оригинал«Creates, runs, and analyzes Arize experiments for evaluating and compa…»

Creates, runs, and analyzes Arize experiments for evaluating and comparing model performance. Covers experiment CRUD, exporting runs, comparing results, and evaluation workflows using the ax CLI. Use when the user mentions create experiment, run experiment, compare models, model performance, evaluate AI, experiment results, benchmark, A/B test models, or measure accuracy.

github/awesome-copilot Agent Skills автор: github MIT 3 файла тело ≈ 4 514 токенов Открыть источникgithub.com↗ проанализирован 26 ч назад

Создает, запускает и анализирует эксперименты Arize для оценки и сравнения производительности моделей.

Как процесс B 79/100 · Почти готов — слабые места: повторный запуск

АнализаторДанные и аналитикатип и темы размечены автоматически по тексту скилла
Запускается в: GitHub Copilot / VS Code Claude / Claude Code ChatGPT / Codex Gemini CLI Cursor Qwen Code Kimi Code CLI Z.ai (GLM) DeepSeek (Deep Code) Mistral Vibe LangChain (deepagents) OpenClaw Goose OpenCode
JSON
Технический рейтинг
A
93/100
безопасность, качество, тесты
Безопасность 60%
95
Качество 40%
91
Прогон на моделях
не было
Процессный рейтинг
B
79/100
Почти готов
Повторный запуск вес 4
30
Инструменты и файлы вес 18
60
Результат и критерий готовности вес 14
60
три самых слабых из десяти параметров · все десять

Такой же скилл встречается ещё в 1 месте: RA-Skills

Чем это грозит

Находки средней серьёзности: скорее всего скилл честный, но прочитайте, что именно насторожило сканер.

Утечка данных средняя серьёзность

Ниже описан худший случай для этой категории. Здесь находка средней серьёзности: guard увидел признак, но не доказательство.

Если установить

Инструкции или скрипты отправляют данные наружу: переменные окружения, ключи, содержимое файлов, историю чата. Вы можете не заметить этого в диалоге, потому что агент выполнит отправку как «часть задачи».

Автору

Если отправка не нужна для задачи, уберите её: каталоги помечают такие скиллы как подозрительные и снимают с выдачи. Если нужна, назовите адрес явно, объясните, что именно уходит, и дайте пользователю выключатель.

Как улучшить

    Для прогона на моделях — необязательно
    • Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
    • spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.

    Находки guard · 1

    ✓ Критических и высоких находок нет

    Средние и низкие: 1
    • средняя Утечка данных net-credential-use references/ax-profiles.md:72
      Учётные данные используются в сетевом вызове (проверьте, что адрес — нужный сервис)
      Once the user confirms the variable is set, proceed with `ax profiles create --api-key $ARIZE_API_KEY` or `ax profiles update --api-key $ARIZE_API_KEY` as described above.

    Просканировано файлов: 3. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.

    По спецификации Agent Skills

    ✓ По спецификации Agent Skills замечаний нет

    Процессный рейтинг: все десять параметров 79/100

    • 30Повторный запуск. Изменяющих операций: 14, без проверки текущего состояния
    • 60Инструменты и файлы. Используются инструменты (bash, python), но во frontmatter они не объявлены
    • 60Результат и критерий готовности. Формат результата описан, критерия завершения нет
    • 70Когда включается. Сказано, когда применять, но не сказано, когда не стоит
    • 70Стоимость исполнения. Тело инструкции 4514 токенов
    • 100Шаги. Шагов: 30
    • 100Входы и предусловия. Входные данные и предусловия перечислены
    • 100Ошибки и развилки. Развилок: 1, есть раздел про ошибки
    • 100Согласованность. Имя и обязательные поля на месте
    • 100Отчётность по ходу. Скилл сообщает о ходе работы
    • low Разделов верхнего уровня: 12. Похоже на несколько доменов в одном скилле

    Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.

    Сигналы качества

    • +5В description нет примеров фраз, по которым скилл должен срабатывать
    • +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
    • +1Лицензия не указана
    • +2Инструкции на одном языке
    • +3Длина description 374 символов: достаточно сигнала, не съедает бюджет
    • +4Структура: 27 заголовков
    • +3Пошаговые инструкции: 30 пунктов
    • +3Формат ответа описан явно
    • +4Есть примеры (20 блоков кода)
    • +4Справочные файлы упоминаются в инструкциях (2 из 2)

    База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 91.