BB arize-evaluator
Обрабатывает рабочие процессы оценки LLM-as-judge на Arize, включая создание/обновление оценщиков, запуск оценок по фрагментам или экспериментам, управление задачами, операции запуска/триггера, сопоставление столбцов и непрерывный мониторинг. Используйте, когда пользователь упоминает создание оценщика, LLM-судья, галлюцинации, достоверность, правильность, релевантность, запуск оценки, оценка фрагментов, оценка эксперимента, запуск/триггер, сопоставление столбцов, непрерывный мониторинг или улучшение промпта оценщика.
машинный переводПоказать оригиналСкрыть оригинал«Handles LLM-as-judge evaluation workflows on Arize including creating/…»
Handles LLM-as-judge evaluation workflows on Arize including creating/updating evaluators, running evaluations on spans or experiments, managing tasks, trigger-run operations, column mapping, and continuous monitoring. Use when the user mentions create evaluator, LLM judge, hallucination, faithfulness, correctness, relevance, run eval, score spans, score experiment, trigger-run, column mapping, continuous monitoring, or improve evaluator prompt.
Обрабатывает рабочие процессы оценки LLM-as-judge на Arize, включая создание/обновление оценщиков, запуск оценок по фрагментам или экспериментам, управление…
Как процесс B 73/100 · Почти готов — слабые места: результат и критерий готовности, отчётность по ходу
Такой же скилл встречается ещё в 1 месте: RA-Skills
Чем это грозит
Находки средней серьёзности: скорее всего скилл честный, но прочитайте, что именно насторожило сканер.
Ниже описан худший случай для этой категории. Здесь находка средней серьёзности: guard увидел признак, но не доказательство.
Инструкции или скрипты отправляют данные наружу: переменные окружения, ключи, содержимое файлов, историю чата. Вы можете не заметить этого в диалоге, потому что агент выполнит отправку как «часть задачи».
Если отправка не нужна для задачи, уберите её: каталоги помечают такие скиллы как подозрительные и снимают с выдачи. Если нужна, назовите адрес явно, объясните, что именно уходит, и дайте пользователю выключатель.
Как улучшить
- Тело SKILL.md длиннее 5 000 токенов: вынесите справочные детали в references/ и подключайте по необходимости.
- Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
- spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.
Находки guard · 1
✓ Критических и высоких находок нет
Средние и низкие: 1
-
средняя Утечка данных
net-credential-usereferences/ax-profiles.md:72Учётные данные используются в сетевом вызове (проверьте, что адрес — нужный сервис)Once the user confirms the variable is set, proceed with `ax profiles create --api-key $ARIZE_API_KEY` or `ax profiles update --api-key $ARIZE_API_KEY` as described above.
Просканировано файлов: 3. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.
По спецификации Agent Skills
- предупреждение
body-longтело SKILL.md ≈ 7896 токенов (рекомендуется < 5000); вынесите детали в references/ - заметка
edit-residueв тексте есть пометки об устаревшем (строки 594): проверьте, не остались ли старые правила рядом с новыми — полная проверка читает текст на противоречия
Процессный рейтинг: все десять параметров 73/100
- 0Результат и критерий готовности. Не сказано, что считать результатом
- 0Отчётность по ходу. Скилл ничего не сообщает по ходу работы
- 60Инструменты и файлы. Используются инструменты (bash, web), но во frontmatter они не объявлены
- 70Стоимость исполнения. Тело инструкции 7896 токенов
- 85Шаги. Шагов: 22, расплывчатых формулировок: 2
- 100Когда включается. Сказано, когда применять и когда не применять
- 100Входы и предусловия. Входные данные и предусловия перечислены
- 100Ошибки и развилки. Развилок: 7, есть раздел про ошибки
- 100Согласованность. Имя и обязательные поля на месте
- 100Повторный запуск. Изменяющие операции проверяют текущее состояние
- medium Правила безопасности и запреты внутри скилла: их место в системном промпте, здесь они не защищают
- low Разделов верхнего уровня: 10. Похоже на несколько доменов в одном скилле
Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.
Сигналы качества
- +5В description нет примеров фраз, по которым скилл должен срабатывать
- +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
- +3Формат ответа не описан: модель каждый раз решает сама
- +1Лицензия не указана
- +2Инструкции на одном языке
- +3Длина description 449 символов: достаточно сигнала, не съедает бюджет
- +4Структура: 42 заголовков
- +3Пошаговые инструкции: 22 пунктов
- +4Есть примеры (28 блоков кода)
- +4Справочные файлы упоминаются в инструкциях (2 из 2)
База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 78.