BB arize-trace
Загружает, экспортирует и проверяет существующие трассировки и фрагменты Arize, чтобы понять, что делает приложение LLM, или отладить проблемы во время выполнения. Охватывает экспорт трассировок по ID, фрагментов по ID, сеансов по ID и расследование первопричин с использованием CLI ax. Используйте, когда пользователь хочет просмотреть существующие данные трассировки, увидеть, что делает его приложение LLM, экспортировать трассировки, загрузить фрагменты, расследовать ошибки или проанализировать регрессии поведения.
машинный переводПоказать оригиналСкрыть оригинал«Downloads, exports, and inspects existing Arize traces and spans to un…»
Downloads, exports, and inspects existing Arize traces and spans to understand what an LLM app is doing or debug runtime issues. Covers exporting traces by ID, spans by ID, sessions by ID, and root-cause investigation using the ax CLI. Use when the user wants to look at existing trace data, see what their LLM app is doing, export traces, download spans, investigate errors, or analyze behavior regressions.
Загружает, экспортирует и проверяет существующие трассировки и фрагменты Arize, чтобы понять, что делает приложение LLM, или отладить проблемы во время…
Как процесс B 68/100 · Почти готов — слабые места: результат и критерий готовности, повторный запуск
Такой же скилл встречается ещё в 1 месте: RA-Skills
Чем это грозит
Находки средней серьёзности: скорее всего скилл честный, но прочитайте, что именно насторожило сканер.
Ниже описан худший случай для этой категории. Здесь находка средней серьёзности: guard увидел признак, но не доказательство.
Инструкции или скрипты отправляют данные наружу: переменные окружения, ключи, содержимое файлов, историю чата. Вы можете не заметить этого в диалоге, потому что агент выполнит отправку как «часть задачи».
Если отправка не нужна для задачи, уберите её: каталоги помечают такие скиллы как подозрительные и снимают с выдачи. Если нужна, назовите адрес явно, объясните, что именно уходит, и дайте пользователю выключатель.
Как улучшить
- Тело SKILL.md длиннее 5 000 токенов: вынесите справочные детали в references/ и подключайте по необходимости.
- Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
- spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.
Находки guard · 1
✓ Критических и высоких находок нет
Средние и низкие: 1
-
средняя Утечка данных
net-credential-usereferences/ax-profiles.md:72Учётные данные используются в сетевом вызове (проверьте, что адрес — нужный сервис)Once the user confirms the variable is set, proceed with `ax profiles create --api-key $ARIZE_API_KEY` or `ax profiles update --api-key $ARIZE_API_KEY` as described above.
Просканировано файлов: 3. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.
По спецификации Agent Skills
- предупреждение
body-longтело SKILL.md ≈ 5714 токенов (рекомендуется < 5000); вынесите детали в references/
Процессный рейтинг: все десять параметров 68/100
- 0Результат и критерий готовности. Не сказано, что считать результатом
- 30Повторный запуск. Изменяющих операций: 6, без проверки текущего состояния
- 60Инструменты и файлы. Используются инструменты (bash, web, python), но во frontmatter они не объявлены
- 70Когда включается. Сказано, когда применять, но не сказано, когда не стоит
- 70Стоимость исполнения. Тело инструкции 5714 токенов
- 85Шаги. Шагов: 42, расплывчатых формулировок: 1
- 100Входы и предусловия. Входные данные и предусловия перечислены
- 100Ошибки и развилки. Развилок: 9, есть раздел про ошибки
- 100Согласованность. Имя и обязательные поля на месте
- 100Отчётность по ходу. Скилл сообщает о ходе работы
- medium Правила безопасности и запреты внутри скилла: их место в системном промпте, здесь они не защищают
- low Разделов верхнего уровня: 11. Похоже на несколько доменов в одном скилле
- low Ответ описан самодельной разметкой (4 тегов): типизированный вызов надёжнее
Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.
Сигналы качества
- +5В description нет примеров фраз, по которым скилл должен срабатывать
- +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
- +3Формат ответа не описан: модель каждый раз решает сама
- +1Лицензия не указана
- +2Инструкции на одном языке
- +3Длина description 408 символов: достаточно сигнала, не съедает бюджет
- +4Структура: 37 заголовков
- +3Пошаговые инструкции: 42 пунктов
- +4Есть примеры (10 блоков кода)
- +4Справочные файлы упоминаются в инструкциях (2 из 2)
База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 78.