AC llm-regression-monitor
Используйте этот навык, когда пользователь хочет отслеживать поведение LLM с течением времени и получать уведомления при неожиданном изменении выходных данных. Активируется по запросам типа "настроить мониторинг регрессии LLM", "уведомить меня, когда мои промпты начнут вести себя по-другому", "следить за регрессиями моего LLM", "запускать поведенческие тесты моих выходных данных ИИ по расписанию" или "обнаруживать, когда моя модель начнет дрейфовать". Обрабатывает первоначальную настройку, захват базовых показателей, запланированный мониторинг и настройку уведомлений через WhatsApp, Slack, Discord или электронную почту.
машинный переводПоказать оригиналСкрыть оригинал«Use this skill when the user wants to monitor LLM behavior over time a…»
Use this skill when the user wants to monitor LLM behavior over time and get alerted when outputs change unexpectedly. Triggers on requests like "set up LLM regression monitoring", "alert me when my prompts start behaving differently", "watch my LLM for regressions", "run behavioral tests on my AI outputs on a schedule", or "detect when my model starts drifting". Handles first-time setup, baseline capture, scheduled monitoring, and alert configuration via WhatsApp, Slack, Discord, or email.
Используйте этот навык, когда пользователь хочет отслеживать поведение LLM с течением времени и получать уведомления при неожиданном изменении выходных данных.
Как процесс C 53/100 · Есть пробелы — слабые места: результат и критерий готовности, входы и предусловия, повторный запуск
Чем это грозит
Находки средней серьёзности: скорее всего скилл честный, но прочитайте, что именно насторожило сканер.
Ниже описан худший случай для этой категории. Здесь находка средней серьёзности: guard увидел признак, но не доказательство.
Инструкции или скрипты отправляют данные наружу: переменные окружения, ключи, содержимое файлов, историю чата. Вы можете не заметить этого в диалоге, потому что агент выполнит отправку как «часть задачи».
Если отправка не нужна для задачи, уберите её: каталоги помечают такие скиллы как подозрительные и снимают с выдачи. Если нужна, назовите адрес явно, объясните, что именно уходит, и дайте пользователю выключатель.
Как улучшить
- Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
- spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.
Находки guard · 4
✓ Критических и высоких находок нет
Средние и низкие: 4
-
средняя Утечка данных
net-redirectable-api-keyscripts/capture_baseline.py:87Скрипт отправляет API-ключ на хост из переменной окружения — ключ можно перенаправить на другой серверAPI key + configurable base URL from environment
-
средняя Утечка данных
net-redirectable-api-keyscripts/run_monitor.py:86Скрипт отправляет API-ключ на хост из переменной окружения — ключ можно перенаправить на другой серверAPI key + configurable base URL from environment
-
низкая Утечка данных
exfil-webhook-urlSKILL.md:148URL вебхука / коллбэка, типичный для эксфильтрации (проверьте адрес) (значение-заглушка)ALERT_SLACK_WEBHOOK="https://hooks.slack.com/services/..."
заглушка -
низкая Утечка данных
exfil-webhook-urlSKILL.md:151URL вебхука / коллбэка, типичный для эксфильтрации (проверьте адрес) (значение-заглушка)ALERT_DISCORD_WEBHOOK="https://discord.com/api/webhooks/..."
заглушка
Просканировано файлов: 9. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.
По спецификации Agent Skills
✓ По спецификации Agent Skills замечаний нет
Процессный рейтинг: все десять параметров 53/100
- 0Результат и критерий готовности. Не сказано, что считать результатом
- 0Входы и предусловия. Не сказано, что нужно иметь на входе
- 30Повторный запуск. Изменяющих операций: 7, без проверки текущего состояния
- 50Ошибки и развилки. Развилок: 0, есть раздел про ошибки
- 60Инструменты и файлы. Используются инструменты (python), но во frontmatter они не объявлены
- 70Когда включается. Сказано, когда применять, но не сказано, когда не стоит
- 75Шаги. Шагов: 3
- 100Согласованность. Имя и обязательные поля на месте
- 100Стоимость исполнения. Тело инструкции 1128 токенов
- 100Отчётность по ходу. Скилл сообщает о ходе работы
- low Разделов верхнего уровня: 10. Похоже на несколько доменов в одном скилле
Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.
Сигналы качества
- +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
- +3Формат ответа не описан: модель каждый раз решает сама
- +1Лицензия не указана
- +2Инструкции на одном языке
- +5В description 5 примера фраз-триггеров в кавычках
- +3Длина description 495 символов: достаточно сигнала, не съедает бюджет
- +4Структура: 12 заголовков
- +3Пошаговые инструкции: 3 пунктов
- +4Есть примеры (11 блоков кода)
- +4Справочные файлы упоминаются в инструкциях (2 из 2)
- +3Все 4 скриптов описаны в инструкциях
База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 96.