BC alibabacloud-agentloop-evaluation
Оркестрация рабочих процессов оценки AgentLoop через плагин Aliyun CLI с безопасными предварительными просмотрами, управлением сохраненными оценщиками и навыками оценщика, одноразовыми тестовыми примерами, пакетными запусками трассировки или наборов данных, опросами и проверкой результатов. Анализ качества оценки и случаев с низкими оценками из SLS. Используйте для запросов на естественном языке для создания или обновления оценщиков или навыков оценщика, запуска или мониторинга задач оценки, проверки результатов оценки, диагностики низких оценок, устранения неполадок вызовов API оценки и упрощения команд оценки AgentLoop.
машинный переводПоказать оригиналСкрыть оригинал«Orchestrate AgentLoop evaluation workflows through the Aliyun CLI plug…»
Orchestrate AgentLoop evaluation workflows through the Aliyun CLI plugin with safe previews, saved evaluator and evaluator-skill management, one-shot sample tests, trace or dataset batch runs, polling, and result inspection. Analyze evaluation quality and low-score cases from SLS. Use for natural-language requests to create or update evaluators or evaluator skills, launch or monitor evaluation tasks, inspect evaluation results, diagnose low scores, troubleshoot evaluation API calls, and simplify AgentLoop evaluation commands.
Оркестрация рабочих процессов оценки AgentLoop через плагин Aliyun CLI с безопасными предварительными просмотрами, управлением сохраненными оценщиками и…
Как процесс C 54/100 · Есть пробелы — слабые места: результат и критерий готовности, когда включается, входы и предусловия
Чем это грозит
Находки средней серьёзности: скорее всего скилл честный, но прочитайте, что именно насторожило сканер.
Ниже описан худший случай для этой категории. Здесь находка средней серьёзности: guard увидел признак, но не доказательство.
Скилл содержит команды, которые удаляют файлы, переписывают диски или исполняют код, скачанный из сети. Агент может выполнить их без вопроса, если считает, что так требует инструкция.
Замените разрушительные команды на безопасные аналоги с подтверждением, ограничьте область действия конкретной папкой и не тяните код через curl | bash: укажите версию и контрольную сумму.
Как улучшить
- Тело SKILL.md длиннее 5 000 токенов: вынесите справочные детали в references/ и подключайте по необходимости.
- Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
- spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.
Находки guard · 2
✓ Критических и высоких находок нет
Средние и низкие: 2
-
средняя Опасные команды
cmd-pipe-to-shellreferences/cli-installation-guide.md:23Скачивание и запуск удалённого кода с неизвестного хоста (pipe в shell) (в кавычках — упоминание, а не команда)> **Security note:** Avoid piping `curl` output directly into `bash` (`curl ... | bash`), as a compromised server or intercepted connection could execute arbitrary code on your machine. Always downloa
в кавычках -
средняя Опасные команды
cmd-pipe-to-shellSKILL.md:20Скачивание и запуск удалённого кода с неизвестного хоста (pipe в shell) (в кавычках — упоминание, а не команда)> - **First install or major upgrade:** Download, review, then execute the [setup script](references/cli-installation-guide.md#first-time-install-or-major-upgrade). Avoid `curl | bash` piping.
в кавычках
Просканировано файлов: 16. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.
По спецификации Agent Skills
- предупреждение
body-longтело SKILL.md ≈ 5496 токенов (рекомендуется < 5000); вынесите детали в references/
Процессный рейтинг: все десять параметров 54/100
- 0Входы и предусловия. Не сказано, что нужно иметь на входе
- 0Отчётность по ходу. Скилл ничего не сообщает по ходу работы
- 20Когда включается. Не сказано, при каком запросе скилл включается
- 40Результат и критерий готовности. Не сказано, что считать результатом
- 60Инструменты и файлы. Используются инструменты (bash, web, python), но во frontmatter они не объявлены
- 60Ошибки и развилки. Развилок: 2
- 70Стоимость исполнения. Тело инструкции 5496 токенов
- 85Шаги. Шагов: 36, расплывчатых формулировок: 1
- 100Согласованность. Имя и обязательные поля на месте
- 100Повторный запуск. Изменяющие операции проверяют текущее состояние
- medium Правила безопасности и запреты внутри скилла: их место в системном промпте, здесь они не защищают
- low Разделов верхнего уровня: 15. Похоже на несколько доменов в одном скилле
Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.
Сигналы качества
- +5В description нет примеров фраз, по которым скилл должен срабатывать
- +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
- +3Формат ответа не описан: модель каждый раз решает сама
- +1Лицензия не указана
- +2Инструкции на одном языке
- +3Длина description 531 символов: достаточно сигнала, не съедает бюджет
- +4Структура: 22 заголовков
- +3Пошаговые инструкции: 36 пунктов
- +4Есть примеры (21 блоков кода)
- +4Справочные файлы упоминаются в инструкциях (8 из 8)
- +3Все 2 скриптов описаны в инструкциях
База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 81.