SKILLEMALL.ai

CB autoresearch

Проводит исследование методом восходящего холмистого подъема с использованием инструментов study и experiments, охватывающее множество обучающих или аналитических запусков, одну метрику и направление, базовый уровень, идеи, ранжированные по ожидаемой ценности, ровно один запуск на идею, критерии остановки и бюджет, вердикты с анализом и выводами, а также заключение. Используйте для автоисследований, прогонов гиперпараметров или абляционных исследований, которые остались для выполнения, для задач типа "улучшить эту метрику" или для любого цикла экспериментов, который пользователь хочет провести в течение нескольких часов. Для одного воспроизведения используйте reproduce; для первоначального проектирования гипотез исследования используйте hypotheses.

машинный переводПоказать оригиналСкрыть оригинал«Runs a hill-climbing study over many training or analysis runs with th…»

Runs a hill-climbing study over many training or analysis runs with the study and experiments tools, one metric and direction, a baseline, ideas ranked by expected value, exactly one run per idea, kill criteria and a budget, verdicts with analysis and lessons, and a conclusion. Use for autoresearch, hyperparameter or ablation sweeps left to run, "make this metric better", or any loop of experiments the user wants driven for hours. For a single reproduction use reproduce; for designing the study's hypotheses first use hypotheses.

synthetic-sciences/OpenScience Agent Skills автор: synthetic-sciences Apache-2.0 1 файл тело ≈ 1 539 токенов Открыть источникgithub.com↗ проанализирован 5 дн назад

Проводит исследование методом восходящего холмистого подъема с использованием инструментов study и experiments, охватывающее множество обучающих или…

Как процесс B 65/100 · Почти готов — слабые места: результат и критерий готовности, входы и предусловия, повторный запуск

АнализаторДанные и аналитикаОбучениетип и темы размечены автоматически по тексту скилла
JSON
Технический рейтинг
C
89/100
безопасность, качество, тесты
Безопасность 60%
95
Качество 40%
79
Прогон на моделях
не было
Процессный рейтинг
B
65/100
Почти готов
Результат и критерий готовности вес 14
0
Входы и предусловия вес 11
0
Повторный запуск вес 4
30
три самых слабых из десяти параметров · все десять

Чем это грозит

Находки средней серьёзности: скорее всего скилл честный, но прочитайте, что именно насторожило сканер.

Широкие права средняя серьёзность

Ниже описан худший случай для этой категории. Здесь находка средней серьёзности: guard увидел признак, но не доказательство.

Если установить

Скилл просит больше прав, чем нужно для задачи: широкий доступ к инструментам, секретные переменные окружения, бинарные файлы. Каждое лишнее право расширяет ущерб при ошибке или взломе.

Автору

Сузьте allowed-tools и список переменных до минимума, замените бинарники на исходники или скрипты, которые можно прочитать.

Как улучшить

    Для прогона на моделях — необязательно
    • Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
    • spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.

    Находки guard · 1

    ✓ Критических и высоких находок нет

    Средние и низкие: 1
    • средняя Широкие права meta-broad-allowed-tools SKILL.md:1
      Заранее разрешены широкие инструменты: Bash
      allowed-tools: Read Write Edit Bash python study experiments compute_job task

    Просканировано файлов: 1. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.

    По спецификации Agent Skills

    • заметка frontmatter-key неизвестное поле фронтматтера "summary"
    • заметка frontmatter-key неизвестное поле фронтматтера "role"

    Процессный рейтинг: все десять параметров 65/100

    • 0Результат и критерий готовности. Не сказано, что считать результатом
    • 0Входы и предусловия. Не сказано, что нужно иметь на входе
    • 30Повторный запуск. Изменяющих операций: 4, без проверки текущего состояния
    • 60Ошибки и развилки. Развилок: 2
    • 70Когда включается. Сказано, когда применять, но не сказано, когда не стоит
    • 100Инструменты и файлы. Инструменты объявлены во frontmatter
    • 100Шаги. Шагов: 16
    • 100Согласованность. Имя и обязательные поля на месте
    • 100Стоимость исполнения. Тело инструкции 1539 токенов
    • 100Отчётность по ходу. Скилл сообщает о ходе работы
    • low Скилл сам сортирует и ранжирует выдачу: это работа системы на той стороне, а не модели

    Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.

    Сигналы качества

    • +5В description нет примеров фраз, по которым скилл должен срабатывать
    • +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
    • +3Формат ответа не описан: модель каждый раз решает сама
    • +4Нет примеров входа/выхода
    • +2Инструкции на одном языке
    • +3Длина description 534 символов: достаточно сигнала, не съедает бюджет
    • +4Структура: 6 заголовков
    • +3Пошаговые инструкции: 16 пунктов
    • +1Лицензия указана

    База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 79.