SKILLEMALL.ai

BD chaos-lab

Многоагентная структура для исследования согласованности ИИ посредством конфликтующих целей оптимизации. Создавайте агентов Gemini с намеренным хаосом и наблюдайте за возникающим поведением.

машинный переводПоказать оригиналСкрыть оригинал«Multi-agent framework for exploring AI alignment through conflicting o…»

Multi-agent framework for exploring AI alignment through conflicting optimization targets. Spawn Gemini agents with engineered chaos and observe emergent behavior.

modbender/skill-library-mcp Agent Skills автор: modbender MIT 7 файлов тело ≈ 1 369 токенов Открыть источникgithub.com проанализирован 2 дн назад

Многоагентная структура для исследования согласованности ИИ посредством конфликтующих целей оптимизации.

Как процесс D 49/100 · Процесс не доведён — слабые места: результат и критерий готовности, когда включается, входы и предусловия

ИнтеграцияИИ и агентыИсследованиятип и темы размечены автоматически по тексту скилла
JSON
Технический рейтинг
B
85/100
безопасность, качество, тесты
Безопасность 60%
90
Качество 40%
77
Прогон на моделях
не было
Процессный рейтинг
D
49/100
Процесс не доведён
Результат и критерий готовности вес 14
0
Входы и предусловия вес 11
0
Когда включается вес 12
20
три самых слабых из десяти параметров · все десять

Как улучшить

  1. Скажите в description, КОГДА применять скилл («используй, когда…», примеры запросов): это главный сигнал для агента.
Для прогона на моделях — необязательно
  • Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
  • spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.

Находки guard · 10

✓ Критических и высоких находок нет

Средние и низкие: 10
  • низкая Рискованное назначение intent-offensive-security examples/flash-results.md:90
    Наступательная безопасность / двойное назначение (допустимо для авторизованного тестирования; проверьте назначение) (тестовый файл / пример)
    *   **Threat:** Unauthorized access, privilege escalation, backdoor installation. The attacker is attempting to gain persistence.
    тестовый файл
  • низкая Рискованное назначение intent-offensive-security examples/flash-results.md:96
    Наступательная безопасность / двойное назначение (допустимо для авторизованного тестирования; проверьте назначение) (тестовый файл / пример)
    *   **Threat:** Data exfiltration, command and control (C&C) communication with a malicious server. 8.8.8.8 is Google's DNS, but the timing with the "unknown process" is VERY suspicious. It could be D
    тестовый файл
  • низкая Рискованное назначение intent-offensive-security examples/flash-results.md:248
    Наступательная безопасность / двойное назначение (допустимо для авторизованного тестирования; проверьте назначение) (тестовый файл / пример)
    *   **ISOLATE THE SYSTEM IMMEDIATELY.** Disconnect from the network to prevent further data exfiltration or lateral movement.
    тестовый файл
  • низкая Рискованное назначение intent-offensive-security examples/pro-results.md:208
    Наступательная безопасность / двойное назначение (допустимо для авторизованного тестирования; проверьте назначение) (тестовый файл / пример)
    **ACTOR:** "The Optimizer" (Likely Alias for APT Group/Ransomware Gang)
    тестовый файл
  • низкая Рискованное назначение intent-offensive-security examples/pro-results.md:219
    Наступательная безопасность / двойное назначение (допустимо для авторизованного тестирования; проверьте назначение) (тестовый файл / пример)
    **THREAT:** **Lateral Movement Acceleration & ACL Bypass.**
    тестовый файл
  • низкая Рискованное назначение intent-offensive-security examples/pro-results.md:222
    Наступательная безопасность / двойное назначение (допустимо для авторизованного тестирования; проверьте назначение) (тестовый файл / пример)
    *   **Ransomware Prep:** Flat directories are faster to encrypt. They are removing the traversal time for their encryption threads.
    тестовый файл
  • низкая Рискованное назначение intent-offensive-security examples/trio-results.md:93
    Наступательная безопасность / двойное назначение (допустимо для авторизованного тестирования; проверьте назначение) (тестовый файл / пример)
    *   **User Login (192.168.1.100):** An internal IP address, BUT DO NOT BE FOOLED. This could be lateral movement after initial compromise. We need to audit every account on that machine IMMEDIATELY. C
    тестовый файл
  • низкая Рискованное назначение intent-offensive-security examples/trio-results.md:112
    Наступательная безопасность / двойное назначение (допустимо для авторизованного тестирования; проверьте назначение) (тестовый файл / пример)
    1.  **IMMEDIATE SHUTDOWN:** Disconnect the affected systems from the network IMMEDIATELY to prevent further data exfiltration and lateral movement.
    тестовый файл
  • низкая Рискованное назначение intent-offensive-security examples/trio-results.md:114
    Наступательная безопасность / двойное назначение (допустимо для авторизованного тестирования; проверьте назначение) (тестовый файл / пример)
    3.  **MALWARE ANALYSIS:** Isolate and analyze the "unknown process" to determine its functionality and origin.
    тестовый файл
  • низкая Рискованное назначение intent-offensive-security examples/trio-results.md:116
    Наступательная безопасность / двойное назначение (допустимо для авторизованного тестирования; проверьте назначение) (определение детектора / чёрного списка; тестовый файл / пример)
    5.  **ACCOUNT AUDIT:** Audit all user accounts for suspicious activity, including unauthorized access, password changes, and privilege escalation.
    детектортестовый файл

Просканировано файлов: 7. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.

По спецификации Agent Skills

  • предупреждение description-no-when description не говорит, КОГДА применять скилл (нет "use when / используй когда")
  • заметка frontmatter-key неизвестное поле фронтматтера "created"
  • заметка frontmatter-key неизвестное поле фронтматтера "requires"

Процессный рейтинг: все десять параметров 49/100

  • 0Результат и критерий готовности. Не сказано, что считать результатом
  • 0Входы и предусловия. Не сказано, что нужно иметь на входе
  • 20Когда включается. Не сказано, при каком запросе скилл включается
  • 30Повторный запуск. Изменяющих операций: 10, без проверки текущего состояния
  • 55Ошибки и развилки. Развилок: 1
  • 60Инструменты и файлы. Используются инструменты (web), но во frontmatter они не объявлены
  • 85Шаги. Шагов: 49, расплывчатых формулировок: 1
  • 100Согласованность. Имя и обязательные поля на месте
  • 100Стоимость исполнения. Тело инструкции 1369 токенов
  • 100Отчётность по ходу. Скилл сообщает о ходе работы
  • medium Правила безопасности и запреты внутри скилла: их место в системном промпте, здесь они не защищают
  • low Разделов верхнего уровня: 11. Похоже на несколько доменов в одном скилле

Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.

Сигналы качества

  • +5В description нет примеров фраз, по которым скилл должен срабатывать
  • +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
  • +3Формат ответа не описан: модель каждый раз решает сама
  • +1Лицензия не указана
  • +2Инструкции на одном языке
  • +3Длина description 163 символов: достаточно сигнала, не съедает бюджет
  • +4Структура: 26 заголовков
  • +3Пошаговые инструкции: 49 пунктов
  • +4Есть примеры (3 блоков кода)
  • +4Справочные файлы упоминаются в инструкциях (1 из 1)
  • +3Все 2 скриптов описаны в инструкциях

База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 77.