BD ai-building-ai-governance
Практическое руководство по управлению и безопасности ИИ, созданного ИИ — структура управления для передового направления «автономная разработка и самосовершенствование ИИ»: спектр форм ИИ, созданного ИИ (ИИ-агенты, пишущие код; обучение ИИ на синтетических данных и дистилляция; автоматизация исследований ИИ; самосовершенствование и рекурсивное улучшение ИИ), риски автономной разработки (приобретение способностей, неконтролируемое рекурсивное самосовершенствование, несоответствие целей, внезапный скачок способностей), контроль доступа и управление границами разработки (пороги способностей, обратимость, красные линии надзора), соответствие требованиям при работе с синтетическими данными и дистилляцией (проверка качества, идентификация контента, отслеживание авторских прав и обучающих данных), проверка результатов работы ИИ (проверка кода/исследований/моделей, сгенерированных ИИ, и взаимодействие с red teaming), организационное внедрение (управление разработкой ИИ с помощью ИИ, оценка поставщиков, аудиторские отчеты). Включает локальный инструмент без зависимостей для мгновенного определения формы, выявления рисков, генерации контрольных списков управления и ключевых моментов соответствия синтетических данных. Предназначено для руководителей в области ИИ-инженерии, управления, безопасности и стратегии, а также для расширения передовых знаний в области управления ИИ/управления агентами/тестирования red teaming.
машинный переводПоказать оригиналСкрыть оригинал«AI 造 AI 治理与安全实操手册——面向"AI 自主开发与自我改进"前沿的治理框架:AI 造 AI 形态谱系(AI 编码智能体写代码、AI…»
AI 造 AI 治理与安全实操手册——面向"AI 自主开发与自我改进"前沿的治理框架:AI 造 AI 形态谱系(AI 编码智能体写代码、AI 训练 AI 之合成数据与蒸馏、AI 研究自动化、AI 自我改进与递归提升)、自主开发风险(能力获取、递归自我改进失控、目标错位、突然能力跃升)、开发门禁与边界治理(能力门槛、可逆性、监督红线)、合成数据与蒸馏的合规治理(质量验证、内容标识衔接、版权与训练数据溯源)、AI 产物验证(AI 生成代码/研究/模型的验证与红队衔接)、组织落地(AI 造 AI 工程治理、供应商评估、审计报告)。附零依赖本地工具一键判定形态、识别风险、生成治理检查清单与合成数据合规要点。面向 AI 工程、治理、安全与战略负责人,与 AI 治理/智能体治理/红队测试形成前沿延伸。
Практическое руководство по управлению и безопасности ИИ, созданного ИИ — структура управления для передового направления «автономная разработка и…
Как процесс D 46/100 · Процесс не доведён — слабые места: результат и критерий готовности, когда включается, входы и предусловия
Как улучшить
- Скажите в description, КОГДА применять скилл («используй, когда…», примеры запросов): это главный сигнал для агента.
- Для Hermes description должен быть одним предложением до 60 символов; условия применения вынесите в раздел «When to Use».
- Свои кейсы (evals/evals.json, 4–6 реальных запросов с ожидаемыми ответами): тогда полная проверка прогонит именно их, а не черновик от модели.
- spec.yaml с триггерными фразами и утверждениями — контракт поведения для CI; `skilltest init` создаст шаблон.
Находки guard · 0
✓ Критических и высоких находок нет
Просканировано файлов: 17. Улики замаскированы. Пометки в серых чипах объясняют, почему серьёзность понижена.
По спецификации Agent Skills
- предупреждение
description-long-hermesdescription 349 символов, а стандарт Hermes требует ≤ 60 (одно предложение, с точкой) - предупреждение
description-no-whenни description, ни раздел "## When to Use" не говорят, когда применять скилл - заметка
frontmatter-keyнеизвестное поле фронтматтера "slug" - заметка
frontmatter-keyнеизвестное поле фронтматтера "display_name" - заметка
frontmatter-keyнеизвестное поле фронтматтера "displayName" - заметка
frontmatter-keyнеизвестное поле фронтматтера "title" - заметка
frontmatter-keyнеизвестное поле фронтматтера "description_en"
Процессный рейтинг: все десять параметров 46/100
- 0Результат и критерий готовности. Не сказано, что считать результатом
- 0Входы и предусловия. Не сказано, что нужно иметь на входе
- 0Ошибки и развилки. Линейный процесс без обработки сбоев
- 0Отчётность по ходу. Скилл ничего не сообщает по ходу работы
- 20Когда включается. Не сказано, при каком запросе скилл включается
- 60Инструменты и файлы. Используются инструменты (python), но во frontmatter они не объявлены
- 100Шаги. Шагов: 16
- 100Согласованность. Имя и обязательные поля на месте
- 100Стоимость исполнения. Тело инструкции 599 токенов
- 100Повторный запуск. Изменяющих операций нет
Всё перечисленное измерено по тексту скилла, а не оценено моделью: цифры проверяемы. Вес параметра тем больше, чем чаще из-за него процесс встаёт.
Сигналы качества
- +5В description нет примеров фраз, по которым скилл должен срабатывать
- +4Описание не говорит, когда скилл НЕ применять (ложные срабатывания)
- +3Формат ответа не описан: модель каждый раз решает сама
- +2Инструкции на одном языке
- +3Длина description 349 символов: достаточно сигнала, не съедает бюджет
- +4Структура: 10 заголовков
- +3Пошаговые инструкции: 16 пунктов
- +4Есть примеры (1 блоков кода)
- +4Справочные файлы упоминаются в инструкциях (7 из 7)
- +1Лицензия указана
База качества 70; замечания lint вычитаются, сигналы прибавляют до 100. Итог: 68.