AA quant-recipe-search

Используйте, когда пользователь просит найти, поискать или оптимизировать лучший рецепт квантования для модели, включая прямые запросы вроде «найти лучший рецепт квантования и сгенерировать PTQ-чекпойнт». Управляет циклом с несколькими кандидатами: выбирает метрики успеха вычислений по сравнению с памятью, выбирает базовые рецепты ModelOpt, разрабатывает дельты рецептов AutoQuant/ручные, интерпретирует чувствительность и определяет следующих кандидатов. НЕ используйте для однократного запуска известного PTQ-рецепта (используйте ptq), обслуживания (используйте deployment), создания/запуска оценок (используйте evaluation или launching-evals), мониторинга заданий (используйте monitor), просмотра MLflow (используйте accessing-mlflow) или только сравнения завершенных оценок базовых версий с кандидатскими (используйте compare-results).

машинный переводПоказать оригиналСкрыть оригинал«Use when the user asks to find, search for, or optimize the best quant…»

Use when the user asks to find, search for, or optimize the best quantization recipe for a model, including direct requests like "find the best quantization recipe and generate a PTQ checkpoint." Guides the multi-candidate loop: choose compute-vs-memory success metrics, select ModelOpt recipe baselines, design AutoQuant/manual recipe deltas, interpret sensitivity, and decide next candidates. Do NOT use for a single known PTQ recipe run (use ptq), serving (use deployment), creating/running evals (use evaluation or launching-evals), monitoring jobs (use monitor), MLflow browsing (use accessing-mlflow), or comparing completed baseline-vs-candidate scores only (use compare-results).

Используйте, когда пользователь просит найти, поискать или оптимизировать лучший рецепт квантования для модели, включая прямые запросы вроде «найти лучший…

Как процесс A 81/100 · Дойдёт до конца — слабые места: результат и критерий готовности, повторный запуск