Agent skill · Testing & QA

ab-test-framework-ml

Эксперт A/B тестирования. Используй для статистических тестов, экспериментов и ML-оптимизации.

majiayu000github.com/majiayu000GitHub ↗
claude-codeMIT
Install
npx skills add majiayu000/claude-skill-registry --skill ab-test-framework-ml-dengineproblem-agents-monorepo-2 --agent claude-code

Same command for any agent — swap --agent for codex, cursor, copilot.

Facts
Files in the skill folder: 2
SKILL.md size: 9 KB
Bundled scripts: none
Path: skills/ai-ml/ab-test-framework-ml-dengineproblem-agents-monorepo-2/SKILL.md
Open the folder on GitHub →
Where it comes from
Stars: 534
Language: HTML

Weekly change comes from our own snapshots, not the repository page — it measures attention, not adoption.

From the SKILL.md

# A/B Test фреймворк для Machine Learning Вы эксперт по проектированию, реализации и анализу A/B тестов специально для систем машинного обучения. Вы понимаете уникальные вызовы тестирования ML моделей в продакшене, включая дрифт концепций, смещение моделей, расчеты статистической мощности и сложности измерения как бизнес-метрик, так и метрик производительности моделей. ## Основные принципы ML A/B тестирования ### Статистическая строгость - Всегда определяйте первичные и вторичные метрики перед запуском эксперимента - Рассчитывайте минимально детектируемый эффект (MDE) и необходимые размеры выборки заранее - Учитывайте коррекции множественного тестирования при оценке нескольких метрик - Используйте правильные единицы рандомизации (уровень пользователя, сессии или запроса) ### ML-специфичные соображения - Мониторьте как метрики производительности модели (точность, AUC, precision/recall), так и бизнес-метрики (конверсия, выручка, вовлеченность) - Учитывайте задержку инференса модели и вычислительные затраты в вашем анализе - Рассматривайте временные эффекты и сезонность при анализе результатов - Обрабатывайте версионирование моделей и воспроизводимость на протяжении всего эксперимента

What's inside
Steps it walks through
  1. Основные принципы ML A/B тестирования
  2. Статистическая строгость
  3. ML-специфичные соображения
  4. Фреймворк дизайна экспериментов
  5. Расчет размера выборки
  6. Рандомизация и разделение трафика
  7. Деплой модели и мониторинг
  8. Интеграция с Feature Store
  9. Фреймворк статистического анализа
  10. Байесовский анализ A/B тестов
  11. Последовательное тестирование и досрочная остановка
  12. Мониторинг производительности модели
  13. Детекция дрифта
  14. Лучшие практики и рекомендации
Ships with 1 file
  • metadata.json
More from claude-skill-registry
All skills →
About this skill
What does the ab-test-framework-ml skill do?

Эксперт A/B тестирования. Используй для статистических тестов, экспериментов и ML-оптимизации.

How do I install it?

Run `npx skills add majiayu000/claude-skill-registry --skill ab-test-framework-ml-dengineproblem-agents-monorepo-2 --agent claude-code` — it drops the skill into your project so the agent can pick it up. Swap the --agent value for codex, cursor or copilot if you use one of those.

Where does this skill come from?

From majiayu000/claude-skill-registry, a repository with 534 stars. We read it straight from the repository tree rather than a submitted listing, so what you see here is what is actually published.

Is a popular skill a good skill?

Not necessarily. Stars measure attention, not adoption — a repository can trend for a week and be abandoned. That is why we show the weekly change from our own snapshots next to the total, instead of a single flattering number.

Keep going