Skip to content

实验概览

本页面把视野拉远,让你一次性看清一个实验的生命周期:每个状态意味着什么、依赖哪些对象、可以做什么操作。

第一次创建实验直接看快速开始。本页负责把视野拉远,快速开始负责陪你点完整个流程。

什么是实验

实验是通过对比不同方案科学验证产品决策的方法。在 ABC 平台上,你把用户随机分为多个组,为每组提供不同的参数值或功能版本,再通过指标对比找出最优方案。

为什么做实验

  • 降低决策风险 —— 用数据验证假设,而非拍脑袋上线
  • 量化影响 —— 精确衡量改动对主指标(留存、付费、活跃)的影响
  • 安全发布 —— 先小流量验证,确认无负面影响后再全量
  • 持续优化 —— 通过迭代找到最优参数配置

实验类型

ABC 支持三种主力实验类型,在 Experiments 页面点 Create 时下拉可选:

类型简介最佳适用场景
分层实验(Layer Experiment)基于层与域架构隔离流量,多个实验可在独立空间并行运行大多数 A/B 场景;尤其是需要多个实验同时跑且互不污染
配置实验(Config Experiment)将云控配置参数绑定到实验,每个受众独享 100% 流量多地域 / 多人群参数调优、参数值分级发布迁移
多臂老虎机实验(MAB Experiment)根据主指标动态调整各组流量,自动向表现好的方案倾斜多变体快速择优、时效性强的活动、需要快速收敛

实验生命周期

每个实验都遵循同一套状态机:

状态含义
未启动(Not Started)实验已创建但从未启动
进行中(In Progress)实验运行中并累积曝光,Results 标签可看数据
已发布(Shipped)已经 Make Decision → Ship,胜出变体值生效
已归档(Archived)已经 Make Decision → Archive,实验关闭,不可再启动

Make Decision 是从 In Progress 进入终态的唯一入口,提供两个动作:

  • Ship —— 选择胜出变体,参数值回写到本实验覆盖的受众
  • Archive —— 不发布、直接关闭实验

关键里程碑

每个实验的里程碑顺序一致:

  1. 创建实验 —— 填写基础信息、假设与指标、流量与变体

  2. 启动实验 —— 前置条件齐备时点 Start,状态切换为 In Progress

  3. 配置统计引擎 —— 在 Results 标签设置显著性水平、功效、FDR、CUPED

  4. 解读结果 —— 看 Suggestion、累计曝光、基础分析、Explore、HTE

  5. 做出决策 —— 点 Make Decision 选择 Ship 或 Archive