sleep_event_training_plan.md

# 睡眠事件分类模型训练方案（DREAMS + MASS 跨数据集）

> **版本：v2 终稿（按推荐方案锁定）**
> **目标**：训练一个**5 秒窗口 / 多标签 sigmoid 输出**的睡眠事件分类模型，覆盖 4 个核心睡眠事件 + 1 个背景类，用于 EEG 睡眠分期判读辅助。
> **数据来源**：DREAMS (Zenodo 2650142) + MASS SS3 + MASS-EX。
> **生成时间**：2026-05-27。

---

## 0. 锁定的训练方案（TL;DR）

| 项目 | 决定 |
|---|---|
| **任务形式** | 多标签二分类（每类独立 sigmoid，BCEWithLogits + class weight） |
| **窗口长度** | 统一 **5 秒** |
| **采样率** | 统一 **100 Hz**（5s × 100Hz = 500 sample） |
| **训练通道** | **4 通道**：CENTRAL_EEG / FRONTAL_EEG / EOG_DIFF / EMG |
| **类别集** | 5 类：Background / Spindle / K-Complex / REM / MicroArousal |
| **PLM** | 暂不纳入第一版（DREAMS PLM 与 EEG 事件目标差异大；后续可加） |
| **SEM** | 第一版不纳入（无公开时间标注；二期用规则伪标签） |
| **Artifacts / Apnea** | 不纳入（非 EEG 睡眠事件目标） |
| **训练数据集** | DREAMS（Spindles, Kcomplexes, REMs）+ MASS（spindle/K-complex/MicroArousal）|
| **划分** | 按被试 70/15/15，subject-level split |

---

## 1. 数据来源与事件清单

### 1.1 DREAMS 数据集（Zenodo 2650142）— 已下载到 `/Users/bytedance/Documents/dataset/DREAMS`

| 子库 | 用途 | 事件类型 | 通道 | 专家1事件总数 | 文件数 | 单段时长 | 采样率 |
|---|---|---|---|---:|---:|---|---|
| DatabaseSpindles | ✅ 训练正样本 | `vis1_Spindles` / `vis2_Spindles` | CZ-A1 / C3-A1 | 355 | 8 | 30 min | 100 / 200 Hz |
| DatabaseKcomplexes | ✅ 训练正样本 | `vis1_Kcomplexes` / `vis2_Kcomplexes` | CZ-A1 | 272 | 10 | 30 min | 200 Hz |
| DatabaseREMs | ✅ 训练正样本 | `vis1_REMs` | EOGs | 847 | 9 | 30 min | 200 Hz |
| DatabaseSubjects | 🟡 仅取 EEG（提供背景样本） | — (仅 hypnogram) | — | — | 20 | 整夜 | 200 Hz |
| DatabasePatients | 🟡 仅取 EEG（提供背景样本） | — (仅 hypnogram) | — | — | 27 | 整夜 | 200 Hz |
| DatabaseArtifacts | ❌ 不用 | 伪迹标注 | — | 2000 | 20 | 15 min | 50 Hz |
| DatabasePLMs | ❌ 第一版不用 | `vis1_PLMs` | EMG2 / EMG3 | 4421 | 10 | 整夜 | 200 Hz |
| DatabaseApnea | ❌ 不用 | `vis_hypopnea` | PSG | 4058 | 12 | 整夜 | 200 Hz |

### 1.2 MASS SS3 数据集 — 已下载到 `/Users/bytedance/Documents/dataset/MASS/SS3`

扫描 62 份 `Annotations.edf` 实测：

| 事件类型 | 评分者 | 计数 | 用途 |
|---|---|---:|---|
| **MicroArousal** | expert | **2244** | ✅ 训练正样本（Arousal 类） |
| EMGArtefact | automatic | 343 249 | ❌ 算法生成不参与训练 |
| Sleep stage（30s epoch） | — | 62 765 | 用作背景采样的阶段过滤参考 |

**MicroArousal 时长分布**：
```
n=2244   mean=9.80s   median=9.03s   p90=14.19s   p95=16.25s   max=28.60s
≤3s = 0.0%   ≤5s = 1.7%   ≤10s = 61.6%
```
→ **5s 窗口无法整体覆盖 arousal**，因此 arousal 采用「窗口级 ≥ 50% 覆盖」标签策略（详见 §4.4）。

### 1.3 MASS-EX 推理数据集（fine 集）

含 `reasoning_text` 文本中**间接提到** SEM、vertex sharp 等事件，但**无时间戳**，仅作为后续弱监督参考。

---

## 2. 最终训练标签集

```python
LABELS = {
    0: 'Background',     # 5s 窗口与任何专家事件均不重叠
    1: 'Spindle',        # DREAMS Spindles + MASS spindle (后续解析)
    2: 'KComplex',       # DREAMS Kcomplexes + MASS K-complex
    3: 'REM',            # DREAMS REMs (EOG 通道事件)
    4: 'MicroArousal',   # MASS MicroArousal (≥50% 窗口覆盖)
}
NUM_CLASSES = 5
# 多标签 sigmoid：同一 5s 窗口可同时正于多个类（如 Spindle + KComplex 共现）
```

每个样本输出 `[5]` 维 logits，每维独立做 BCEWithLogits 二分类。

---

## 3. 通道方案（4 通道）

### 3.1 跨数据集通道角色映射

| 角色 | DREAMS Spindles | DREAMS 其他 | MASS SS3 | Sleep-EDFx（备用） |
|---|---|---|---|---|
| `CENTRAL_EEG` | C3-A1 | CZ-A1 | EEG C4-LER | Pz-Oz |
| `FRONTAL_EEG` | FP1-A1 | FP1-A2 | EEG F4-LER | Fpz-Cz |
| `EOG_L` | EOG1-A1 | EOG1 / EOG1-A2 | EOG Left Horiz | EOG horizontal |
| `EOG_R` | EOG2-A1 | EOG2 / EOG2-A2 | EOG Right Horiz | — |
| `EMG` | EMG1 | EMG1 | EMG Chin1 | EMG submental |

### 3.2 模型输入

```
ch_0 = CENTRAL_EEG               # spindle / K-complex / arousal 主通道
ch_1 = FRONTAL_EEG               # K-complex 辅助 + 慢波
ch_2 = EOG_DIFF = EOG_L − EOG_R  # REM 关键
ch_3 = EMG                       # arousal/REM 肌张力指示
shape = (4, 500)   # 4 ch × 5s × 100Hz
```

> Sleep-EDFx 缺 EOG_R 时直接用 EOG horizontal 替代 EOG_DIFF（已是双极导联）。

### 3.3 预处理

1. **重采样到 100 Hz**（DREAMS 原始 50 / 100 / 200 Hz；MASS 256 Hz；统一目标 100 Hz）。
2. **滤波**：0.3–35 Hz 带通（保留 spindle 12–16Hz、K-complex 0.5–2Hz）。
3. **去基线**：每通道独立 demean。
4. **归一化**：每通道按训练集 robust z-score（中位数 / IQR），避免幅值差异。

---

## 4. 5s 窗口切片规则

### 4.1 正样本（事件居中）

对每条专家标注 `(onset, duration, type)`：

```
center = onset + duration / 2
window = [center − 2.5, center + 2.5]
```

- 短事件（spindle / K-complex / REM，~0.5–2s）：事件被 5s 窗口完整居中包裹。
- 同一窗口可能同时正于多个类（如 K-complex 后跟 spindle）→ 多标签自然处理。

### 4.2 Arousal 特殊规则（窗口级 ≥ 50% 覆盖）

由于 arousal 平均 ~10s，单个事件会**覆盖多个 5s 窗口**：

```
对每个 5s 候选窗口 w = [t, t+5]:
    若任意 arousal 区间 [a, a+d] 与 w 重叠时长 ≥ 2.5s（即 ≥ 50%）：
        labels[MicroArousal] = 1
```

推理时，把连续标 1 的 5s 窗口合并回 arousal 段（与原始标注的边界对齐误差 ≤ 5s）。

### 4.3 双专家合并（DREAMS）

DREAMS 子库提供 `Visual_scoring1_*.txt` + `Visual_scoring2_*.txt` 两位专家。
**合并策略**：取**并集**（任一专家标过即视为事件），降低漏标率；同时记录 `agreement` 字段（双专家共识 / 单专家）以便训练时加权。

### 4.4 负样本（Background）

对每条 EEG 记录：
1. 标记所有专家事件覆盖区间为「正区间」。
2. 在所有「正区间外」均匀切 5s 窗口。
3. 每条记录的负样本数限制为 `max(N_pos × 2, 50)`，避免负样本爆炸。
4. **额外条件**：若该 EEG 段属于 W（清醒）期且时长 < 30s，跳过（避免上电/睡前混入噪声）。

### 4.5 全部窗口标签生成示例

```python
def build_labels_for_window(t_start, t_end, events):
    """events: [(type, onset, dur)]"""
    label = [0, 0, 0, 0, 0]   # Bg, Spindle, KC, REM, Arousal
    for ev_type, onset, dur in events:
        ev_end = onset + dur
        overlap = max(0, min(t_end, ev_end) - max(t_start, onset))
        if overlap <= 0:
            continue
        if ev_type == 'MicroArousal':
            if overlap >= (t_end - t_start) * 0.5:
                label[4] = 1
        else:                                   # Spindle / KC / REM
            if overlap >= 0.1:                  # 至少 100ms 重叠
                idx = {'Spindle':1,'KComplex':2,'REM':3}[ev_type]
                label[idx] = 1
    if sum(label[1:]) == 0:
        label[0] = 1                            # Background
    return label
```

---

## 5. 数据集量级估计

| 类别 | DREAMS | MASS | 合计正样本（窗口） |
|---|---:|---:|---:|
| Spindle | ~700 (双专家并集) | ~5000 (待解析) | ~5700 |
| KComplex | ~540 | ~3000 (待解析) | ~3500 |
| REM | ~1700 | ~2000 (MASS-EX 推理 fine 集对齐) | ~3700 |
| MicroArousal | 0 | ~6000 (2244 事件 × ~3 个 5s 窗口/事件) | ~6000 |
| **Background** | 受控 ~2× | 受控 ~2× | ~30000 |

> 类别极不均衡，必须用 **inverse-frequency class weight** 或 **WeightedRandomSampler**。

---

## 6. Train / Val / Test 切分

| 拆分 | 比例 | 来源 |
|---|---|---|
| Train | 70% | 按 subject ID 抽 |
| Val | 15% | 按 subject ID 抽 |
| Test | 15% | 按 subject ID 抽，不可与 train/val 重叠 |

**关键约束**：
- DREAMS 各子库 subject ID 独立 → 各子库内独立做 70/15/15 切分。
- MASS SS3 共 62 个被试 → 同样按被试切分。
- **跨数据集泛化测试**：另留 1 个完整数据集（如 Sleep-EDFx 的小样本）做 zero-shot 评估，不参与任何训练。

---

## 7. 模型架构

### 7.1 第一阶段 baseline：1D-CNN

```
Input  (B, 4, 500)
├─ Conv1d(4→32, k=25, s=2) + BN + ReLU + MaxPool(2)   # 感受野 ~50ms
├─ Conv1d(32→64, k=15, s=2) + BN + ReLU + MaxPool(2)
├─ Conv1d(64→128, k=11, s=2) + BN + ReLU + MaxPool(2)
├─ Conv1d(128→128, k=7, s=1) + BN + ReLU + GAP
├─ Dropout(0.3)
└─ Linear(128 → 5)                                     # 5 个独立 sigmoid
Loss = BCEWithLogitsLoss(pos_weight = inverse_class_freq)
```

### 7.2 第二阶段进阶：TinySleepNet / EEGNet 变体

- 通道间 depthwise separable conv，参数量更小。
- 加 1 层 BiLSTM（hidden=64）做时序建模（同一 record 上下文 5 个 5s 窗口）。

### 7.3 跨库迁移

DREAMS 上预训练 → MASS 上 fine-tune（学习率减小 10×，只放开后两层）。

---

## 8. 评估指标

| 指标 | 说明 |
|---|---|
| **Per-class F1** | 每类独立计算（多标签）；Arousal 只看 0.5 阈值下的 F1 |
| **Per-class AUROC** | 阈值无关 |
| **Event-level F1** | 把连续正窗口合并回事件，与原始 onset/duration 对比（IoU ≥ 0.3 视作命中） |
| **MASS 跨库 F1** | 在 MASS 上做 zero-shot 评估，验证 DREAMS 训练是否泛化 |

---

## 9. 实施步骤（按顺序执行）

### Step 1：构建数据切片（脚本：`train/build_event_dataset.py`）

输入：
- `--datasets dreams-spindles dreams-kcomplexes dreams-rems mass-ss3`
- `--out_dir data/event_5s_100hz/`

输出（每条样本一个 npz，或合并成 shard）：
```
sample = {
    'eeg': np.float32 (4, 500),
    'labels': np.int8 (5,),       # multi-hot
    'onset': float,                # 在原 record 中的起始秒
    'subject': str,
    'source': str,                 # 'dreams-spindles' / 'mass-ss3' 等
    'agreement': str,              # 'consensus' / 'expert1' / 'expert2'
}
```

### Step 2：训练脚本（`train/train_event_classifier.py`）

- 依赖：`torch >= 2.0`, `torchaudio`（重采样可选）, `numpy`, `mne`, `scikit-learn`。
- 超参：bs=128, lr=1e-3, optimizer=AdamW, scheduler=CosineAnnealingLR, epochs=50, early stop on val macro-F1。
- 日志：tensorboard + 保存每 epoch 的 per-class metrics。

### Step 3：模型推理接到可视化网页

- 网页 `/api/predict_events` 端点：上传 record id → 返回每 5s 窗口的 5 类概率。
- 前端在 EEG 波形上叠加「模型预测事件」彩色框（与专家标注并排对比，方便人工审核）。

### Step 4（二期）：补 SEM / PLM

- 用规则算法（带通 0.1–1 Hz EOG-L/R 反相相关 + N1 期约束）生成 SEM 伪标签。
- DREAMS PLM 单独训一个 EMG-only 头部模型。

---

## 10. 关键决定记录（避免回头反复）

1. **不混 Artifacts**：伪迹检测是单独任务，不应与睡眠事件混训。
2. **不混 Apnea**：呼吸事件依赖 NAF / VTH / SAO2 通道，与 EEG 事件目标不一致。
3. **DREAMS-Subjects/Patients hypnogram 不进事件训练**：5s 整段分期是另一个任务，第一版只用其 EEG 作为 Background 池。
4. **算法自动检测（DREAMS Automatic_detection_*.txt / MASS automatic）一律不入训**。
5. **多标签优先于多分类**：spindle 与 K-complex 在 N2 期共现频繁，不应互斥。
6. **5s 窗口 + Arousal 用覆盖 ≥ 50% 二分类**：保持窗口长度统一，又不漏 arousal。

---

## 11. 服务器部署所需资源

### 11.1 数据体量（解压后）

| 数据集 | 大小 |
|---|---|
| DREAMS（解压后）| ~19 GB |
| MASS SS3（PSG + Annotations）| ~80 GB |
| MASS-EX（fine + coarse）| ~10 MB |

### 11.2 切片后磁盘需求

预估 50 万个样本 × (4 × 500 × 4 byte + meta) ≈ **4–6 GB**（npz/parquet）。

### 11.3 显存

baseline 1D-CNN @ bs=128：< 2 GB；可在单张 RTX 3060 / T4 上训练。

### 11.4 软件依赖

```
python>=3.10
torch>=2.0
mne>=1.6
numpy, scipy, scikit-learn, pandas
tensorboard
tqdm
```

---

## 12. 数据来源链接

- DREAMS: <https://zenodo.org/records/2650142>
- MASS SS3 dataverse: <https://borealisdata.ca/dataverse/MASS>
- MASS-EX: <https://huggingface.co/datasets/Feng613/MASS-EX>
- MODA（备选 spindle 数据，二期可加）: <https://osf.io/8bma7/>
- Bitbrain BOAS（仅整段分期）: <https://openneuro.org/datasets/ds005555/versions/1.1.0>
- ANPHY-Sleep（仅整段分期）: <https://osf.io/r26fh/>
- CAP Sleep DB: <https://physionet.org/content/capslpdb/>

---

## 13. 附录 A：MASS Annotations.edf 解析参考代码

```python
import mne, glob, xml.etree.ElementTree as ET
from collections import defaultdict

events = defaultdict(list)
for f in glob.glob('/path/to/MASS/SS3/dataverse_files/*Annotations.edf'):
    anns = mne.read_annotations(f)
    record_id = f.split('/')[-1].replace(' Annotations.edf', '')
    for desc, onset, dur in zip(anns.description, anns.onset, anns.duration):
        try:
            elem = ET.fromstring(desc)
            gn = elem.get('groupName', '?')
            sc = elem.get('scoringType', '?')
        except Exception:
            continue
        if sc == 'automatic':
            continue                    # 跳过算法
        if gn == 'MicroArousal':
            events[record_id].append(('MicroArousal', float(onset), float(dur)))
        # MASS spindle/K-complex 在不同 SS 子集（SS1/SS2/SS5）有标注，SS3 中较稀
```

## 14. 附录 B：DREAMS Visual_scoring 解析参考代码

```python
def parse_dreams_event_file(path, scorer):
    """返回 [(event_type, onset, duration)]"""
    out = []
    with open(path) as f:
        header = f.readline().strip('[]\n').split('/')[0]   # 'vis1_Spindles' / 'vis2_Kcomplexes' / 'vis1_REMs'
        # 映射到统一类别
        label_map = {
            'vis1_Spindles': 'Spindle', 'vis2_Spindles': 'Spindle', 'Spindles': 'Spindle',
            'vis1_Kcomplexes': 'KComplex', 'vis2_Kcomplexes': 'KComplex', 'Kcomplexes': 'KComplex',
            'vis1_REMs': 'REM', 'REMs': 'REM',
        }
        ev_type = label_map.get(header)
        if ev_type is None:
            return []
        for line in f:
            parts = line.strip().split()
            if len(parts) >= 2:
                out.append((ev_type, float(parts[0]), float(parts[1])))
    return out
```

---

*文档结束 · 内容均基于 2026-05-27 实测数据，可直接迁移到训练服务器使用*