BINE022/EEGPT

解决的问题

EEGPT 解决了从 EEG（脑电图）信号中提取可靠、通用特征的挑战，这些信号通常面临低信噪比（SNR）问题，这会降低传统基于掩码的自监督学习方法提取特征的质量。

工作原理

EEGPT 是一个拥有 1,000 万参数的预训练 Transformer 模型。它采用基于掩码的双重自监督学习方法进行特征提取。与标准方法不同，它引入了时空表示对齐，以高信噪比和丰富语义信息的表示为基础构建自监督任务，而非依赖原始的嘈杂信号。

适用人群

从事脑机接口（BCI）和 EEG 信号处理的研究人员和开发者，他们需要一个稳健的预训练基础模型，用于各种下游神经或生理任务。

主要亮点

• 双重自监督学习：采用专门的掩码策略，提升特征提取效率。
• 时空对齐：专门设计以避免低信噪比信号导致的特征质量下降。
• 预训练权重：提供用于通用 EEG 特征提取的预训练模型。
• 下游任务通用性：支持线性探测和微调，适用于多种下游 EEG 数据集和任务。