单项选择题

A.使用了预训练模型,基于上下文微调embedding
B.使用了更强的特征提取器Transformer
C.使用了单向的Transformer去提取特征
D.以上都正确