BERT基础知识测试题及答案.docVIP

BERT基础知识测试题及答案

一、选择题（每题5分，共30分）

1.BERT的全称是什么？

A.BidirectionalEncoderRepresentationsfromTransformers

B.BasicEncoderRepresentationsfromTransformers

C.BidirectionalEncoderResultsfromTransformers

D.BasicEncoderResultsfromTransformers

2.BERT是基于什么架构的预训练模型？

A.卷积神经网络

B.循环神经网络

C.自注意力机制

D.以上都不是

3.BERT的预训练任务不包括以下哪项？

A.掩码语言模型

B.下一句预测

C.图像分类

D.以上都是预训练任务

4.BERT在微调时通常采用什么策略？

A.随机初始化参数

B.冻结所有层参数

C.解冻部分层参数

D.以上都不对

5.BERT相比传统的词向量模型，优势在于？

A.能够处理更长的文本

B.具有更强的语义理解能力

C.训练速度更快

D.以上都是

6.BERT的输入是如何表示的？

A.字符级表示

B.词袋表示

C.基于位置的嵌入表示

D.以上都不是

二、填空题（每题5分，共20分）

1.BERT的预训练数据通常来自