2026年Transformer算法应用测试卷.docxVIP

PAGE/NUMPAGES

2026年Transformer算法应用测试卷

考试时间：______分钟总分：______分姓名：______

一、选择题（每题只有一个正确答案，请将正确选项字母填入括号内。每题2分，共20分）

1.Transformer模型中，自注意力机制能够直接捕捉输入序列中（）之间的依赖关系。

A.不同位置的特征

B.相同位置的特征

C.只有关键词之间的

D.只有关键短语之间的

2.在Transformer的Encoder部分，多头注意力机制的主要目的是（）。

A.压缩序列长度

B.增加模型参数

C.使模型能够同时关注不同位置的依赖关系

D.替代位置编码

3.下列哪种技术不属于Transformer模型本身，但常与Transformer结合使用以处理序列生成任务中的顺序约束？（）

A.位置编码

B.自回归训练

C.跨注意力机制

D.Connection机制

4.BERT模型预训练的主要目标不包括（）。

A.语言理解能力

B.语句生成能力

C.下一词预测

D.候选句选择

5.ViT（VisionTransformer）模型将图像分割成小块（Patches）