大模型面试题目大全及答案.docx

大模型面试题目大全及答案

一、基础知识篇（共10题，每题10分，总分100分）

1.单项选择题

在Transformer架构中，自注意力机制的核心计算公式主要包含哪三个部分？

A.Query、Key、Value

B.Input、Output、Hidden

C.Embedding、Position、Layer

D.Attention、Pooling、FC

答案：A

2.单项选择题

BERT模型采用的是自编码架构，而GPT系列采用的是自回归架构，请问BERT模型在训练时主要使用的是什么掩码策略？

A.循环掩码

B.块掩码

C.掩码语言模型（MLM）

D.下一个词预测（NSP）