在模型蒸馏中,下列哪项描述最准确地描述了学生网络的目标?

答案解析

核心考点:模型蒸馏的核心思想是让一个小的学生模型学习一个大的教师模型的知识。解题思路:学生网络并非直接学习训练数据标签,而是学习教师网络的输出分布,即软标签,达到模型压缩的目的。选项分析:A 错误,学生模型通常比教师模型小;B 正确,学生模型通过模仿教师模型的输出达到模型压缩;C 错误,蒸馏的关键是教师网络的软标签;D 错误,学生模型需要学习教师网络的输出,而不仅是隐藏层特征。易错点:容易将学生模型的学习目标理解为直接学习原始数据标签,而忽略了教师模型的作用。
正确答案:B
随机推荐
开始刷题