标签:下游任务

自监督学习‌ 自监督学习详细介绍(学习笔记)

文章浏览阅读1.1w次,点赞16次,收藏96次。一、相关文献:fast.ai上面关于自监督学习的资料:Self-

内容生成(AIGC)‌ AIGC之文本内容生成概述(下)—— BERT

logits = self.task_specific_layer(last_hidden_state[:, 0, :]) #取CLS特征作为整个序列的表示 最后总结一下