本课程全面系统地讲解了 NLP 领域的三大重要模型 ELMo、BERT 和 GPT。从模型基础介绍、训练流程,到在不同任务中的应用实践,如分类、问答等,通过案例分析、数据处理、模型训练与测试等环节,助力学员深入理解并掌握这些模型的原理、优缺点及实际使用方法。课程内容由浅入深,涵盖理论、预训练、微调及使用,为 NLP 学习者提供了一条完整的知识进阶路径。
章节 | 内容 |
---|---|
章节1 ELMO_BERT_GPT |
1 : ELMo_介绍 2 : ELMo_训练流程 3 : ELMo_模型使用方法 4 : ELMo_优缺点 5 : ELMo_案例_构建词汇表 6 : ELMo_案例_初始化函数 7 : ELMo_案例_前向传播函数 8 : ELMo_案例_训练前的准备 9 : ELMo_案例_训练模型 10 : ELMo_案例_测试模型 11 : ELMo_案例_使用预训练ELMo 12 : BERT_介绍 13 : BERT_为什么使用Transformer编码器 14 : BERT_掩码语言模型 15 : BERT_下一句预测 16 : BERT_与原生Transformer编码器的差别 17 : BERT_预训练案例_处理数据集 18 : BERT_预训练案例_模型训练 19 : BERT_微调 20 : BERT_单句分类任务 21 : BERT_句对分类任务&序列标注任务 22 : BERT_问答任务 23 : BERT_微调案例_准备微调数据 24 : BERT_微调案例_数据预处理 25 : BERT_微调案例_模型训练 26 : BERT_微调案例_模型测试 27 : GPT_介绍 28 : GPT_训练流程 29 : GPT_GPT系列模型对比 30 : GPT_GPT-1 31 : GPT_GPT-2 32 : GPT_GPT-3 33 : GPT_InstructGPT 34 : GPT_GPT-4 35 : GPT_使用GPT模型 36 : GPT_微调GPT模型_加载模型 37 : GPT_微调GPT模型_微调训练 |