外观
大模型基础
约 238 字小于 1 分钟
本栏目整理大型语言模型(LLM)基础知识,包括预训练、生成式模型架构、提示方法、对齐技术、推理优化等内容。
章节目录
- 概要图 - 大模型基础知识全景图
- 第1章 预训练 - 无监督预训练、自监督学习、BERT模型
- 第2章 生成式模型(LLM) - 仅解码器架构、训练微调、大规模训练、长序列建模
- 第3章 提示方法(Prompting) - 通用提示设计、进阶方法、学习提示
- 第4章 对齐 (Alignment) - 指令对齐、RLHF、改进方法、安全对齐
- 第5章 推理 (Inference) - 预填充解码、高效推理、推理时扩展