GPT 模型

4 篇文章 1 个主题模块 进入文章后，左侧会展开本课程章节

01 第 12 门课程

  1. 01 GPT-1：生成式预训练与任务微调 本文围绕“GPT-1：生成式预训练与任务微调”对课程 ASR 进行高密度论文式重构，并围绕 GPT-1、Generative Pre-Training、Transformer Decoder、unsupervised pretraining、supervised fine-tuning 检索英文原论文、官方研究页面和高校课程资料。文章不保留课堂逐句口述，而以问题背景、技术难点、形式化定义、核心机制、理论或实验依据、局限与后续发展重新组织 →
  2. 02 GPT-2：规模扩展、WebText 与零样本任务迁移 本文围绕“GPT-2：规模扩展、WebText 与零样本任务迁移”对课程 ASR 进行高密度论文式重构，并围绕 GPT-2、WebText、zero-shot、autoregressive language modeling、scaling 检索英文原论文、官方研究页面和高校课程资料。文章不保留课堂逐句口述，而以问题背景、技术难点、形式化定义、核心机制、理论或实验依据、局限与后续发展重新组织知识，并对可确认的 ASR 误识别和概念边界进 →
  3. 03 GPT-3：175B 参数、上下文学习与 Zero/One/Few-shot 本文围绕“GPT-3：175B 参数、上下文学习与 Zero/One/Few-shot”对课程 ASR 进行高密度论文式重构，并围绕 GPT-3、in-context learning、few-shot、one-shot、zero-shot 检索英文原论文、官方研究页面和高校课程资料。文章不保留课堂逐句口述，而以问题背景、技术难点、形式化定义、核心机制、理论或实验依据、局限与后续发展重新组织知识，并对可确认的 ASR 误识别和概念边界进 →
  4. 04 ChatGPT 与指令对齐：从 GPT 预训练到 InstructGPT/RLHF 本文围绕“ChatGPT 与指令对齐：从 GPT 预训练到 InstructGPT/RLHF”对课程 ASR 进行高密度论文式重构，并围绕 ChatGPT、InstructGPT、instruction tuning、RLHF、human preference 检索英文原论文、官方研究页面和高校课程资料。文章不保留课堂逐句口述，而以问题背景、技术难点、形式化定义、核心机制、理论或实验依据、局限与后续发展重新组织知识，并对可确认的 ASR →