大模型系统概述

本节目录 Contents

大模型系统概述#

本章内容聚焦大模型领域，全面深入地探讨了 Scaling Law 在不同场景如标准、推理时间、并行及扩散等方面的解读，详尽阐述了大模型从训练到推理的全流程，涵盖训练业务流与软硬件栈的各个环节，以及推理业务流的优化策略。同时，剖析了 AI 系统与大模型系统在通用性、资源需求和软件栈变化上的显著区别，并展望了大模型系统的未来发展趋势，包括技术演进、应用场景爆发以及算力底座和生态的持续升级等多方面内容。

课程简介#

大纲	小结	链接	状态
概述	01. Scaling Law 整体解读	Markdown, 文章	:o:
概述	02. Standard Scaling Law	Markdown, 文章	:white_check_mark:
概述	03. Inference Time Scaling Law	Markdown, 文章	:o:
概述	04. 大模型训练与 AI Infra 的关系分析	Markdown, 文章	:white_check_mark:
概述	05. 大模型推理与 AI Infra 的关系分析	Markdown, 文章	:white_check_mark:
概述	06. AI Infra 核心逻辑与行业趋势	Markdown, 文章	:white_check_mark:

备注#

系列视频托管B 站和油管，PPT 开源在github，欢迎引用！

非常希望您参与到这个开源课程中，B 站给 ZOMI 留言哦！