动态

Andrew Ng推出Transformers实践课程,讲解LLM内部机制与优化。

Andrew Ng推出Transformers实践课程,讲解LLM内部机制与优化。
Andrew Ng
新课程:Transformers实践。你将获得对基于Transformer的LLM如何工作的实际理解,从而能够推理它们的行为、诊断诸如推理缓慢等问题,并更明智地做出部署决策。本课程与@AMD合作打造,由@realSharonZhou授课。

你将看到Transformers如何一次生成一个token,模型如何在预测下一个token时决定哪些早期单词最重要,以及量化等技术如何加速GPU上的推理。这不仅仅是一个纯视频课程;整个课程中的交互式可视化让你可以亲身体验这些概念,并建立持久的直觉。

你将掌握的技能:
- 理解LLM为何会产生幻觉,以及RAG和思维链如何塑造它们生成的内容
- 深入模型内部,观察注意力和层如何结合以预测下一个token
- 诊断推理瓶颈,学习加速GPU上Transformers的技术

加入进来,了解LLM内部真正发生的事情:https://t.co/oS6ekeHsIw
动态Andrew Ng2026-05-14原文

相关内容