Andrew Ng推出JAX构建LLM课程,含20M参数模型实践。
新课程:使用JAX构建和训练LLM,与@Google合作,由@chrisachard授课。
JAX是Google Gemini、Veo等先进模型背后的开源库。本短课程教你使用JAX及其工具生态从零构建并训练一个2000万参数的语言模型。
你将从头实现完整的MiniGPT风格架构,训练它,并通过图形界面与完成的模型聊天。
你将掌握的技能:
- 学习JAX核心原语:自动微分、JIT编译和向量化执行
- 使用Flax/NNX构建MiniGPT风格LLM,实现嵌入和Transformer模块
- 加载预训练MiniGPT模型并通过聊天界面运行推理
快来学习构建LLM这一重要软件层!
https://t.co/wm6NZOGIKC
JAX是Google Gemini、Veo等先进模型背后的开源库。本短课程教你使用JAX及其工具生态从零构建并训练一个2000万参数的语言模型。
你将从头实现完整的MiniGPT风格架构,训练它,并通过图形界面与完成的模型聊天。
你将掌握的技能:
- 学习JAX核心原语:自动微分、JIT编译和向量化执行
- 使用Flax/NNX构建MiniGPT风格LLM,实现嵌入和Transformer模块
- 加载预训练MiniGPT模型并通过聊天界面运行推理
快来学习构建LLM这一重要软件层!
https://t.co/wm6NZOGIKC