maths-cs-ai-compendium

数学、计算机科学和人工智能纲要

在线阅读: henryndubuaku.github.io/maths-cs-ai-compendium

概述

大多数教科书将好思想埋藏在密集的符号中，跳过直觉，假设你已经掌握了一半的内容，并且在像 AI（人工智能）这样快速发展的领域中迅速过时。这是一本开放的、非传统的教科书，从头开始涵盖数学、计算和人工智能。专为那些希望深入理解内容（而不仅仅是应付考试或面试）的好奇从业者编写。

背景

在过去几年从事 AI/ML（人工智能/机器学习）工作的过程中，我填满了许多笔记本——优先直觉、提供真实世界背景，对数学、计算和 AI 概念不做含糊其辞的解释。2025 年，几位朋友用这些笔记为 DeepMind、OpenAI、Nvidia 等公司的面试做准备。他们全都拿到了 offer，目前在自己的岗位上表现良好。与此同时，我去年进入了 Y Combinator。所以我决定将这些分享给大家。

MCP 服务器

本仓库包含一个 MCP 服务器，它允许任何 AI 助手（Claude Code、Cursor、VS Code 等）将这一纲要用作知识库。这需要本地克隆该仓库。附带用于教育目的的工具和示例实现。

目录大纲

#	章节	摘要	状态
01	向量	空间、大小、方向、范数、度量、点积/叉积/外积、基、对偶性	Available
02	矩阵	性质、特殊类型、运算、线性变换、分解（LU、QR、SVD）	Available
03	微积分	导数、积分、多变量微积分、泰勒逼近、优化与梯度下降	Available
04	统计学	描述性度量、抽样、中心极限定理、假设检验、置信区间	Available
05	概率论	计数、条件概率、分布、贝叶斯方法、信息论	Available
06	机器学习	经典 ML、梯度方法、深度学习、强化学习、分布式训练	Available
07	计算语言学	句法、语义、语用、NLP（自然语言处理）、语言模型、RNN、CNN、注意力机制、Transformer（自注意力架构）、文本扩散、文本 OCR、MoE（混合专家）、SSM（状态空间模型）、现代 LLM（大语言模型）架构、NLP 评估	Available
08	计算机视觉	图像处理、目标检测、分割、视频处理、SLAM（同步定位与地图构建）、CNN、视觉 Transformer、扩散、流匹配、VR/AR（虚拟现实/增强现实）	Available
09	音频与语音	DSP（数字信号处理）、ASR（自动语音识别）、TTS（文本到语音）、语音与声学活动检测、说话人分离、音源分离、主动降噪、WaveNet、Conformer	Available
10	多模态学习	融合策略、对比学习、CLIP、VLM（视觉语言模型）、图像/视频 tokenization、跨模态生成、统一架构、世界模型	Available
11	自主系统	感知、机器人学习、VLA（视觉语言动作模型）、自动驾驶汽车、太空机器人	Available
12	图神经网络	几何深度学习、图论、GNN（图神经网络）、图注意力、图 Transformer、3D 等变网络	Available
13	计算与操作系统	离散数学、计算机架构、操作系统、并发、并行、编程语言	Available
14	数据结构与算法	大 O、递归、回溯、DP（动态规划）、数组、哈希、链表、栈、树、图、排序、二分搜索	Available
15	生产级软件工程	Linux、Git、代码库设计、测试、CI/CD、Docker、模型服务、MLOps、监控、编码 agent 的最佳使用方式	Available
16	SIMD 与 GPU 编程	用于 ML 的 C++、框架工作原理、硬件基础、ARM NEON/I8MM/SME2、x86 AVX、GPU/CUDA、Triton、TPU、RISC-V、Vulkan、WebGPU	Available
17	AI 推理	量化、高效架构、服务与批处理、边缘推理、推测解码、成本优化	Available
18	ML 系统设计	系统基础、云计算、分布式系统、ML 生命周期、特征存储、A/B 测试、推荐/搜索/广告/欺诈设计示例	Available

前言

新生婴儿的大脑是一个刚刚初始化的神经网络，它从现实世界的数据和经验中训练，直至成年……并且持续下去。能够以完美口音出色地掌握法语，意味着受到了优质法语和完美口音的熏陶。同样，优秀的 AI 研究人员和工程师拥有出色的解决问题的技能，意味着他们吸收了高质量的知识并获得了丰富的经验。

Kvashchev 实验是一项长期的塞尔维亚研究，表明为期三年的密集创造性问题解决训练可以显著提高智力，特别是流体智力，增加 10-15 个 IQ 点。确实存在天生高 IQ 的情况，就像优质的权重初始化能带来更好的训练一样，先天与后天的实验发现也证明了这一点。

然而，高 IQ 个体真正拥有的唯一优势是能够更快地学习/识别模式。但使用重复模式可以让任何概念绝对可学。查尔斯·达尔文被他的老师和父亲认为是一个非常普通甚至低于平均水平的学生。他形容自己并不机敏，感觉像一个需要时间吸收数据的“慢处理器”。

在 3-10 岁之间，我的学业表现良好，无需记笔记或复习就能自然地掌握概念。在 11-13 岁之间，我有些自负，使用同样的方法，在 80 人的班级中落到了下半部分。在 14-15 岁之间，我开始像一个普通学生一样阅读，最终在中学最后一个学期取得了第一名。早期的学校课程与天生 IQ 配合良好，但真实世界的能力是由高质量的知识消耗和执行强度驱动的。

事实上，大多数在学业上表现良好的学生只是更加勤奋，但学术系统是为快速学习者设计的。这本纲要为世界上的“达尔文们”提供了全面且相互关联的知识流，以促进更好的学习。你只需要具备基础数学和基本 Python 编程知识，其他一切都会逐步学到，只需阅读并信任这个过程！

如何更高效地学习

大学第一学期，我同时选修了 17 门课程，成绩并不理想，因此我使用了一种技巧：

第一阶段：课后累积阅读 每次课后、睡前阅读材料。下一次上课时，从头开始重新阅读直到当前结束，然后通过额外研究填补知识空白。这能让你的大脑连接模式。

第二阶段：考前影子阅读 阅读每张幻灯片/笔记的副标题，合上书，然后想象并写出对该概念的解释。只重读你遗漏的部分，类似于机器学习中的掩码语言建模（masked-language modelling）。重读后，最终在代码中实现该概念。你会为每个概念培养肌肉记忆。

这个方法对我那些不太自信的朋友们非常有效。事实上，其中一位朋友在高等工程数学（涉及 Hessian 矩阵和优化）这门课上超过了我。她如今在一家大型油气公司工作。心灵的意愿比我们所用的身体更重要（罗森塔尔实验）。

Henry Ndubuaku 是谁？

请阅读 GitHub 个人资料！

引用

@book{ndubuaku2025compendium,
  title     = {Maths, CS & AI Compendium},
  author    = {Henry Ndubuaku},
  year      = {2026},
  publisher = {GitHub},
  url       = {https://github.com/HenryNdubuaku/maths-cs-ai-compendium}
}