通用算法与机器学习手写题

图：逐轮减半体现利用约束缩小候选空间的通用算法思想。 来源：Successive halving，作者 Aston Zhang、Zachary C. Lipton、Mu Li、Alexander J. Smola（D2L.ai），许可 CC BY-SA 4.0。

知识范围

通用部分按滑动窗口、二分、栈队列、树图、堆、并查集、回溯和动态规划组织；机器学习部分覆盖 Softmax、交叉熵、LayerNorm、Attention、采样、LoRA 和检索指标。

学习路线

先学习识别信号和循环不变量，再独立写模板与测试。每题都要能说明复杂度和边界，机器学习实现还要解释数值稳定性和张量形状。

核心问题

• 怎样从题意识别滑动窗口、二分或动态规划？
• Softmax 如何避免指数溢出？
• Attention 的 Mask、形状和复杂度如何实现？

参考资料

• Introduction to Algorithms

应用岗复习重点

• 手写检索基础：余弦、RRF、Recall、MRR 与 nDCG：提供可运行的纯 Python 检索练习，覆盖重复候选、零向量、无相关项和分级相关性，并附断言测试。
• 应用岗算法核心：窗口、二分、BFS、堆、DP 与 LRU：用六个可运行模板串起应用岗通用编码基础，逐项说明不变量、复杂度和边界，避免只记题号。

按 重要性清单安排先后；读完后做节点末尾的闭卷检查，再回到对应面试问题。