导读:
只是覆盖了很小的范围,但总结的不错。
1. 数学方面
1) 矩阵的各种分解. 比如, LU, QR, Cholesky, SVD, Polar.
2) 广义逆与子空间
3) 最小二乘法, 特别齐性方程Ax=b的各种解法及其几何意义
4) 凸分析与凸优化的基本知识及其几何意义
5) 常用的几种优化方法.
其实以上在某种意义下是相通的.
6) 微分几何、黎曼几何的基本概念和知识
7) 李群与李代数的基本知识
8) 图和谱图的基本知识
以上知识,我认为,是作为一个做算法的研究者都应该了解或是掌握的数学知识
9) 模糊数学10) 时间序列分析的主要方法和最近新方法.
11) 分形和混沌
12) 常用微分方程的基本类型和解法
2.算法
1)PCA, FA, MDS
这3个事最典型的降维方法,也是最古典的。但是他们已经出现很多变种,应用在计
算机的各个领域。拿PCA做例子,比如Local PCA, Sparse PCA, Probabilistic PCA, Non negative PCA.
2) ICA ( Independent Component Analysis )
独立元分析是降维分析中又一经典方法,其有很多种形式。在语音识别,人脸识别等
分类领域中广泛应用。最近又有Nonnegative ICA 出现。特别地李群与李代数(Toral子代数)的引入为这个经典的方法有注入了新鲜的活力。
3)NMF ( Nonnegative Matrix Factorization)
非负矩阵因子是99年发表在Nature上的一片经典论文。它是继PCA and ICA之后的又