有什么理论复杂但是实现简单的算法？ ​

毫无疑问的，随机微分方程与郎之万动力学，deep learning时代最经典的离散格式就是SGD。实现很简单：d x = f d t + g d W，算上+和=共计10个字符。前面提到的算法里面我目测实现复杂度都比它海了去了。 理论性质：由于SGD对收敛几乎没啥要求（无凸性，甚至可以不咋光滑），想要研究一般意义的收敛速度，必须理解学会用概率论联系黎曼几何或者PDE中Sobolev空间。无话可说....极其难...... 作为上可研究最漂亮的理论 (dynamical systems; ergodic theory;…