??百度網盤??

提取碼:u6C4 

最近一直關注貪心學院的機器學習訓練營,發現這門課講的很有深度,不僅適合職場也適合科研人員,加入AI行業拿到高薪僅僅是職業生涯的開始。現階段AI人才結構在不斷升級,對AI人才的要求也不斷升高,如果對自己沒有很高的要求,其實很容易被快速發展的趨勢所淘汰。


下面我們看下大綱:


第一部分 凸優化與機器學習


第一周:凸優化介紹


從優化角度理解機器學習

優化技術的重要性

常見的凸優化問題

線性規劃以及Simplex Method

Two-Stage LP

案例:運輸問題講解

第二周:凸函數講解


凸集的判斷

First-Order Convexity

Second-order Convexity

Operations Preserve Convexity

二次規劃問題(QP)

案例:最小二乘問題

項目作業:投資組合優化

第三周:凸優化問題


常見的凸優化問題類別

半定規劃問題

幾何規劃問題

非凸函數的優化

松弛化(Relaxation)

整數規劃(Integer Programming)

案例:打車中的匹配問題

第四周:對偶(Duality)


拉格朗日對偶函數

對偶的幾何意義

Weak and Strong Duality

KKT條件

LP, QP, SDP的對偶問題

案例:經典模型的對偶推導及實現對偶的其他應用

第五周:優化技術


一階與二階優化技術


Gradient Descent


Subgradient Method


Proximal Gradient Descent


Projected Gradient Descent


SGD與收斂


Newtons Method


Quasi-Newtons Method


第二部分 圖神經網絡


第六周: 數學基礎


向量空間和圖論基礎


Inner Product, Hilbert Space


Eigenfunctions, Eigenvalue


傅里葉變化


卷積操作


Time Domain, Spectral Domain


Laplacian, Graph Laplacian


第七周:譜域的圖神經網絡


卷積神經網絡回歸


卷積操作的數學意義


Graph Convolution


Graph Filter


ChebNet


CayleyNet


GCN


Graph Pooling


案例:基于GCN的推薦


第八周:空間域的圖神經網絡


Spatial Convolution


Mixture Model Network (MoNet)


注意力機制


Graph Attention Network(GAT)


Edge Convolution


空間域與譜域的比較


項目作業:基于圖神經網絡的鏈路預測


第九周:圖神經網絡改進與應用


拓展1: Relative Position與圖神經網絡


拓展2:融入Edge特征:Edge GCN


拓展3:圖神經網絡與知識圖譜: Knowledge GCN


拓展4:姿勢識別:ST-GCN


案例:基于圖的文本分類


案例:基于圖的閱讀理解


第三部分 強化學習


第十周:強化學習基礎


Markov Decision Process


Bellman Equation


三種方法:Value,Policy,Model-Based


Value-Based Approach: Q-learning


Policy-Based Approach: SARSA


第十一周:Multi-Armed Bandits


Multi-Armed bandits


Epsilon-Greedy


Upper Confidence Bound (UCB)


Contextual UCB


LinUCB & Kernel UCB


案例:Bandits在推薦系統的應用案例


第十二周:路徑規劃


Monte-Carlo Tree Search


N-step learning


Approximation


Reward Shaping


結合深度學習:Deep RL


項目作業:強化學習在游戲中的應用案例


第十三周: 自然語言處理中的RL


Seq2seq模型的問題


結合Evaluation Metric的自定義loss


結合aspect的自定義loss


不同RL模型與seq2seq模型的結合


案例:基于RL的文本生成


第四部分 貝葉斯方法


第十四周:貝葉斯方法論簡介


貝葉斯定理


從MLE, MAP到貝葉斯估計


集成模型與貝葉斯方法比較


計算上的Intractiblity


MCMC與變分法簡介


貝葉斯線性回歸


貝葉斯神經網絡


案例:基于Bayesian-LSTM的命名實體識別


第十五周:主題模型


生成模型與判別模型


隱變量模型


貝葉斯中Prior的重要性


狄利克雷分布、多項式分布


LDA的生成過程


LDA中的參數與隱變量


Supervised LDA


Dynamic LDA


LDA的其他變種


項目作業:LDA的基礎上修改并搭建無監督情感分析模型


第十六周:MCMC方法


Detailed Balance


對于LDA的吉布斯采樣


對于LDA的Collapsed吉布斯采樣


Metropolis Hasting


Importance Sampling


Rejection Sampling


大規模分布式MCMC


大數據與SGLD


案例:基于分布式的LDA訓練


第十七周:變分法(Variational Method)


變分法核心思想


KL散度與ELBo的推導


Mean-Field變分法


EM算法


LDA的變分法推導


大數據與SVI


變分法與MCMC的比較


Variational Autoencoder


Probabilistic Programming


案例:使用概率編程工具來訓練貝葉斯模型