??百度網盤??
提取碼:u6C4
最近一直關注貪心學院的機器學習訓練營,發現這門課講的很有深度,不僅適合職場也適合科研人員,加入AI行業拿到高薪僅僅是職業生涯的開始。現階段AI人才結構在不斷升級,對AI人才的要求也不斷升高,如果對自己沒有很高的要求,其實很容易被快速發展的趨勢所淘汰。
下面我們看下大綱:
第一部分 凸優化與機器學習
第一周:凸優化介紹
從優化角度理解機器學習
優化技術的重要性
常見的凸優化問題
線性規劃以及Simplex Method
Two-Stage LP
案例:運輸問題講解
第二周:凸函數講解
凸集的判斷
First-Order Convexity
Second-order Convexity
Operations Preserve Convexity
二次規劃問題(QP)
案例:最小二乘問題
項目作業:投資組合優化
第三周:凸優化問題
常見的凸優化問題類別
半定規劃問題
幾何規劃問題
非凸函數的優化
松弛化(Relaxation)
整數規劃(Integer Programming)
案例:打車中的匹配問題
第四周:對偶(Duality)
拉格朗日對偶函數
對偶的幾何意義
Weak and Strong Duality
KKT條件
LP, QP, SDP的對偶問題
案例:經典模型的對偶推導及實現對偶的其他應用
第五周:優化技術
一階與二階優化技術
Gradient Descent
Subgradient Method
Proximal Gradient Descent
Projected Gradient Descent
SGD與收斂
Newtons Method
Quasi-Newtons Method
第二部分 圖神經網絡
第六周: 數學基礎
向量空間和圖論基礎
Inner Product, Hilbert Space
Eigenfunctions, Eigenvalue
傅里葉變化
卷積操作
Time Domain, Spectral Domain
Laplacian, Graph Laplacian
第七周:譜域的圖神經網絡
卷積神經網絡回歸
卷積操作的數學意義
Graph Convolution
Graph Filter
ChebNet
CayleyNet
GCN
Graph Pooling
案例:基于GCN的推薦
第八周:空間域的圖神經網絡
Spatial Convolution
Mixture Model Network (MoNet)
注意力機制
Graph Attention Network(GAT)
Edge Convolution
空間域與譜域的比較
項目作業:基于圖神經網絡的鏈路預測
第九周:圖神經網絡改進與應用
拓展1: Relative Position與圖神經網絡
拓展2:融入Edge特征:Edge GCN
拓展3:圖神經網絡與知識圖譜: Knowledge GCN
拓展4:姿勢識別:ST-GCN
案例:基于圖的文本分類
案例:基于圖的閱讀理解
第三部分 強化學習
第十周:強化學習基礎
Markov Decision Process
Bellman Equation
三種方法:Value,Policy,Model-Based
Value-Based Approach: Q-learning
Policy-Based Approach: SARSA
第十一周:Multi-Armed Bandits
Multi-Armed bandits
Epsilon-Greedy
Upper Confidence Bound (UCB)
Contextual UCB
LinUCB & Kernel UCB
案例:Bandits在推薦系統的應用案例
第十二周:路徑規劃
Monte-Carlo Tree Search
N-step learning
Approximation
Reward Shaping
結合深度學習:Deep RL
項目作業:強化學習在游戲中的應用案例
第十三周: 自然語言處理中的RL
Seq2seq模型的問題
結合Evaluation Metric的自定義loss
結合aspect的自定義loss
不同RL模型與seq2seq模型的結合
案例:基于RL的文本生成
第四部分 貝葉斯方法
第十四周:貝葉斯方法論簡介
貝葉斯定理
從MLE, MAP到貝葉斯估計
集成模型與貝葉斯方法比較
計算上的Intractiblity
MCMC與變分法簡介
貝葉斯線性回歸
貝葉斯神經網絡
案例:基于Bayesian-LSTM的命名實體識別
第十五周:主題模型
生成模型與判別模型
隱變量模型
貝葉斯中Prior的重要性
狄利克雷分布、多項式分布
LDA的生成過程
LDA中的參數與隱變量
Supervised LDA
Dynamic LDA
LDA的其他變種
項目作業:LDA的基礎上修改并搭建無監督情感分析模型
第十六周:MCMC方法
Detailed Balance
對于LDA的吉布斯采樣
對于LDA的Collapsed吉布斯采樣
Metropolis Hasting
Importance Sampling
Rejection Sampling
大規模分布式MCMC
大數據與SGLD
案例:基于分布式的LDA訓練
第十七周:變分法(Variational Method)
變分法核心思想
KL散度與ELBo的推導
Mean-Field變分法
EM算法
LDA的變分法推導
大數據與SVI
變分法與MCMC的比較
Variational Autoencoder
Probabilistic Programming
案例:使用概率編程工具來訓練貝葉斯模型