從3類函數中理解機器學習

Arno 發布于2019-07-31 11:02 / 1899人閱讀

摘要：類函數凸函數凹函數其他類別函數函數性質凸函數凸函數的任何極小值也是最小值。嚴格凸函數最多有一個最小值。凹函數凹函數的任何極大值也是最大值。

3類函數

凸函數

凹函數

其他類別函數

函數性質

凸函數：凸函數的任何極小值也是最小值。嚴格凸函數最多有一個最小值。

凹函數：凹函數的任何極大值也是最大值。嚴格凹函數最多有一個最大值。

非凹凸函數：有多個極大極小值，只有局部最優解

機器學習的任務

機器學習的任務可以理解成下圖：從一堆輸入，經過處理，得到想要的輸出

這個機器學習任務流程，可以抽象成函數：y=f(x)，x為輸入，y為理想的輸出

于是乎，機器學習就可以看作是求函數y=f(x)的最優解了

損失函數（ loss）的引入

所謂的損失函數，就是用來衡量預測值和實際值之間的誤差

我們的目標就是，找到使損失函數達到最小值時候的參數

過擬合和欠擬合問題

判斷機器學習是否執行得好，有以下2個目標：

-- 使訓練錯誤率盡可能低（可以通過神經網絡，函數逼近的方法）
-- 使訓練錯誤率與測試錯誤率的差距盡可能小（可以用正則化的方法）

欠擬合：訓練錯誤率比較高

過擬合：測試錯誤率與訓練錯誤率差距比較大

訓練

我們的目標是，找到使損失函數達到最小值時候的參數

此時，我們可以對損失函數進行求導（導數也成為梯度），尋找極值，常用的方法有：隨機梯度下降（SGD）

訓練就是不斷尋找使損失函數達到最小值時候的參數的過程，因為一般的函數具有多個局部最優解

云服務器 GPU云服務器機器學習中機器學習在企業中的應用這個函數怎么理解深度學習理解

文章版權歸作者所有，未經允許請勿轉載,若此文章存在違規行為，您可以聯系管理員刪除。

轉載請注明本文地址：http://specialneedsforspecialkids.com/yun/44548.html

從3類函數中理解機器學習

摘要：類函數凸函數凹函數其他類別函數函數性質凸函數凸函數的任何極小值也是最小值。嚴格凸函數最多有一個最小值。凹函數凹函數的任何極大值也是最大值。 3類函數凸函數 showImg(https://segmentfault.com/img/remote/1460000013389230?w=650&h=400); 凹函數 showImg(https://segmentfault.com/img...

BenCHou 2019-08-22 14:51 評論0 收藏0
王飛躍等：生成式對抗網絡 GAN 的研究進展與展望

摘要：引用格式王坤峰，茍超，段艷杰，林懿倫，鄭心湖，王飛躍生成對抗網絡的研究與展望自動化學報，論文作者王坤峰，茍超，段艷杰，林懿倫，鄭心湖，王飛躍摘要生成式對抗網絡目前已經成為人工智能學界一個熱門的研究方向。本文概括了的研究進展并進行展望。 3月27日的新智元 2017 年技術峰會上，王飛躍教授作為特邀嘉賓將參加本次峰會的 Panel 環節，就如何看待中國 AI學術界論文數量多，但大師級人物少的現...

xiaokai 2019-04-25 18:10 評論0 收藏0
機器學習算法基礎（使用Python代碼）

摘要：機器學習算法類型從廣義上講，有種類型的機器學習算法。強化學習的例子馬爾可夫決策過程常用機器學習算法列表以下是常用機器學習算法的列表。我提供了對各種機器學習算法的高級理解以及運行它們的代碼。決策樹是一種監督學習算法，主要用于分類問題。 showImg(https://segmentfault.com/img/remote/1460000019086462); 介紹谷歌的自動駕駛汽車和機...

BenCHou 2019-07-31 10:22 評論0 收藏0
機器學習

摘要：用離散信一文清晰講解機器學習中梯度下降算法包括其變式算法無論是要解決現實生活中的難題，還是要創建一款新的軟件產品，我們最終的目標都是使其達到最優狀態。提高駕駛技術：用GAN去除(愛情)動作片中的馬賽克和衣服作為一名久經片場的老司機，早就想寫一些探討駕駛技術的文章。這篇就介紹利用生成式對抗網絡（GAN）的兩個基本駕駛技能： 1) 去除(愛情)動作片中的馬賽克 2) 給(愛情)動作片中...

wums 2019-06-26 18:19 評論0 收藏0