資訊專欄INFORMATION COLUMN
摘要：年深度學習取得的驚人突破將在年以一種非常有力的方式延續下去。整理了一份年深度學習的預測清單。谷歌將繼續以的開發項目給世界帶來驚喜。深度學習發現了通用函數近似器。深度學習研究信息將減少年對于從事深度學習研究的人來說已經很困難了。
【網易智能訊1月4日消息】我有一種預感，2018年可能是一切都發生戲劇性變化的一年。2017年深度學習取得的驚人突破將在2018年以一種非常有力的方式延續下去。2017年的研究工作將會轉移到日常的軟件應用中。
整理了一份2018年深度學習的預測清單。
1、大部分深度學習硬件初創公司會失敗 許多深度學習硬件創業公司將開始在2018年最終交付他們的成品。大部分走向蕭條，因為他們沒有提供好的軟件來支持新解決方案。這些公司擁有硬件作為他們的DNA。不幸的是，在深度學習領域，軟件也同樣重要。這些創業公司大多不懂軟件，也不理解開發軟件的成本。這些公司可能會交付產品，但不會運行良久。
易實現的收縮陣列（systolic array）解決方案已經被采用，因此不會有2017年那樣的10倍性能升級。研究人員將這些tensor cores不僅用于推斷，還用于加快訓練速度。
英特爾的解決方案將繼續被推遲，而且可能會令人失望。記錄顯示英特爾無法在2017年中期發布，交付時間難以預測，這太遲了，而且會很糟糕。
谷歌將繼續以TPU的開發項目給世界帶來驚喜。或許，谷歌會通過將其IP授權給其他半導體廠商來涉足硬件業務。如果它繼續成為除英偉達以外唯一真正的玩家，這將是有意義的。
2、基于新隨機梯度下降（SGD）的元學習 2017年，元學習領域的大量研究成果出現。隨著研究群體對元學習的整體理解能力加強，隨機梯度下降（SGD）的舊范式將被擱置，取而代之的是一種更有效的方法，兼具開發和探索性。
非監督學習的進步將是漸進的，但主要是由元學習算法驅動的。
3、生成模型驅動了一種新的建模方法 生成模型不斷發展。目前，大多數研究都是在生成圖像和語音方面進行的。不過，我們應當看到這些方法結合工具被用于復雜系統的建模。其中的一個應用領域是經濟建模。
4、“自對弈”（Self-play）是自動的知識創造 AlphaGo Zero和AlphaZero之間從零開始學習到“自對弈”學習是一次巨大的飛躍，在我看來，它和深度學習的到來有著同樣的影響。深度學習發現了通用函數近似器（Universal Function Approximators）。強化學習“自對弈”發現了普遍的知識創造。
期待看到更多與“自對弈”（Self-play）相關的進步。
5、直覺機器將彌合語義鴻溝 這是我最大膽的預測。我們將彌合直覺機器和理性機器之間的語義鴻溝。
雙過程理論（兩個認知機器的概念，一個是無模型的，另一個是基于模型的）將會是更普遍的概念，即我們應該如何構建新的人工智能。在2018年，人工直覺的概念將不再是一個邊緣概念，而是一個普遍接受的概念。
6、解釋能力（Explainability）是無法實現的，我們只能假裝 解釋能力存在兩個問題。更常見的問題是，解釋對人們來說有太多的規則需要去掌握。第二個問題不太為人所知，那就是機器將會創造出完全陌生的概念，無法解釋。我們已經在AlphaGo Zero和Alpha Zero的戰略中看到了這一點。人類會觀察到，此舉是非常規的，但他們可能沒有能力去理解這一舉動背后的邏輯。
在我看來，這是一個無法解決的問題。取而代之的是，機器將變得非常善于“偽裝解釋”。簡而言之，可解釋的機器的目的是理解一個人能夠自如地理解或能從直覺上理解的各種解釋。然而，在大多數情況下，對人類來說，完整的解釋是不可能的。
我們必須通過創造“假解釋”來在深度學習中取得進展。
7、深度學習研究信息將減少 2017年對于從事深度學習研究的人來說已經很困難了。提交到ICLR 2018會議的論文數量約為4,000篇。一個研究人員每天要閱讀10篇論文，僅僅是為了能與會議同步。
在這個領域，問題變得更加嚴重，因為所有的理論框架都在不斷完善之中。為了在理論空間上取得進步，我們需要尋找更先進的數學知識，讓我們有更好的洞察力。這將是一項艱苦的工作，因為大多數深度學習研究人員沒有相應的數學背景來理解這類系統的復雜性。深度學習需要來自復雜性理論的研究人員，但這種類型的研究人員卻很少。
由于論文太多，理論也不完善，我們只能看到今天我們所處的不受歡迎的狀態。
此外，人工智能（AGI）的總體路線圖也缺失了。這個理論很弱，因此，我們能做的最好的事情就是創建一個包含與人類認知相關的里程碑的路線圖。我們只有一個源自認知心理學的推測理論的框架。這是一種糟糕的情況，因為來自這些領域的經驗證據充其量只能是零星的。
深度學習研究論文在2018年可能會增加兩倍或四倍。
8、工業化通過教學環境進行 深度學習系統的發展，是通過具體的教學環境的發展而實現的。我在這里和這里更詳細地討論這個問題。如果你想找到教學技巧的最高級形式，你只需要看看學習網絡是如何訓練的。我們都希望在這一領域取得更多進展。
預計將有更多公司披露其內部基礎設施，以說明他們如何大規模部署深度學習。
9、對話認知產生 我們衡量AGI進展的方法是過時的。需要一種新的范式來解決現實世界中的動態(即非平穩)復雜性。我們應該在新的一年里看到更多關于這個新領域的報道。我將在3月1日至2日在阿姆斯特丹舉行的信息能源2018上談論這種新的對話認知范式。
10、對人工智能倫理使用的需求將會增加。 如今，人們越來越意識到自動化失控造成的意外會帶來的災難性后果。我們今天在Facebook、Twitter、谷歌、亞馬遜等網站上發現的簡單自動化可能會對社會產生不必要的影響。
我們需要理解部署能夠預測人類行為的機器的倫理道德。面部識別是我們掌握的最危險的能力之一。能夠生成與現實難以區分的媒體的算法將會成為一個大問題。我們作為社會的一員，需要開始把人工智能僅僅作為一個造福社會的整體，而不是作為一種增加不平等的武器。
預計在接下來的一年里會有更多關于道德的討論。然而，不要期待新的監管規定。在理解人工智能對社會的影響方面，政策制定者仍然落后。我不指望他們停止玩弄政治，開始解決社會真正的問題。美國人口已經成為眾多安全漏洞的受害者，但我們還沒有看到任何新的立法或倡議來解決這個嚴重的問題。所以不要屏住呼吸，我們的領導人會突然發現智慧。
準備迎接沖擊，這就是我現在所擁有的一切。2018年將是重要的一年，我們最好系緊安全帶，準備迎接沖擊。
文章版權歸作者所有，未經允許請勿轉載,若此文章存在違規行為，您可以聯系管理員刪除。
轉載請注明本文地址：http://specialneedsforspecialkids.com/yun/77026.html
摘要：年深度學習取得的驚人突破將在年以一種非常有力的方式延續下去。整理了一份年深度學習的預測清單。谷歌將繼續以的開發項目給世界帶來驚喜。深度學習發現了通用函數近似器。深度學習研究信息將減少年對于從事深度學習研究的人來說已經很困難了。 【網易智能訊1月4日消息】我有一種預感，2018年可能是一切都發生戲劇性變化的一年。2017年深度學習取得的驚人突破將在2018年以一種非常有力的方式延續下去。...
摘要：年深度學習取得的驚人突破將在年以一種非常有力的方式延續下去。整理了一份年深度學習的預測清單。谷歌將繼續以的開發項目給世界帶來驚喜。深度學習發現了通用函數近似器。深度學習研究信息將減少年對于從事深度學習研究的人來說已經很困難了。 【網易智能訊1月4日消息】我有一種預感，2018年可能是一切都發生戲劇性變化的一年。2017年深度學習取得的驚人突破將在2018年以一種非常有力的方式延續下去。...
摘要：在過去幾年中，深度學習改變了整個人工智能的發展。在本文中，我將介紹年深度學習的一些主要進展，與年深度學習進展版本一樣，我沒有辦法進行詳盡的審查。最后的想法與去年的情況一樣，年深度學習技術的使用持續增加。 在過去幾年中，深度學習改變了整個人工智能的發展。深度學習技術已經開始在醫療保健，金融，人力資源，零售，地震檢測和自動駕駛汽車等領域的應用程序中出現。至于現有的成果表現也一直在穩步提高。在學術...
摘要：我們隊年的預測基本正確，當中有些預測趨勢也可以用于新的一年，下面繼續看到對年數據科學機器學習和人工智能領域的預測。 showImg(https://segmentfault.com/img/bVbnqYV?w=1024&h=512); 作者：William VorhiesCDA數據分析研究院原創作品, 轉載需授權? 2018年剛剛結束，在2019年到來之際，讓我們一起展望在今年數據科學...
閱讀 1951·2021-09-07 10:24
閱讀 2086·2019-08-30 15:55
閱讀 2037·2019-08-30 15:43
閱讀 668·2019-08-29 15:25
閱讀 1043·2019-08-29 12:19
閱讀 1927·2019-08-23 18:32
閱讀 1515·2019-08-23 17:59
閱讀 946·2019-08-23 12:22
