文章庫ARTICLE COLUMN
摘要：同樣以里的模塊為例，替換前后的卷積分支復雜度如下中使用與卷積級聯替代卷積中提出了卷積的，在確保感受野不變的前提下進一步簡化。 在梳理CNN經典模型的過程中，我理解到其實經典模型演進中的很多創新點都與改善模型計算復雜度緊密相關，因此今天就讓...
摘要：如今在機器學習中突出的人工神經網絡最初是受神經科學的啟發。雖然此后神經科學在機器學習繼續發揮作用，但許多主要的發展都是以有效優化的數學為基礎，而不是神經科學的發現。 開始之前看一張有趣的圖 - 大腦遺傳地圖：Figure 0. The Genetic Geograph...
摘要：首先，的概念與卷積的概念大部分是獨立的。但是，請注意，這個特征的較精確位置已經被丟棄。結合和，這意味著我們的網絡使用的是不同于一般類型的非線性。之間的這就是網絡如此與眾不同的原因。與普通的層相比，層是完全不同的。 首先，capsule 的概念...
摘要：等人最近關于膠囊網絡的論文在機器學習領域造成相當震撼的影響。它提出了理論上能更好地替代卷積神經網絡的方案，是當前計算機視覺領域的技術。而這就是這些膠囊網絡運行方式的本質。為了簡化，我們將假設一個兩層的膠囊網絡。產生的結果值將被稱為。 G...
摘要：總的來說，是一種采用數據流圖，用于數值計算的開源軟件庫。其中代表傳遞的數據為張量多維數組，代表使用計算圖進行運算。數據流圖用結點和邊組成的有向圖來描述數學運算。 本文非常適合初學者了解如何使用 TensorFlow 構建基本的神經網絡，它全面展示...
摘要：傳統神經網絡的問題到目前為止，圖像分類問題上較先進的方法是。我們把卡戴珊姐姐旋轉出現這個問題的原因，用行話來說是旋轉的程度超出了較大池化所帶來的旋轉不變性的限度。 Capsule Networks，或者說CapsNet，這個名字你應該已經聽過好幾次了。這是...
摘要：要理解網絡中的單個特征，比如特定位置的某個神經元或者一整個通道，就可以找讓這個特征產生很高的值的樣本。另一方面，也能看到一些神經元同時對多個沒什么關系的概念產生響應。實際操作經驗中，我們也認為是一組神經元的組合共同表征了一張圖像。 深...
摘要：隨著知識在開發者圈子里的擴散，這將會是一個長長的緩慢上升過程，但我預測，年之內，大多數軟件工作都不會再涉及編程。 周末，特斯拉AI負責人Andrej Karpathy發文論述軟件2.0的概念，他說，神經網絡給編程工作帶來了根本性的變革。今天，跟他聊過...
摘要：的這項研究，總共生成了篇深度學習論文的和代碼，還創建了一個網站，供同行們眾包編輯這些代碼。來自印度研究院。目前是印度研究院的實習生。 深度學習的論文越來越多了~多到什么程度？Google scholar的數據顯示，2016年以來，人工智能領域新增的論文已...
摘要：近幾年來，由于其作為機器學習模型的使用已成倍增長，所以移動設備和嵌入式設備也出現了部署需求。使機器學習模型設備能夠實現低延遲的推理。設計初衷輕量級允許在具有很小的二進制大小和快速初始化啟動的機器學習模型設備上進行推理。 谷歌今天終于發...
摘要：詳細信息，可以參見科技評論之前發文微軟聯合推出標準，號稱要解決開發框架碎片化共筑開放生態標準得到華為英特爾等更多廠商支持日前，基礎平臺部副總在發文宣布，亞馬遜將加入開放生態，將對提供支持。 早前，FaceBook 攜手微軟發布了一個全新的開源項...
摘要：幸運的是，這些正是深度學習所需的計算類型。幾乎可以肯定，英偉達是目前執行深度學習任務較好的選擇。今年夏天，發布了平臺提供深度學習支持。該工具適用于主流深度學習庫如和。因為的簡潔和強大的軟件包擴展體系，它目前是深度學習中最常見的語言。 ...
摘要：后來成，就沒有內存錯誤了，但是代碼運行了一晚上都不結束，因此使用貓狗大戰圖片無法復現效果，這里轉發另外一個博客使用復現出的結果，如下圖。圖當然了，在貓狗大戰數據集當中不適合使用，因為一般沒有倒過來的動物。 圖像深度學習任務中，面對小數...
摘要：本論文將嘗試概述卷積網絡的架構，并解釋包含激活函數損失函數前向傳播和反向傳播的數學推導。本文試圖只考慮帶有梯度下降優化的典型卷積神經網絡架構的制定。 近日南洋理工大學研究者發布了一篇描述卷積網絡數學原理的論文，該論文從數學的角度闡述整...
摘要：很長一段時間以來，我注意到很多自稱深度學習專家大咖的人，其實名不副實。大多數公司不知道如何辨別這些所謂的專家，面試官也不懂深度學習，不在乎。所以當這些專家的深度學習解決方案不行時，這些公司就會認為一切只是一場炒作。 進入門檻太低正在毀...
摘要：作者在論文中將這種新的譜歸一化方法與其他歸一化技術，比如權重歸一化，權重削減等，和梯度懲罰等，做了比較，并通過實驗表明，在沒有批量歸一化權重衰減和判別器特征匹配的情況下，譜歸一化改善生成的圖像質量，效果比權重歸一化和梯度懲罰更好。 就...
摘要：在現有深度學習框架下，我們所編寫的卷積層往往是一個單行語句，它可以抽象出許多結構細節。本文試圖闡述卷積層的一個特定的解剖特征，而這是在大多數文章和相關討論中被忽略的問題。來自卷積層的輸出經常用作后續卷積層的輸入。 近來，深度學習的火爆...
摘要：我認為在大多數深度學習中，算法層面上隨機梯度的下降是大家所認可的。但目前似乎存在兩個問題計算層面納什平衡達不到可能會退化。 去年我一直在研究如何更好地調整GANs中的不足，但因為之前的研究方向只關注了損失函數，完全忽略了如何尋找極小值問題...
摘要：但年在機器學習的較高級大會上，蘋果團隊的負責人宣布，公司已經允許自己的研發人員對外公布論文成果。蘋果第一篇論文一經投放，便在年月日，斬獲較佳論文。這項技術由的和開發，使用了生成對抗網絡的機器學習方法。 GANs「對抗生成網絡之父」Ian Goodf...
摘要：單層年發表的文章使用了單層解決機器翻譯中不同長度的源語言對齊問題。使用的基本思想是目標語言端的詞往往只與源語言端部分詞相關。其中計算上下文環境與源語言詞語的相關得分，是根據語言特性設計的一個對齊模型，感興趣的朋友可以深入了解一下。 1. ...
摘要：我們對種用于數據科學的開源深度學習庫作了排名。于年月發布了第名，已經躋身于深度學習庫的上半部分。是最流行的深度學習前端第位是排名較高的非框架庫。頗受對數據集使用深度學習的數據科學家的青睞。深度學習庫的完整列表來自幾個來源。 我們對23種...
摘要：在底層的膠囊之后連接了層和層。膠囊效果的討論在論文最后，作者們對膠囊的表現進行了討論。他們認為，由于膠囊具有分別處理不同屬性的能力，相比于可以提高對圖像變換的健壯性，在圖像分割中也會有出色的表現。 背景目前的神經網絡中，每一層的神經元...
摘要：可以這樣說，庫使得創建深度學習模型變得快速且簡單。在本教程中，你將了解如何用中更具靈活性的函數式來定義深度學習模型。如何使用函數式定義簡單的多層感知器卷積神經網絡以及循環神經網絡模型。 可以這樣說，Keras Python庫使得創建深度學習模型變...
Apache MXNet v0.12來了。今天凌晨，亞馬遜宣布了MXNet新版本，在這個版本中，MXNet添加了兩個重要新特性：支持英偉達Volta GPU，大幅減少用戶訓練和推理神經網絡模型的時間。在存儲和計算效率方面支持稀疏張量（Sparse Tensor），讓用戶通過稀疏矩陣訓練模...
摘要：自從年月開源以來，我們做了一些重大改進?，F在，讓我們再回到這個項目開始的地方，回顧我們的進展過程，并分享我們下一步的方向。 自從2016年2月 TensorFlow Serving 開源以來，我們做了一些重大改進?，F在，讓我們再回到這個項目開始的地方，回顧我們...
ChatGPT和Sora等AI大模型應用，將AI大模型和算力需求的熱度不斷帶上新的臺階。哪里可以獲得...
大模型的訓練用4090是不合適的，但推理（inference/serving）用4090不能說合適，...
圖示為GPU性能排行榜，我們可以看到所有GPU的原始相關性能圖表。同時根據訓練、推理能力由高到低做了...
89542767
社區管理員
白馬嘯西風