文章庫ARTICLE COLUMN
摘要：膠囊網絡是一種熱門的新型神經網絡架構，它可能會對深度學習特別是計算機視覺領域產生深遠的影響。下幾層膠囊也嘗試檢測對象及其姿態，但工作方式非常不同，即使用按協議路由算法。 膠囊網絡（Capsule networks, CapsNets）是一種熱門的新型神經網絡架...
摘要：這是機器學習課程中的一個典型例子，他把演講者的聲音和背景音樂分開。雖然用于啟動檢測的技術主要依賴于音頻特征工程和機器學習，但在這里可以很容易地使用深度學習來優化結果。 介紹 想象一個能理解你想要什么，且當你打電話給客戶服務中心時能...
摘要：原作說，加權梯度類激活映射通過任意目標概念的梯度比如說類別狗的分對數甚至是狗這個字，將這些知識傳遞到最后的卷積層進而產生一張粗略的定位圖，用于凸顯圖像中對于預測相關概念至關重要的區域。這種技術不僅適用于定位，還可用于視覺問答圖像標注等...
摘要：但年月，宣布將在年終止的開發和維護。性能并非最優，為何如此受歡迎粉絲團在過去的幾年里，出現了不同的開源深度學習框架，就屬于其中典型，由谷歌開發和支持，自然引發了很大的關注。 Keras作者Fran?ois Chollet剛剛在Twitter貼出一張圖片，是近三個...
摘要：在飛蛾腦中，章魚胺可以幫助加強產生成功的神經線路。廣泛來說，此項研究成果可能給人工神經網絡領域帶來極大的影響。 作為現代機器學習基石的深度神經網絡，雖然模仿的是生物神經網絡，但其實這兩者之間有著極大的區別。拋開僅有的一些相似處，有些重...
摘要：目前，生成對抗網絡的大部分應用都是在計算機視覺領域。生成對抗網絡生成對抗網絡框架是由等人于年設計的生成模型。在設置中，兩個由神經網絡進行表示的可微函數被鎖定在一個游戲中。我們提出了深度卷積生成對抗網絡的實現。 讓我們假設這樣一種情景：...
摘要：目錄一引言二輕量化模型三網絡對比一引言自年以來，卷積神經網絡簡稱在圖像分類圖像分割目標檢測等領域獲得廣泛應用。創新點利用和這兩個操作來設計卷積神經網絡模型以減少模型使用的參數數量。 本文就近年提出的四個輕量化模型進行學習和對比，四個模...
摘要：在此，我們將借用和的算子，分析硬件加速的需求。池化層池化層主要用于尺度變換，提取高維特征。此種類型主要用于深度卷積神經網絡中卷積部分與部分的連接。和可以認為是的特例。 NNVM是由陳天奇團隊提出的一套可復用的計算流圖中間表達層，它提供了一...
摘要：通過在中結合進化算法執行架構搜索，谷歌開發出了當前較佳的圖像分類模型。本文是谷歌對該神經網絡架構搜索算法的技術解讀，其中涉及兩篇論文，分別是和。此外，谷歌還使用其新型芯片來擴大計算規模。 通過在 AutoML 中結合進化算法執行架構搜索，谷歌...
摘要：目前目標檢測領域的深度學習方法主要分為兩類的目標檢測算法的目標檢測算法。原來多數的目標檢測算法都是只采用深層特征做預測，低層的特征語義信息比較少，但是目標位置準確高層的特征語義信息比較豐富，但是目標位置比較粗略。 目前目標檢測領域的深...
斯蒂文認為機器學習有時候像嬰兒學習，特別是在物體識別上。比如嬰兒首先學會識別邊界和顏色，然后將這些信息用于識別形狀和圖形等更復雜的實體。比如在人臉識別上，他們學會從眼睛和嘴巴開始識別最終到整個面孔。當他們看一個人的形象時，他們大腦認出了兩...
摘要：目前，自動化前端開發的較大阻礙是計算能力。但我們已經可以使用目前的深度學習算法，以及合成訓練數據來探索人工智能自動構建前端的方法。我們無需輸入正確的標記，網絡會接收它目前生成的標記，然后預測下一個標記。 項目鏈接：https://github.com/em...
摘要：我的核心觀點是盡管我提出了這么多問題，但我不認為我們需要放棄深度學習。對于層級特征，深度學習是非常好，也許是有史以來效果較好的。認為有問題的是監督學習，并非深度學習。但是，其他監督學習技術同病相連，無法真正幫助深度學習。 所有真理必經...
摘要：訓練深度神經網絡需要大量的內存，用戶使用這個工具包，可以在計算時間成本僅增加的基礎上，在上運行規模大倍的前饋模型。使用導入此功能，與使用方法相同，使用梯度函數來計算參數的損失梯度。隨后，在反向傳播中重新計算檢查點之間的節點。 OpenAI是...
摘要：截止到今天，已公開發行一周年。一年以來，社區中的用戶不斷做出貢獻和優化，在此深表感謝。所以與衡量它的指標包括在機器學習研究論文中的使用。來自香港科技大學的在上推出了面向普通觀眾的在線課程。 Yann LeCun Twitter截止到今天，PyTorch 已公開...
摘要：近幾年來，目標檢測算法取得了很大的突破。本文主要講述算法的原理，特別是算法的訓練與預測中詳細細節，最后將給出如何使用實現算法。但是結合卷積運算的特點，我們可以使用實現更高效的滑動窗口方法。這其實是算法的思路。下面將詳細介紹算法的設計理...
摘要：首先，我們一起來開一個腦洞想象一個最理想的深度學習引擎應該是什么樣子的，或者說深度學習引擎的終極形態是什么看看這會給深度學習框架和專用芯片研發帶來什么啟發。眾所周知，現在是深度學習領域應用最廣的計算設備，據說比更加強大，不過目前只有可...
摘要：昨天，研究院開源了，業內較佳水平的目標檢測平臺。項目地址是實現頂尖目標檢測算法包括的軟件系統。因此基本上已經是最目前包含最全與最多目標檢測算法的代碼庫了。 昨天，Facebook AI 研究院（FAIR）開源了 Detectron，業內較佳水平的目標檢測平臺。...
摘要：我想重溫過去幾年深度學習背景下的神經網絡設計史。卷積神經網絡成為深度學習的主力，深度學習是可以完成有用任務的大型神經網絡的新名字。和的開始探索減少深度神經網絡的計算負擔，提出了第一個架構。 深度神經網絡和深度學習是強大、流行的算法。它...
摘要：剛剛，發布了正式版，很多人都期待已久，最重大的改動是支持和，這承諾將使上的訓練速度翻倍。此外，預覽版可用，也將吸引不少初學者。其他為添加必要的形狀支持。，，現在支持具有和支持的任意擴展。允許稀疏浮動分割以支持多值特征列。 剛剛，TensorF...
摘要：在這篇文章中我們嘗試了用分類類圖像。實際上我們將每張訓練集中的圖像認為成一類。我們采用了一個簡單的方法在最后分類前，讓文本和圖像使用一個，那么在過程中會用一個軟的約束，這就完成了詳見論文。類似圖像的操作吧。 Motivation在這篇文章中我們...
摘要：現在，官方版開源代碼終于來了。同時發布的，是這項研究背后的一個基礎平臺。是的物體檢測平臺，今天宣布開源，它基于，用寫成，這次開放的代碼中就包含了的實現。說，將平臺開源出來，是想要加速世界各地實驗室的研究，推動物體檢測的進展。 等代碼...
摘要：就像在權重擾動中，而不同于串擾的是，最小的全局協調是必須的每個神經元僅需要接收指示全局成本函數的反饋信號。在深度強化學習中比如可否使用不可微分的目標函數呢值得探索相反，反向傳播通過基于系統的分層結構計算成本函數對每個權重的靈敏度來工作...
摘要：例如，是一些神經元的特征，其中突觸權重變化的符號取決于突觸前后的較精確至毫秒量級相對定時。，是大腦自身調整其神經元之間的連接強度的生物過程。從他博士期間就開始研究至今，目前可以說深度學習占領著機器學習的半壁江山，而則是深度學習的核心。...
摘要：我們認為，在基準測試平臺中，包含真實數據的測量非常重要。其他結果訓練合成數據訓練真實數據詳情環境下表列出了用于測試的批量大小和優化器。在給定平臺上，以缺省狀態運行。 圖像分類模型的結果InceptionV3[2]、ResNet-50[3]、ResNet-152[4]、VGG16[...
ChatGPT和Sora等AI大模型應用，將AI大模型和算力需求的熱度不斷帶上新的臺階。哪里可以獲得...
大模型的訓練用4090是不合適的，但推理（inference/serving）用4090不能說合適，...
圖示為GPU性能排行榜，我們可以看到所有GPU的原始相關性能圖表。同時根據訓練、推理能力由高到低做了...
89542767
社區管理員
白馬嘯西風