文章庫(kù)ARTICLE COLUMN
摘要：而加快推動(dòng)這一趨勢(shì)的，正是卷積神經(jīng)網(wǎng)絡(luò)得以雄起的大功臣。卷積神經(jīng)網(wǎng)絡(luò)面臨的挑戰(zhàn)對(duì)的深深的質(zhì)疑是有原因的。據(jù)此，也斷言卷積神經(jīng)網(wǎng)絡(luò)注定是沒(méi)有前途的神經(jīng)膠囊的提出在批判不足的同時(shí)，已然備好了解決方案，這就是我們即將討論的膠囊神經(jīng)網(wǎng)絡(luò)，簡(jiǎn)稱...
摘要：第一個(gè)主流產(chǎn)品級(jí)深度學(xué)習(xí)庫(kù)，于年由啟動(dòng)。在年月日宣布，的開發(fā)將終止。張量中最基本的單位是常量變量和占位符。占位符并沒(méi)有初始值，它只會(huì)分配必要的內(nèi)存。是一個(gè)字典，在字典中需要給出每一個(gè)用到的占位符的取值。 為什么選擇 TensorFlow？在本文中...
摘要：在這項(xiàng)工作中，我們提出了自注意力生成對(duì)抗網(wǎng)絡(luò)，它將自注意力機(jī)制引入到卷積中。越高，表示圖像質(zhì)量越好。表將所提出的與較先進(jìn)模型進(jìn)行比較，任務(wù)是上的類別條件圖像生成。 圖像合成（Image synthesis）是計(jì)算機(jī)視覺(jué)中的一個(gè)重要問(wèn)題。隨著生成對(duì)抗網(wǎng)...
摘要：而這種舉一反三的能力在機(jī)器學(xué)習(xí)領(lǐng)域同樣適用，科學(xué)家將其稱之為遷移學(xué)習(xí)。與深度學(xué)習(xí)相比，我們技術(shù)較大優(yōu)點(diǎn)是具有可證明的性能保證。近幾年的人工智能熱潮中，深度學(xué)習(xí)是最主流的技術(shù)，以及之后的成功，更是使其幾乎成為的代名詞。 如今，人類將自己...
摘要：系統(tǒng)動(dòng)力學(xué)之父之父再發(fā)新作這一次，他借鑒了人類認(rèn)知世界的模式，為機(jī)器建造了一個(gè)世界觀模型。同時(shí)，文摘菌也會(huì)手把手教你訓(xùn)練出一個(gè)有簡(jiǎn)單世界觀的賽車手。遞歸神經(jīng)網(wǎng)絡(luò)沒(méi)有遞歸神經(jīng)網(wǎng)絡(luò)的賽車手可能會(huì)把車開成這樣。。。 人類對(duì)周遭世界的認(rèn)知，...
摘要：老顧受邀在一些大學(xué)和科研機(jī)構(gòu)做了題為深度學(xué)習(xí)的幾何觀點(diǎn)的報(bào)告，匯報(bào)了這方面的進(jìn)展情況。深度學(xué)習(xí)的主要目的和功能之一就是從數(shù)據(jù)中學(xué)習(xí)隱藏的流形結(jié)構(gòu)和流形上的概率分布。 （最近，哈佛大學(xué)丘成桐先生領(lǐng)導(dǎo)的團(tuán)隊(duì)，大連理工大學(xué)羅鐘鉉教授、雷娜教...
摘要：現(xiàn)在，人臉識(shí)別的克星反人臉識(shí)別問(wèn)世了。多倫多大學(xué)教授和研究生的團(tuán)隊(duì)開發(fā)了一種算法，可以動(dòng)態(tài)地破壞人臉識(shí)別系統(tǒng)。因此，成功的攻擊需要同時(shí)欺騙所有對(duì)象方案。算法對(duì)抗生成器訓(xùn)練給定人臉檢測(cè)置信度的對(duì)抗成功率。 論文地址：https://joeybose.gith...
摘要：首先第一種當(dāng)然是在年提出的，它奠定了整個(gè)卷積神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)。其中局部感受野表示卷積核只關(guān)注圖像的局部特征，而權(quán)重共享表示一個(gè)卷積核在整張圖像上都使用相同的權(quán)值，最后的子采樣即我們常用的池化操作，它可以精煉抽取的特征。 近日，微軟亞洲研...
摘要：今年月，谷歌發(fā)布了。在谷歌內(nèi)部被稱為的方法中，一個(gè)控制器神經(jīng)網(wǎng)絡(luò)可以提出一個(gè)子模型架構(gòu)，然后可以在特定任務(wù)中對(duì)其進(jìn)行訓(xùn)練和評(píng)估質(zhì)量。對(duì)于整個(gè)領(lǐng)域來(lái)說(shuō)，一定是下一個(gè)時(shí)代發(fā)展重點(diǎn)，并且極有可能是機(jī)器學(xué)習(xí)的大殺器。 為什么我們需要 AutoML？在...
摘要：最后，我們顯示了若干張圖像中所生成的趣味字幕。圖所提出的有趣字幕生成的體系結(jié)構(gòu)。我們將所提出的方法稱為神經(jīng)玩笑機(jī)器，它是與預(yù)訓(xùn)練模型相結(jié)合的。用戶對(duì)已發(fā)布的字幕的趣味性進(jìn)行評(píng)估，并為字幕指定一至三顆星。 可以毫不夸張地說(shuō)，笑是一種特殊...
摘要：以攻擊模型為例，介紹生成攻擊樣本的基本原理。總結(jié)本章介紹了對(duì)抗樣本的基本原理，并以最簡(jiǎn)單的梯度下降算法演示了生成對(duì)抗樣本的基本過(guò)程，大家可能會(huì)因?yàn)樗男嗜绱说投∠笊羁獭?對(duì)抗樣本是機(jī)器學(xué)習(xí)模型的一個(gè)有趣現(xiàn)象，攻擊者通過(guò)在源數(shù)據(jù)上增...
摘要：或許是有的這是一篇關(guān)于隨機(jī)加權(quán)平均的新論文所獲得的成果。隨機(jī)加權(quán)平均，隨機(jī)加權(quán)平均和快速幾何集成非常近似，除了計(jì)算損失的部分。 在這篇文章中，我將討論最近兩篇有趣的論文。它們提供了一種簡(jiǎn)單的方式，通過(guò)使用一種巧妙的集成方法提升神經(jīng)網(wǎng)絡(luò)...
摘要：康納爾大學(xué)數(shù)學(xué)博士博士后則認(rèn)為，圖神經(jīng)網(wǎng)絡(luò)可能解決圖靈獎(jiǎng)得主指出的深度學(xué)習(xí)無(wú)法做因果推理的核心問(wèn)題。圖靈獎(jiǎng)得主深度學(xué)習(xí)的因果推理之殤年初，承接有關(guān)深度學(xué)習(xí)煉金術(shù)的辯論，深度學(xué)習(xí)又迎來(lái)了一位重要的批評(píng)者。 作為行業(yè)的標(biāo)桿，DeepMind的動(dòng)向...
摘要：雖然為企業(yè)定制的深度學(xué)習(xí)框架可以提供重要的價(jià)值，但自己構(gòu)建一個(gè)這樣的框架會(huì)帶來(lái)獨(dú)特的挑戰(zhàn)。目前，訓(xùn)練深度學(xué)習(xí)模型的較佳選擇是圖形處理單元。實(shí)際上，由于規(guī)模和管理方面的復(fù)雜性不可預(yù)測(cè)，許多深度學(xué)習(xí)項(xiàng)目的最終歸宿都是數(shù)據(jù)科學(xué)實(shí)驗(yàn)。 深度學(xué)...
摘要：在這里，代表照片，也就是形狀為的矩陣，是圖像被標(biāo)記的分?jǐn)?shù)。我首先使用這張照片我的分?jǐn)?shù)是，這意味著我的顏值比數(shù)據(jù)集中的人高。我拍了很多照片，最終我得到了分，這意味著我比數(shù)據(jù)集中的人更具吸引力。 什么？！顏值客觀化要進(jìn)行實(shí)質(zhì)性推進(jìn)了？...
摘要：在圖像分析中，卷積神經(jīng)網(wǎng)絡(luò)在時(shí)間和內(nèi)存方面優(yōu)于全連接網(wǎng)絡(luò)。這是為什么呢卷積神經(jīng)網(wǎng)絡(luò)優(yōu)于全連接網(wǎng)絡(luò)的優(yōu)勢(shì)是什么呢卷積神經(jīng)網(wǎng)絡(luò)是如何從全連接網(wǎng)絡(luò)中派生出來(lái)的呢卷積神經(jīng)網(wǎng)絡(luò)這個(gè)術(shù)語(yǔ)又是從哪里而來(lái)這些問(wèn)題在本文中一一為大家解答。 在圖像分析中...
摘要：基于候選區(qū)域的目標(biāo)檢測(cè)器滑動(dòng)窗口檢測(cè)器自從獲得挑戰(zhàn)賽冠軍后，用進(jìn)行分類成為主流。一種用于目標(biāo)檢測(cè)的暴力方法是從左到右從上到下滑動(dòng)窗口，利用分類識(shí)別目標(biāo)。這些錨點(diǎn)是精心挑選的，因此它們是多樣的，且覆蓋具有不同比例和寬高比的現(xiàn)實(shí)目標(biāo)。 目...
摘要：本論文研究只有遺忘門的話會(huì)怎樣，并提出了，實(shí)驗(yàn)表明該模型的性能優(yōu)于標(biāo)準(zhǔn)。這里我們發(fā)現(xiàn)，一個(gè)只有遺忘門且?guī)в衅庙?xiàng)的版本不僅能節(jié)省計(jì)算成本，而且在多個(gè)基準(zhǔn)數(shù)據(jù)集上的性能優(yōu)于標(biāo)準(zhǔn)，能與一些當(dāng)下較好的模型競(jìng)爭(zhēng)。 本論文研究 LSTM 只有遺忘門的...
摘要：一維卷積常用于序列模型，自然語(yǔ)言處理領(lǐng)域。三維卷積這里采用代數(shù)的方式對(duì)三維卷積進(jìn)行介紹，具體思想與一維卷積二維卷積相同。 由于計(jì)算機(jī)視覺(jué)的大紅大紫，二維卷積的用處范圍最廣。因此本文首先介紹二維卷積，之后再介紹一維卷積與三維卷積的具體流...
摘要：之后，注意力模型出現(xiàn)了。等企業(yè)越來(lái)越多地使用了基于注意力模型的網(wǎng)絡(luò)。所有這些企業(yè)已經(jīng)將及其變種替換為基于注意力的模型，而這僅僅是個(gè)開始。比起基于注意力的模型，需要更多的資源來(lái)訓(xùn)練和運(yùn)行。這樣的回溯前進(jìn)單元是神經(jīng)網(wǎng)絡(luò)注意力模型組。 循環(huán)...
摘要：我們可以通過(guò)在特征圖上滑動(dòng)窗口來(lái)檢測(cè)目標(biāo)。以前的滑動(dòng)窗口方法的致命錯(cuò)誤在于使用窗口作為最終的邊界框，這就需要非常多的形狀來(lái)覆蓋大部分目標(biāo)。更有效的方法是將窗口當(dāng)做初始猜想，這樣我們就得到了從當(dāng)前滑動(dòng)窗口同時(shí)預(yù)測(cè)類別和邊界框的檢測(cè)器。 ...
摘要：預(yù)測(cè)事件本質(zhì)上是我們通過(guò)機(jī)器學(xué)習(xí)預(yù)測(cè)系統(tǒng)，創(chuàng)造出來(lái)的一個(gè)假想事件，并根據(jù)預(yù)測(cè)閾值的不同，可以在下載安裝及最終付費(fèi)之間做優(yōu)化調(diào)節(jié)。目前，此機(jī)器學(xué)習(xí)系統(tǒng)已在行業(yè)內(nèi)上線，每天會(huì)分析預(yù)測(cè)上百萬(wàn)用戶，幫助他們優(yōu)化游戲內(nèi)及廣告體驗(yàn)。 近年來(lái)，移動(dòng)...
摘要：雖然這些都是機(jī)器學(xué)習(xí)工具集，但它們并不是完全取代對(duì)方，這意味著像和這樣一兩種流行框架不會(huì)淘汰其他框架。事實(shí)上，由于四處收購(gòu)技術(shù)公司具體來(lái)說(shuō)指和，英特爾有多款加速器上榜。 作者簡(jiǎn)介：Dan Olds是技術(shù)趨勢(shì)和客戶情緒方面的權(quán)威人士，他也是經(jīng)常...
摘要：微軟在大會(huì)上興奮地宣布了的預(yù)覽版，這是一種跨平臺(tái)的開源機(jī)器學(xué)習(xí)框架。核心組件作為的一部分而發(fā)布今天的代碼倉(cāng)庫(kù)包含用于模型訓(xùn)練和使用的，以及許多常見的機(jī)器學(xué)習(xí)任務(wù)如回歸和分類所需要的各種轉(zhuǎn)換和學(xué)習(xí)器。 微軟在Build 2018大會(huì)上興奮地宣布了M...
早期成果卷積神經(jīng)網(wǎng)絡(luò)是各種深度神經(jīng)網(wǎng)絡(luò)中應(yīng)用最廣泛的一種，在機(jī)器視覺(jué)的很多問(wèn)題上都取得了當(dāng)前較好的效果，另外它在自然語(yǔ)言處理，計(jì)算機(jī)圖形學(xué)等領(lǐng)域也有成功的應(yīng)用。第一個(gè)真正意義上的卷積神經(jīng)網(wǎng)絡(luò)由LeCun在1989年提出[1]，后來(lái)進(jìn)行了改進(jìn)，它被用于...
ChatGPT和Sora等AI大模型應(yīng)用，將AI大模型和算力需求的熱度不斷帶上新的臺(tái)階。哪里可以獲得...
大模型的訓(xùn)練用4090是不合適的，但推理（inference/serving）用4090不能說(shuō)合適，...
圖示為GPU性能排行榜，我們可以看到所有GPU的原始相關(guān)性能圖表。同時(shí)根據(jù)訓(xùn)練、推理能力由高到低做了...
89542767
社區(qū)管理員
白馬嘯西風(fēng)