注意力機(jī)制最開始被用于NLP行業(yè),Attention就是為了給實體模型意識到信息中哪一塊是最關(guān)鍵的,給它分派更多的權(quán)重值,獲得更多集中注意力在某些特點上,讓實體模型主要表現(xiàn)更強(qiáng),文中關(guān)鍵為大家介紹了有關(guān)YOLOv5改善實例教程之加上注意力機(jī)制的資料,必須的小伙伴可以借鑒一下
文中關(guān)鍵為大家講解一下下,怎樣在yolov5中加入注意力機(jī)制,
這兒給予SE通道專注力的改進(jìn)方案,別的專注力的加上方式,如出一轍
最先尋找SE注意力機(jī)制的pytorch編碼
classSELayer(nn.Module): def__init__(self,c1,r=16): super(SELayer,self).__init__() self.avgpool=nn.AdaptiveAvgPool2d(1) self.l1=nn.Linear(c1,c1//r,bias=False) self.relu=nn.ReLU(inplace=True) self.l2=nn.Linear(c1//r,c1,bias=False) self.sig=nn.Sigmoid() defforward(self,x): b,c,_,_=x.size() y=self.avgpool(x).view(b,c) y=self.l1(y) y=self.relu(y) y=self.l2(y) y=self.sig(y) y=y.view(b,c,1,1) returnx*y.expand_as(x)
直接將SE注意力機(jī)制程序,拷貝到modele文件夾下邊的common.py文件中
隨后尋找yolo.py,在這樣一個文檔中尋找下邊這個行業(yè)
并把SE導(dǎo)入到這一注冊表文件里,
直接從C3Ghost后邊加上SELayer
然后就是要改動yaml文件,針對SE這類1394連接的注意力機(jī)制,輸入輸出的通道數(shù)一樣,因此也不會影響別的模塊運作
注意力機(jī)制也可以裝在別處,一定要注意把通道數(shù)相匹配滿意就好
隨后head一部分也要進(jìn)行一定的改動,只要我們多多一層,因此需要維持head及其最后輸出層不會改變就要略微改一下head一部分,一樣,注意力機(jī)制也要放在head里頭,跟加進(jìn)backbone里邊的方式一樣。
這也是初始的head一部分,必須改動成下邊那樣
只要我們把SE注意力機(jī)制插到第八層以后,因此原來的14層就會變成15層,相同的,最后導(dǎo)出也要把疊加層數(shù)加一點。
加上這種注意力機(jī)制是yolov5最基本的改善,但說實話,注意力機(jī)制能夠加上在許多的區(qū)域,未必會出效果,因此插在哪里效果最佳就需要我們自主探討了。注意力機(jī)制有很多種,se注意力機(jī)制應(yīng)當(dāng)屬于最基本的通道注意力了啊
文章版權(quán)歸作者所有,未經(jīng)允許請勿轉(zhuǎn)載,若此文章存在違規(guī)行為,您可以聯(lián)系管理員刪除。
轉(zhuǎn)載請注明本文地址:http://specialneedsforspecialkids.com/yun/129078.html
注意力機(jī)制最開始被用于NLP行業(yè),Attention就是為了給實體模型意識到信息中哪一塊是最關(guān)鍵的,給它分派更多的權(quán)重值,獲得更多專注力在有些特點上,讓實體模型主要表現(xiàn)更強(qiáng),文中關(guān)鍵為大家介紹了有關(guān)YOLOv5改善實例教程之再加上注意力機(jī)制的資料,必須的小伙伴可以借鑒一下 文中關(guān)鍵為大家講解一下下,怎樣在yolov5中加入注意力機(jī)制, 在這里給予SE通道專注力的改進(jìn)方案,別的專注力的再加上...
摘要:的安裝下載好之后雙擊打開可執(zhí)行安裝文件選擇安裝目錄,需要的內(nèi)存較多,建議將其安裝在盤或者盤,不建議放在系統(tǒng)盤盤。 yolov5無從下手?一篇就夠的保姆級教程,202...
如今yolov5的neck用的都是PANet,在efficient文章中給出了BiFPN結(jié)構(gòu),也有更為很不錯的特性,接下來本文關(guān)鍵為大家介紹了對于如何將yolov5里的PANet層改成BiFPN的資料,需用的小伙伴可以借鑒一下 一、Add 1.在common.py后放入如下所示編碼 #融合BiFPN設(shè)定可學(xué)習(xí)培訓(xùn)主要參數(shù)學(xué)習(xí)培訓(xùn)不一樣支系的權(quán)重值 #2個支系add實際操作 cl...
閱讀 911·2023-01-14 11:38
閱讀 878·2023-01-14 11:04
閱讀 740·2023-01-14 10:48
閱讀 1982·2023-01-14 10:34
閱讀 942·2023-01-14 10:24
閱讀 819·2023-01-14 10:18
閱讀 499·2023-01-14 10:09
閱讀 572·2023-01-14 10:02