摘要:CondenseNet特點在于可學習分組卷積的提出,結合訓練過程進行剪枝,不僅能準確地剪枝,還能繼續訓練,使網絡權重更平滑,是個很不錯的工作 來源:曉飛的算法工程筆記 公眾號 論文:Neural Architecture Search with Reinforcement Learning 論文地址 閱讀全文
posted @ 2020-07-17 17:58 曉飛的算法工程筆記 閱讀(50) 評論(0) 推薦(0) 編輯
摘要:論文提出了移動端的神經網絡架構搜索方法,該方法主要有兩個思路,首先使用多目標優化方法將模型在實際設備上的耗時融入搜索中,然后使用分解的層次搜索空間,來讓網絡保持層多樣性的同時,搜索空間依然很簡潔,能夠使得搜索的模型在準確率和耗時中有更好的trade off 來源:【曉飛的算法工程筆記】 公眾號 論文 閱讀全文
posted @ 2020-07-14 14:56 曉飛的算法工程筆記 閱讀(101) 評論(0) 推薦(1) 編輯
摘要:MobileNet系列很重要的輕量級網絡家族,出自谷歌,MobileNetV1使用深度可分離卷積來構建輕量級網絡,MobileNetV2提出創新的inverted residual with linear bottleneck單元,雖然層數變多了,但是整體網絡準確率和速度都有提升,MobileNet 閱讀全文
posted @ 2020-07-08 16:17 曉飛的算法工程筆記 閱讀(107) 評論(0) 推薦(0) 編輯
摘要:ShuffleNet系列是輕量級網絡中很重要的一個系列,ShuffleNetV1提出了channel shuffle操作,使得網絡可以盡情地使用分組卷積來加速,而ShuffleNetV2則推倒V1的大部分設計,從實際出發,提出channel split操作,在加速網絡的同時進行了特征重用,達到了很好 閱讀全文
posted @ 2020-07-06 10:33 曉飛的算法工程筆記 閱讀(72) 評論(0) 推薦(1) 編輯
摘要:SqueezeNet系列是比較早期且經典的輕量級網絡,SqueezeNet使用Fire模塊進行參數壓縮,而SqueezeNext則在此基礎上加入分離卷積進行改進。雖然SqueezeNet系列不如MobieNet使用廣泛,但其架構思想和實驗結論還是可以值得借鑒的。 來源:曉飛的算法工程筆記 公眾號 S 閱讀全文
posted @ 2020-07-02 10:38 曉飛的算法工程筆記 閱讀(92) 評論(0) 推薦(0) 編輯
摘要:論文基于層級表達提出高效的進化算法來進行神經網絡結構搜索,通過層層堆疊來構建強大的卷積結構。論文的搜索方法簡單,從實驗結果看來,達到很不錯的準確率,值得學習 來源:【曉飛的算法工程筆記】 公眾號 論文: Hierarchical Representations for Efficient Archi 閱讀全文
posted @ 2020-06-24 14:29 曉飛的算法工程筆記 閱讀(83) 評論(0) 推薦(0) 編輯
摘要:論文基于DA Faster R-CNN系列提出類別正則化框架,充分利用多標簽分類的弱定位能力以及圖片級預測和實例級預測的類一致性,從實驗結果來看,類該方法能夠很好地提升DA Faster R-CNN系列的性能 來源:曉飛的算法工程筆記 公眾號 論文: Exploring Categorical Re 閱讀全文
posted @ 2020-06-23 10:07 曉飛的算法工程筆記 閱讀(150) 評論(0) 推薦(0) 編輯
摘要:論文從理論的角度出發,對目標檢測的域自適應問題進行了深入的研究,基于H-divergence的對抗訓練提出了DA Faster R-CNN,從圖片級和實例級兩種角度進行域對齊,并且加入一致性正則化來學習域不變的RPN。從實驗來看,論文的方法十分有效,這是一個很符合實際需求的研究,能解決現實中場景多樣 閱讀全文
posted @ 2020-06-22 10:22 曉飛的算法工程筆記 閱讀(134) 評論(0) 推薦(0) 編輯
摘要:論文提出NASH方法來進行神經網絡結構搜索,核心思想與之前的EAS方法類似,使用網絡態射來生成一系列效果一致且繼承權重的復雜子網,本文的網絡態射更豐富,而且僅需要簡單的爬山算法輔助就可以完成搜索,耗時0.5GPU day 來源:曉飛的算法工程筆記 公眾號 論文: Simple And Efficie 閱讀全文
posted @ 2020-06-15 14:16 曉飛的算法工程筆記 閱讀(95) 評論(0) 推薦(0) 編輯
摘要:論文提出經濟實惠且高效的神經網絡結構搜索算法EAS,使用RL agent作為meta-controller,學習通過網絡變換進行結構空間探索。從指定的網絡開始,通過function-preserving transformation不斷重用其權重,EAS能夠重用之前學習到的知識進行高效地探索新的結構 閱讀全文
posted @ 2020-06-11 14:32 曉飛的算法工程筆記 閱讀(88) 評論(0) 推薦(0) 編輯
最新chease0ldman老人