ディレクトリ
论文：密集接続畳み込みネットワーク、CVPR 2017
概要
最近の研究では、畳み込みネットワークは、彼らが入力に近いと出力に近いこれらの層の間に短い接続が含まれている場合訓練するために、実質上より深く、より正確で、かつ効率的にできることを示しました。この論文では、我々はこの観察を包含し、フィードフォワード方式で他のすべての層に各層を接続する高密度畳み込みネットワーク（DenseNet）を導入します。L層を有する従来の畳み込みネットワークに対し、L接続ワン各層の間を持って、その次の層、私たちのネットワーク有する\（\ FRAC {L（L + 1）} {2} \）直接接続。各層のために、先行するすべての層の特徴マップは、入力として使用され、それ自身の特徴マップは、すべての後続の層への入力として使用されます。DenseNetsは、いくつかの魅力的な利点を持っている：彼らは、消失勾配の問題を軽減する機能の伝播を強化し、機能の再利用を奨励し、かつ実質的にパラメータの数を減らします。私たちは4つの競争力の高い物体認識ベンチマークタスク（CIFAR-10、CIFAR-100、SVHN、およびImageNet）で提案アーキテクチャを評価します。DenseNetsは、高い性能を達成するために以下の計算を必要とする一方で、それらのほとんどの最先端のオーバー大幅な改善を得ます。コードと事前訓練されたモデルは、用意されていhttps://github.com/liuzhuang13/DenseNet。
結論
私たちは、高密度畳み込みネットワーク（DenseNet）と呼ぶ新しい畳み込みネットワークアーキテクチャを提案しました。これは、同じ機能マップのサイズを持つ2つの層の間の直接接続が導入されました。私たちは、何の最適化の難しさを示さない一方でDenseNetsは、数百層に自然に拡張したことを示しました。我々の実験では、DenseNetsは、パフォーマンスの低下や過剰適合の兆候なしに、パラメータの増加と精度で一貫性の改善をもたらす傾向があります。複数の設定の下では、それはいくつかの非常に競争力のあるデータセット全体で最先端の成果を達成しました。また、DenseNetsは、最先端の性能を達成するために、実質的に少ないパラメータおよび少ない計算を必要とします。私たちは私たちの研究で残留ネットワーク用に最適化されたハイパー設定を採用しているため、我々はDenseNetsの精度の更なる向上がハイパーと学習率スケジュールのより詳細なチューニングにより得ることができると信じています。シンプルな接続性ルールを以下の一方で、DenseNetsは当然アイデンティティマッピング、深い監督、そして多様な深さのプロパティを統合します。彼らは、ネットワーク全体の機能の再利用を許可し、その結果、よりコンパクトで、私たちの実験によれば、より正確なモデルを学ぶことができます。なぜなら彼らのコンパクトな内部表現と縮小機能の冗長性のため、DenseNetsは、畳み込み機能上に構築、様々なコンピュータビジョンのタスク、例えば、[4]、[5]のための優れた特徴抽出かもしれません。私たちは、将来の仕事にDenseNetsと、このような機能の移転を検討する予定。DenseNetsは当然アイデンティティマッピング、深い監督、そして多様な深さのプロパティを統合します。彼らは、ネットワーク全体の機能の再利用を許可し、その結果、よりコンパクトで、私たちの実験によれば、より正確なモデルを学ぶことができます。なぜなら彼らのコンパクトな内部表現と縮小機能の冗長性のため、DenseNetsは、畳み込み機能上に構築、様々なコンピュータビジョンのタスク、例えば、[4]、[5]のための優れた特徴抽出かもしれません。私たちは、将来の仕事にDenseNetsと、このような機能の移転を検討する予定。DenseNetsは当然アイデンティティマッピング、深い監督、そして多様な深さのプロパティを統合します。彼らは、ネットワーク全体の機能の再利用を許可し、その結果、よりコンパクトで、私たちの実験によれば、より正確なモデルを学ぶことができます。なぜなら彼らのコンパクトな内部表現と縮小機能の冗長性のため、DenseNetsは、畳み込み機能上に構築、様々なコンピュータビジョンのタスク、例えば、[4]、[5]のための優れた特徴抽出かもしれません。私たちは、将来の仕事にDenseNetsと、このような機能の移転を検討する予定。なぜなら彼らのコンパクトな内部表現と縮小機能の冗長性のため、DenseNetsは、畳み込み機能上に構築、様々なコンピュータビジョンのタスク、例えば、[4]、[5]のための優れた特徴抽出かもしれません。私たちは、将来の仕事にDenseNetsと、このような機能の移転を検討する予定。なぜなら彼らのコンパクトな内部表現と縮小機能の冗長性のため、DenseNetsは、畳み込み機能上に構築、様々なコンピュータビジョンのタスク、例えば、[4]、[5]のための優れた特徴抽出かもしれません。私たちは、将来の仕事にDenseNetsと、このような機能の移転を検討する予定。