第一週:ディープラーニング入門
学習1.1はじめに深さ
のインターネット検索広告:伝統的なインターネットビジネスを変更します。
行うには良い:、X線、個別教育を読み取る精密農業
コースcousera
第2のコース:スーパーパラメータ、正則、診断偏差、分散、高度な最適化アルゴリズム。
高度な最適化アルゴリズム:勢い、アダムアルゴリズム
第三講座:建設戦略機械学習システムは深学習エラー、エンドツー綿密な研究異なる
画像を適用し、畳み込みニューラルネットワーク(CNNS):第四コースを。
第五のコース:系列モデル、自然言語処理の応用。
シリーズモデル:リカレントニューラルネットワーク(RNN)、短期と長期記憶ネットワーク(LSTM)
1.2ニューラルネットワーク
ReLU活性化機能:リニアユニットを整流。RECTIFY補正MAX(0、x)は、
1.3教師付き学習ニューラルネットワークは
、ニューラルネットワーク、教師付き学習の本質によって作成されたすべての経済的価値を提示します。
アプリケーション:
- -----オンライン広告サイトの広告入力情報を、ユーザ情報、サイトは広告を表示するかどうかを検討します。
- 広告を開いたユーザーは、ユーザーが広告をクリックして推薦することができるかどうかを予測
- コンピュータビジョン
- 音声認識:音声入力、テキスト出力
- 機械翻訳:入力英語文、中国文の出力
- オートパイロット:入力ピクチャは、前にどのような車を見つけます。道路の位置に特定の車に知らせます
画像:コンボリューション(CNN)
配列データ:リカレントニューラルネットワーク(RNN)、より複雑な(のRNN)。データは、時間の一部です。(このようなオーディオとして、経時的な時間成分、オーディオの再生があります。)
アプリケーションの詳細:
- 構造化データ:基本的なデータベース
- データの非データ:ハード、音声認識、画像認識、自然言語処理
短期的な経済価値創造:構造化データ
1.4深研究の台頭
精度:スパムフィルタリングは、宣伝予報をクリックし、自律走行車はの場所を決定
ニューラルネットワークの巨大な突破口:シグモイド関数- > ReLU関数
シグモイド関数:勾配降下とゼロに勾配近く、遅いパラメータ更新、遅い学習速度。
ReLU機能:線形補正手段。0入力の負の勾配、勾配は徐々に減少する傾向はありません0