Einführung in Deep Learning (1): Grundlagen neuronaler Netze

1. Deep-Learning-Konzept

1. Definition

Deep Learning löst Feature-Engineering-Probleme, indem mehrschichtige Netzwerkstrukturen trainiert werden, um Standortdaten zu klassifizieren oder zu regressieren.

2. Deep-Learning-Anwendungen

• Bildverarbeitung
• Spracherkennung
• Verarbeitung natürlicher Sprache

Auf dem mobilen Endgerät ist es nicht sehr gut. Der Rechenaufwand ist zu groß und die Geschwindigkeit kann langsam sein.
Zum Beispiel medizinische Anwendungen und automatische Farbgebung.

3. Beispiel

Die Hintergrunddominanz ist das größte Problem bei der Beurteilung von k-nächsten Nachbarn , da wir uns auf das Subjekt (die Hauptkomponente) konzentrieren.

2. Grundlagen neuronaler Netze

1. Lineare Funktion

Geben Sie beispielsweise ein Kätzchenbild über $f(x,W)$ , um die Punktzahl für jede Kategorie zu erhalten:

$f(x,$Der Gewichtsparameter jedes Pixels in$W$$ist$
$10$ : 10 Kategorien
$b$ : Offset-Term (Feinabstimmungsoperation)
$w$ : Gewichtsparameter

2. Verlustfunktion

Strafterm der Regularisierung: Reduzieren Sie die Bedeutung eines bestimmten und herausragenden Merkmals. Verlustfunktion
= Datenverlust + Strafterm der Regularisierung

3. Softmax-Klassifikator

Wir konzentrieren uns auf den Wahrscheinlichkeitswert der Zugehörigkeit zur richtigen Kategorie. Je näher er an 1 liegt, desto geringer ist der Verlust. Daher wird die logarithmische Funktion zur Berechnung des Verlustwerts verwendet.

$ex$ p:$e^x$ Potenz, wird verwendet, um die Zuordnung zu vergrößern,
$normallize$ : normalisiertes
$L_{}$: Tatsächlicher Verlustwert