Notes de Lin Xuantian sur les fondements de l'apprentissage automatique (2)

Les captures d'écran sont cool pendant un moment, et le crématorium = =,

2. Apprendre à répondre oui_non

P6 2.1
x = (x1,x2, … xd) représente les différentes caractéristiques de l'utilisateur, seuil représente le seuil
y = { +1(bon), -1(mauvais) }, notons que le cas 0 est rare, et ce n'est pas beaucoup Signification
h ∈ H
h(x) = signe(somme(1~d)wi xi - seuil)
= signe(somme(0~d)wi
xi) Remarque : x0 = 1 , w0 = seuil
h(x ) peut Représenter une ligne droite, divisant o(+1) et x(-1)
insérez la description de l'image ici
insérez la description de l'image ici
insérez la description de l'image ici
(Classificateur linéaire unidimensionnel, ceux de grande dimension sont également similaires (??? Je ne sais pas comment faire des méthodes similaires, il semble que je ne peux pas le dessiner?))

P7 2.2
Essayer de faire g ≈ f sur D
comme suit dans le plan bidimensionnel :

Besoin de trouver une ligne qui corresponde le mieux possible à f

Il y a une telle idée (PLA):
(algorithme d'apprentissage du perceptron algorithme d'apprentissage du perceptron)
partir d'une ligne g0, trouver un moyen de l'améliorer lentement
, t représente le tème tour, et
commencer à corriger
wt+ lorsqu'il y a une erreur 1 ← wt + yn(t) xn(t)
jusqu'à ce qu'aucune erreur ne soit trouvée
(connaître l'erreur peut améliorer l'algorithme)
[Question : Pourquoi y
x trouve -
t-il des URL ? B Station East a également commenté, mais je ne le comprends pas] ! Je comprends, y est juste -1 ou 1, si l'angle entre w et x > 90°, en supposant qu'il y a w0, x0, y0 au début, alors w0 produit intérieur (ou produit scalaire) x0 < 0, signe ( w0 · x0) = -1, si y0 est égal à +1 à ce moment , comme dans l'image ci-dessus, il y aura signe (w0 x0) ! = y0 (la fonction de signe ne connaît pas l'encyclopédie Baidu) Par conséquent, parce que x0 est traduit, c'est la ligne pointillée , puis, w0+x0 (ligne pointillée), vous obtenez la violette : w0 + y0x0, c'est-à-dire w0+x0, devient un nouveau w, qui est enregistré comme w1. Si vous faites cela , l'angle entre w1 et x0 sera <90°, et le produit interne sera naturel> 0, sign(w1*x0) = 1 = y0 w est mis à jour avec succès, puis suivez le train de pensée pour continuer à mettre à jour jusqu'à chaque les données ne seront pas mal classées

insérez la description de l'image ici








insérez la description de l'image ici
Notez que lors de la division de la ligne (divisant le rose et le bleu), la direction de la ligne est perpendiculaire à la direction de w. Je ne l'ai pas compris tout de suite. Je ne savais qu'après avoir lu le barrage que l'angle entre w et x est un angle aigu
. , l'angle obtus est X, donc la ligne de séparation est la direction de 90 degrés

À propos de la connaissance de l'erreur et du changement d'algorithme :
cette méthode s'arrêtera-t-elle ?
Est-ce que g déterminé après l'arrêt correspond vraiment bien à f
(probablement juste adapté à l'ensemble d'entraînement)

Réponse aux exercices :
choisissez 3 car wt+1 = wt + yn xn est multiplié par yn xn
sur les côtés gauche et droit,

et vous pouvez savoir que yn*wt+1(T) xn >= yn wt(T) xn
Cette formule représente la Leçon 6 La formule w
x, valeur seuil de score
est plus adaptée au front que cette dernière à yn, indiquant que le g mis à jour est vraiment proche de f

P8 2.3
Prouver la convergence du PLA :
insérez la description de l'image ici
insérez la description de l'image ici
Enfin, quelle est la constante qui prouve la convergence du PLA dans les exercices :
https://www.cnblogs.com/porco/p/4605597.html
Je n'ai pas vu comment le prouver , et la constante est égale à = p/ R^2

P9 2.4
S'il y a du bruit ou si les données ne sont pas linéairement séparables, l'APL peut ne pas s'arrêter,
en particulier lorsque les données ne sont pas linéairement séparables, l'APL ne s'arrêtera pas

Dans le graphique à 2 dimensions, trouvez une ligne avec le moins d'erreur.
C'est un problème np difficile, qui est difficile à résoudre.
insérez la description de l'image ici
Par conséquent, trouvez une approche gloutonne pour trouver une bonne ligne :
utilisez le PLA glouton pour résoudre (pocket), exécutez un certain nombre de fois, trouver le meilleur w
insérez la description de l'image ici

Je suppose que tu aimes

Origine blog.csdn.net/Only_Wolfy/article/details/89354827
conseillé
Classement