Notas de Lin Xuantian sobre los fundamentos del aprendizaje automático (2)

Las capturas de pantalla molan un rato, y el crematorio ==,

2. Aprender a responder sí_no

P6 2.1
x = (x1,x2, … xd) representa las diversas características del usuario, umbral representa el umbral
y = { +1(bueno), -1(malo) }, tenga en cuenta que el caso de 0 es raro, y no es mucho Significado
h ∈ H
h(x) = signo(suma(1~d)wi xi - umbral)
= signo(suma(0~d)wi
xi) Nota: x0 = 1 , w0 = umbral
h(x ) can Representa una línea recta, dividiendo o(+1) y x(-1)
inserte la descripción de la imagen aquí
inserte la descripción de la imagen aquí
inserte la descripción de la imagen aquí
(clasificador lineal unidimensional, los de alta dimensión también son similares (??? No sé cómo hacer métodos similares, parece que no puedo dibujarlo?))

P7 2.2
Trate de hacer g ≈ f en D
como sigue en el plano bidimensional:

Necesita encontrar una línea que se ajuste a f lo mejor posible

Existe tal idea (PLA):
(algoritmo de aprendizaje de perceptrón algoritmo de aprendizaje de perceptrón)
comience desde una línea g0, encuentre una manera de mejorarla lentamente
, t representa la t-ésima ronda y
comience a corregir
wt+ cuando haya un error 1 ← wt + yn(t) xn(t)
hasta que no se encuentre ningún error
(conocer el error puede mejorar el algoritmo)
[Pregunta: ¿Por qué y
x
encuentra algunas URL: https://zhuanlan.zhihu.com/p/30641772
Dr. B Station East también comentó, pero no lo entiendo]
inserte la descripción de la imagen aquí
! Entiendo, y es solo -1 o 1, si el ángulo entre w y x > 90°,
asumiendo que hay w0, x0, y0 al principio,
entonces w0 producto interno (o producto escalar) x0 < 0, signo ( w0 · x0) = -1, si y0 es igual a +1 en este momento
, como en la imagen de arriba, ¡habrá un signo (w0
x0)! = y0
(la función de signo no conoce la Enciclopedia de Baidu)
Por lo tanto, debido a que x0 es traducido, es la línea punteada, entonces, w0+x0 (línea punteada), obtienes la violeta: w0 + y0x0, es decir, w0+x0, se convierte en una nueva w, que se registra como w1. Si haces esto , el ángulo entre w1 y
x0 será <90°, y el producto interno será natural> 0, sign(w1*x0) = 1 = y0
w se actualiza con éxito, y luego siga el tren de pensamiento para seguir actualizando hasta cada los datos no serán mal clasificados
inserte la descripción de la imagen aquí
Tenga en cuenta que al dividir la línea (dividiendo rosa y azul), la dirección de la línea es perpendicular a la dirección de w. No lo entendí de inmediato. Solo supe después de leer el aluvión que el ángulo entre w y x es un ángulo agudo
. , el ángulo obtuso es X, por lo que la línea divisoria es la dirección de 90 grados

Sobre conocer el error y cambiar el algoritmo:
¿Se detendrá este método?
¿G determinado después de detenerse realmente encaja f bien
(probablemente solo encaja en el conjunto de entrenamiento)

Respuesta a los ejercicios:
elige 3 porque wt+1 = wt + yn xn se multiplica por yn xn
en los lados izquierdo y derecho,

y puedes saber que yn*wt+1(T) xn >= yn wt(T) xn
Esta fórmula representa la Lección 6 La fórmula w
x, valor de umbral de puntuación
se ajusta más al frente que el último a yn, lo que indica que la g actualizada está muy cerca de f

P8 2.3
Demostrar la convergencia de PLA:
inserte la descripción de la imagen aquí
inserte la descripción de la imagen aquí
Finalmente, cual es la constante que prueba la convergencia de PLA en los ejercicios:
https://www.cnblogs.com/porco/p/4605597.html
No vi como probarlo , y la constante es igual a = p/ R^2

P9 2.4
Si hay ruido o los datos no se pueden separar linealmente, es posible que PLA no se detenga,
especialmente cuando los datos no se pueden separar linealmente, PLA no se detendrá

En el gráfico bidimensional, encuentre una línea con el menor error.
Este es un problema difícil de np, que es difícil de resolver.
inserte la descripción de la imagen aquí
Por lo tanto, busque un enfoque codicioso para encontrar una buena línea:
use PLA codicioso para resolver (bolsillo), ejecute un cierto número de veces, encuentre el w más conocido
inserte la descripción de la imagen aquí

Supongo que te gusta

Origin blog.csdn.net/Only_Wolfy/article/details/89354827
Recomendado
Clasificación