Notes d'auto-apprentissage de l'étude de concept

Notes d'auto-apprentissage de l'étude de concept

Apprentissage du concept:

La compréhension des points suivants nous aidera à mieux comprendre le concept d'apprentissage

• La relation d'ordre partiel en mathématiques discrètes est la clé d'une meilleure compréhension de l'algorithme FIND_S et de l'algorithme d'élimination des candidats.

• Pour comprendre du point de vue des problèmes de recherche

• L'apprentissage de concept a de mauvaises performances lorsque l'ensemble d'apprentissage contient des données bruyantes

Terminologie et représentation symbolique

• Concept cible c: est une fonction booléenne h: X → {0,1}

• Valeur du concept cible: c (x)

• Exemple positif: c (x) = 1

• Exemple de compteur: c (x) = 0

• Exemple de formation: <x, c (x)>

• Collection d'échantillons de formation: D

• Toutes les hypothèses possibles: H

• Hypothèse unique: h, est une fonction booléenne h: X → {0, 1}

Find-S: Trouvez l'hypothèse extrême spéciale

Notre hypothèse ici est conjonctive

Brève description : Commencez par l'hypothèse la plus spécifique de H et généralisez-la lorsque l'hypothèse ne couvre pas l'exemple positif.

L'hypothèse la plus précise:<Ø,Ø,Ø,Ø,Ø,Ø>

Description de l'algorithme (processus de formation)

For each positive training instance x
For each attribute constraint ai ∈ h
If        the constraint ai ∈ h is satisfied by x
then    do nothing
else     replace ai ∈ h by the next more general constraint 
               that is satisfied by x
Output hypothesis 

En partant de l'hypothèse la plus spécifique, Find-S garantit que la sortie est l'hypothèse la plus spécifique cohérente avec l'exemple positif en H

Algorithme d'élimination des candidats

• La sortie de l'algorithme d'élimination candidate est un ensemble de toutes les hypothèses cohérentes avec l'exemple d'apprentissage, et Find-S n'est que l'une d'entre elles.
• En raison de la relation de tri partiel, l'algorithme d'élimination candidat n'a pas besoin d'énumérer explicitement tous ses membres lors de la description de l'ensemble d'apprentissage.
• Mais comme pour Find-S, les performances sont médiocres lorsqu'il y a des données bruyantes.

Espace de variante

• Limite générale G

• Limite spéciale S

  初始化：G <- {<?,?,?,?,?,?>}
         S <- {<,,,,,>}
  遍历训练集 d = < x, c (x) >
  If d 是个正例
  	对G：移出G中与d不一致(即假设得到的概念与样本真实概念取值不符)的所有假设
  	对S：移出S中与d不一致的所有假设；如果一个假设h与d一致且G中有比h更一般的假设，那么将该假设加入S
  If d 是个负例
  	对S：移出S中与d不一致(即假设得到的概念与样本真实概念取值不符)的所有假设
  	对G：移出G中与d不一致的所有假设；如果一个假设h与d一致且S中有比h更具体的假设，那么将该假设加入
  

Quelques explications et explications

Que faire si les données d'entraînement contiennent des erreurs

• Supprime le concept de cible correct
• Données d'entraînement suffisantes, les limites S et G convergent vers un espace de variante vide

Apprenant impartial

Pour garantir que le concept cible se trouve dans l'espace d'hypothèses, nous avons besoin d'un espace d'hypothèses pouvant exprimer tous les concepts enseignables . En d'autres termes, il peut exprimer tous les sous-ensembles possibles de l'ensemble d'instances X. Et nous appelons l'ensemble de tous les sous-ensembles de l'ensemble X l'ensemble de puissance de X (ensemble de puissance)

• Il s'agit d'une hypothèse non seulement conjonctive, et il n'y a pas lieu de s'inquiéter de ne pas pouvoir exprimer le concept cible. Cependant, l'algorithme d'apprentissage des concepts ne sera pas du tout généralisé à partir des exemples de formation! ! !
• S devient la disjonction de l'exemple positif, et G devient la négation de la disjonction de l'exemple négatif

Inutilité de l'apprentissage impartial

• Avec l'introduction ci-dessus, il n'est pas difficile de comprendre l'inutilité de l'apprentissage impartial.

• Mais il illustre également une propriété de base du raisonnement inductif : si l'apprenant ne fait pas de présomption sur la forme du concept cible, il ne peut pas du tout classer des exemples invisibles.

• Étant donné que l'apprentissage inductif nécessite une certaine forme de présupposition, également appelée induction de biais , nous pouvons utiliser l'induction de biais pour décrire les caractéristiques des différentes méthodes d'apprentissage.