Data Mining - Bayesianische Klassifikation
Die Bayes'sche Klassifikation basiert auf dem Bayes'schen Theorem. Bayesianische Klassifikatoren sind die statistischen Klassifikatoren. Bayesianische Klassifikatoren können Klassenmitgliedschaftswahrscheinlichkeiten vorhersagen, beispielsweise die Wahrscheinlichkeit, dass ein bestimmtes Tupel zu einer bestimmten Klasse gehört.
Satz von Baye
Der Satz von Bayes ist nach Thomas Bayes benannt. Es gibt zwei Arten von Wahrscheinlichkeiten -
- Posteriore Wahrscheinlichkeit [P (H / X)]
- Vorherige Wahrscheinlichkeit [P (H)]
Dabei ist X ein Datentupel und H eine Hypothese.
Nach dem Satz von Bayes
Bayesian Belief Network
Bayesian Belief Networks spezifizieren gemeinsame bedingte Wahrscheinlichkeitsverteilungen. Sie werden auch als Glaubensnetzwerke, Bayesianische Netzwerke oder probabilistische Netzwerke bezeichnet.
In einem Glaubensnetzwerk können klassenbedingte Abhängigkeiten zwischen Teilmengen von Variablen definiert werden.
Es bietet ein grafisches Modell des Kausalzusammenhangs, anhand dessen gelernt werden kann.
Wir können ein geschultes Bayesianisches Netzwerk zur Klassifizierung verwenden.
Es gibt zwei Komponenten, die ein Bayesian Belief Network definieren:
- Gerichteter azyklischer Graph
- Eine Reihe von bedingten Wahrscheinlichkeitstabellen
Directed Acyclic Graph
- Jeder Knoten in einem gerichteten azyklischen Graphen repräsentiert eine Zufallsvariable.
- Diese Variablen können diskret oder kontinuierlich bewertet sein.
- Diese Variablen können dem tatsächlichen Attribut entsprechen, das in den Daten angegeben ist.
Directed Acyclic Graph Representation
Das folgende Diagramm zeigt einen gerichteten azyklischen Graphen für sechs Boolesche Variablen.
Der Bogen im Diagramm ermöglicht die Darstellung des kausalen Wissens. Zum Beispiel wird Lungenkrebs durch die Familiengeschichte einer Person mit Lungenkrebs sowie durch die Frage beeinflusst, ob die Person Raucher ist oder nicht. Es ist erwähnenswert, dass die Variable PositiveXray unabhängig davon ist, ob der Patient in der Familienanamnese an Lungenkrebs leidet oder ob der Patient Raucher ist, da wir wissen, dass der Patient an Lungenkrebs leidet.
Bedingte Wahrscheinlichkeitstabelle
Die bedingte Wahrscheinlichkeitstabelle für die Werte der Variablen LungCancer (LC), die jede mögliche Kombination der Werte ihrer übergeordneten Knoten FamilyHistory (FH) und Smoker (S) zeigt, lautet wie folgt: