Data Mining - байесовская классификация
Байесовская классификация основана на теореме Байеса. Байесовские классификаторы - это статистические классификаторы. Байесовские классификаторы могут предсказывать вероятности членства в классах, такие как вероятность того, что данный кортеж принадлежит определенному классу.
Теорема Бая
Теорема Байеса названа в честь Томаса Байеса. Есть два типа вероятностей -
- Апостериорная вероятность [P (H / X)]
- Априорная вероятность [P (H)]
где X - набор данных, а H - некоторая гипотеза.
Согласно теореме Байеса,
Байесовская сеть убеждений
Байесовские сети убеждений определяют совместные условные распределения вероятностей. Они также известны как сети убеждений, байесовские сети или вероятностные сети.
Сеть убеждений позволяет определять условную независимость классов между подмножествами переменных.
Он предоставляет графическую модель причинно-следственной связи, по которой может быть выполнено обучение.
Мы можем использовать обученную байесовскую сеть для классификации.
Есть два компонента, которые определяют байесовскую сеть убеждений:
- Направленный ациклический граф
- Набор таблиц условной вероятности
Направленный ациклический граф
- Каждый узел в ориентированном ациклическом графе представляет собой случайную величину.
- Эти переменные могут иметь дискретные или непрерывные значения.
- Эти переменные могут соответствовать фактическому атрибуту, указанному в данных.
Направленное представление ациклического графа
На следующей диаграмме показан ориентированный ациклический граф для шести булевых переменных.
Дуга на диаграмме позволяет представить причинное знание. Например, на рак легких влияет семейная история рака легких человека, а также то, курит он или нет. Стоит отметить, что переменная PositiveXray не зависит от того, имел ли пациент в семейном анамнезе рак легких или что он курит, учитывая, что мы знаем, что у пациента рак легких.
Таблица условной вероятности
Таблица условной вероятности для значений переменной LungCancer (LC), показывающая каждую возможную комбинацию значений ее родительских узлов, FamilyHistory (FH) и Smoker (S), выглядит следующим образом:
