Naive Bayesian Classifier

나이브 베이지안에서 중요한 4가지가 존재한다.

1. Conditional Probability 조건부 확률

$P(A|B)$ = $\frac{P(A∩B)}{P(B)}$ / ($P(A, B) = P(A∩B)=P(A|B)P(B)$

B가 발생한 조건에서의 A의 확률을 의미한다.

다음 4가지의 문장은 같은 의미이다.

• Probability of A given B
• Probability of A with assumption that B has happened
• Probability of A evaluated with only the samples in B ← 집합
• Probability of A evaluated with only the samples having B ← 속성

⚡ 실제로 B가 일어나든 안일어나든 상관없다. → B가 일어났다고 “가정”하는 것이라서

2. 공식

$P(A, B, C) = P(A|B,C) P(B|C)P(C)$

→ A,B,C ⇒ A/B,C 이렇게 끊어서 조건부확률 정의 적용시키면 됨

3. Probabilistic Independence 확률적 독립성

앞으로 나오는 Independence는 확률적 독립성을 의미함

Independence를 만족하면 다음 조건과 동치이다.

→ $P(A,B) = P(A)P(B)$ or $P(A|B) = P(A|¬B) = P(A)$

• 2번째 조건을 보면 “독립”은 B가 일어나든 안일어나든 A의 확률에 영향을 안준다는 의미다.
• 이 그림은 A, B가 독립이라고 할 수 있을까? No