Juntei com o mais importante do capítulo 1¶

2 - Teorema de Bayes¶

Probabilidade condicional

  • Probabilidade dado um contexto $$ p(A \mid B) $$

Probabilidade conjunta

  • Probabilidade de duas coisas serem verdades juntas $$ p(A \text{ e } B) $$
  • Se A e B são independentes: $$ p(A \text{ e } B) = p(A) \ p(B) $$
  • Se não foram independentes, em geral: $$ p(A \text{ e } B) = p(A) \ p(B \mid A) $$

Problema do jarro de cookies:

- Dados dois jarros com distribuições de cookies diferentes, qual a chance que eu tirei do jarro um se o cookie é de baunilha?

Teorema de Bayes

$$ p(A \text{ e } B) = p(B \text{ e } A) $$

$$ p(A) \ p(B \mid A) = p(B) \ p(A \mid B) $$

$$ p(A \mid B) = \frac{p(B \mid A) \cdot p(A)}{p(B)} $$

Interpretação Diacroica

  • Atualizar probabilidade da hipótese H, dado uma informação D:

$$ p(H \mid D) = \frac{p(D \mid H) \cdot p(H)}{p(D)} $$

$$ p(H) \text{--> Prior} $$ $$ p(H \mid D) \text{ --> Posterior} $$ $$ p(D \mid H) \text{ --> Likelihood (verossimilhança)} $$ $$ p(D) \text{ --> Normalizing Constant} $$

Resumindo, basta multiplicar a prior pela likelihood e dividir por uma constante.

Nem sempre é fácil determinar qual o valor de cada parte

Simplificações:

  • Mutually Exclusive - só uma hipótese pode ser verdadeira
  • Collectively Exhaustive - Ao menos uma hipótese deve ser verdadeira

Caso dos cookies:

  • Jarro 1 ou jarro 2 são as únicas hipóteses

Lei da probabilidade Total:

  • Dois casos: $$ p(A) = p(B_1) p(A \mid B_1) + p(B_2) p(A \mid B_2) $$

  • Caso geral: $$ P(A) = \sum_i P(B_i) P(A \mid B_i) $$

Problema dos M&Ms
Problema Monty-Hall:
  • Escolhar a porta A e é aberta a porta B: $$ \begin{array}{|c|c|c|c|c|} \hline Porta & Prior \ p(H) & Likelihood \ p(D \mid H) & p(H) p(D \mid H) & Posterior \ p(H \mid D) \\ \hline A & \frac{1}{3} & \frac{1}{2} & \frac{1}{6} & \frac{1}{3} \\ \hline B & \frac{1}{3} & 0 & 0 & 0 \\ \hline C & \frac{1}{3} & 1 & \frac{1}{3} & \frac{2}{3} \\ \hline \end{array} $$