Risco Bayesiano

professor

O que é o risco bayesiano?

O risco bayesiano é o valor esperado da função de perda sob a distribuição a posteriori. Ele mede o custo médio de uma decisão, dado os dados observados e o conhecimento prévio. Matematicamente, R(a|x) = ∫ L(θ, a) * P(θ|x) dθ, onde a é a ação escolhida. A decisão ótima é aquela que minimiza esse risco esperado. O risco bayesiano é uma medida subjetiva, pois depende da perda e do prior. Ele é fundamental para comparar diferentes regras de decisão. Uma regra é chamada de “admissível” se não existe outra com risco menor para todo θ. O risco bayesiano mínimo é o valor da função de perda no ponto ótimo. Ele também é usado para avaliar a qualidade de estimadores pontuais.

Características fundamentais do risco bayesiano

O risco bayesiano possui três características principais que o definem. Primeiro, ele é um número escalar para cada ação possível. Segundo, ele integra a incerteza sobre o parâmetro θ. Terceiro, ele permite comparação direta entre ações concorrentes. A função de perda pode ser quadrática, absoluta, 0-1 ou assimétrica. Cada perda leva a um estimador diferente (média, mediana, moda, etc.). O risco bayesiano é frequentemente usado em problemas de estimação e classificação.

Vantagens e aplicações típicas

A principal vantagem é a incorporação de custos reais na tomada de decisão. Ele é usado em controle de qualidade, diagnóstico e planejamento financeiro. Também é aplicado em aprendizado por reforço e otimização de portfólio. Contudo, a escolha da função de perda pode ser arbitrária e influenciar o resultado.

O risco bayesiano é a base da teoria da decisão estatística. Para perda quadrática, o risco bayesiano é a variância a posteriori. Para perda 0-1, o risco é a probabilidade de erro de classificação. O estimador de Bayes (que minimiza o risco) é ótimo para a perda escolhida. O risco mínimo é chamado de “risco de Bayes” e é um limite inferior. Nenhum outro estimador pode ter risco médio menor (sob o mesmo prior). Isso é análogo ao erro de Bayes em classificação. O risco bayesiano pode ser calculado analiticamente para modelos conjugados. Para modelos complexos, usa-se MCMC para aproximar a integral. O risco também pode ser decomposto em viés² + variância (para perda quadrática). Essa decomposição ajuda a entender o compromisso entre viés e variância. Em problemas de decisão sequencial, o risco é acumulado ao longo do tempo. A programação dinâmica busca minimizar o risco total esperado. Assim, o risco bayesiano é um conceito unificador em estatística e aprendizado.

Um exemplo clássico é estimar a média μ de uma normal com prior normal. A perda quadrática leva à média a posteriori como estimador. O risco bayesiano desse estimador é a variância a posteriori. Quanto mais informativo o prior, menor o risco.


Enunciado do exemplo clássico

Implemente o cálculo do risco bayesiano para estimação da média de uma normal com prior normal. Dados: 10 observações de N(μ, σ²=4). Prior: μ ~ N(0, 1). Perda quadrática. Calcule a média a posteriori e o risco bayesiano (variância a posteriori) para uma amostra específica. Plote o risco como função do tamanho da amostra e como função do parâmetro de precisão do prior.

Este código calcula o risco bayesiano para estimação da média com perda quadrática. O risco é a variância a posteriori, que diminui com mais dados. Prior mais incerto (variância alta) aumenta o risco, pois confia menos no prior. O estimador bayesiano tem risco menor que o MLE quando o prior é informativo. Para perda 0-1, o risco é a probabilidade de erro na decisão. Para iniciantes, este exemplo mostra como o risco quantifica a qualidade da decisão. O risco bayesiano é, portanto, uma métrica fundamental em estatística decisória.

Teoria da Decisao Bayesiana

professora

O que é a teoria da decisão bayesiana?

A teoria da decisão bayesiana é um arcabouço matemático para tomar decisões sob incerteza. Ela combina probabilidades (crenças) com custos ou utilidades associados a cada ação. A decisão ótima minimiza o risco esperado, ou maximiza a utilidade esperada. O risco é calculado integrando a perda sobre a distribuição a posteriori dos parâmetros. Diferentemente da abordagem frequentista, ela incorpora conhecimento prévio (prior). A decisão é adaptativa: novos dados atualizam a posteriori e a escolha ótima. Ela é usada em diagnósticos, controle, economia e aprendizado de máquina. A teoria formaliza o princípio de que “a melhor ação depende do que sabemos”. Portanto, ela une estatística, otimização e teoria dos jogos.

Componentes fundamentais da decisão bayesiana

A teoria possui três elementos principais que a estruturam. Primeiro, o espaço de estados (parâmetros ou classes) com distribuição a priori. Segundo, o espaço de ações disponíveis para o decisor. Terceiro, uma função de perda L(θ, a) que mede o custo de tomar ação a quando o estado é θ. A decisão bayesiana escolhe a ação que minimiza o risco posterior: R(a|x) = E[L(θ,a) | x]. Para perda quadrática, a decisão é a média da posteriori. Para perda 0-1 (classificação), a decisão é a moda (MAP).

Vantagens e aplicações típicas

A principal vantagem é a flexibilidade para incorporar custos assimétricos. Ela é usada em diagnósticos médicos (falso negativo tem custo alto). Também em finanças (perda vs. ganho) e em sistemas de recomendação. Contudo, a especificação da função de perda é subjetiva e desafiadora.

A teoria da decisão bayesiana é a base do aprendizado supervisionado probabilístico. No contexto de classificação, a perda 0-1 leva ao classificador MAP. Se a perda for assimétrica, define-se uma matriz de custos. Por exemplo, em detecção de fraudes, o custo de não detectar é muito maior. A decisão ótima pode escolher a classe com menor custo esperado, não a mais provável. A regra de decisão de Bayes minimiza o erro esperado em média. Ela também pode ser usada para seleção de modelos (fator de Bayes). Em problemas de estimação, a perda quadrática produz a média a posteriori. A perda absoluta produz a mediana da posteriori. A teoria também trata de decisões sequenciais com múltiplos estágios. Nesse caso, usa-se programação dinâmica ou processos de decisão de Markov (POMDP). A função de utilidade pode ser não-linear, representando aversão ao risco. A teoria é frequentemente contrastada com a abordagem minimax (pior caso). Assim, a decisão bayesiana é uma ferramenta poderosa e flexível para escolhas racionais.

Um exemplo clássico é o problema do diagnóstico de uma doença rara. A priori: P(doente) = 0.01. Teste com sensibilidade 95% e especificidade 90%. Custos: falso negativo (não tratar doente) = 100, falso positivo (tratar saudável) = 1. A decisão bayesiana calcula o custo esperado de tratar ou não tratar, dado o teste positivo.


Enunciado do exemplo clássico

Implemente a decisão bayesiana para um problema de diagnóstico com custos assimétricos. Prior: P(doente) = 0.02. Teste binário com sensibilidade P(pos|doente)=0.90 e especificidade P(neg|saudável)=0.85. Matriz de custos: C(tratar | saudável) = 10, C(não tratar | doente) = 100, C(tratar | doente) = 0, C(não tratar | saudável) = 0. Calcule o risco esperado de cada ação (tratar vs não tratar) para um resultado positivo e negativo. Plote os riscos como função da probabilidade a priori de doença.

Este código implementa a decisão bayesiana com custos assimétricos. O risco de tratar ou não tratar é calculado para cada resultado do teste. O gráfico mostra como os riscos variam com a probabilidade a priori. A decisão ótima muda conforme a prior e os custos relativos. Para iniciantes, este exemplo conecta probabilidade à tomada de decisão. A teoria da decisão bayesiana é, portanto, essencial para escolhas racionais sob incerteza.