Regressão com forma funcional flexível

Question

Estou assumindo um modelo do formulário

$$Y_i=\alpha+\beta X_i+g(\mathbf{Z}_i)+\epsilon_i,$$

Aqui $\mathbf{Z}_i$ é um $m$ vetor dimensional e $\epsilon_i$é o ruído branco iid. Eu gostaria de estabelecer se$\beta$ é estatisticamente significativo com base em meus dados, sem assumir uma postura forte da forma de $g$. Que tipo de métodos geralmente são aplicados para esse tipo de problema?

Answer 1

Isso parece um ótimo trabalho para GAMs por meio do mgcvpacote. Use uma spline de suavização penalizada para estimar$g$ e adicionar um efeito aditivo de $X$. O modelo seria semelhante gam(y ~ x + s(z).

library(mgcv)
#> Loading required package: nlme
#> This is mgcv 1.8-31. For overview type 'help("mgcv-package")'.


z = rnorm(1000)
x = rnorm(1000)
y = 2 + 0.25*x + sin(pi*z) + rnorm(1000, 0, 0.3)
d = data.frame(x, y, z)

model = gam(y ~ x + s(z), data = d)

summary(model)
#> 
#> Family: gaussian 
#> Link function: identity 
#> 
#> Formula:
#> y ~ x + s(z)
#> 
#> Parametric coefficients:
#>             Estimate Std. Error t value Pr(>|t|)    
#> (Intercept) 1.968566   0.009514  206.91   <2e-16 ***
#> x           0.262245   0.009888   26.52   <2e-16 ***
#> ---
#> Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
#> 
#> Approximate significance of smooth terms:
#>        edf Ref.df     F p-value    
#> s(z) 8.977      9 625.1  <2e-16 ***
#> ---
#> Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
#> 
#> R-sq.(adj) =  0.865   Deviance explained = 86.6%
#> GCV = 0.091407  Scale est. = 0.090404  n = 1000

^{Criado em 2020-10-20 pelo pacote reprex (v0.3.0)}

Answer 2

Este modelo é um modelo de regressão parcialmente linear e, no seu caso, $g(Z)$é um parâmetro incômodo. Veja a página 62 deste link para uma cartilha sobre o assunto. De nota especial na aplicação é a transformação de Robinson (Seção 7.7 na página 62 do arquivo vinculado).

A inferência é particularmente complicada nessas configurações, uma vez que é difícil dizer qualquer coisa sobre a assintótica de $g(Z)$em um sentido geral, então você normalmente precisa presumir que está em algum espaço. Uma abordagem muito geral recente para inferência foi proposta por Chernozhukov et al. (2017) se for de interesse.