O que caracteriza um método não-paramétrico de regressão? Compare com os métodos paramétricos em termos de flexibilidade, interpretabilidade e necessidade de dados.
Explique o funcionamento do KNN Regression (k-Nearest Neighbors). Como é feita a predição de um novo ponto? Quais são as vantagens e desvantagens do método? O que acontece quando o valor de \(k\) é muito pequeno ou muito grande?
Descreva a regressão por Kernel de Nadaraya-Watson. Como funciona o estimador kernel? Explique o papel da função kernel e da largura de banda (bandwidth) \(h\) na suavização da estimativa.
Quais são as principais funções kernel utilizadas? Compare pelo menos três tipos diferentes (por exemplo, Gaussiana, Epanechnikov, Uniforme) em termos de suavidade e suporte.
Como a escolha do parâmetro de largura de banda \(h\) afeta o modelo de regressão kernel? Explique o que acontece quando \(h\) é muito pequeno (under-smoothing) e quando \(h\) é muito grande (over-smoothing), e como escolher um valor adequado.
Compare Regressão KNN e Regressão Kernel (Nadaraya-Watson). Quais são as semelhanças e diferenças entre esses dois métodos não-paramétricos? Em que situações um seria preferível ao outro?