Santos LV, Gião T, Nicolette RdF, Marangoni JC, Martinez-Souza G. · 2026

Evaluation of Smoothing Functions in Generalized Additive Models Applied to the Relative Abundance of Green Turtle (Chelonia mydas)

Resumo em português

RESUMO Este estudo avalia como famílias de distribuição da variável resposta e técnicas de suavização influenciam o desempenho de Modelos Aditivos Generalizados (GAM), utilizando dados de abundância de indivíduos juvenis de tartaruga-verde (Chelonia mydas) do sul do Brasil. Comparamos sistematicamente distribuições Normal, Lognormal, Poisson e Binomial Negativa combinadas com Splines de Placa Fina, Cúbicos e de Regressão Penalizada. A distribuição Binomial Negativa superou os demais modelos em todos os critérios de informação e diagnósticos de resíduos, mitigando efetivamente a superdispersão. Entre os suavizadores, os Splines de Regressão de Placa Fina demonstraram maior eficiência na captura de padrões espaciais e sazonais complexos, apresentando os menores valores de Validação Cruzada Generalizada (GCV) e Erro Quadrático Médio da Raiz (RMSE). Em última análise, a especificação correta da família da distribuição da resposta é tão crítica quanto a escolha do suavizador para garantir inferências ecológicas robustas e representar com precisão os padrões de abundância da espécie e fidelidade ao local.

Resumo original em inglês

Abstract This study evaluates how response variable distribution families and smoothing techniques influence Generalized Additive Model (GAM) performance, using juvenile Chelonia mydas abundance data from southern Brazil. We systematically compared Normal, Log-normal, Poisson, and Negative Binomial distributions combined with Thin Plate, Cubic, and Penalized Regression Splines. The Negative Binomial distribution outperformed other frameworks across all information criteria and residual diagnostics, effectively mitigating overdispersion. Among smoothers, Thin Plate Regression Splines demonstrated superior efficiency in capturing complex spatial and seasonal patterns, yielding the lowest Generalized Cross Validation (GCV) and Root Mean Square Error (RMSE) scores. Ultimately, the correct specification of the response distribution family proves just as critical as smoother selection for ensuring robust ecological inferences and accurately representing species abundance and site fidelity patterns.

Espécies citadas

• Chelonia mydas · tartaruga-verde
  ?

  Nomes populares variam entre regiões e uma mesma palavra pode designar espécies diferentes. Confira sempre o nome científico: Chelonia mydas.