arXiv:2605.29908v1 Announce Type: new 
Abstract: Sparse recovery in linear systems underpins applications from signal processing to high-dimensional regression. Sparse Bayesian Learning, grounded in the principle of automatic relevance determination (ARD), offers a practical Bayesian mechanism for feature sparsity via marginal likelihood optimization. Yet, its reliance on a homoscedastic noise model renders it sensitive to data contaminations such as outliers or misspecified noise, harming model fit and predictions. Instead, we propose jointly learning individual feature and sample relevancies, enabling simultaneous model and data sparsification via a single Bayesian objective. This symmetric pruning of model and data offers a natural extension that preserves conjugacy, admits closed-form updates for standard optimization procedures, and aligns with perspectives from robust regression and influence functions. Empirical results across diverse regression tasks affirm that a joint ARD approach consistently yields both sparse and robust prediction models.

تم اقتراح نهج جديد للتعلم البايزي النادر، يركز على تقليل النموذج والبيانات بشكل مشترك من خلال تحسين الاحتمالية الهامشية. تهدف هذه الطريقة إلى تحسين ندرة الميزات مع معالجة قيود نماذج الضوضاء المتجانسة التقليدية، التي تكون حساسة لتلوث البيانات. تتيح التقنية المقترحة التعلم المتزامن لملاءمة الميزات والعينات، مما يحسن من ملاءمة النموذج والتنبؤات عبر مهام الانحدار المتنوعة.

Se ha propuesto un nuevo enfoque para el Aprendizaje Bayesiano Escaso, centrado en la esparcidad conjunta del modelo y los datos a través de la optimización de la verosimilitud marginal. Este método busca mejorar la esparcidad de características mientras aborda las limitaciones de los modelos de ruido homocedástico tradicionales, que son sensibles a la contaminación de datos. La técnica propuesta permite el aprendizaje simultáneo de la relevancia de características y muestras, mejorando el ajuste del modelo y las predicciones en diversas tareas de regresión.

Une nouvelle approche de l'apprentissage bayésien sparse a été proposée, axée sur la sparsification conjointe du modèle et des données par le biais de l'optimisation de la vraisemblance marginale. Cette méthode vise à améliorer la sparsité des caractéristiques tout en abordant les limitations des modèles de bruit homoscédastiques traditionnels, qui sont sensibles à la contamination des données. La technique proposée permet un apprentissage simultané des pertinences des caractéristiques et des échantillons, améliorant ainsi l'ajustement du modèle et les prédictions dans diverses tâches de régre…

A new approach to Sparse Bayesian Learning has been proposed, focusing on joint model and data sparsification through marginal likelihood optimization. This method aims to enhance feature sparsity while addressing the limitations of traditional homoscedastic noise models, which are sensitive to data contamination. The proposed technique allows for simultaneous learning of feature and sample relevancies, improving model fit and predictions across various regression tasks.