arXiv:2511.15315v1 Announce Type: new 
Abstract: Bayesian Optimization is critically vulnerable to extreme outliers. Existing provably robust methods typically assume a bounded cumulative corruption budget, which makes them defenseless against even a single corruption of sufficient magnitude. To address this, we introduce a new adversary whose budget is only bounded in the frequency of corruptions, not in their magnitude. We then derive RCGP-UCB, an algorithm coupling the famous upper confidence bound (UCB) approach with a Robust Conjugate Gaussian Process (RCGP). We present stable and adaptive versions of RCGP-UCB, and prove that they achieve sublinear regret in the presence of up to $O(T^{1/2})$ and $O(T^{1/3})$ corruptions with possibly infinite magnitude. This robustness comes at near zero cost: without outliers, RCGP-UCB's regret bounds match those of the standard GP-UCB algorithm.

تعتبر الأمثلية البايزية عرضة بشدة للقيم الشاذة القصوى، مما يمكن أن يقوض فعاليتها. تفترض الأساليب القوية التقليدية ميزانية فساد محدودة، مما يجعلها عرضة للقيم الشاذة الكبيرة. يقدم نهج جديد خصمًا بميزانية فساد تعتمد على التكرار، مما يؤدي إلى تطوير RCGP-UCB، وهو خوارزمية تجمع بين طريقة الحد الأعلى للثقة وعملية غاوسية قوية. تظهر هذه الطريقة ندمًا تحت خطي حتى مع وجود عدد كبير من الفساد المحتمل غير المحدود.

La optimización bayesiana es altamente susceptible a valores atípicos extremos, lo que puede socavar su efectividad. Los métodos robustos tradicionales asumen un presupuesto de corrupción limitado, dejándolos vulnerables a valores atípicos significativos. Un nuevo enfoque introduce un adversario con un presupuesto de corrupción basado en la frecuencia, lo que lleva al desarrollo de RCGP-UCB, un algoritmo que combina el método de límite de confianza superior con un proceso gaussiano conjugado robusto. Este método demuestra un arrepentimiento sublineal incluso con numerosas corrupciones de magni…

L'optimisation bayésienne est très vulnérable aux valeurs aberrantes extrêmes, ce qui peut compromettre son efficacité. Les méthodes robustes traditionnelles supposent un budget de corruption limité, les rendant vulnérables aux valeurs aberrantes significatives. Une nouvelle approche introduit un adversaire avec un budget de corruption basé sur la fréquence, conduisant au développement de RCGP-UCB, un algorithme qui combine la méthode de la borne de confiance supérieure avec un processus gaussien conjugué robuste. Cette méthode montre un regret sublinéaire même avec de nombreuses corruptions d…

Bayesian Optimization is highly susceptible to extreme outliers, which can undermine its effectiveness. Traditional robust methods assume a limited corruption budget, leaving them vulnerable to significant outliers. A new approach introduces an adversary with a frequency-based corruption budget, leading to the development of RCGP-UCB, an algorithm that combines the upper confidence bound method with a Robust Conjugate Gaussian Process. This method demonstrates sublinear regret even with numerous corruptions of potentially infinite magnitude.

Robust Bayesian Optimisation with Unbounded Corruptions

Was this article worth reading? Share it

LucidQuery AI

GPTHumanizer

Augmeta