arXiv:2505.15721v2 Announce Type: replace-cross 
Abstract: Conformal prediction (CP) provides sets of candidate classes with a guaranteed probability of containing the true class. However, it typically relies on a calibration set with clean labels. We address privacy-sensitive scenarios where the aggregator is untrusted and can only access a perturbed version of the true labels. We propose two complementary approaches under local differential privacy (LDP). In the first approach, users do not access the model but instead provide their input features and a perturbed label using a k-ary randomized response. In the second approach, which enforces stricter privacy constraints, users add noise to their conformity score by binary search response. This method requires access to the classification model but preserves both data and label privacy. Both approaches compute the conformal threshold directly from noisy data without accessing the true labels. We prove finite-sample coverage guarantees and demonstrate robust coverage even under severe randomization. This approach unifies strong local privacy with predictive uncertainty control, making it well-suited for sensitive applications such as medical imaging or large language model queries, regardless of whether users can (or are willing to) compute their own scores.

تقدم دراسة جديدة طرقًا للتنبؤ المتوافق تحافظ على الخصوصية تحت الخصوصية التفاضلية المحلية (LDP)، حيث تتناول السيناريوهات التي لا يمكن فيها الوثوق بمجمعي البيانات مع التسميات الحقيقية. تتيح الأساليب المقترحة للمستخدمين تقديم تسميات مشوشة مع ضمان خصوصية البيانات، مما يحافظ على نزاهة نموذج التصنيف دون الوصول المباشر إلى التسميات الحقيقية.

Un nuevo estudio presenta métodos de predicción conforme que preservan la privacidad bajo la privacidad diferencial local (LDP), abordando escenarios donde los agregadores de datos no pueden ser confiables con las etiquetas verdaderas. Los enfoques propuestos permiten a los usuarios proporcionar etiquetas perturbadas mientras garantizan la privacidad de los datos, manteniendo así la integridad del modelo de clasificación sin acceso directo a las etiquetas verdaderas.

Une nouvelle étude présente des méthodes de prédiction conforme préservant la vie privée sous la confidentialité différentielle locale (LDP), abordant des scénarios où les agrégateurs de données ne peuvent pas être dignes de confiance avec les vraies étiquettes. Les approches proposées permettent aux utilisateurs de fournir des étiquettes perturbées tout en garantissant la confidentialité des données, maintenant ainsi l'intégrité du modèle de classification sans accès direct aux vraies étiquettes.

A new study introduces privacy-preserving conformal prediction methods under local differential privacy (LDP), addressing scenarios where data aggregators cannot be trusted with true labels. The proposed approaches allow users to provide perturbed labels while ensuring data privacy, thus maintaining the integrity of the classification model without direct access to true labels.

Privacy-Preserving Conformal Prediction Under Local Differential Privacy

arXiv:2512.07770v1 Announce Type: new 
Abstract: Conformal prediction provides a pivotal and flexible technique for uncertainty quantification by constructing prediction sets with a predefined coverage rate. Many online conformal prediction methods have been developed to address data distribution shifts in fully adversarial environments, resulting in overly conservative prediction sets. We propose Conformal Optimistic Prediction (COP), an online conformal prediction algorithm incorporating underlying data pattern into the update rule. Through estimated cumulative distribution function of non-conformity scores, COP produces tighter prediction sets when predictable pattern exists, while retaining valid coverage guarantees even when estimates are inaccurate. We establish a joint bound on coverage and regret, which further confirms the validity of our approach. We also prove that COP achieves distribution-free, finite-sample coverage under arbitrary learning rates and can converge when scores are $i.i.d.$. The experimental results also show that COP can achieve valid coverage and construct shorter prediction intervals than other baselines.

تم اقتراح خوارزمية جديدة للتنبؤ المتوافق عبر الإنترنت، تُعرف باسم التنبؤ المتفائل المتوافق (COP)، لتحسين قياس عدم اليقين في التعلم الآلي من خلال إنتاج مجموعات تنبؤات أكثر دقة بناءً على أنماط البيانات الأساسية. تهدف هذه الطريقة إلى معالجة قيود تقنيات التنبؤ المتوافق عبر الإنترنت الموجودة التي غالبًا ما تنتج نتائج متحفظة بشكل مفرط في البيئات العدائية.

Se ha propuesto un nuevo algoritmo de predicción conformal en línea, la Predicción Optimista Conformal (COP), para mejorar la cuantificación de la incertidumbre en el aprendizaje automático al producir conjuntos de predicciones más ajustados basados en patrones de datos subyacentes. Este método busca abordar las limitaciones de las técnicas de predicción conformal en línea existentes que a menudo generan resultados excesivamente conservadores en entornos adversos.

Un nouvel algorithme de prédiction conforme en ligne, la Prédiction Optimiste Conforme (COP), a été proposé pour améliorer la quantification de l'incertitude en apprentissage automatique en produisant des ensembles de prédictions plus précis basés sur des motifs de données sous-jacents. Cette méthode vise à résoudre les limitations des techniques de prédiction conforme en ligne existantes qui produisent souvent des résultats trop conservateurs dans des environnements adverses.

A new online conformal prediction algorithm, Conformal Optimistic Prediction (COP), has been proposed to enhance uncertainty quantification in machine learning by producing tighter prediction sets based on underlying data patterns. This method aims to address the limitations of existing online conformal prediction techniques that often yield overly conservative results in adversarial environments.

Privacy-Preserving Conformal Prediction Under Local Differential Privacy

Was this article worth reading? Share it

LucidQuery AI

Adaptive Privacy Policy Generator

Open Source Surveillance