arXiv:2510.24820v1 Announce Type: new 
Abstract: With the rapid advancement of text-to-image (T2I) models, ensuring their safety has become increasingly critical. Existing safety approaches can be categorized into training-time and inference-time methods. While inference-time methods are widely adopted due to their cost-effectiveness, they often suffer from limitations such as over-refusal and imbalance between safety and utility. To address these challenges, we propose a multi-round safety editing framework that functions as a model-agnostic, plug-and-play module, enabling efficient safety alignment for any text-to-image model. Central to this framework is MR-SafeEdit, a multi-round image-text interleaved dataset specifically constructed for safety editing in text-to-image generation. We introduce a post-hoc safety editing paradigm that mirrors the human cognitive process of identifying and refining unsafe content. To instantiate this paradigm, we develop SafeEditor, a unified MLLM capable of multi-round safety editing on generated images. Experimental results show that SafeEditor surpasses prior safety approaches by reducing over-refusal while achieving a more favorable safety-utility balance.

تقديم SafeEditor يمثل تقدمًا كبيرًا في مجال تحرير أمان نماذج النص إلى صورة (T2I). مع تزايد انتشار نماذج T2I، أصبح ضمان أمانها أمرًا حيويًا، ويقدم SafeEditor نهجًا موحدًا لمعالجة القيود الموجودة في الأساليب الحالية. من خلال التركيز على تعديلات الأمان متعددة الجولات، يهدف إلى تحسين كل من الأمان والفائدة، مما يجعله أداة قيمة للمطورين والمستخدمين على حد سواء. لا تعالج هذه الابتكار المخاوف الأمنية الملحة فحسب، بل تمهد أيضًا الطريق لتطبيقات T2I أكثر موثوقية وفعالية.

La introducción de SafeEditor marca un avance significativo en el campo de la edición de seguridad para modelos de texto a imagen (T2I). A medida que los modelos T2I se vuelven más comunes, garantizar su seguridad es crucial, y SafeEditor ofrece un enfoque unificado para abordar las limitaciones de los métodos actuales. Al centrarse en ediciones de seguridad en múltiples rondas, busca mejorar tanto la seguridad como la utilidad, convirtiéndose en una herramienta valiosa para desarrolladores y usuarios. Esta innovación no solo aborda preocupaciones de seguridad urgentes, sino que también allana el camino para aplicaciones T2I más confiables y efectivas.

L'introduction de SafeEditor représente une avancée significative dans le domaine de l'édition de sécurité pour les modèles de texte à image (T2I). Alors que les modèles T2I deviennent de plus en plus courants, garantir leur sécurité est crucial, et SafeEditor propose une approche unifiée pour s'attaquer aux limitations des méthodes actuelles. En se concentrant sur des modifications de sécurité en plusieurs étapes, il vise à améliorer à la fois la sécurité et l'utilité, ce qui en fait un outil précieux pour les développeurs et les utilisateurs. Cette innovation répond non seulement aux préoccupations de sécurité pressantes, mais ouvre également la voie à des applications T2I plus fiables et efficaces.

The introduction of SafeEditor marks a significant advancement in the field of text-to-image (T2I) safety editing. As T2I models become more prevalent, ensuring their safety is crucial, and SafeEditor offers a unified approach to tackle existing limitations in current methods. By focusing on multi-round safety edits, it aims to enhance both safety and utility, making it a valuable tool for developers and users alike. This innovation not only addresses pressing safety concerns but also paves the way for more reliable and effective T2I applications.

SafeEditor: Unified MLLM for Efficient Post-hoc T2I Safety Editing

One More Thing in AI – Your Shortcut to AI Mastery

SafeEditor: Unified MLLM for Efficient Post-hoc T2I Safety Editing

Was this article worth reading? Share it

One More Thing in AI

Humanize AI

SafeWrite AI

LangWatch

PicPicAI

Twofold Health

Ready to build your own newsroom?