arXiv:2511.11014v1 Announce Type: new 
Abstract: While diffusion-based T2I models have achieved remarkable image generation quality, they also enable easy creation of harmful content, raising social concerns and highlighting the need for safer generation. Existing inference-time guiding methods lack both adaptivity--adjusting guidance strength based on the prompt--and selectivity--targeting only unsafe regions of the image. Our method, SP-Guard, addresses these limitations by estimating prompt harmfulness and applying a selective guidance mask to guide only unsafe areas. Experiments show that SP-Guard generates safer images than existing methods while minimizing unintended content alteration. Beyond improving safety, our findings highlight the importance of transparency and controllability in image generation.

يقدم المقال SP-Guard، وهي طريقة جديدة لتوليد الصور من النص (T2I) بشكل آمن، تعالج المخاطر المرتبطة بنماذج T2I القائمة على الانتشار. على الرغم من أن هذه النماذج أظهرت جودة صورة ملحوظة، إلا أنها تطرح أيضًا مخاطر إنشاء محتوى ضار. يحسن SP-Guard الطرق الحالية من خلال تعديل قوة التوجيه بناءً على خطورة الطلب واستهداف المناطق غير الآمنة في الصورة بشكل انتقائي. تشير التجارب إلى أن SP-Guard ينتج صورًا أكثر أمانًا مع تقليل التعديلات غير المقصودة، مما يبرز الحاجة إلى الشفافية والتحكم في توليد الصور.

El artículo presenta SP-Guard, un nuevo método para la generación segura de imágenes a partir de texto (T2I) que aborda los riesgos asociados con los modelos T2I basados en difusión. Aunque estos modelos han demostrado una calidad de imagen notable, también plantean riesgos de generar contenido dañino. SP-Guard mejora los métodos existentes al adaptar la fuerza de guía según la peligrosidad del prompt y al dirigirse selectivamente a las áreas inseguras de la imagen. Los experimentos indican que SP-Guard produce imágenes más seguras mientras minimiza alteraciones no intencionadas, subrayando la…

L'article présente SP-Guard, une nouvelle méthode pour la génération d'images à partir de texte (T2I) qui vise à garantir la sécurité face aux risques associés aux modèles T2I basés sur la diffusion. Bien que ces modèles aient montré une qualité d'image impressionnante, ils posent également des risques de création de contenu nuisible. SP-Guard améliore les méthodes existantes en adaptant la force de guidage en fonction de la nocivité du prompt et en ciblant sélectivement les zones dangereuses de l'image. Les expériences montrent que SP-Guard produit des images plus sûres tout en minimisant les…

The article presents SP-Guard, a new method for safe text-to-image (T2I) generation that addresses the risks associated with diffusion-based T2I models. While these models have demonstrated impressive image quality, they also pose risks of generating harmful content. SP-Guard improves upon existing methods by adapting guidance strength based on prompt harmfulness and selectively targeting unsafe image areas. Experiments indicate that SP-Guard produces safer images while minimizing unintended alterations, emphasizing the need for transparency and controllability in image generation.

SP-Guard: Selective Prompt-adaptive Guidance for Safe Text-to-Image Generation

Was this article worth reading? Share it

Ready to build your own newsroom?