<img src="https://res.infoq.com/news/2025/11/anthropic-poison-attack/en/headerimage/generatedHeaderImage-1762697920008.jpg"/><p>Anthropic's Alignment Science team released a study on poisoning attacks on LLM training. The experiments covered a range of model sizes and datasets, and found that only 250 malicious examples in pre-training data were needed to create a "backdoor" vulnerability. Anthropic concludes that these attacks actually become easier as models scale up.</p> <i>By Anthony Alford</i>

أصدرت فريق العلوم التوافقية في شركة أنثروبيك دراسة تكشف أن نماذج اللغة الكبيرة (LLMs) يمكن أن تتعرض للتسمم من خلال هجمات التسمم. تشير الأبحاث إلى أن 250 مثالًا ضارًا فقط في بيانات التدريب المسبق كافية لإنشاء ثغرة خلفية. ومن الجدير بالذكر أن الدراسة تستنتج أن سهولة تنفيذ هذه الهجمات تزداد مع زيادة حجم النماذج.

El equipo de Ciencia de Alineación de Anthropic ha publicado un estudio que revela que los modelos de lenguaje de gran tamaño (LLMs) pueden ser comprometidos a través de ataques de envenenamiento. La investigación indica que se necesitan tan solo 250 ejemplos maliciosos en los datos de preentrenamiento para crear una vulnerabilidad de puerta trasera. Notablemente, el estudio concluye que la facilidad para ejecutar estos ataques aumenta a medida que los modelos se escalan.

L'équipe d'Alignement Scientifique d'Anthropic a publié une étude révélant que les modèles de langage de grande taille (LLMs) peuvent être compromis par des attaques de contamination. La recherche indique qu'il suffit de 250 exemples malveillants dans les données de pré-formation pour créer une vulnérabilité de porte dérobée. Notamment, l'étude conclut que la facilité d'exécution de ces attaques augmente avec l'échelle des modèles.

Anthropic's Alignment Science team has published a study revealing that large language models (LLMs) can be compromised through poisoning attacks. The research indicates that as few as 250 malicious examples in the pre-training data can create a backdoor vulnerability. Notably, the study concludes that the ease of executing these attacks increases with the scale of the models.

Anthropic Finds LLMs Can Be Poisoned Using Small Number of Documents

Was this article worth reading? Share it

Ready to build your own newsroom?