arXiv:2602.19101v2 Announce Type: replace 
Abstract: Value alignment of Large Language Models (LLMs) requires us to empirically measure these models' actual, acquired representation of value. Among the characteristics of value representation in humans is that they distinguish among value of different kinds. We investigate whether LLMs likewise distinguish three different kinds of good: moral, grammatical, and economic. By probing model behavior, embeddings, and residual stream activations, we report pervasive cases of value entanglement: a conflation between these distinct representations of value. Specifically, both grammatical and economic valuation was found to be overly influenced by moral value, relative to human norms. This conflation was repaired by selective ablation of the activation vectors associated with morality.

أظهرت دراسة حديثة حول نماذج اللغة الكبيرة (LLMs) وجود مشكلة كبيرة تتعلق بتشابك القيم، حيث يتم الخلط بين القيم الأخلاقية والنحوية والاقتصادية، مما يؤثر على سلوك النماذج ونتائجها. تبرز هذه الأبحاث الحاجة إلى قياس تجريبي لتمثيل القيم في نماذج اللغة الكبيرة لضمان توافق القيم بشكل صحيح.

Un estudio reciente sobre los Modelos de Lenguaje de Gran Tamaño (LLMs) ha revelado un problema significativo de entrelazado de valores, donde se confunden los valores morales, gramaticales y económicos, afectando el comportamiento y los resultados de los modelos. Esta investigación destaca la necesidad de medir empíricamente la representación de valores en los LLMs para asegurar un alineamiento adecuado de valores.

Une étude récente sur les modèles de langage de grande taille (LLMs) a révélé un problème significatif d'entrelacement des valeurs, où les valeurs morales, grammaticales et économiques sont confondues, affectant le comportement et les résultats des modèles. Cette recherche souligne la nécessité d'une mesure empirique de la représentation des valeurs dans les LLMs pour garantir un alignement approprié des valeurs.

A recent study on Large Language Models (LLMs) has revealed a significant issue of value entanglement, where moral, grammatical, and economic values are conflated, affecting the models' behavior and outputs. This research highlights the need for empirical measurement of value representation in LLMs to ensure proper value alignment.