arXiv:2510.26519v1 Announce Type: new 
Abstract: Existing Reinforcement Learning from Verifiable Rewards (RLVR) methods, such as Group Relative Policy Optimization (GRPO), have achieved remarkable progress in improving the reasoning capabilities of Large Reasoning Models (LRMs). However, they exhibit limited exploration due to reliance on on-policy rollouts where confined to the current policy's distribution, resulting in narrow trajectory diversity. Recent approaches attempt to expand policy coverage by incorporating trajectories generated from stronger expert models, yet this reliance increases computational cost and such advaned models are often inaccessible. To address these issues, we propose In-Context Steered Policy Optimization (ICPO), a unified framework that leverages the inherent in-context learning capability of LRMs to provide expert guidance using existing datasets. ICPO introduces Mixed-Policy GRPO with Implicit Expert Forcing, which expands exploration beyond the current policy distribution without requiring advanced LRM trajectories. To further stabilize optimization, ICPO integrates Expert Region Reject Sampling to filter unreliable off-policy trajectories and Annealed Expert-Bonus Reward Shaping to balance early expert guidance with later autonomous improvement. Results demonstrate that ICPO consistently enhances reinforcement learning performance and training stability on mathematical reasoning benchmarks, revealing a scalable and effective RLVR paradigm for LRMs.

تسلط دراسة حديثة الضوء على التقدم في التعلم المعزز من المكافآت القابلة للتحقق (RLVR)، وخاصة من خلال طرق مثل تحسين السياسة النسبية الجماعية (GRPO). تعمل هذه الابتكارات على تعزيز قدرات التفكير لنماذج التفكير الكبيرة (LRM)، وهو أمر حاسم لتطوير أنظمة ذكاء اصطناعي أكثر فعالية. من خلال معالجة القيود المفروضة على الأساليب الحالية التي تحد من الاستكشاف، تفتح هذه الأبحاث الباب أمام تنوع أكبر في المسارات، مما قد يؤدي إلى تطبيقات ذكاء اصطناعي أكثر قوة. هذا التقدم مهم لأنه قد يعيد تشكيل كيفية تعلم الذكاء الاصطناعي وتكيفه في بيئات معقدة.

Un estudio reciente destaca los avances en el Aprendizaje por Refuerzo a partir de Recompensas Verificables (RLVR), especialmente a través de métodos como la Optimización de Políticas Relativas de Grupo (GRPO). Estas innovaciones están mejorando las capacidades de razonamiento de los Grandes Modelos de Razonamiento (LRM), lo cual es crucial para desarrollar sistemas de IA más efectivos. Al abordar las limitaciones de los métodos actuales que restringen la exploración, esta investigación abre la puerta a una mayor diversidad de trayectorias, lo que podría llevar a aplicaciones de IA más robustas. Este progreso es significativo, ya que podría redefinir cómo la IA aprende y se adapta en entornos complejos.

Une étude récente met en lumière les avancées dans l'apprentissage par renforcement à partir de récompenses vérifiables (RLVR), notamment grâce à des méthodes comme l'optimisation de politique relative de groupe (GRPO). Ces innovations améliorent les capacités de raisonnement des grands modèles de raisonnement (LRM), ce qui est crucial pour le développement de systèmes d'IA plus efficaces. En abordant les limitations des méthodes actuelles qui restreignent l'exploration, cette recherche ouvre la voie à une plus grande diversité de trajectoires, ce qui pourrait conduire à des applications d'IA plus robustes. Ce progrès est significatif car il pourrait redéfinir la manière dont l'IA apprend et s'adapte dans des environnements complexes.

A recent study highlights advancements in Reinforcement Learning from Verifiable Rewards (RLVR), particularly through methods like Group Relative Policy Optimization (GRPO). These innovations are enhancing the reasoning capabilities of Large Reasoning Models (LRMs), which is crucial for developing more effective AI systems. By addressing the limitations of current methods that restrict exploration, this research opens the door to greater trajectory diversity, potentially leading to more robust AI applications. This progress is significant as it could reshape how AI learns and adapts in complex environments.

Think Outside the Policy: In-Context Steered Policy Optimization

arXiv:2601.08247v1 Announce Type: new 
Abstract: Financial markets are influenced by human behavior that deviates from rationality due to cognitive biases. Traditional reinforcement learning (RL) models for financial decision-making assume rational agents, potentially overlooking the impact of psychological factors. This study integrates cognitive biases into RL frameworks for financial trading, hypothesizing that such models can exhibit human-like trading behavior and achieve better risk-adjusted returns than standard RL agents. We introduce biases, such as overconfidence and loss aversion, into reward structures and decision-making processes and evaluate their performance in simulated and real-world trading environments. Despite its inconclusive or negative results, this study provides insights into the challenges of incorporating human-like biases into RL, offering valuable lessons for developing robust financial AI systems.

دراسة حديثة نُشرت على arXiv تستكشف دمج التحيزات المعرفية في أطر التعلم المعزز (RL) لاتخاذ القرارات المالية، مشددةً على كيفية تأثير سلوك الإنسان المتأثر بتحيزات مثل الثقة الزائدة والقلق من الخسارة على استراتيجيات التداول. تهدف الأبحاث إلى إثبات أن نماذج التعلم المعزز التي تتضمن هذه التحيزات يمكن أن تحقق عوائد معدلة للمخاطر أفضل مقارنة بالنماذج التقليدية التي تفترض العقلانية.

Un estudio reciente publicado en arXiv explora la integración de sesgos cognitivos en los marcos de aprendizaje por refuerzo (RL) para la toma de decisiones financieras, destacando cómo el comportamiento humano influenciado por sesgos como la sobreconfianza y la aversión a la pérdida puede afectar las estrategias de trading. La investigación busca demostrar que los modelos de RL que incorporan estos sesgos pueden lograr mejores rendimientos ajustados al riesgo en comparación con los modelos tradicionales que asumen racionalidad.

Une étude récente publiée sur arXiv examine l'intégration des biais cognitifs dans les cadres d'apprentissage par renforcement (RL) pour la prise de décision financière, soulignant comment le comportement humain influencé par des biais tels que la surconfiance et l'aversion à la perte peut affecter les stratégies de trading. La recherche vise à démontrer que les modèles RL intégrant ces biais peuvent obtenir de meilleurs rendements ajustés au risque par rapport aux modèles traditionnels qui supposent la rationalité.

A recent study published on arXiv explores the integration of cognitive biases into reinforcement learning (RL) frameworks for financial decision-making, highlighting how human behavior influenced by biases like overconfidence and loss aversion can affect trading strategies. The research aims to demonstrate that RL models incorporating these biases can achieve better risk-adjusted returns compared to traditional models that assume rationality.

Incorporating Cognitive Biases into Reinforcement Learning for Financial Decision-Making

arXiv:2510.21060v2 Announce Type: replace 
Abstract: Policy optimization (PO) is a cornerstone of modern reinforcement learning (RL), with diverse applications spanning robotics, healthcare, and large language model training. The increasing deployment of PO in sensitive domains, however, raises significant privacy concerns. In this paper, we initiate a theoretical study of differentially private policy optimization, focusing explicitly on its sample complexity. We first formalize an appropriate definition of differential privacy (DP) tailored to PO, addressing the inherent challenges arising from on-policy learning dynamics and the subtlety involved in defining the unit of privacy. We then systematically analyze the sample complexity of widely-used PO algorithms, including policy gradient (PG), natural policy gradient (NPG) and more, under DP constraints and various settings, via a unified framework. Our theoretical results demonstrate that privacy costs can often manifest as lower-order terms in the sample complexity, while also highlighting subtle yet important observations in private PO settings. These offer valuable practical insights for privacy-preserving PO algorithms.

تم نشر دراسة حديثة حول تحسين السياسات بشكل مختلف (DPPO) تركز على تعقيد العينة في تحسين السياسات (PO) في التعلم المعزز (RL). تتناول هذه الدراسة المخاوف المتعلقة بالخصوصية في التطبيقات الحساسة مثل الروبوتات والرعاية الصحية من خلال صياغة تعريف للخصوصية المختلفة يتناسب مع PO وتحليل تعقيد العينة لعدة خوارزميات PO تحت قيود DP.

Se ha publicado un estudio reciente sobre la optimización de políticas diferencialmente privadas (DPPO), centrado en la complejidad de muestra de la optimización de políticas (PO) en el aprendizaje por refuerzo (RL). Esta investigación aborda las preocupaciones de privacidad en aplicaciones sensibles como la robótica y la atención médica al formalizar una definición de privacidad diferencial adaptada a la PO y analizar la complejidad de muestra de varios algoritmos de PO bajo restricciones de DP.

Une étude récente sur l'optimisation de politiques différemment privées (DPPO) a été publiée, se concentrant sur la complexité d'échantillonnage de l'optimisation de politiques (PO) dans l'apprentissage par renforcement (RL). Cette recherche aborde les préoccupations en matière de confidentialité dans des applications sensibles telles que la robotique et les soins de santé en formalisant une définition de la confidentialité différentielle adaptée à la PO et en analysant la complexité d'échantillonnage de divers algorithmes de PO sous des contraintes de DP.

A recent study on differentially private policy optimization (DPPO) has been published, focusing on the sample complexity of policy optimization (PO) in reinforcement learning (RL). This research addresses privacy concerns in sensitive applications such as robotics and healthcare by formalizing a definition of differential privacy tailored to PO and analyzing the sample complexity of various PO algorithms under DP constraints.

On the Sample Complexity of Differentially Private Policy Optimization

One More Thing in AI – Your Shortcut to AI Mastery

Think Outside the Policy: In-Context Steered Policy Optimization

Was this article worth reading? Share it

One More Thing in AI

LucidQuery AI

Research AI

Adaptive Privacy Policy Generator

Retentional's Success Planner

Solvice

Ready to build your own newsroom?