arXiv:2511.02919v1 Announce Type: new 
Abstract: Recent advances in Large Language Model (LLM)-based agents have been propelled by Retrieval-Augmented Generation (RAG), which grants the models access to vast external knowledge bases. Despite RAG's success in improving agent performance, agent-level cache management, particularly constructing, maintaining, and updating a compact, relevant corpus dynamically tailored to each agent's need, remains underexplored. Therefore, we introduce ARC (Agent RAG Cache Mechanism), a novel, annotation-free caching framework that dynamically manages small, high-value corpora for each agent. By synthesizing historical query distribution patterns with the intrinsic geometry of cached items in the embedding space, ARC automatically maintains a high-relevance cache. With comprehensive experiments on three retrieval datasets, our experimental results demonstrate that ARC reduces storage requirements to 0.015% of the original corpus while offering up to 79.8% has-answer rate and reducing average retrieval latency by 80%. Our results demonstrate that ARC can drastically enhance efficiency and effectiveness in RAG-powered LLM agents.

تسلط دراسة جديدة الضوء على أهمية إدارة الذاكرة المؤقتة في أنظمة الجيل المعزز بالاسترجاع (RAG) لوكلاء يعتمدون على نماذج اللغة الكبيرة. على الرغم من أن RAG قد حسّن بشكل كبير من أداء الوكلاء من خلال توفير الوصول إلى قواعد بيانات معرفية واسعة، فإن البحث يبرز الحاجة إلى بناء وصيانة فعالة لمجموعة مخصصة لكل وكيل. يمكن أن يؤدي هذا التقدم إلى أنظمة ذكاء اصطناعي أكثر كفاءة واستجابة، مما يجعله تطورًا حاسمًا في مجال الذكاء الاصطناعي.

Un nuevo estudio destaca la importancia de la gestión de caché en los sistemas de Generación Aumentada por Recuperación (RAG) para agentes basados en modelos de lenguaje de gran tamaño. Aunque RAG ha mejorado significativamente el rendimiento de los agentes al proporcionar acceso a amplias bases de conocimiento, la investigación enfatiza la necesidad de una construcción y mantenimiento efectivos de un corpus adaptado a cada agente. Este avance podría llevar a sistemas de IA más eficientes y receptivos, lo que lo convierte en un desarrollo crucial en el campo de la inteligencia artificial.

Une nouvelle étude souligne l'importance de la gestion du cache dans les systèmes de génération augmentée par récupération (RAG) pour les agents basés sur des modèles de langage de grande taille. Bien que RAG ait considérablement amélioré les performances des agents en fournissant un accès à d'énormes bases de connaissances, la recherche met en avant la nécessité d'une construction et d'un entretien efficaces d'un corpus adapté à chaque agent. Cette avancée pourrait conduire à des systèmes d'IA plus efficaces et réactifs, ce qui en fait un développement crucial dans le domaine de l'intelligence artificielle.

A new study highlights the importance of cache management in Retrieval-Augmented Generation (RAG) systems for large language model-based agents. While RAG has significantly enhanced agent performance by providing access to extensive knowledge bases, the research emphasizes the need for effective construction and maintenance of a tailored corpus for each agent. This advancement could lead to more efficient and responsive AI systems, making it a crucial development in the field of artificial intelligence.

Cache Mechanism for Agent RAG Systems

arXiv:2601.08747v1 Announce Type: new 
Abstract: Current context augmentation methods, such as retrieval-augmented generation, are essential for solving knowledge-intensive reasoning tasks.However, they typically adhere to a rigid, brute-force strategy that executes retrieval at every step. This indiscriminate approach not only incurs unnecessary computational costs but also degrades performance by saturating the context with irrelevant noise. To address these limitations, we introduce Agentic Context Evolution (ACE), a framework inspired by human metacognition that dynamically determines whether to seek new evidence or reason with existing knowledge. ACE employs a central orchestrator agent to make decisions strategically via majority voting.It aims to alternate between activating a retriever agent for external retrieval and a reasoner agent for internal analysis and refinement. By eliminating redundant retrieval steps, ACE maintains a concise and evolved context. Extensive experiments on challenging multi-hop QA benchmarks demonstrate that ACE significantly outperforms competitive baselines in accuracy while achieving efficient token consumption.Our work provides valuable insights into advancing context-evolved generation for complex, knowledge-intensive tasks.

تشير التطورات الأخيرة في أساليب تعزيز السياق، وخاصة تقديم تطور السياق الوكيني (ACE)، إلى إطار ديناميكي يوازن بين استرجاع الأدلة والتفكير، مما يعزز المهام المعقدة التي تتطلب المعرفة. يهدف ACE إلى تحسين الأداء من خلال اتخاذ قرارات استراتيجية حول متى يجب البحث عن معلومات جديدة أو الاعتماد على المعرفة الموجودة، مما يقلل من التكاليف الحاسوبية والضوضاء في السياق.

Los recientes avances en métodos de aumento de contexto, especialmente la introducción de la Evolución de Contexto Agentivo (ACE), proponen un marco dinámico que equilibra la recuperación de evidencia y el razonamiento, mejorando así las tareas de razonamiento intensivo en conocimiento. ACE busca optimizar el rendimiento al decidir estratégicamente cuándo buscar nueva información o confiar en el conocimiento existente, reduciendo así los costos computacionales y el ruido en el contexto.

Des avancées récentes dans les méthodes d'augmentation de contexte, notamment l'introduction de l'Évolution de Contexte Agentique (ACE), proposent un cadre dynamique qui équilibre la récupération d'évidence et le raisonnement, améliorant ainsi les tâches de raisonnement intensif en connaissances. ACE vise à optimiser la performance en décidant stratégiquement quand récupérer de nouvelles informations ou s'appuyer sur des connaissances existantes, réduisant ainsi les coûts computationnels et le bruit dans le contexte.

Recent advancements in context augmentation methods, particularly the introduction of Agentic Context Evolution (ACE), propose a dynamic framework that balances evidence retrieval and reasoning, enhancing knowledge-intensive reasoning tasks. ACE aims to optimize performance by strategically deciding when to retrieve new information or rely on existing knowledge, thereby reducing computational costs and noise in the context.

To Retrieve or To Think? An Agentic Approach for Context Evolution

arXiv:2510.21060v2 Announce Type: replace 
Abstract: Policy optimization (PO) is a cornerstone of modern reinforcement learning (RL), with diverse applications spanning robotics, healthcare, and large language model training. The increasing deployment of PO in sensitive domains, however, raises significant privacy concerns. In this paper, we initiate a theoretical study of differentially private policy optimization, focusing explicitly on its sample complexity. We first formalize an appropriate definition of differential privacy (DP) tailored to PO, addressing the inherent challenges arising from on-policy learning dynamics and the subtlety involved in defining the unit of privacy. We then systematically analyze the sample complexity of widely-used PO algorithms, including policy gradient (PG), natural policy gradient (NPG) and more, under DP constraints and various settings, via a unified framework. Our theoretical results demonstrate that privacy costs can often manifest as lower-order terms in the sample complexity, while also highlighting subtle yet important observations in private PO settings. These offer valuable practical insights for privacy-preserving PO algorithms.

تم نشر دراسة حديثة حول تحسين السياسات بشكل مختلف (DPPO) تركز على تعقيد العينة في تحسين السياسات (PO) في التعلم المعزز (RL). تتناول هذه الدراسة المخاوف المتعلقة بالخصوصية في التطبيقات الحساسة مثل الروبوتات والرعاية الصحية من خلال صياغة تعريف للخصوصية المختلفة يتناسب مع PO وتحليل تعقيد العينة لعدة خوارزميات PO تحت قيود DP.

Se ha publicado un estudio reciente sobre la optimización de políticas diferencialmente privadas (DPPO), centrado en la complejidad de muestra de la optimización de políticas (PO) en el aprendizaje por refuerzo (RL). Esta investigación aborda las preocupaciones de privacidad en aplicaciones sensibles como la robótica y la atención médica al formalizar una definición de privacidad diferencial adaptada a la PO y analizar la complejidad de muestra de varios algoritmos de PO bajo restricciones de DP.

Une étude récente sur l'optimisation de politiques différemment privées (DPPO) a été publiée, se concentrant sur la complexité d'échantillonnage de l'optimisation de politiques (PO) dans l'apprentissage par renforcement (RL). Cette recherche aborde les préoccupations en matière de confidentialité dans des applications sensibles telles que la robotique et les soins de santé en formalisant une définition de la confidentialité différentielle adaptée à la PO et en analysant la complexité d'échantillonnage de divers algorithmes de PO sous des contraintes de DP.

A recent study on differentially private policy optimization (DPPO) has been published, focusing on the sample complexity of policy optimization (PO) in reinforcement learning (RL). This research addresses privacy concerns in sensitive applications such as robotics and healthcare by formalizing a definition of differential privacy tailored to PO and analyzing the sample complexity of various PO algorithms under DP constraints.

On the Sample Complexity of Differentially Private Policy Optimization

One More Thing in AI – Your Shortcut to AI Mastery

Cache Mechanism for Agent RAG Systems

Was this article worth reading? Share it

One More Thing in AI

LucidQuery AI

Airparser

Chattermate

Magicley AI

Supametas.AI

Ready to build your own newsroom?