Anthropic’s chief scientist says AI autonomy could spark a beneficial ‘intelligence explosion’ – or be the moment humans lose controlHumanity will have to decide by 2030 whether to take the “ultimate risk” of letting artificial intelligence systems train themselves to become more powerful, one of the world’s leading AI scientists has said.Jared Kaplan, the chief scientist and co-owner of the $180bn (£135bn) US startup Anthropic, said a choice was looming about how much autonomy the systems should be given to evolve. <a href="https://www.theguardian.com/technology/ng-interactive/2025/dec/02/jared-kaplan-artificial-intelligence-train-itself">Continue reading...</a>

أكد جاريد كابلان، العالم الرئيسي في شركة أنثروبيك، على قرار حاسم يتعين على البشرية اتخاذه بحلول عام 2030 بشأن استقلالية أنظمة الذكاء الاصطناعي، والتي قد تؤدي إلى 'انفجار ذكاء' أو فقدان السيطرة البشرية. تثير هذه اللحظة الحاسمة تساؤلات حول مدى الاستقلالية التي ينبغي منحها للذكاء الاصطناعي للتدريب والتطور بشكل مستقل.

Jared Kaplan, científico jefe de Anthropic, ha destacado una decisión crítica que la humanidad deberá tomar para 2030 sobre la autonomía de los sistemas de inteligencia artificial, que podría llevar a una 'explosión de inteligencia' o a una pérdida de control humano. Este momento crucial plantea preguntas sobre el grado de autonomía que se debería permitir a la IA para que se entrene y evolucione de manera independiente.

Jared Kaplan, scientifique en chef d'Anthropic, a souligné une décision cruciale à prendre par l'humanité d'ici 2030 concernant l'autonomie des systèmes d'intelligence artificielle, ce qui pourrait mener à une 'explosion d'intelligence' ou à une perte de contrôle humain. Ce moment décisif soulève des questions sur le degré d'autonomie que l'IA devrait avoir pour s'entraîner et évoluer de manière indépendante.

Jared Kaplan, chief scientist at Anthropic, has highlighted a critical decision facing humanity by 2030 regarding the autonomy of artificial intelligence systems, which could lead to an 'intelligence explosion' or a loss of human control. This pivotal moment raises questions about the extent to which AI should be allowed to train itself and evolve independently.

‘The biggest decision yet’: Jared Kaplan on allowing AI to train itself

Anthropic engineers mostly use Claude for debugging, not writing new software, but they worry about deskilling

يستخدم مهندسو أنثروبيك بشكل أساسي Claude AI لأغراض تصحيح الأخطاء بدلاً من تطوير برامج جديدة، معبرين عن مخاوفهم بشأن فقدان المهارات داخل القوة العاملة. تعكس هذه المقاربة التزام الشركة بالسلامة والاستخدام المسؤول للذكاء الاصطناعي، مما جذب اهتمام الشركات الكبرى.

Los ingenieros de Anthropic utilizan principalmente Claude AI para tareas de depuración en lugar de desarrollar nuevo software, expresando preocupaciones sobre la posible pérdida de habilidades dentro de la fuerza laboral. Este enfoque refleja el compromiso de la empresa con la seguridad y el uso responsable de la IA, lo que ha atraído el interés de grandes empresas.

Les ingénieurs d'Anthropic utilisent principalement Claude AI pour des tâches de débogage plutôt que pour le développement de nouveaux logiciels, exprimant des inquiétudes quant à une éventuelle perte de compétences au sein de la main-d'œuvre. Cette approche reflète l'engagement de l'entreprise envers la sécurité et l'utilisation responsable de l'IA, ce qui a suscité l'intérêt des grandes entreprises.

Anthropic's engineers primarily utilize Claude AI for debugging tasks rather than developing new software, expressing concerns about potential deskilling within the workforce. This approach reflects the company's commitment to safety and responsible AI use, which has garnered interest from major businesses.

How Anthropic’s safety first approach won over big business—and how its own engineers are using its Claude AI

$500bn start-up to refocus efforts to improve ChatGPT as Google and Anthropic narrow its early lead

أعلن سام ألتمان، الرئيس التنفيذي لشركة OpenAI، عن 'إنذار أحمر' استجابةً للمنافسة المتزايدة من منافسين مثل جوجل وأنتروبك، الذين يضيقون الفجوة في سوق الذكاء الاصطناعي. يبرز هذا النداء العاجل للعمل الحاجة إلى تحسينات كبيرة على ChatGPT للحفاظ على ميزته التنافسية.

El CEO de OpenAI, Sam Altman, ha declarado una 'alerta roja' en respuesta a la creciente competencia de rivales como Google y Anthropic, que están cerrando la brecha en el mercado de inteligencia artificial. Este llamado urgente a la acción enfatiza la necesidad de mejoras significativas en ChatGPT para mantener su ventaja competitiva.

Le PDG d'OpenAI, Sam Altman, a déclaré un 'code rouge' en réponse à la concurrence croissante de rivaux tels que Google et Anthropic, qui réduisent l'écart sur le marché de l'intelligence artificielle. Cet appel urgent à l'action souligne la nécessité d'améliorations significatives de ChatGPT pour maintenir son avantage concurrentiel.

OpenAI's CEO Sam Altman has declared a 'code red' in response to increasing competition from rivals such as Google and Anthropic, which are narrowing the gap in the artificial intelligence market. This urgent call to action emphasizes the need for significant improvements to ChatGPT to maintain its competitive edge.

‘The biggest decision yet’: Jared Kaplan on allowing AI to train itself

Was this article worth reading? Share it