arXiv:2511.14744v1 Announce Type: new 
Abstract: Deep learning's rise since the early 2010s has transformed fields like computer vision and natural language processing and strongly influenced biomedical research. For drug discovery specifically, a key inflection - akin to vision's "ImageNet moment" - arrived in 2015, when deep neural networks surpassed traditional approaches on the Tox21 Data Challenge. This milestone accelerated the adoption of deep learning across the pharmaceutical industry, and today most major companies have integrated these methods into their research pipelines. After the Tox21 Challenge concluded, its dataset was included in several established benchmarks, such as MoleculeNet and the Open Graph Benchmark. However, during these integrations, the dataset was altered and labels were imputed or manufactured, resulting in a loss of comparability across studies. Consequently, the extent to which bioactivity and toxicity prediction methods have improved over the past decade remains unclear. To this end, we introduce a reproducible leaderboard, hosted on Hugging Face with the original Tox21 Challenge dataset, together with a set of baseline and representative methods. The current version of the leaderboard indicates that the original Tox21 winner - the ensemble-based DeepTox method - and the descriptor-based self-normalizing neural networks introduced in 2017, continue to perform competitively and rank among the top methods for toxicity prediction, leaving it unclear whether substantial progress in toxicity prediction has been achieved over the past decade. As part of this work, we make all baselines and evaluated models publicly accessible for inference via standardized API calls to Hugging Face Spaces.

يتناول المقال تأثير التعلم العميق على اكتشاف الأدوية، مع تسليط الضوء بشكل خاص على تحدي Tox21، الذي يمثل تحولًا كبيرًا في هذا المجال. منذ عام 2015، تفوقت الشبكات العصبية العميقة على الأساليب التقليدية، مما أدى إلى اعتماد واسع النطاق في صناعة الأدوية. ومع ذلك، فإن دمج مجموعة بيانات Tox21 في المعايير مثل MoleculeNet أثار مخاوف بشأن التعديلات على البيانات، مما قد يؤثر على قابلية المقارنة بين دراسات التنبؤ بالنشاط الحيوي والسمية.

El artículo analiza el impacto del aprendizaje profundo en el descubrimiento de fármacos, destacando especialmente el Desafío Tox21, que marcó un cambio significativo en el campo. Desde 2015, las redes neuronales profundas han superado a los métodos tradicionales, lo que ha llevado a una adopción generalizada en la industria farmacéutica. Sin embargo, la integración del conjunto de datos Tox21 en referencias como MoleculeNet ha suscitado preocupaciones sobre las alteraciones de datos, lo que podría afectar la comparabilidad de las predicciones de bioactividad y toxicidad entre estudios.

L'article traite de l'impact de l'apprentissage profond sur la découverte de médicaments, en soulignant particulièrement le défi Tox21, qui a marqué un changement significatif dans le domaine. Depuis 2015, les réseaux de neurones profonds ont surpassé les méthodes traditionnelles, entraînant une adoption généralisée dans l'industrie pharmaceutique. Cependant, l'intégration du jeu de données Tox21 dans des références comme MoleculeNet a soulevé des préoccupations concernant les modifications des données, ce qui pourrait affecter la comparabilité des prédictions de bioactivité et de toxicité ent…

The article discusses the impact of deep learning on drug discovery, particularly highlighting the Tox21 Challenge, which marked a significant shift in the field. Since 2015, deep neural networks have outperformed traditional methods, leading to widespread adoption in the pharmaceutical industry. However, the integration of the Tox21 dataset into benchmarks like MoleculeNet has raised concerns about data alterations, which may affect the comparability of bioactivity and toxicity predictions across studies.

Measuring AI Progress in Drug Discovery: A Reproducible Leaderboard for the Tox21 Challenge

The risks of AI investment in manufacturing and other areas are less clear.

قال الرئيس التنفيذي لشركة Hugging Face إن المشهد الحالي لنماذج اللغة الكبيرة (LLMs) يشبه الفقاعة، لكنه يميزها عن فقاعة الذكاء الاصطناعي الأوسع. ويؤكد أن المخاطر المرتبطة بالاستثمار في الذكاء الاصطناعي، خاصة في التصنيع ومجالات أخرى، لا تزال غير واضحة.

El CEO de Hugging Face ha afirmado que el panorama actual de los modelos de lenguaje de gran tamaño (LLM) se asemeja a una burbuja, aunque la distingue de una burbuja más amplia de IA. Enfatiza que los riesgos asociados con las inversiones en IA, especialmente en la manufactura y otros sectores, siguen siendo ambiguos.

Le PDG de Hugging Face a déclaré que le paysage actuel des modèles de langage de grande taille (LLM) ressemble à une bulle, bien qu'il la distingue d'une bulle plus large de l'IA. Il souligne que les risques associés aux investissements en IA, en particulier dans le secteur manufacturier et d'autres domaines, restent ambigus.

Hugging Face CEO has stated that the current landscape of large language models (LLMs) resembles a bubble, though he distinguishes it from a broader AI bubble. He emphasizes that the risks associated with AI investments, particularly in manufacturing and other sectors, remain ambiguous.

“We’re in an LLM bubble,” Hugging Face CEO says—but not an AI one

arXiv:2411.05026v3 Announce Type: replace 
Abstract: With a focus on natural language processing (NLP) and the role of large language models (LLMs), we explore the intersection of machine learning, deep learning, and artificial intelligence. As artificial intelligence continues to revolutionize fields from healthcare to finance, NLP techniques such as tokenization, text classification, and entity recognition are essential for processing and understanding human language. This paper discusses advanced data preprocessing techniques and the use of frameworks like Hugging Face for implementing transformer-based models. Additionally, it highlights challenges such as handling multilingual data, reducing bias, and ensuring model robustness. By addressing key aspects of data processing and model fine-tuning, this work aims to provide insights into deploying effective and ethically sound AI solutions.

تناقش الورقة المعنونة 'التعلم العميق والتعلم الآلي - معالجة اللغة الطبيعية: من النظرية إلى التطبيق' تكامل معالجة اللغة الطبيعية (NLP) مع التعلم الآلي والتعلم العميق. تبرز أهمية النماذج اللغوية الكبيرة (LLMs) في مجالات متعددة، بما في ذلك الرعاية الصحية والمالية. تتناول الدراسة تقنيات متقدمة لمعالجة البيانات المسبقة واستخدام أطر مثل Hugging Face، بينما تتطرق إلى التحديات مثل التعامل مع البيانات متعددة اللغات، وتقليل التحيز، وضمان قوة النموذج لضمان حلول ذكاء اصطناعي فعالة.

El artículo titulado 'Deep Learning and Machine Learning -- Natural Language Processing: From Theory to Application' examina la integración del procesamiento del lenguaje natural (NLP) con el aprendizaje automático y el aprendizaje profundo. Destaca la importancia de los grandes modelos de lenguaje (LLMs) en diversos sectores, incluidos la salud y las finanzas. El estudio discute técnicas avanzadas de preprocesamiento de datos y marcos como Hugging Face, mientras aborda desafíos como el manejo de datos multilingües, la reducción de sesgos y la robustez del modelo para garantizar soluciones de …

L'article intitulé 'Deep Learning and Machine Learning -- Natural Language Processing: From Theory to Application' examine l'intégration du traitement du langage naturel (NLP) avec l'apprentissage automatique et l'apprentissage profond. Il souligne l'importance des grands modèles de langage (LLMs) dans divers secteurs, y compris la santé et la finance. L'étude discute des techniques avancées de prétraitement des données et des cadres comme Hugging Face, tout en abordant des défis tels que la gestion des données multilingues, la réduction des biais et la robustesse des modèles pour garantir des…

The paper titled 'Deep Learning and Machine Learning -- Natural Language Processing: From Theory to Application' examines the integration of natural language processing (NLP) with machine learning and deep learning. It emphasizes the significance of large language models (LLMs) in various sectors, including healthcare and finance. The study discusses advanced data preprocessing techniques and frameworks like Hugging Face, while addressing challenges such as multilingual data handling, bias reduction, and model robustness to ensure effective AI solutions.

Measuring AI Progress in Drug Discovery: A Reproducible Leaderboard for the Tox21 Challenge

Was this article worth reading? Share it