arXiv:2511.02992v1 Announce Type: cross 
Abstract: Hybrids of Convolutional Neural Network (CNN) and Vision Transformer (ViT) have outperformed pure CNN or ViT architecture. However, since these architectures require large parameters and incur large computational costs, they are unsuitable for tinyML deployment. This paper introduces a new hybrid CNN-ViT search space for Neural Architecture Search (NAS) to find efficient hybrid architectures for image classification. The search space covers hybrid CNN and ViT blocks to learn local and global information, as well as the novel Pooling block of searchable pooling layers for efficient feature map reduction. Experimental results on the CIFAR10 dataset show that our proposed search space can produce hybrid CNN-ViT architectures with superior accuracy and inference speed to ResNet-based tinyML models under tight model size constraints.

أظهرت دراسة حديثة مساحة بحث هجينة جديدة تجمع بين الشبكات العصبية التلافيفية (CNN) والمحولات البصرية (ViT) مصممة خصيصًا لتصنيف الصور في TinyML. تهدف هذه الطريقة المبتكرة إلى تحسين الأداء مع تقليل التكاليف الحاسوبية، مما يجعلها مثالية للنشر في البيئات ذات الموارد المحدودة. تكمن أهمية هذا البحث في إمكانيته لتحسين كفاءة تطبيقات التعلم الآلي على الأجهزة الصغيرة، مما يمهد الطريق لتكنولوجيا أكثر ذكاءً في الحياة اليومية.

Un estudio reciente ha presentado un nuevo espacio de búsqueda híbrido que combina redes neuronales convolucionales (CNN) y transformadores de visión (ViT) diseñado específicamente para la clasificación de imágenes en TinyML. Este enfoque innovador busca optimizar el rendimiento mientras minimiza los costos computacionales, lo que lo hace ideal para su implementación en entornos con recursos limitados. La importancia de esta investigación radica en su potencial para mejorar la eficiencia de las aplicaciones de aprendizaje automático en dispositivos pequeños, allanando el camino para una tecnología más inteligente en la vida cotidiana.

Une étude récente a dévoilé un nouvel espace de recherche hybride combinant les réseaux de neurones convolutionnels (CNN) et les transformateurs de vision (ViT), spécifiquement conçu pour la classification d'images en TinyML. Cette approche innovante vise à optimiser les performances tout en minimisant les coûts computationnels, la rendant idéale pour un déploiement dans des environnements à ressources limitées. L'importance de cette recherche réside dans son potentiel à améliorer l'efficacité des applications d'apprentissage automatique sur de petits appareils, ouvrant la voie à une technologie plus intelligente dans la vie quotidienne.

A recent study has unveiled a new hybrid search space combining Convolutional Neural Networks (CNN) and Vision Transformers (ViT) specifically designed for TinyML image classification. This innovative approach aims to optimize performance while minimizing computational costs, making it ideal for deployment in resource-constrained environments. The significance of this research lies in its potential to enhance the efficiency of machine learning applications on small devices, paving the way for smarter technology in everyday life.

Hybrid Convolution and Vision Transformer NAS Search Space for TinyML Image Classification

arXiv:2601.01210v2 Announce Type: replace 
Abstract: To realize low-latency spatial transmission system for immersive telepresence, there are two major problems: capturing dynamic 3D scene densely and processing them in real time. LiDAR sensors capture 3D in real time, but produce sparce point clouds. Therefore, this paper presents a high-speed LiDAR point cloud densification method to generate dense 3D scene with minimal latency, addressing the need for on-the-fly depth completion while maintaining real-time performance. Our approach combines multiple LiDAR inputs with high-resolution color images and applies a joint bilateral filtering strategy implemented through a convolutional neural network architecture. Experiments demonstrate that the proposed method produces dense depth maps at full HD resolution in real time (30 fps), which is over 15x faster than a recent training-based depth completion approach. The resulting dense point clouds exhibit accurate geometry without multiview inconsistencies or ghosting artifacts.

تم تقديم طريقة جديدة لتكثيف سحب النقاط LiDAR في الوقت الحقيقي، مما يعالج التحديات المتعلقة بالتقاط مشاهد ثلاثية الأبعاد ديناميكية ومعالجتها بأقل زمن تأخير. تستخدم هذه الطريقة صورًا ملونة عالية الدقة وشبكة عصبية تلافيفية لتوليد خرائط عمق كثيفة في الوقت الحقيقي بدقة HD كاملة، متفوقة بشكل كبير على الأساليب السابقة.

Se ha introducido un nuevo método para la densificación en tiempo real de nubes de puntos LiDAR, abordando los desafíos de capturar escenas 3D dinámicas y procesarlas con una latencia mínima. Este enfoque utiliza imágenes de color de alta resolución y una red neuronal convolucional para generar mapas de profundidad densos en tiempo real a resolución completa HD, superando significativamente los métodos anteriores.

Une nouvelle méthode de densification en temps réel des nuages de points LiDAR a été introduite, répondant aux défis de la capture de scènes 3D dynamiques et de leur traitement avec une latence minimale. Cette approche utilise des images couleur haute résolution et un réseau de neurones convolutif pour générer des cartes de profondeur denses en temps réel à pleine résolution HD, surpassant de manière significative les méthodes précédentes.

A new method for real-time LiDAR point cloud densification has been introduced, addressing the challenges of capturing dynamic 3D scenes and processing them with minimal latency. This approach utilizes high-resolution color images and a convolutional neural network to generate dense depth maps at full HD resolution in real time, significantly outperforming previous methods.

Real-Time LiDAR Point Cloud Densification for Low-Latency Spatial Data Transmission

One More Thing in AI – Your Shortcut to AI Mastery

Hybrid Convolution and Vision Transformer NAS Search Space for TinyML Image Classification

Was this article worth reading? Share it

One More Thing in AI

LucidQuery AI

Lenso.ai

The Visualizer

AIPortalX

Attentive AI

Ready to build your own newsroom?