Automating Machine Learning Pipelines: Meta-heuristic Optimizers for Enhanced Performance

Abstract

Machine learning has become an indispensable tool across diverse domains, facilitating auto- mated decision-making and predictive modeling based on data-driven insights. Classification, a widely used technique in this field, faces challenges with datasets containing numerous fea- tures, including redundant and irrelevant ones, complicating the learning process and increas- ing computation time. This study aims to enhance classification accuracy through optimal feature selection techniques. The methodology involves a comparative analysis of classifiers (decision trees, support vector machines, neural networks) and the evaluation of automatic and manual feature selection methods. Additionally, the integration of meta-heuristic op- timizers into the feature and classifier selection process is explored. Results demonstrate significant improvements in classification accuracy and efficiency, underscoring the effective- ness of optimized feature selection. The study’s findings contribute to more efficient machine learning processes and better model performance.

L’apprentissage automatique est devenu un outil indispensable dans divers domaines, faci- litant la prise de décision automatisée et la modélisation prédictive basée sur des analyses de données. La classification, une technique largement utilisée dans ce domaine, est confron- tée à des défis avec des ensembles de données contenant de nombreuses caractéristiques, y compris des caractéristiques redondantes et non pertinentes, compliquant le processus d’ap- prentissage et augmentant le temps de calcul. Cette étude vise à améliorer la précision de la classification grâce à des techniques de sélection de caractéristiques optimales. La métho- dologie implique une analyse comparative des classificateurs (arbres de décision, machines à vecteurs de support, réseaux neuronaux) et l’évaluation des méthodes de sélection de caracté- ristiques automatiques et manuelles. De plus, l’intégration d’optimisateurs méta-heuristiques dans le processus de sélection des caractéristiques et des classificateurs est explorée. Les résultats démontrent des améliorations significatives de la précision et de l’efficacité de la classification, soulignant l’efficacité de la sélection optimisée des caractéristiques. Les conclu- sions de l’étude contribuent à des processus d’apprentissage automatique plus efficaces et à une meilleure performance des modèle