Dynamic ensemble selection using fuzzy min-max hyperboxes

Davtalab, Reza (2023). Dynamic ensemble selection using fuzzy min-max hyperboxes. Mémoire de maîtrise électronique, Montréal, École de technologie supérieure.

Prévisualisation

PDF Télécharger (7MB) | Prévisualisation

Résumé

Dynamic Selection systems are a good alternative to achieve higher accuracy in complex problems. In current DS techniques, the competence of base classifiers to classify the new query sample is estimated with regard to their performance in a small region surrounding the query sample. Most of these techniques use the KNN algorithm to estimate competence. However, the KNN algorithm endures a high complexity to the system and is also sensitive to the local data distribution.

In this project, we are going to introduce a novel Dynamic Ensemble Selection framework that uses Fuzzy Hyperboxes to estimate the competence of base classifiers. For the construction of hyperboxes, the distribution of samples is considered and several samples that are close to each other are represented by a hyperbox. Therefore, the final system will not be sensitive to the local imbalance distribution of samples. Besides, the system needs only to keep the hyperboxes rather than the original data. Furthermore, hyperboxes are made based on misclassified samples. Thus, they are usually much fewer than samples. So we expect the proposed framework to have much lower complexity and higher accuracy compared to KNN-based techniques. Experimental results show that the suggested framework can improve the performance of DS systems in both terms of accuracy and computational complexity.

Titre traduit

Sélection d’ensemble dynamique à l’aide d’hyperboîtes floues

Résumé traduit

Les systèmes de sélection dynamique sont une bonne alternative pour atteindre une précision accrue dans les problèmes complexes. Dans les techniques actuelles de sélection dynamique, la compétence des classificateurs de base pour classifier le nouvel échantillon de requête est estimée en fonction de leurs performances dans une petite région entourant l’échantillon de requête. La plupart de ces techniques utilisent l’algorithme KNN pour estimer la compétence. Cependant, l’algorithme KNN souffre d’une complexité élevée du système et est également sensible à la distribution locale des données.

Dans ce projet, nous allons introduire un nouveau cadre de sélection dynamique d’ensemble qui utilise des hyperboîtes floues pour estimer la compétence des classificateurs de base. Pour la construction des hyperboîtes, la distribution des échantillons est prise en compte et plusieurs échantillons proches les uns des autres sont représentés par une hyperboîte. Par conséquent, le système final ne sera pas sensible à la distribution locale déséquilibrée des échantillons. De plus, le système n’a besoin de conserver que les hyperboîtes plutôt que les données d’origine. De plus, les hyperboîtes sont créées à partir d’échantillons mal classés. Ainsi, ils sont généralement beaucoup moins nombreux que les échantillons. Nous nous attendons donc à ce que le cadre proposé ait une complexité beaucoup plus faible et une précision plus élevée par rapport aux techniques basées sur KNN. Les résultats expérimentaux montrent que le cadre proposé peut améliorer les performances des systèmes de sélection dynamique à la fois en termes de précision et de complexité de calcul.

Type de document:	Mémoire ou thèse (Mémoire de maîtrise électronique)
Renseignements supplémentaires:	"Manuscript-based thesis presented to École de technologie supérieure in partial fulfillment for a master’s degree with thesis in software engineering". Comprend des références bibliographiques (pages 139-148).
Mots-clés libres:	ensemble de classifieurs, sélection d’ensemble dynamique, hyperboîtes floues, échantillons mal classés, compétence du classifieur
Directeur de mémoire/thèse:	Directeur de mémoire/thèse Menelau Cruz, Rafael
Codirecteur:	Codirecteur Sabourin, Robert
Programme:	Maîtrise en ingénierie > Génie
Date de dépôt:	29 août 2024 13:25
Dernière modification:	29 août 2024 13:25
URI:	https://espace.etsmtl.ca/id/eprint/3378

Gestion Actions (Identification requise)

Dernière vérification avant le dépôt