Multi-classifier systems for off-line signature verification

Batista, Luana Bezerra (2011). Multi-classifier systems for off-line signature verification. Thèse de doctorat électronique, Montréal, École de technologie supérieure.

Prévisualisation	PDF Télécharger (2MB) | Prévisualisation
Prévisualisation	PDF Télécharger (966kB) | Prévisualisation

Résumé

Handwritten signatures are behavioural biometric traits that are known to incorporate a considerable amount of intra-class variability. The Hidden Markov Model (HMM) has been successfully employed in many off-line signature verification (SV) systems due to the sequential nature and variable size of the signature data. In particular, the left-to-right topology of HMMs is well adapted to the dynamic characteristics of occidental handwriting, in which the hand movements are always from left to right. As with most generative classifiers, HMMs require a considerable amount of training data to achieve a high level of generalization performance. Unfortunately, the number of signature samples available to train an off-line SV system is very limited in practice. Moreover, only random forgeries are employed to train the system, which must in turn to discriminate between genuine samples and random, simple and skilled forgeries during operations. These last two forgery types are not available during the training phase.

The approaches proposed in this Thesis employ the concept of multi-classifier systems (MCS) based on HMMs to learn signatures at several levels of perception. By extracting a high number of features, a pool of diversified classifiers can be generated using random subspaces, which overcomes the problem of having a limited amount of training data.

Based on the multi-hypotheses principle, a new approach for combining classifiers in the ROC space is proposed. A technique to repair concavities in ROC curves allows for overcoming the problem of having a limited amount of genuine samples, and, especially, for evaluating performance of biometric systems more accurately. A second important contribution is the proposal of a hybrid generative-discriminative classification architecture. The use of HMMs as feature extractors in the generative stage followed by Support Vector Machines (SVMs) as classifiers in the discriminative stage allows for a better design not only of the genuine class, but also of the impostor class. Moreover, this approach provides a more robust learning than a traditional HMM-based approach when a limited amount of training data is available. The last contribution of this Thesis is the proposal of two new strategies for the dynamic selection (DS) of ensemble of classifiers. Experiments performed with the PUCPR and GPDS signature databases indicate that the proposed DS strategies achieve a higher level of performance in off-line SV than other reference DS and static selection (SS) strategies from literature.

Titre traduit

Systèmes de classificateurs multiples pour la vérification hors-ligne de signatures manuscrites

Résumé traduit

Les signatures manuscrites sont des traits biométriques comportementaux caractérisés par une grande variabilité intra-classe. Les modèles de Markov cachés (MMCs) ont été utilisés avec succès en vérification hors-ligne des signatures manuscrites (VHS) en raison de la nature séquentielle et très variable de la signature. En particulier, la topologie gauche-droite des MMCs est très bien adaptée aux caractéristiques de l’écriture occidentale, dont les mouvements de la main sont principalement exécutés de la gauche vers la droite. Comme la plupart des classificateurs de type génératif, les MMCs requièrent une quantité importante de données d’entraînement pour atteindre un niveau de performance élevé en généralisation. Malheureusement, le nombre de signatures disponibles pour l’apprentissage des VHS est très limité en pratique. De plus, uniquement les faux aléatoires sont utilisés pour l’apprentissage des VHS qui doivent être en mesure de discriminer entre les signatures authentiques et les classes de faux aléatoires, les faux simples et les imitations. Ces deux dernières classes de faux ne sont pas disponibles lors de la phase d’apprentissage.

Les approches proposées dans cette thèse reposent sur le concept des classificateurs multiples basés sur des MMCs exploités pour l’extraction de plusieurs niveaux de perception des signatures. Cette stratégie basée sur la génération d’un nombre très important de caractéristiques permet la mise en oeuvre de classificateurs dans les sous-espaces aléatoires, ce qui permet de s’affranchir du nombre limité de données disponibles pour l’entraînement.

Une nouvelle approche pour la combinaison des classificateurs basée sur le principe des hypothèses multiples dans l’espace ROC est proposée. Une technique de réparation des courbes ROC permet de s’affranchir du nombre limité de signatures disponibles et surtout pour l’évaluation de la performance des systèmes biométriques. Une deuxième contribution importante est la proposition d’une architecture de classification hybride de type génératif-discriminatif. L’utilisation conjointe des MMCs pour l’extraction des caractéristiques et des machines à vecteurs de support (MVSs) pour la classification permet une meilleure représentation non seulement de la classe des signatures authentiques, mais aussi de la classe des imposteurs. L’approche proposée permet un apprentissage plus robuste que les approches MMCs conventionnelles lorsque le nombre d’échantillons disponibles est limité. La dernière contribution de cette thèse est la proposition de deux nouvelles stratégies pour la sélection dynamique (SD) d’ensembles de classificateurs. Les résultats obtenus sur les bases de signaturesmanuscrites PUCPR et GPDS, montrent que les stratégies proposées sont plus performantes que celles publiées dans la littérature pour la sélection dynamique ou statique des ensembles de classificateurs.

Type de document:	Mémoire ou thèse (Thèse de doctorat électronique)
Renseignements supplémentaires:	"Thesis presented to École de technologie supérieure in partial fulfillment of the requirements for the degree of doctor of philosophy". Bibliogr. : f. [134]-144.
Mots-clés libres:	Signatures Informatique. Identification biométrique. Graphologie Informatique. Écriture Identification Informatique. Reconnaissance optique des caractères Dispositifs. Reconnaissance de caractères (Informatique) Courbes ROC. Machines à vecteurs supports. Modèles de Markov cachés. Classificateur, Discriminatif, Dynamique, Génératif, Hors-Ligne, Hybride, Manuscrit, MMC, Multiple, Sélection, Signature, Système, Vérification, VHS
Directeur de mémoire/thèse:	Directeur de mémoire/thèse Sabourin, Robert
Codirecteur:	Codirecteur Granger, Éric
Programme:	Doctorat en génie > Génie
Date de dépôt:	13 mai 2011 15:08
Dernière modification:	15 févr. 2017 22:33
URI:	https://espace.etsmtl.ca/id/eprint/862

Gestion Actions (Identification requise)

Dernière vérification avant le dépôt