Introduction au Deep Learning

Cet ouvrage s’adresse aux étudiants en fin de licence et en master d’informatique ou de maths appliquées, ainsi qu’aux élèves ingénieurs. L’apprentissage profond (deep learning) a révolutionné l’intelligence artificielle et s’est très rapidement répandu dans de nombreux domaines d’activité. Grâce à une approche « orientée projet », ce livre a pour but d’expliquer les bases du deep learning, depuis les réseaux de neurones à propagation avant jusqu’aux réseaux non supervisés. Conçu comme un manuel d’apprentissage synthétique, avec cours et exercices, il s’appuie sur des exemples dans des domaines comme la vision par ordinateur, la compréhension des langages naturels ou l’apprentissage par renforcement. Ces exemples sont étudiés avec le logiciel TensorFlow. Les notions théoriques sont illustrées et complétées par une quarantaine d’exercices, dont la moitié sont corrigés. Biographie de l'auteur : Professeur d'informatique et de sciences cognitives à l'Université Brown (à Providence, Rhode Island). Il est titulaire d'un doctorat en informatique au M.I.T. Son domaine de recherche est la compréhension des langages naturels. TABLE DES MATIÈRES AVANT-PROPOS CHAPITRE 1 • Réseaux de neurones à propagation avant 1.1 Les perceptrons 1.2 Fonctions de perte d'entropie croisée pour les réseaux de neurones 1.3 Dérivées et descente de gradient stochastique 1.4 Écriture de notre programme 1.5 Représentation matricielle des réseaux de neurones 1.6 Indépendance des données 1.7 Références et lectures supplémentaires Exercices CHAPITRE 2 • TensorFlow 2.1 Introduction à TensorFlow 2.2 Un programme TF 2.3 Réseaux de neurones à plusieurs couches 2.4 Autres particularités 2.5 Références et lectures supplémentaires Exercices CHAPITRE 3 • Réseaux de neurones convolutifs 3.1 Filtres, pas et marge 3.2 Exemple simple de convolution en TF 3.3 Convolution à plusieurs niveaux 3.4 Présentation détaillée de la convolution 3.5 Références et lectures supplémentaires Exercices CHAPITRE 4 • Plongements de mots et réseaux de neurones récurrents 4.1 Plongement de mots pour modèles linguistiques 4.2 Construction de modèles linguistiques à propagation avant 4.3 Amélioration des modèles linguistiques à propagation avant 4.4 Surajustement 4.5 Réseaux récurrents 4.6 Longue mémoire à court terme 4.7 Références et lectures supplémentaires Exercices CHAPITRE 5 • Apprentissage séquence à séquence 5.1 Principe du seq2seq 5.2 Écriture d'un programme de traduction automatique seq2seq 5.3 L'attention dans seq2seq 5.4 Seq2Seq multi-longueurs 5.5 Exemples de programmation 5.6 Références et lectures supplémentaires Exercices CHAPITRE 6 • Apprentissage par renforcement profond 6.1 Itération sur les valeurs 6.2 Apprentissage sans modèle 6.3 Les bases de l'apprentissage par renforcement profond 6.4 Méthodes de gradients de politique 6.5 Méthodes acteur-critique 6.6 Répétition d'expériences 6.7 Références et lectures supplémentaires Exercices CHAPITRE 7 • Modèle de réseaux de neurones non supervisés 7.1 Encodage de base 7.2 Auto-encodage convolutif 7.3 Auto-encodage variationnel 7.4 Réseaux antagonistes génératifs 7.5 Références et lectures supplémentaires Exercices CHAPITRE A • Annexe : Corrigé des exercices A.1 Chapitre 1 A.2 Chapitre 2 A.3 Chapitre 3 A.4 Chapitre 4 A.5 Chapitre 5 A.6 Chapitre 6 A.7 Chapitre 7 BIBLIOGRAPHIE INDEX "Cet ouvrage s'adresse aux étudiants en fin de licence et en master d'informatique ou de maths appliquées, ainsi qu'aux élèves ingénieurs. L'apprentissage profond (deep learning) a révolutionné l'intelligence artificielle et s'est très rapidement répandu dans de nombreux domaines d'activité. Grâce à une approche "orientée objet", ce livre a pour but d'expliquer les bases du deep learning, depuis les réseaux de neurones à propagation avant jusqu'aux réseaux non supervisés. Conçu comme un manuel d'apprentissage synthétique, avec cours et exercices, il s'appuie sur des exemples dans des domaines comme la vision par ordinateur, la compréhension des langages naturels ou l'apprentissage par renforcement. Ces exemples sont étudiés avec le logiciel TensorFlow. Les notions théoriques sont illustrées et complétées par une quarantaine d'exercices, dont la moitié sont corrigés."--Quatrième de couverture Le Deep Learning Est Une Forme Avancée Et Plus Complexe Du Machine Learning Qui Fait Appel à Des Réseaux Neuronaux à Plusieurs Couches. Ce Manuel D’apprentissage Synthétique, Avec Cours Et Exercices, S'appuie Sur Des Exemples D’écriture De Programmes D’intelligence Artificielle Dans Des Domaines Comme La Vision Par Ordinateur, La Compréhension Des Langages Naturels Ou L’apprentissage Par Renforcement. Cet Apprentissage Du Deep Learning Se Fait En écrivant Des Programmes Avec Tensorflow, Framework Open Source De Machine Learning. L’auteur Est Un Chercheur En Ia De Longue Date Et Un Enseignant. Dans Ce Livre Il Incite Ses étudiants Et Ses Lecteurs à Appliquer Sa Méthode Qui Est D' Apprendre En Programmant ». Chaque Chapitre Propose Un Projet, Des Exercices Et Des Lectures Complémentaires. Ce Cours D’initiation Comporte Une Quarantaine D’exercices Dont La Moitié Sont Corrigés.