Lei Feng réseau Note de l'éditeur: Ces dernières années, le réseau de neurones se fonde sur les connaissances théoriques de la stratégie de la biologie pour réaliser un grand bond en avant, nous ne pouvons pas être achevé avant la fin de la tâche. évolution neurologique comme un champ de recherche de l'intelligence artificielle, en essayant de concevoir et de construire des réseaux de neurones par algorithme évolutionnaire plutôt que descente de gradient stochastique. L'auteur Paul Pauls, GDE comme l'apprentissage automatique et passionné open source, il a écrit un article sur le nerf de l'algorithme évolutif dans le milieu, il introduit les concepts de base des algorithmes évolutionnaires de neurones, ainsi que d'importants résultats de la recherche au cours des dernières années. Lei Feng réseau AI Technology Review ont été compilé suppression, s'il vous plaît profiter de ~
l'évolution des nerfs est une branche de l'intelligence artificielle et l'apprentissage de la machine, il peut améliorer les réseaux de neurones artificiels, algorithmes évolutifs et essayer de trouver le réseau de neurones optimal. Plus précisément, comme la nature par mutation, croisement ou supprimer une partie du code génétique potentiel pour améliorer le fonctionnement du cerveau comme la topologie du réseau de neurones artificiels peut produire de mieux en mieux grâce à l'algorithme évolutif, le poids et ultra-paramètres. En termes simples, l'idée est d'utiliser l'évolution du réseau de neurones du changement dans l'optimisation des paramètres.
évolution nerveuse
évolution nerveuse est une machine technique d'apprentissage qui utilise des méthodes d'optimisation peuvent continuer à améliorer la qualité des groupes communautaires dans chacun des réseaux de neurones pour générer plus de neurones réseau en fonction de ses problèmes à résoudre en fonction. Chaque stockage individuel de la population ne sont pas des réseaux de neurones complexes, mais stockés en tant que génome. Un génome simplifié est exprimé génétiquement, peut être mis en correspondance avec le réseau de neurones.
évolution Neural devez d'abord initialiser une pluralité dudit génome, qui sont ensuite appliquées aux problèmes spécifiques de l'environnement, puis attribuer à chaque génome un score en fonction de la capacité d'adaptation du réseau de neurones pour résoudre les problèmes d'application. Par exemple, le score peut être adaptée à la précision des tâches de reconnaissance d'images mises en uvre dans la trajectoire réelle et le bras de différence est déplacé et la trajectoire prévue et similaires.
Une fois que la population initiale est créée, le cycle d'optimisation commence, la population en constante mutation, recombinaison, évaluer et expérience la sélection naturelle.
Si ces étapes sont itérativement, et l'ensemble de la population une seule fois une étape, puis la conduite est l'évolution des nerfs entre les générations (génération de neuroevolution).
coevolution concurrente (coevolution compétitif) signifie que la conception de l'algorithme évolutif de neurones permet nature asynchrone, et optimisé sur une exécution par boucle du génome. Dans l'évolution du nerf intergénérationnel et co-évolution compétitive des deux cas, le processus d'optimisation est réalisé l'introduction en continu d'innovation, d'évaluer l'innovation, et l'innovation pour les classer jusqu'à ce que le meilleur réseau de neurones pratique.
Figure 1: Une illustration typique de l'évolution des générations de neurones
l'évolution des nerfs est une « boîte noire », bien que ses propres paramètres de processus évolutif requis, mais ne précise pas généré super particulier les paramètres du réseau de neurones, mais pour résoudre des problèmes pratiques basés sur la conception des réseaux de neurones. Ce sera pour les poids du réseau de neurones et d'autres choix ultra paramètres fournissant une gamme, qui est aussi appelé l'espace de recherche. Bien que la nature « boîte noire » offre un espace de recherche très vaste, mais afin d'augmenter la vitesse de traverser l'espace de recherche, il est sage de limiter la taille de l'espace de recherche. En limitant la complexité du codage du génome, la capacité de cartographier la taille du génome de l'espace de recherche est également appelée codé génétiquement. En résumé, afin de rendre l'espace de recherche ayant une taille appropriée, en fonction des exigences des problèmes pratiques, et la conception correspondante algorithme évolutionnaire de neurones génétiquement codé est très important. Par conséquent, il faudrait d'abord examiner le concept du code génétique.
codage génétique
Efficace réseau de neurones est capable de variation et efficace restructuration principe du réseau de neurones artificiels. Il a une forte capacité de représentation du réseau de neurones sans analyser les structures de données très complexes seront en mesure de traiter rapidement avec le code génétique compact (codes génétiques compacts).
En d'autres termes, que dans le fonctionnement de l'algorithme évolutif du nerf codé génétiquement, plutôt que l'opération d'apprentissage de la machine sur le châssis de structures de données complexes. Bien sûr, la présence du gène codant permet le mappage entre les deux représentations. Ces représentation génétique efficace du génome est appelé génotype (génotypes), et l'application correspondante du réseau de neurones est appelé phénotype (phénotypes). Ces deux termes de l'évolution génétique des disciplines utilisées. Après tout, l'évolution du nerf est également connu comme évolution génétique. Notez également que cela tous les phénotypes sont limités à des réseaux de neurones.
Figure 2: Direct génétiquement codé
Gène codant pour être généralement divisé en deux sous-catégories: directe et indirecte codées codées. Bien qu'il y ait une troisième catégorie de développement de codage, mais que ce codage négligeable, après tout, cette année n'a pas non plus de progrès. La représentation directe codée des divers aspects de réseaux de neurones, qui sont explicitement la représentation codée (comme représenté sur la. figure 2) génétiquement. codage direct de chaque codage relié directement à ses poids de génotypes correspondants, mais la possibilité de limiter l'espace de recherche à travers le réseau neuronal et la fonction d'activation de la déviation négative.
Un tel codage peut représenter une topologie directe et anticipatrice récursion, il est possible de produire une topologie optimale. Mais la « Topologie » trop souple, la taille des particules de l'espace de recherche deviendra très grand. D'où la nécessité de concevoir un bon algorithme évolutif de nerf pour traverser rapidement l'espace de recherche.
Figure 3: indirecte codés génétiquement
fonction de codage indirecte est défini code personnalisé qui ne peut pas être directement « traduits » réseaux de neurones artificiels pour adultes. Que pour cartographier les génotypes au réseau de neurones, la nécessité d'une disposition distincte « traduite » par la capacité d'encodage indirecte. Si un codage indirect bien conçu, même si le réseau de neurones est très complexe, peut être réalisé par traversée significative et rapide de l'espace de recherche.
Bien que vous pouvez créer un réseau de neurones artificiels à partir directe de codage rapide, mais le manque de capacités de traduction d'encodage indirects, mais il va ralentir la vitesse de traitement, et peut conduire à « gros grains ». Donc, avant de décider quel encodage à utiliser, les avantages et les inconvénients des deux codes doivent être pris en considération.
Mais deux codes génétiques ont montré comment le code génétique pour déterminer la taille de l'espace de recherche, par exemple. Par exemple, un espace de recherche déterminé par la couche de contrôle, ou un certain type de fonction d'activation.
méthodes et explorer des solutions d'élevage
Il existe des moyens pour traverser l'espace de recherche est appelé le processus de reproduction (le processus de la reproduction), cette méthode est étroitement liée génétiquement codée et évolution neuronale utilisé. En général, pour créer un nouveau génome par mutation ou génome recombinant, nouveau génome a hérité aussi l'héritage du génome. Mutations dans le génome afin que les générations futures des réseaux de neurones artificiels pour explorer la nouvelle structure, le poids et ultra-paramètres. Essentiellement, le génome recombinant et les génomes de deux caractéristiques uniques combinées.
Mutation est étroitement liée au code génétique, du fait que les paramètres du réseau de neurones seulement dans la mesure où des mutations génétiques codées par représentation. Par conséquent, la définition de la mutation algorithme évolutionnaire a les trois conditions pour les nerfs suivants. 1, dont une partie des mutations codantes génétiques se produisent? Topologique, le poids, ou hyper-paramètres? 2, des parties choisies du génome sera la quantité d'une mutation? Par exemple, l'algorithme évolutif de neurones peut être utilisé pour génome mutant faible condition physique plus grande, en utilisant un génome mutant micro haute performance. 3, la manière dont les mutations adoptées. Il est dirigé? Ou au hasard?
Figure 4: Adoption Convention sur la graphique
génome recombinant Mutant n'a pas, par l'innovation a deux génomes parentaux (parents génomes) et ses caractéristiques de liaison uniques, et de générer du génome de la descendance « nouveau ». Si elle est correctement conçu des méthodes de recombinaison, non destructive et peut être fusionné caractéristiques avantageuses deux génomes parentaux, qui se propage dans la population, d'améliorer l'applicabilité de tout le génome existant.
approche de conception de base recombinante est le cas de « l'intégration non destructive », qui est, ne pas perdre des traits génétiques de l'intégration.
algorithme évolutif antérieur par exemple neuronal, est codé directement l'algorithme NEAT (évolution à travers la topologie améliorée de réseau neuronal (en évolution des réseaux de neurones par l'intermédiaire augmentant topologies)) en utilisant une modification au cours de la topologie du réseau, y compris l'ajout généré quand un noeud d'intersection de noeud ou analogue, et les opérations de suppression la perte.
Comme convention sur la concurrence figure (problème concourez conventions) représenté sur la figure. Par la suite, l'algorithme NEAT proposé une méthode « marqueur historique », où chaque mutant fournit un identificateur unique de sorte que finalement le génome recombinant est non-destructive, elle est l'algorithme évolutionnaire du nerf fournit un point de référence.
évaluation
Dans le cycle global d'optimisation, en fonction du problème de l'évaluation du génome, il semble être le plus facile. Mais cette étape est en effet très important, non seulement peut souligner les améliorations possibles et les progrès. L'évaluation est fondamentalement un processus qui est sur le point d'être mis en correspondance avec le génome du réseau de neurones par codage génétiques spécifiques et des problèmes environnementaux appliqués, puis calculer la valeur de remise en forme en fonction de la performance des réseaux de neurones. Certains processus d'évaluation du nerf algorithme évolutif comprend également l'étape supplémentaire de pondération réseau de neurones formés, bien que cette méthode est très sensible, mais seulement quand l'environnement réel peut refléter clairement les informations de base pour être utile. Tout au long du processus d'évaluation, bien remise en forme est entièrement déterminée en fonction des circonstances spécifiques des problèmes pratiques, mais il peut être une modification raisonnable. Par exemple, dans la précision de la reconnaissance d'image peut être réglée, le jeu peut être réglé sur le nombre de points. concept important pour déterminer le calcul de remise en forme, recherche de nouveauté est également nécessaire de prendre en considération. En raison de ce nouveau concept se rapporte à une méthode de génome de récompense, il est possible d'avoir une valeur de remise en forme supérieure. Par exemple, l'agent dans l'environnement du jeu vidéo réelle si entrer dans une zone inconnue va arriver à améliorer la condition physique, bien que moins scores obtenus sur l'ensemble, mais aussi promouvoir le patrimoine génétique de l'innovation, afin de favoriser l'évolution plus prometteuse.
La sélection naturelle et le choix des parents
(Lei Feng réseau) Bien que la méthode de propagation définit la manière d'explorer l'espace de recherche. Mais le choix du génome qui servira les descendants des « parents »? Qu'est-ce que la bibliothèque génomique retiré? Evolution du nerf est un autre aspect très important du programme.
Le type d'algorithme évolutif de nerf détermine quels gènes peuvent en tant que gène parent. Dans l'évolution de la génération nerveuse, le choix pour la prochaine génération de génome se résume généralement à sélectionner le plus performant en cours génome. En tant que parents choisissent génome est pas nécessairement génome complémentaire enlevé. Sélectionnez le génome être assez prometteur pour assurer la mutation potentiel d'innovation, bien qu'elle puisse être supprimée dans la prochaine génération.
Un algorithme de nerf de configuration standard évolutive est le choix de 20% du génome avant utilisation en tant que parent, l'autre dans la prochaine itération supprimera 90 pour cent du génome le moins performant. En outre, selon que l'algorithme évolutif entre les générations en utilisant des espèces formant neurones, le génome de la sélection de parent ou la suppression des changements significatifs sélectionnés se produiront. les espèces de génération formé est un des outils d'évolution de neurones, caractérisé en ce que la topologie selon les similarités évidentes comme phénotype dans la population d'individus en même temps, ou obtenus selon un état particulier dans un environnement réel, ou d'autres fonctions cachées agrégation.
Les grappes produites après la collecte est considérée comme espèce générant des espèces dépend de la méthode de sélection des espèces, en particulier, a été le processus d'élevage en affectant une progéniture plus à la forme physique moyen plus élevé pour contrôler l'évolution des espèces, ce qui « excellent génération ». Cependant, bien conçu spéciation, mais aussi pour protéger l'innovation dans le pool de gènes, parce que certaines de ces espèces iront sur les gènes de la progéniture d'affectation. Par conséquent, la conception d'une méthode appropriée du gène de spéciation résoudre le problème d'un individu dans la population isolée à partir d'espèces différentes, peut être une approche évolutive du nerf dans un outil très puissant, cette méthode ne peut évoluer dans le guide direction utile, vous pouvez également protéger le nouveau chemin de l'innovation.
D'autre part, la coévolution du programme de la concurrence (régime de coévolution concurrentiel), le génome est généralement au hasard associé, qui est plus approprié ou plus innovante a été choisie comme « parent » et l'autre est retiré du pool génétique. En raison de la nature asynchrone de co-évolution compétitive, pas en même temps pour tous les groupes de la classification génétique de la population et le tri, ce qui limite considérablement la possibilité d'utiliser la méthode pour guider l'évolution de la formation des espèces.
Résumé de l'évolution du nerf
(Lei Feng réseau) évolution nerveuse est une méthode d'optimisation de réseau de neurones artificiels est un outil multi-usage, ne se limite pas à l'apprentissage de la machine, il peut également être appliquée pour améliorer la vision informatique, traitement du langage naturel. Beaucoup de choses à considérer lors de la création d'un algorithme évolutionnaire de neurones, mais la chose la plus importante est le plus l'utilisation efficace de l'environnement des problèmes pratiques.
étude historique de l'évolution neuronale
L'algorithme est différent du réseau de neurones traditionnel, nous avons discuté plus tôt, il ne sera pas seulement la formation et de modifier la valeur du réseau, il modifiera également la topologie du réseau, y compris de nouveaux noeuds et des noeuds de suppression et d'autres opérations.
sans perte NEAT codée directement par mutation et recombinaison, tout en protégeant l'innovation formée par spéciation. En raison de ses capacités de simplicité et de synchronisation, NEAT peut être considéré comme algorithme évolutif typique de neurones.
1, un hypercube basée sur l'encodage pour Évoluer à grande échelle Réseaux de Neurones, 2009
HyperNEAT est une variante de NEAT, et soigné même principe, mais ils utilisent un codage indirect, appelé réseau de génération de motif composite (CPPNs). Les réseaux de neurones permettent CPPNs symétriques et répétées, non seulement reflète plus fidèlement la composition du cerveau humain, mais aussi par la cartographie à une topologie de réseau, des applications géométriques et structurelles pour tirer parti des problèmes inhérents.
2, le placement et Evolving densité de Neurones dans le substrat HyperNEAT, 2010
ES-HyperNEAT étend encore HyperNEAT, permet de substrat plus dense (substrat plus dense) dans les informations de mode de codage CPPN dans la région supérieure. Bien que la décision HyperNEAT neurones cachés où place laissée à l'utilisateur (l'utilisateur), mais ES-HyperNEAT en utilisant une structure arborescente quad pour déterminer la densité et l'emplacement de ces nuds cachés. les principaux points de repère ES-HyperNEAT peuvent surperformer HyperNEAT traditionnels.
3, A Neuroevolution Approche de jeu Atari Jouer, 2014
Pour résoudre jeu vidéo 61 en utilisant le Atari 2600 CNE, CMA-ES, et NEAT algorithme HyperNEAT, montrant le potentiel de l'évolution neuronale des jeux vidéo en général (GVGP) dans. Bien que l'évolution neuronale a été déployée dans GVGPI avant cette étude. Pour coïncider avec les résultats attendus car ils montrent une méthode de codage direct dans un état compact représente le meilleur, le codage indirect permet mise à l'échelle pour représenter des dimensions supérieures.
4, DLNE: hybridation A de l'apprentissage en profondeur et neuroevolution pour le contrôle visuel, 2017
Par reconnaissance évolution et de l'image neuronale CNN combiné, il a introduit l'un des plus intéressants de l'évolution des utilisations de neurones. La reconnaissance d'image par CNN, l'image reconnue dans une représentation de fonction, et l'image reconnue dans l'optimisation de l'évolution des réseaux de neurones de neurones. Bien que l'efficacité de cette méthode dépend en grande partie des caractéristiques de qualité représentés, mais même une méthode simple peut aussi avoir une direction de recherche prometteurs.
5, à grande échelle Évolution des classificateurs d'image, 2017
Le document sur le changement des algorithmes évolutionnaires, de sorte qu'il peut être utilisé pour l'algorithme NAS (recherche d'architecture de réseau de neurones) pour calculer exigeant des ressources. Les algorithmes partir du modèle le plus simple n'a pas de convolution a commencé à évoluer, et lire les documents avant la différence est qu'il n'y a pas de profondeur de réseau d'architecture de réseau de neurones fixe (ce qui signifie l'espace de recherche pour l'expansion, longue durée).
Cette méthode automatisée utilisant les résultats de la profondeur de la structure du réseau, a été en mesure d'obtenir des résultats avec le réseau artificiellement conçu comparable sur ICRA-10.
6, Evolving profondes Neural Networks, 2018
algorithme CoDeepNEAT est en hausse au cours des dernières années étendu algorithme NLFA. Cette thèse définit DeepNEAT, à savoir représente indirectement l'ensemble de couches de codage profond réseau de neurones (y compris les paramètres ultra, etc.) sous une forme compacte. Ensuite, le génome est vu le module DeepNEAT, et une pluralité de modules co-évolution et répétition du plan directeur, ces plans comprend plusieurs noeuds, caractérisé par un pointeur de noeud à un module de réseau neuronal particulier. De plus, ce réseau sur les données de référence fixe-10 ICRA, a produit un bon résultat.
7, régularisées Evolution pour l'image classificateur architecture Recherche, 2018
L'une des caractéristiques importantes de cet article l'algorithme évolutif est l'utilisation d'une forme régularisée: Par rapport à éliminer le pire du réseau de neurones, ils ont retiré le plus ancien réseau de neurones (peu importe comment il est bon). Cela permet d'améliorer la robustesse des changements qui se produisent lorsque la tâche est optimisé, et en fin de compte plus de chances d'obtenir un réseau plus précis. L'une des raisons peut être en raison du poids autorisé d'hériter de tous le réseau doit être formé à partir de zéro. Par conséquent, cette forme de régularisation est toujours bon choix après le réseau re-train. C'est-à-dire, pour être plus précis modèle est par hasard, il y a du bruit dans les moyens de processus de formation, même si la précision même architecture exacte peut être différente.
8, Création de réseaux de neurones à travers Neuroevolution, 2019
Cet article est une revue de l'évolution de la coopération excellente nerf moderne dans ce domaine par les quatre plus célèbres chercheurs ont documenté. Même si elle ne présente pas un concept nouveau, mais le résumé et la description de tous les aspects importants de l'évolution des nerfs.
9, Evolutionary Neural AutoML pour Deep Learning, 2019
Cet article décrit l'évolution AutoML cadre puissant LEAF, le cadre tire parti de l'algorithme évolutif CoDeepNEAT. Bien que les auteurs ne divulguaient pas leur code source dans le document, mais ils ont des discussions approfondies sur la conception et ont fourni des commentaires précieux.
En outre, dans les tâches de classification d'images médicales et d'analyse du langage naturel dans le cadre de l'évolution de la performance AutoML ont été évaluées et les résultats ont dépassé les plus avancés des systèmes existants et manuels AutoML solutions de réseau de neurones.
