Le monde de l'intelligence artificielle est de quoi?
Pendant des décennies, les chercheurs ont été intrigués par. Maintenant, plus de gens veulent connaître la réponse à cette question. En particulier, des soins de santé aux véhicules autonomes, de plus en plus domaines de la vie ont commencé à utiliser des systèmes de vision industrielle. Et dans ces domaines et il est étroitement lié à la vie des gens directement.
Mais que les vrais yeux de la machine « voir » qui est qui est le signe de la route des piétons, il reste un défi. Est-ce que ceux-ci peuvent avoir des conséquences graves et même mortelles.
Maintenant, une des institutions de recherche de renseignement Google et artificielle bien connu OpenAI de nouvelles recherches devrait changer cette situation. Ils sont à percevoir le monde visuel des données en tirant certains systèmes, la vision artificielle pour ouvrir davantage la boîte noir. Cette méthode est appelée « activation » permettent aux chercheurs Atlases d'analyser les uvres de divers algorithmes, révèle non seulement les formes abstraites, des couleurs et des motifs qu'ils reconnaissaient, ils révèlent aussi comment ces éléments se combinent pour identifier un objet spécifique , les animaux et les lieux, a appelé la tentative d'ouvrir la boîte noire d'un autre important dans le domaine de la vision par ordinateur.
« Il se sent comme la création d'un microscope. » Ce travail est principalement responsable, Shan Carter de Google a dit.
Figure Shu traitement des algorithmes de vision avec GoogLeNet série Activation Atlas des modèles (Image: Google / OpenAI)
Si une précédente étude a comparé une seule lettre des algorithmes de vision de l'alphabet, puis activation sont plus proches Atlases le dictionnaire entier, il montre comment les lettres sont combinées pour former des mots réels.
Ce travail est pas nécessairement une grande percée, mais « la visualisation de fonction (visualisation de fonction) » le vaste domaine de la recherche d'un pas en avant. Georgia Institute of Technology doctorat Ramprasaath Selvaraju pas impliqué dans le travail, il a dit que l'étude « très fascinante », qui combine de nombreuses idées existantes, la création d'un nouvel outil « très utile ».
Selvaraju a dit que dans l'avenir, ce travail aura de nombreuses utilisations, il peut nous aider à construire des algorithmes plus efficaces, avancées, mais permet également aux chercheurs d'entrer dans la sécurité intérieure de l'algorithme pour améliorer l'algorithme et éliminer les préjugés. Selvaraju a déclaré: « En raison de la complexité inhérente des réseaux de neurones, leur manque de interprétabilité. » Mais il a dit que dans l'avenir, lorsque les réseaux de neurones sont souvent utilisés pour conduire une voiture et guider le robot, qui sera d'explication nécessaire.
OpenAI de Chris Olah également impliqué dans le projet, at-il dit :. « Au moins, cela est notre objectif. »
Figure Shu Activation algorithme de dessin permet aux chercheurs de Atlases comprendre le monde des données visuelles. (Source: OpenAI / Google)
Activer les neurones
Pour comprendre comment l'activation et d'autres caractéristiques Atlases outils de visualisation, vous devez d'abord savoir comment le système AI est d'identifier l'objet.
La méthode de base de l'identification d'un objet systèmes d'IA en utilisant des réseaux de neurones: une forme sensiblement similaire aux calculs de la structure du cerveau humain (on est loin derrière dans la complexité du cerveau humain). Au sein de chaque couche du réseau neuronal artificiel est un neurone est connecté en tant que la même bande. Comme les cellules du cerveau humain, ces neurones réagissent à des stimuli, un processus appelé activation. Fait important, ils ne peuvent pas seulement activer ou désactiver, ils seront inscrits sur le spectre, et donner une valeur spécifique ou pour chaque activation « gravité spécifique ».
Pour le réseau de neurones devient choses utiles, les utilisateurs doivent fournir un grand nombre de données de formation. algorithme visuel comme un exemple, cela signifierait des centaines de milliers, voire des millions d'images même, et chaque image doit être marquée d'une catégorie spécifique. Et les chercheurs de Google et OpenAI testé le réseau de neurones, les données de formation est plus vaste: presque toutes les choses sont impliqués.
réseau de neurones artificiel figure Shu interconnectés à l'aide d'une couche de données traitées. Les différents neurones pour différentes parties du travail de l'image (Source: OpenAI / Google)
Lorsque les données de traitement du réseau de neurones, les neurones du réseau de neurones due à des différentes réponse à différentes lumières d'image, et est relié à l'image de l'étiquette dans ce mode. Il est par cette association, le réseau de neurones peut « apprendre » la façon des choses. Après la formation du réseau de neurones, les utilisateurs seront en mesure de montrer qu'il avait jamais vu des images, et peut activer les neurones, puis l'entrée de l'utilisateur correspond à une catégorie particulière.
Mais, comme beaucoup de programmes d'apprentissage de la machine, l'algorithme de correspondance de motif que visuel est essentiellement rien de plus. Cela leur donne certains avantages (par exemple, aussi longtemps que vous avez les données nécessaires et la puissance de calcul, des algorithmes de vision peuvent être formés directement). Mais ils ont aussi des faiblesses, par exemple, avant de pouvoir facilement être entrés dans le chaos jamais vu auparavant.
Les chercheurs ont découvert le potentiel des réseaux de neurones dans le traitement des tâches visuelles au début de 2010, ils ont amélioré la recherche, les réseaux de neurones tentent de comprendre comment le faire.
Au début Une expérience programme DeepDream, c'est la version 2015 du programme de vision par ordinateur, il deviendra une illusion toute version d'image. effet DeepDream visuel est certainement intéressant, par exemple, à certains égards, elle définit l'esthétique de l'intelligence artificielle, mais elle est aussi une méthode de tentatives précoces. « Dans une certaine mesure, toutes ces études ont commencé dans le programme DeepDream », a déclaré Olah.
Figure Shu comme cette image DeepDream l'algorithme d'apprentissage machine intéressante (Source: OpenAI / Google)
DeepDream fait est de rendre l'image sous forme d'algorithmes intéressants. C'est comme le logiciel trouvé « caché » dans le motif d'image, et était plus comme un graffiti livre à colorier: oeil, brosse, peinture et rempli chaque papier à dessin fil de pouce.
Des études ultérieures utilisant la même méthode de base, et son réglage fin: d'abord pour le réseau de neurones dans un seul neurone, et déterminer ce qui les inspire, et sont des groupes de neurones, suivis par des couches de différents réseaux de neurones une combinaison de neurones. Si par hasard, mais les premières expériences ont porté, puis les travaux récents plus ciblés. Par l'activation des éléments visuels de chaque partie de dessin réseau de neurones, ajouter, enfin obtenir l'ensemble du portefeuille: index visuel Neural Network.
(Source: OpenAI / Google)
machines perspective
Cependant, l'activation en fait nous montre Atlases ce que les rouages internes de l'algorithme? Vous pouvez d'abord être compris dans l'exemple de Google et OpenAI, ils peuvent nous montrer le fameux GoogLeNet (aussi appelé InceptionV1) au sein du réseau de neurones du monde.
Adresse Test: https: //distill.pub/2019/activation-atlas/
Roulez la souris, vous pouvez voir comment les différentes parties des réseaux de neurones en réponse à différents concepts et comment ces concepts ensemble. (Par exemple, les chiens et les oiseaux dans des endroits différents), vous pouvez voir les différentes couches de différents types d'informations au nom du réseau de neurones. couche de neurones est niveau d'abstraction relativement plus faible, en réponse à la géométrie de base, le concept de niveau supérieur de l'analyse identifiable couche de neurones.
Lorsque vous creusez classement individuel, il deviendra intéressant. Un exemple de Google et OpenAI donné est la différence entre « tube de plongée » et « plongeur ».
Dans la figure ci-dessous, vous pouvez voir le réseau de neurones pour reconnaître une variété d'activer les activités de ces balises. La gauche est activé en réponse étroitement liée à la « tube de plongée », le droit est activé en réponse étroitement liée à « plongeur », le. En réponse à l'activation de l'intermédiaire commun entre les deux classes, et qu'il n'y a plus de différences dans les rayures.
La figure Shu et « tube de plongée » (à gauche) et « plongeur sous-marine de » (à droite) de réponse d'activation associée. (Source: OpenAI / Google)
On peut voir en un coup d'oeil une couleur claire et modèle. Au sommet, les regards de poissons comme des taches lumineuses et rayures, au fond, le masque a l'apparence de forme comme. Mais sur la droite met en évidence une réponse d'activation inhabituelle, la réponse est étroitement liée à l'activation d'une locomotive à vapeur. Les chercheurs suis confus pour expliquer pourquoi ces informations visuelles sur la locomotive est important d'identifier le plongeur?
« Nous avons donc testé », a déclaré Carter. « Nous avons pensé:« Eh bien, si nous entrons dans une image locomotive à vapeur, est-il pas s'identifier ou classer comme une image plongée sous-marine plongeurs photo de classification? Maintenant, il semble vrai. »
Figure Shu trois images montrent comment reclassifier la même image. A gauche, il a été identifié comme une classification de plongeur, au milieu, avec l'augmentation de la locomotive de l'image, il est devenu une classification de plongée sous-marine de, quand la locomotive est assez grand, il devient une classification locomotive. (Source: OpenAI / Google)
L'équipe a finalement trouvé la raison: car la courbe lisse métallique similaire au plongeur locomotive réservoir d'air visuellement. Ainsi, pour le réseau de neurones, c'est une différence significative entre le plongeur et la ceinture du plongeur. Pour enregistrer la distinction entre les deux catégories de temps, il emprunte tout simplement nécessaire d'identifier les données visuelles d'ailleurs.
Des exemples de ces travaux ont révélé étonnamment le réseau de neurones. Pour les sceptiques, il révèle les limites de ces systèmes. Ils ont dit des algorithmes de vision peuvent être efficaces, mais les informations qu'ils ont appris a en fait rien à voir avec la façon dont les humains comprennent le monde. Cela les rend vulnérables à certaines manigances. Par exemple, si un certain nombre de pixels soigneusement sélectionnés projeté sur l'image, il peut être suffisant pour rendre l'algorithme de classification erronée.
Mais pour Carter, Olah et d'autres chercheurs, des informations d'activation et des outils similaires Atlases ont révélé un spectacle surprenant la profondeur et la souplesse de ces algorithmes. Par exemple, Carter a souligné que, pour que l'algorithme pour distinguer les plongeurs et les plongeurs, il sera différents types d'animaux liés à ces deux catégories.
« Dans l'eau profonde comme une créature ressemblant à une tortue, est divisé en sous-marine de classe, car il y avait des oiseaux sur le terrain, la plongée sont divisés en catégories, » at-il dit. Il a noté qu'il n'a jamais été le système d'information à l'apprentissage de guide. , Il est plutôt autodidacte. « Il est un peu comme un réseau de neurones pour une meilleure compréhension du monde. Il est vraiment excitant. »
Les chercheurs espèrent que par le développement d'un tel outil, contribuera à promouvoir le développement du champ de l'intelligence artificielle. En sachant comment voir le système de vision industrielle mondiale, en théorie, nous pouvons les construire plus efficacement et vérifier plus en profondeur leur exactitude.
« Maintenant, AI est une boîte à outils limitée », a déclaré Olah. Il a dit que nous pouvons essayer de les tromper avec des données de test sur le système, mais cette méthode est toujours soumis à nos limites cognitives. « L'activation nous donne un Atlases nouvel outil pour explorer les problèmes inconnus, se sentant chaque génération d'outils d'intelligence artificielle nous rapprocher de vraiment comprendre ce que ces réseaux de neurones qui se passe. »
