La profondeur du réseau de neurones a maîtrisé la façon de résoudre divers problèmes - de la reconnaissance, des objets raisonnant dans l'image, pour devenir le « aller à Dieu. » Étant donné que ces tâches deviennent plus complexes, Solution réseaux de neurones à explorer en est devenue de plus en plus compliquées.

Parce que ce système est trop compliqué, et même les concepteurs du système ne peut pas être en mesure d'analyser les raisons pour lesquelles il envoie une commande. Bien sûr, vous ne pouvez pas forcer ce réseau de neurones peut donner la raison pour laquelle il a émis chaque instruction: Jusqu'à présent, nous ne disposons pas d'un système qui permet interprétation AI de leurs actions.

En fait, c'est le domaine de l'intelligence artificielle de la célèbre émission « boîte noire » , Avec l'application des réseaux de neurones dans le monde réel est de plus en plus des recherches approfondies sur cette question commencent à devenir très important. À cet égard, « MIT Technology Review » une fois « sombres secrets du cur de l'intelligence artificielle. » Dans le titre des articles de fond publiés en profondeur pour explorer le réseau de neurones question non d'interprétation.

Carte | « ou MIT Technology Review « intelligence artificielle » boîte noire « histoire de couverture d'émission

En tant que pionnier dans le domaine de la recherche sur l'intelligence artificielle, DeepMind sur la question de la « boîte noire » a également une attention soutenue - À l'heure actuelle, l'équipe travaille à l'élaboration de nouveaux outils pour l'interprétation du système d'intelligence artificielle. 26 juin dans un article publié dans le dernier, DeepMind une nouvelle méthode pour étudier la profondeur du réseau de neurones basé sur la psychologie cognitive.

Alors, quelle est la psychologie cognitive? En général, la discipline de spéculer en évaluant les mécanismes cognitifs et comportementaux, et couvre un grand nombre de détails associés à des mécanismes cognitifs, et concevoir aussi beaucoup d'expériences pour prouver ces mécanismes. Avec les capacités du réseau de neurones sur les questions spécifiques ont été résolus rencontrent ou dépassent le niveau humain, Les méthodes de recherche en psychologie cognitive de plus en plus associé au problème de la boîte noire de l'intelligence artificielle.

Pour le prouver, DeepMind a conçu une expérience pour expliquer la cognition humaine Pour aider l'humanité en savoir plus sur la profondeur des réseaux de neurones est de savoir comment résoudre le problème de la classification des images.

Les résultats ont montré que, Les psychologues cognitifs observé le comportement humain, dans la profondeur du réseau a une expression similaire. Dans l'ensemble, le succès de l'expérience a prouvé que, La psychologie cognitive peut être utilisé pour aider les gens à mieux comprendre le système d'apprentissage en profondeur.

Dans l'étude de cas DeepMind, Même en tenant compte des enfants est de savoir comment identifier l'objet, qui est un domaine de recherche en psychologie cognitive.

En général, la capacité des enfants à deviner le sens des mots d'un seul exemple, est appelé « L'apprentissage sémantique unique » (one-shot apprentissage des mots) - Cela semble très naturel de la capacité cognitive, les gens font sentir que ce processus est en fait rien mécanisme trop compliqué.

Cependant, une expérience de pensée classique connu philosophe américain Willard Orman Quine conçu il y a plusieurs années, Mais montrer aux gens comment ce processus à la fin complexe:

Un linguiste pour aller à un endroit, mais une langue complètement différente et les linguistes, lorsqu'il est utilisé. En conséquence, la population locale à la recherche d'un linguiste pour apprendre quelques mots dans la langue locale. A cette époque, est arrivé à un RAN de lapin de leur côté, les gens du pays a lâché « gavagai », si les linguistes ont commencé à spéculer sens du mot.

Figure Shu « gavagai » à la fin ce qu'on entend?

Bien sûr, le mot peut représenter plusieurs sens, peut être « lapin », « substance blanche » et se réfère même à une certaine partie du corps du lapin.

Alors, face à tant de possibilités, comment choisir la moyenne du droit de l'homme?

Aujourd'hui, nous utilisons la profondeur des réseaux de neurones va rencontrer le même problème quand un seul apprentissage sémantique, Le nouveau modèle de réseau de neurones équipe DeepMind développé appelé « réseau d'adaptation » (réseau d'adaptation) probablement peut résoudre ces problèmes.

En fait, en vertu des améliorations du réseau d'adaptation de l'attention et de la mémoire, et il peut se faire que par une affaire sur la base de données de reconnaissance d'image IMAGEnet massive de données pour classer le dépistage et la performance est absolument indiscutable.

Figure | « ou d'un réseau de correspondance « la structure

Pour illustrer ce point, se référant aux conclusions de l'équipe de recherche de psychologues cognitifs - ils ont constaté que, Les enfants sont souvent résumées par la préférence pour éliminer un grand nombre de fausses inférences, pour arriver à des conclusions correctes. Typique de ces préférences comprennent:

• Préférence générale (biais tout objet): Les enfants seront plus enclins à croire un mot qui fait référence à l'objet entier, et non pas ses composants (partie lapin ne se préoccupe pas);

•  catégorie de préférence (biais taxonomique): une classe d'un objet à un attribut d'objet (tous les animaux peuvent être traités comme « Rabbit ») catégorie;

•  préférence de forme (biais de la forme): les enfants ont tendance à décrire un objet en fonction de la forme des choses, plutôt que la couleur ou des rayures. (Toutes substance blanche pourrait être classé comme « lapin »).

Dans les trois ci-dessus préférences, l'équipe de recherche DeepMind sélectionné « forme préférence » comme point d'entrée de détection réseau de neurones, En effet, le compte « préférence de forme » pour une part importante dans l'étude des préférences humaines.

Figure Shu De gauche à droite: l'objet original, pour correspondre à la forme de l'objet, le match de couleur de l'objet

Plus important est que dans le test suivant, DeepMind équipe de recherche montre trois objets à une profondeur de l'image réseau de neurones - l'objet d'origine, la forme de mise en correspondance de l'objet (forme similaire mais de couleurs différentes se rapportant à l'objet) de l'objet et une mise en correspondance de couleurs (ou de couleur similaire, mais de formes différentes de l'objet de référence). Pendant ce temps, le nombre de l'enregistrement de l'équipe d'origine correspond à la forme de l'objet et l'objet est classé en tant que classe, et le nombre et la correspondance objet original couleur dans une classe d'objet normalisé.

Après le numéro de classification ci-dessus pour la comparaison, les chercheurs ont constaté, Comme les humains, le réseau a plus de préférence pour la couleur et la texture de la perception de la forme - En d'autres termes, le réseau de neurones a également un « préférences de forme. »

Carte | DeepMind expériences de psychologie cognitive menées dans le réseau correspondant. Une forme de l'objet de jeu, B correspond à la couleur de l'objet. Étant donné que la forme des préférences réseau d'adaptation, il aura tendance à correspondre à l'objet d'origine dans A.

Cependant, en plus de la profondeur de la forme du réseau a été les préférences observées, il y a des résultats notables:

Tout d'abord, la forme des préférences réseau de formation initiale a commencé à apparaître. Il est facile de penser à la façon humaine de penser aux préférences de forme. Les psychologues ont dit que les enfants montrent la forme de la préférence moins que les adolescents et les adultes façonnent les préférences de la plus évidente;

En second lieu, en fonction de la combinaison du mode de formation, le degré de la profondeur des préférences du réseau ne sont pas la même forme. Ainsi, lorsque l'étude approfondie de l'équipe pour tester le système, vous devez utiliser un grand nombre de modèles de formation pour obtenir des résultats fiables, comme un psychologue pour tester différents objets;

Enfin, même si le degré de préférence de formes différentes, chaque performance du réseau sur le même genre de test d'apprentissage sémantique unique est le même. Cela montre que les différents réseaux peuvent trouver une solution tout aussi efficace à un problème complexe pour le même.

En bref, l'équipe DeepMind croit, L'expérience a prouvé un grand succès réside dans le potentiel de la psychologie cognitive dans l'interprétation et la spéculation comportement du réseau de neurones. Et parce que les humains possèdent un riche de connaissances dans le domaine de la psychologie cognitive, l'intelligence artificielle, qui résoudra la « boîte noire » numéro offre une nouvelle façon de penser, de sorte que l'humanité plus profonde compréhension approfondie du comportement des réseaux de neurones.