Deux articles récents.
Technologie AI Revue de presse, données relationnelles montre la relation entre les entités visibles dans le réseau (comme les réseaux sociaux en ligne) et le monde physique (tels que le réseau d'interaction des protéines) partout. Ces données peuvent être représentées comme ayant un noeud (par exemple, l'utilisateur, des protéines) et leurs bords sont reliés figure (par exemple dans un ami de réseau social de l'interaction entre la protéine).
Il n'y a pas longtemps, Google a publié un billet de blog AI, les présente à la figure embe dd ing les résultats des deux documents ci-dessus. Dans lequel, dans lequel les adresses de papier à mieux décrire le réseau comportant une zone de chevauchement, le second papier résolus figure embe dd Le problème de base de réglage super ing paramètre. Lei Feng réseau AI Technology Review leur blog compilé comme suit.
Compte tenu du graphique répandue, l'analyse graphique joue un rôle fondamental dans l'apprentissage de la machine, en grappes, prédit les relations, la vie privée et d'autres aspects de l'application. Pour usiner méthode d'apprentissage est appliqué à des images (par exemple, la nouvelle amitié ou découvrir des interactions protéine inconnue prédite), à savoir un algorithme ML graphique peut être utilisé pour représenter.
Cependant, la figure est essentiellement une combinaison de parties discrètes de la structure (par exemple, des noeuds et des arêtes) de la composition, ML et de nombreux procédés courants (par exemple des réseaux de neurones) préfèrent structure continue, en particulier la représentation vectorielle. Représentation vectorielle dans un réseau de neurones est particulièrement important, car ils peuvent être utilisés directement comme la couche d'entrée. Pour résoudre le ML discret représenté dans la figure problème difficile, il est un procédé d'enrobage FIG FIG apprentissage d'un espace continu de vecteur, ou l'affectation de chaque noeud de bord dans le graphe à un emplacement particulier dans l'espace vectoriel. Dans ce domaine, une méthode populaire est basée sur apprend au hasard enlevés, le même que celui présenté en DeepWalk dans.
A gauche: le représentant du réseau social de graphique Karaté bien connu. Droite: DeepWalk en continu intégré dans le noeud de l'espace de la figure.
Nous présentons ici deux articles sur embe récent tableau dd Ing les résultats de la thèse: La conférence Web 2019 papier de conférence « est un simple Embe dd Suffisamment d'apprentissage ing représentations nud Capture multiple "papier et Neurips de 2018," Social Contextes Watch your step apprentissage Noeud Embe :? dd Ings par Graphique Attention ". Le premier article décrit une nouvelle technique pour l'incorporation d'une pluralité d'apprentissage de chaque noeud, il est possible de mieux décrire le réseau ont des zones de chevauchement. Le deuxième problème à résoudre les problèmes fondamentaux de l'intégration dans l'ajustement super paramètre, de sorte que les gens peuvent facilement déployer la méthode de l'intégration graphique. Nous sommes également heureux d'annoncer que nous avons publié une bibliothèque de code qui est intégré dans les deux documents carte Google recherche Github.
Apprendre les nuds représentent, capturant l'origine sociale multiple
Dans presque tous les cas, l'hypothèse clé méthode standard pour l'intégration figure chaque nud doit être intégré dans une seule étude. Ainsi, le rôle de la méthode enrobage peut être considéré dans l'identification figure géométrique, une position de caractère unique, ou la caractérisation de chaque noeud. Cependant, des études récentes ont montré que les nuds réels communautaires appartiennent à plusieurs régions qui se chevauchent, joue plusieurs rôles. Pensez à votre réseau social où vous non seulement à votre famille impliqué dans la communauté, mais aussi de participer à votre communauté de travail. Cela pose la question suivante: Est-il possible de multiples vecteurs embed dans les noeuds de développement, la représentation de leur participation à la zone de chevauchement?
Dans notre Le document webconférence 2019, nous avons développé Splitter, qui est une méthode non supervisée de plongement permet aux noeuds du graphe a de multiples intégré, afin de mieux représenter leur participation à plusieurs communautés. Notre approche est basée sur les plus récentes innovations dans l'analyse de cluster qui se chevauchent basés sur l'ego-réseau, en particulier l'utilisation de la figure montrant le concept. Cette méthode prend un graphe G, et créer un nouveau diagramme P (figure appelés rôles), dans lequel chaque noeud G est désigné par une série de nuds réplique rôle FIG. Chaque nud représente un exemple du rôle des communautés locales auquel il appartient dans le nud. Pour chaque noeud dans le graphe U, nous avons analysé les noeuds ego-réseau (à savoir les noeuds connectés à celui-ci dans la FIG voisins, est A, B, C, D dans cet exemple), pour trouver le noeud de communauté locale appartient. Par exemple, la figure suivante, deux nuds appartiennent à la communauté U: Groupe 1 (A et B représentent ensemble une famille U), et Cluster 2 (avec C et D, U représente un collègue).
Le noeud de réseau ego-U
Nous utilisons ensuite ces informations aux noeuds U « divisé » en deux rôles U1 (rôles de la famille) et U2 (rôles d'emploi). Cela séparera les deux communautés, afin qu'elles ne se chevauchent plus.
Le noeud U ego de fractionnement deux rôles distincts
Cette technique a été utilisée pour améliorer les résultats des derniers graphiques processus de noyage. La principale raison de cette amélioration est que la méthode peut éliminer carte communautaire d'ambiguïté des réseaux sociaux et d'autres se chevauchent hauteur dans le monde réel. Nous avons également une analyse en profondeur par l'auteur chevauchement des groupes de recherche appartiennent (comme l'apprentissage de la machine et l'exploration de données) Diagramme de relation de vérifier ce résultat.
Le coin supérieur gauche: la figure degré de chevauchement élevé avec la communauté typique. En haut à droite: Utilisez node2vec sur la gauche embe dd Ing la méthode conventionnelle de la Fig. Le coin inférieur gauche: le rôle du dessin l'image ci-dessus. Le coin inférieur droit: le rôle du dessin embe séparateur dd ing.
ajuster automatiquement les paramètres par l'attention ultra dessin
Figure embe dd méthode ING basée sur la performance dans une variété d'applications sur ML performance exceptionnelle, mais ils ont beaucoup de paramètres Ultra doit être réglée manuellement. Par exemple, dans l'apprentissage embe dd Lorsque ing, noeuds près du nud beaucoup plus important que vous? Même les experts peuvent affiner ces paramètres sur, mais ils doivent être ajustés pour chaque carte. Pour éviter ce manuel, dans le deuxième document, nous proposons une méthode d'apprentissage automatiquement les meilleurs paramètres super.
En particulier, la plupart des chiffres EMBE dd ing méthodes telles que DeepWalk analogues, sont utilisés pour enlever explorer aléatoire le contexte environnant d'un noeud donné (par exemple voisin direct, les voisins des voisins). Un tel retrait peut être aléatoire sur de nombreux paramètres qui permettent un réglage des cartes de recherche locale, réglant ainsi embe dd ing à l'attention des noeuds voisins. Les différents chiffres peuvent sembler différents meilleur mode d'attention, et donc les meilleurs super montrer différents paramètres (voir figure ci-dessous, qui nous montre deux distributions d'attention différentes).
Notre nouvelle méthode de réglage automatique de l'hyper-paramètres, observez votre étape, en utilisant le modèle d'attention pour étudier la répartition des différentes vues du contexte. Ci-dessus sont deux exemples concernant le noeud central (jaune) et la distribution de contexte (gradient rouge) par le modèle sont appris. Le montre la figure gauche un modèle plus décentralisé de l'attention, et la répartition sur la droite affiche un modèle axé sur les voisins directs.
Ce travail appartient à la famille AutoML de plus en plus, nous espérons réduire les charges OPTIMIZE hyper-paramètres, ce qui est en fait un problème commun dans l'apprentissage de la machine. De nombreuses méthodes de recherche AutoML utilisent des structures neurales. Dans cet article, une variable, nous utilisons embe dd paramètres super ING et la théorie des graphes relation mathématique entre la formule de matrice. la section "Auto" correspond à une hyper-paramètres carte d'apprentissage back-propagation.
Nous pensons que notre contribution permettra de promouvoir davantage le diagramme embe dd Ing l'état de la recherche. Nous apprenons embe multinud dd approche a joué un ing certain rôle dans le domaine de la détection des communautés qui se chevauchent riche et étude approfondie. Nous pensons que le dernier point de vue de embe dd méthodes ing apporteront des résultats fructueux pour la recherche future. Une question ouverte dans ce domaine est d'utiliser une variété de embe dd ing méthode de classification. De plus, notre contribution en termes de hyperparam'etre d'apprentissage permettra de réduire les efforts coûteux de réglage manuel pour promouvoir schéma embe dd Ing l'étude. Nous espérons que ces documents et le code de libération contribuera à stimuler ces études.
Si vous voulez plus d'informations, s'il vous plaît visitez notre page d'accueil!
via: https: //ai.googleblog .com /2019/06/innovations-in-graph-representation.html
2019 Sommet mondial sur l'intelligence artificielle et robotique
2019 Nian 12 Juillet à 14 , Organisé par la Fédération chinoise Computer (CCF), Lei Feng réseau et l'Université chinoise (Shenzhen) co-parrainé par Hong Kong, Shenzhen, Institut de recherche sur l'intelligence artificielle et robotique de Co 2019 Sommet mondial sur l'intelligence artificielle et robotique (Désigné par CCF-GAIR 2019) Shenzhen sera le rideau officiel.
D'ici là, le lauréat du prix Nobel JamesJ. Heckman, académicien étranger, président du haut du monde, bien connu Fellow, un certain nombre d'invités poids lourds seront personnellement Zuozhen , Pour discuter de l'intelligence artificielle et sur le terrain complexe de situation de survie de la robotique, la production, l'investissement et ainsi de suite.
