Lei Feng réseau AI Technology Review par: il y a quelques jours OpenAI soudain déplier en direct sur Twitch. Auparavant, OpenAI sont dans chaque DOTA2 vivent ici, mais ce n'est plus le contenu des jeux vidéo, mais en direct la création Quzai AI. OpenAI CTO Greg Brockman sont dit en plaisantant: « Il y a six mois, je ne peux pas imaginer que nous allons vivre la classification des canaux en musique et performances de DOTA2. »
protagoniste Live est OpenAI compositeur nouvellement créé AI « MuseNet » Il peut créer des styles différents, lorsque les chansons de quatre minutes, les styles peuvent varier en fonction de différents compositeurs (Bach, Beethoven, Oscar Peterson, Frank Sinatra, Bon Jovi ), les changements de styles différents (Jazz, Albeniz, bande son, Pays, Bollywood, Disney), et la musique peuvent être utilisés dans 10 différents instruments de musique. « MuseNet » il y a quelque temps et est utilisé pour générer du texte OpenAI modèle TPG-2 masse modèle similaire transformateur, et afin d'améliorer ses capacités de modélisation de longues séries, « MuseNet » réseau Lei Feng utilise également AI Technology Review vient de présenter la attention clairsemés technique. A la suite du dernier essai de niveau humain proche généré par GPT-2, OpenAI semble être devenu un peu de modélisation longue séquence d'experts.
Après tout, la musique d'apprentissage est une tâche difficile, différents instruments ont des sons différents et différents styles musicaux ont leur propre micro-structure. Ainsi, l'approche OpenAI est de laisser le modèle à apprendre et à prédire MIDI (note, les paramètres de contrôle et d'autres composantes du signal audio numérique peuvent être lus avec un lecteur MIDI), plutôt que d'apprendre la forme d'onde audio d'origine, en même temps OpenAI également compositeur correspondant conception du modèle et des instruments de musique le jeton, pour simplifier le paramètre de données.
Dans le recalcul et clairsemée noyau de transformateur optimisé aide, MuseNet est réalisé sous forme d'une couche 72, 24 ayant l'attention de la tête de réseau, il peut être utilisé sur un élément de contenu d'attention 4096 de longueur. Parce qu'il est capable de traiter la séquence suffisamment longue, il peut se rappeler la longueur du segment de la structure de la musique, et des passages répétés changement complet.
Pour que le modèle pour mieux contrôler le contenu musical de la structure principale, OpenAI de concevoir une variété de différents modèles d'intégration. En plus de la position normale en les intégrant supplémentaire pour faire un modèle d'apprentissage est intégré, nous l'utilisons pour suivre chaque échantillon dans le temps qui a passé. Ainsi, toutes les notes retenti en même temps auront le même embarqué. Ils ont également ajouté un accord pour chaque note d'un intégré (Cette approche est similaire à l'attention relative lorsque le besoin de modèle pour générer une quatrième note qu'il fournira la troisième note en tant que modèle de référence pour le rendre plus facile à apprendre ). Enfin, ils ont ajouté deux structures différentes intégrées, leur rôle commun est de dire l'emplacement d'une pièce de modèle de la musique dans une gamme plus large de répertoire, où le premier gros morceau de musique sera intégrée dans 128 parties, la seconde serait intégrée 127-0 réciproque, indique à quelle distance de la fin.
modèle effet est incroyable, non seulement des pistes et haute reconnaissance Twitch démonstration en direct de la journée dans des styles différents, la mélodie naturelle, et OpenAI se mélangent et l'affichage de match dans le blog d'introduction pour générer des résultats (tiré d'une musique bien connue dans la première section en début, puis laissez le modèle dans d'autres style d'écriture, le modèle donne quatre choses), ainsi que les internautes curieux utiliser la musique fournit des outils de test OpenAI générés afin que nous ne sommes pas Biqin Pei. Nous vous recommandons de MuseNet page officielle d'introduction écrit personnellement essayer de mélanger et assortir les outils existants ainsi que d'écouter de la musique en génération.
OpenAI a également produit une relation de similitude entre les différents compositeurs basés sur les résultats d'apprentissage intégrés, et aussi un bon match pour notre conscience quotidienne.
Les chercheurs de l'opinion OpenAI, une tâche difficile générée entre la musique et des images de texte, du texte, et ayant une séquence similaire à la structure flexible (telle qu'une image peut être fixé en faisant référence aux premiers N éléments, et la musique et le texte la taille de ce numéro est pas fixe). Ils formation ensemble de données recueillies et d'essayer différentes techniques de formation.
Cette étude est très intéressante, OpenAI espère aussi beaucoup d'activités à participer à beaucoup de discussions et de commentaires, mais aussi pour les aider à choisir la prochaine cible de l'étude. La participation du public restera ouvert jusqu'au 12 mai, tout le monde vient jouer openai.com/blog/musenet/ écouter et voir!
via openai.com, Lei Feng réseau compilé AI Technology Review
