Facebook émet aujourd'hui la conférence PyTorch 1.0 à NeurIPS stable .
Facebook a annoncé en mai une nouvelle version de la fonction, et a lancé son premier aperçu à la conférence PyTorch développeurs tenue en Octobre sur.
Les développeurs peuvent désormais tirer parti des nouvelles fonctionnalités PyTorch 1.0.
Par exemple le mélange fin avant, permet la transition des développeurs entre le mode avide et graphique.
Une autre amélioration formation distribuée, en fournissant un pur C ++ haute performance d'extrémité avant, intégrée à la plate-forme de nuage caractéristiques de profondeur.
Version 1.0 Nouvelles fonctionnalités
PyTorch principales nouvelles fonctionnalités de 1.0 comprennent le compilateur JIT, plus rapide distribué, C ++ extensions et ainsi de suite.
JIT Est un ensemble d'outils de compilation pour combler le fossé entre la recherche et le déploiement de produits.
La nouvelle version améliorée ajoute torch.distributed Bibliothèque, les développeurs peuvent obtenir une formation plus rapide dans des environnements Python et C ++. La nouvelle bibliothèque principale sont distribués Faits saillants:
- La nouvelle performance torch.distributed est entraîné, et le fonctionnement de tout l'arrière (Gloo, NCCL et MPI) est totalement asynchrone
- En parallèle l'amélioration significative des performances données distribuées, en particulier pour les hôtes réseau plus lentes, comme Ethernet basé sur l'hôte
- Ajout du support pour asynchrone distribué toutes les opérations de réglage package torch.distributed
- Ajoutez les opérations suivantes CPU arrière Gloo: envoi, recv, réduire, all_gather, rassembler, dispersion
- Ajouter obstacles NCCL dans l'opération back-end
- Ajouter new_group support back-end pour NCCL
extrémité avant de C est reliée à l'extrémité arrière de l'interface pur C ++ PyTorch, API, et il suit le cadre du python frontal établi, visant à obtenir une haute performance, des applications de C ++ de faible latence.
Il fournit l'interface à un python distal équivalent torch.nn, torch.optim, torch.data autres composants.
À cet égard, la majorité des programmeurs C exprimer pouces vers le haut, grâce à leur propre Facebook a finalement obtenu l'attention.
API C de qui peut être utilisé non seulement la formation, mais aussi pour le raisonnement.
Dans un programmeur Facebook Research Institute AI (FAIR) a dit que maintenant le C ++ API en Python ressemble beaucoup à utiliser PyTorch, l'utilisation du processus de C entièrement tenseur dans le modèle est également très pratique.
Récemment FAIR StarCraft AI-- TorchCraftAI - est d'utiliser une implémentation C ++.
PyTorch 1.0 D'autres nouvelles fonctionnalités Il y a:
- tenseur de l'espace à N dimensions
- Le nouvel opérateur
- nouvelle distribution
- Améliorations de l'API clairsemés
- Les opérateurs existants complètent et distribués
De 0.4.1 à la version 1.0, si vous ne pouvez pas modifier le code exécuté directement il? Vous pouvez consulter le document Les modifications récentes Section, si votre code lié au contenu, vous devez modifier.
https://github.com/pytorch/pytorch/releases#breaking-changes
Il propose des cours gratuits et bibliothèque de logiciels open-source
Facebook a annoncé un partenariat avec Udacity, offre des cours gratuits pour les adultes AI:
https://cn.udacity.com/course/deep-learning-pytorch--ud188
Le mois dernier, et Udacity Facebook a lancé un nouveau cours, "Introduction PyTorch apprentissage en profondeur" et "PyTorch Challenge Program". Le programme prévoit la poursuite des bourses d'études pour l'IA.
En plus des cours de formation en ligne, des organisations comme fast.ai fournit également des bibliothèques de logiciels pour les développeurs d'aide apprendre à utiliser les réseaux de neurones de construction PyTorch.
la formation fast.ai est une version simplifiée, bibliothèque logicielle de réseau de neurones rapide et précis a été libéré deux mois, a reçu 10.000 étoiles sur GitHub.
À l'heure actuelle, il compte plus de développeurs de logiciels à utiliser la bibliothèque créée avec succès un nouveau projet. Par exemple Jason Antic a créé un projet appelé DeOldify, l'apprentissage en profondeur du projet d'utiliser la coloration et de restaurer l'ancienne image.
L'intégration avec les trois principaux profondeur de la plate-forme de nuage
Pour rendre PyTorch plus convivial, plus accessible, Facebook continue d'approfondir le partenariat avec les plates-formes de cloud comme Amazon AWS, Google et la plate-forme cloud de Microsoft Azure.
Récemment, AWS a lancé un PyTorch de soutien d'Amazon SageMaker Neo, il permet aux développeurs de construire des modèles d'apprentissage de la machine à PyTorch pendant et après la formation est terminée dans le déploiement de cloud, les gains de performances allant jusqu'à 2 fois.
Les développeurs peuvent désormais créer une nouvelle étude approfondie par exemple VM, essayez PyTorch 1.0 sur la plate-forme cloud Google.
En outre, le service d'apprentissage automatique Azure de Microsoft est également disponible, qui permet aux données scientifiques de formation en toute transparence sur Azure, la gestion et le déploiement de modèle PyTorch.
Projet d'expansion
PyTorch a été appliquée à divers domaines de la reconnaissance de l'image et la traduction automatique, Facebook a cité un certain nombre de projets d'expansion de la communauté des développeurs:
Horovod : Un cadre de formation distribué qui permet aux développeurs d'utiliser facilement un seul programme de GPU et de la formation plus rapidement sur le GPU.
PyTorch Géométrie : PyTorch bibliothèque géométrique de vision informatique, pratique courante de fournir un ensemble de modules et distinguable.
TensorBoardX : Modèle pour PyTorch enregistré le module TensorBoard, ce qui permet aux développeurs d'utiliser des outils de visualisation pour la formation du modèle.
En outre, Facebook est toujours l'équipe à construire et à des projets open source PyTorch, comme traduire Ceci est une séquence système Facebook de traduction automatique basée sur la bibliothèque de formation de modèle de séquence.
ressources
Notes de version:
https://github.com/pytorch/pytorch/releases/tag/v1.0.0
Télécharger:
https://pytorch.org
- complet -
recrutement sincère
Qubits recrutent éditeur / journaliste, basé à Zhongguancun de Beijing. Nous attendons de talent, des étudiants enthousiastes de nous rejoindre! Détails, s'il vous plaît interface de dialogue qubit numéro public (QbitAI), réponse mot "recrutement".
qubit QbitAI · manchettes sur la signature de
' « suivre les nouvelles technologies AI dynamiques et de produits
