Net classe deeplearning.ai Andrew Ng est approprié à leur propre à la fin il?

Jetez un oeil aux étudiants Thomas comment dire!

AI Technology Review par: Auteur de cet article est Thomas Treml, est un arrière-plan sociologique des données scientifiques avec des pigistes. Il a partagé son expérience de l'apprentissage des cours et des sentiments deeplearning.ai sur moyen. Compilé par la technologie AI Review.

Je viens de terminer récemment Andrew Ng (Andrew Ng) Cours de spécialisation deeplearning.ai sur Coursera, donc je voudrais partager ce que je suis l'apprentissage de cette idées de leçons et de l'expérience. J'ai découvert par écrit Arvind examen N sur les trois premières leçons sont très utiles, en particulier m'a aidé déterminé à commencer ce cours avant, donc j'espère avoir écrit cet avis peut également aider les autres.

Dites la vérité après avoir appris la leçon cinq enrichissante I sensation. Structure contenu du cours est raisonnable, et est également très sympathique pour ceux qui ne disposent que d'un peu de connaissance de la matrice algébrique. Ensuite, vous devez avoir une expérience de codage ont Python, même si seulement un peu. La plupart des cours dans les tâches de programmation sont définies juste. En plus de leur riche en fonctionnalités instructif que d'essayer de résoudre ces problèmes est bien sûr tout à fait agréable. Enfin, à mon avis, d'apprendre cette spécialisation est que vous commencez cours à explorer en profondeur un excellent moyen d'apprendre la profondeur des branches dans différents domaines. Et après la fin de ce cours, vous serez en mesure de trouver la direction qu'ils veulent poursuivre l'étude approfondie de l'apprentissage en profondeur.

fond

Tout d'abord, je dois admettre que, avant ce cours, je l'ai toujours maintenu une attitude sceptique au réseau de neurones. Parce que j'ai un fond dans l'apprentissage de la machine traditionnelle, donc je ne crois pas que la boîte noire était comme un modèle de réseau de neurones que certaines fonctions (neurones) regroupés (pas une formation séparée et évaluation), plus on peut être peaufiné et une évaluation minutieuse modèle validé. D'autre part, la profondeur de l'apprentissage et le phénomène populaire de l'intelligence artificielle qui me rend encore plus sceptique.

Néanmoins, je pris au sérieux et considéré comme chacun et a suggéré que je mentionne l'apprentissage en profondeur des amis, en particulier un discours sur Apache partie Spark Shoaib Burq tenue à Zurich, que la parole est un tournant très important pour moi. Après cela, l'année dernière, j'ai décidé de découvrir l'étude approfondie menée pour soulager l'esprit des doutes. tout, j'ai commencé d'abord à regarder des vidéos, lire le blog et suivez quelques tutoriels pour apprendre. Malheureusement, ces tentatives se sont révélées mes hypothèses précédentes - que le mécanisme des mathématiques d'apprentissage profond derrière trop profond pour moi. Bien que je suis profondément friands des mathématiques appliquées à la pratique, mais en ce qui concerne le raisonnement dérivé et les théories abstraites, mais j'étais plein d'un profane.

Quand j'ai entendu parler de cours de spécialisation deeplearning.ai Je suis très heureux. Parce qu'avant les autres cours, je me suis rendu compte que la plate-forme d'apprentissage Coursera est génial pour moi. Ensuite, la première vidéo grand parcours ouvert en ligne (Massive ouvert Cours en ligne, MOOC) d'Andrew Ng, j'ai appris qu'il était un bon maître de conférences dans le domaine de l'apprentissage machine. Cependant, en raison des tâches de cours de temps en utilisant un langage de programmation, il est Octave, alors quand je n'ai pas le travail sur le terrain. Donc, une fois la tâche est maintenant appris que le cours utilise un programme de mise en uvre Python (qui est mon langage de programmation primaire), je me suis finalement convaincu les cours que je serai en mesure de mener une étude approfondie d'une étude systématique.

Mais d'abord, je ne l'ai pas eu assez de temps pour terminer les travaux de cours.

Quand je rencontre (mais pas grave mais très gênant) les problèmes de santé au milieu de l'année dernière, la situation a changé. Quand je me sens mieux physiquement, je me suis finalement décidé de participer au premier cours. Normalement, je ne participe à un sujet particulier, je veux étudier dans un cours particulier, regarder des vidéos et terminer rapidement le travail. Mais cette fois, j'ai décidé de coller à apprendre à partir de zéro, la queue et étape par étape. Je me réjouis de travailler sur le thème des défis cognitifs peut me aider un prompt rétablissement. Ces tâches de programmation, puis compléter le programme et mon retour au travail quotidien une bonne occasion. En fait, pour des raisons de santé dans les premières semaines du début, je limité seulement rester un temps très court devant le moniteur. Donc, je devais travailler pour imprimer sur du papier, ils sont résolus, puis réintroduites dans l'Internet présentera ces réponses. En outre, au début d'un des effets secondaires inattendus positifs survenus. Il y a des cours facultatifs dans les trois vidéos précédentes, dans lequel l'interview vidéo avec Andrew étaient les héros (Hinton, Bengio et Karpathy, etc.) pour apprendre la profondeur de champ. Le contenu de ces vidéos non seulement riches, mais pour moi, très motivant, en particulier vidéo Ian Goodfellow.

sec

Sur le plan professionnel, quand vous êtes tout à fait nouveau à ce sujet, vous pouvez obtenir beaucoup de connaissances à travers deeplearning.ai apprentissage. D'abord et avant tout que vous apprenez les concepts de base des réseaux de neurones, une propagation vers l'avant est la façon de procéder dans un modèle de séquence simple, et ce qui est le dos de propagation et ainsi de suite. Je l'ai vu à plusieurs reprises et entendu parler de ces éléments de base des réseaux de neurones. Cependant, la définition et la description donnée par Andrew Ng est la plus claire et la plus systématique. Je pense donc que ce programme est un moyen très efficace de l'apprentissage de ces fondations, et avant que je devais apprendre que ces tutoriels, blog et présentations en sont venus précieux.

Comme une note de côté, la première leçon immédiatement confirmé mon hypothèse précédente est erronée - qui est, la profondeur de l'apprentissage des mathématiques impliqué trop profond pour moi. Contactez En fait, au cours la plupart des concepts au cours de mon école ou appris - et je n'ai pas de diplôme de maîtrise, alors ne laissez pas que des regards d'équation bien alphabet grec peur. Les bases de ce que vous voulez avoir juste un peu de savoir comment calculer l'algèbre matricielle, savent comment calculer le gradient par des dérivées partielles, comprennent le modèle de régression linéaire de base et descente de gradient, tandis que l'autre Andrew intellectuelle restant vous enseigner.

Comme vous entrez en contact avec, comme dans beaucoup d'autres données techniques, vous apprendrez la première leçon à l'église introduite à la structure du réseau de neurones dans l'étude approfondie du modèle biologique et sans contrepartie. Le mécanisme de traitement des signaux des neurones de la profondeur de la fonction neuronale d'apprentissage de réseau (d'abord par calcul linéaire est ensuite introduit dans la fonction d'activation non linéaire) est très différente.

Très utile pour les novices en termes qui sont différentes façons d'apprendre la profondeur des projets d'apprentissage. Par exemple, il est l'utilisation du modèle de pré-formation ou d'adopter une approche de migration de fin d'apprentissage à l'apprentissage. autre concept de mise en valeur des données a été résolu au niveau méthodologique au moins.

Dans les cours plus avancés, vous serez exposé à une reconnaissance d'image (Leçon 4) et les modèles de la série (Leçon 5). Les deux leçons présente le réseau de neurones convolutionnel (CNN) et réseaux de neurones récurrents (RNN) les plus courantes variantes Les. Et je pense que cela est un atout majeur de spécialisation, vous pouvez apprendre une variété de modèles les plus avancés et les méthodes. Bien qu'il ne peut pas vous faire un apprentissage en profondeur expert, mais vous vous rendrez compte que vous pouvez vous concentrer sur laquelle une autre branche dans ce domaine.

De plus, j'ai trouvé très utile pour approfondir la compréhension des cours que les livres écrits par François Chollet emplois du savoir « l'apprentissage en profondeur et Python » pour compléter la partie manquante du cours. base méthodologique technique manquante de ce livre a été bien expliqué dans le cours magistral. D'autre part, ceux qui sont mentionnés dans ce cours, mais n'a pas été largement mis en uvre projet d'apprentissage en profondeur dans le travail, le contenu de ce livre est aussi plus en détail. En particulier, les données pré-traitement des tâches de programmation de section en l'absence apparente cours. Vous pouvez obtenir un tutoriel sur la façon d'utiliser le cadre de l'apprentissage en profondeur (tensorflow et Keras) dans la deuxième et quatrième MOOC, mais il est évident que cette Keras écrite par le créateur du livre vous apprendra comment obtenir une plus grande profondeur modèle d'apprentissage.

Ensuite, je vais marcher vous pouvez attendre de ces cinq cours pour apprendre ce que, ainsi que de l'expérience personnelle des cours liés à l'emploi. Enfin, je vais résumer quelques réflexions personnelles.

Les réseaux de neurones et l'apprentissage en profondeur

Le cours vous présentera les éléments de base des réseaux de neurones. Vous apprendrez la régression logistique, la perte de la fonction, la fonction d'activation et la méthode de descente de gradient (descente de gradient stochastique et une petite descente de gradient de charge) est de savoir comment cela fonctionne. Également rapidement comment utiliser les calculs d'algèbre matricielle NumPy bibliothèque Python.

L'image d'une prévision de chat Classifier

La tâche principale du cours est un aperçu de l'introduction de style. Andrew Ng est un conférencier émérite, même les étudiants avec des fondations mathématiques pauvres devraient être une bonne compréhension de la classe parlait.

Dans ce travail, vous utilisez d'abord une seule machine pour réaliser une perception tâche de classification binaire, puis mis à niveau vers un MLP pour atteindre les mêmes objectifs de la mission, et enfin un emploi est la réalisation d'un réseau de neurones par la profondeur Numpy de codage. En particulier, les deux tâches de classification d'images d'éclairer et de récompenser dans un sens, parce que vous finirez par obtenir un classificateur de microphone meow. Comme vous le voyez dans la figure ci-dessus, il est possible de déterminer s'il y a un chat sur une photo.

Profondeur des réseaux de neurones de l'ordre de plus: paramètres super réglage, et la méthode d'optimisation de régularisation

Comme le titre l'indique, dans ce cours, vous apprendrez à affiner la profondeur du réseau de neurones. Ces adresses sections de programmes le plus de problèmes communs, tels que surajustement et gradient disparaissant / explosion. Vous apprendrez comment trouver l'initialisation de poids à droite, l'utilisation des abandons technologiques, les opérations de régularisation et de normalisation. Bien sûr, nous apprenons aussi différents algorithmes d'optimisation sont des variantes de la façon de procéder, et le choix de la méthode la plus appropriée pour leurs problèmes d'optimisation.

Pour moi, une connaissance plus utile de ce cours est d'utiliser des valeurs aléatoires pour ajuster l'ultra-paramètre plutôt que par le biais d'une approche plus structurée. Il se trouve que dans l'espace et sélectionner les dimensions correctes définies par une valeur aléatoire est plus efficace que d'utiliser une grille de recherche, si vous êtes engagé dans un apprentissage de la machine traditionnelle, vous devriez être très familier avec la recherche de la grille.

La mission du cours est un peu ennuyeux, je suppose que c'est parce qu'ils ont un contenu qui doit être pris en compte. Mais chaque travail sont d'une grande utilité - en particulier les travaux sur les méthodes d'optimisation. En prime, vous obtiendrez un tutoriel sur la façon d'utiliser tensorflow à la fin du cours, le travail de ce en fonction des prochains cours de suivi très utile.

Construire projet d'apprentissage de la machine

Le cours est sans aucun doute un cygne noir. Parce qu'il est conçu comme un cours de deux semaines, je me attends entre deux cours d'introduction et avancés sur CNN et ancien RNN après un remplissage rapide. De plus, je l'aurais pensé que j'avais l'habitude de construire projet d'apprentissage de la machine. Mais il se trouve, ce sont les leçons les plus précieuses pour moi.

Dans ce cours, vous apprendrez les bonnes pratiques développées modèle d'apprentissage en profondeur. Pour la plupart des praticiens de l'apprentissage de la machine, l'ensemble des données doit être décomposé en formation, de validation et de test d'un tiers de cette opération connaissait. Avant de commencer un projet, nous devons confirmer que nous voulons optimiser l'indice. En outre, vous devez quantifier séparément erreur optimale Bayes (Bayes-Optimal-erreur, BOE) pour exécuter le modèle de niveau de domaine pour l'erreur humaine (Human-Level-erreur, ELH). C'est une étape importante, mais n'a pas réalisé jusqu'à ce que je suis (dans des circonstances normales, je comparer les performances du modèle ont été comparés - et cela est tout aussi important). Lorsque vous avez à évaluer la performance du modèle, l'erreur d'étalonnage et vous aurez bien sûr BOE (ou ELH) et compare l'erreur de formation. Ainsi, vous pouvez éviter l'écart (BOE et erreur de formation) et le modèle de la variance (de vérification des erreurs de formation et d'erreurs) pour la comparaison. Et qui de ces deux plus grands, déterminera quel genre de stratégie que vous devez prendre pour améliorer encore les performances. Par exemple, si la variance il y a un problème, vous pouvez essayer d'obtenir plus de données, l'introduction de régularisation ou d'essayer une nouvelle approche différente (par exemple, une autre architectures alternatives ou méthode de recherche ultra-paramètres).

Vous pouvez également apprendre les détails du projet pour créer des stratégies différentes et la migration de fin d'apprentissage et d'apprentissage.

Convolution réseau de neurones

Parce que je ne suis pas intéressé par la vision par ordinateur, au moins jusqu'à ce que j'assisté à ce cours, je me réjouis de ce contenu visuel ordinateur n'est pas trop haut. Mais il se trouve que ce cours je suis devenu une série de cours dans la plupart de l'éducation.

vous apprendrez la principale CNN et comment il est utilisé dans les tâches de vision par ordinateur Dans ce cours,. De cours vidéo, vous pouvez comprendre les blocs de construction CNN et comment ils peuvent transformer tenseur. Certains vidéo également consacré au réseau résiduel (réseau résiduel, ResNet) et l'architecture Inception.

Basé sur la détection des animaux YOLO

J'ai aussi trouvé une vidéo merveilleuse au sujet de l'algorithme YOLO. YOLO fonctions de base du programme est très bien visualisé sur tout cela, je rafraîchissante, mais aussi me fait réaliser la détection d'objets d'origine peut être un travail agréable. Mais la lumière pour créer une bonne performance et des modèles complexes, parfois pas assez, car il est clair que la vitesse prévue est également un indicateur très important.

Cela devrait être une tâche des cinq cours des plus instructifs, où vous avez besoin pour atteindre un faible niveau d'abstraction l'architecture CNN. Puis élus pour faire la partie codante de la mise en uvre de la propagation de retour, approfondi ma compréhension de ce inverse le processus d'apprentissage.

La reconnaissance faciale a deux tâches. Et au cours des travaux sur ce thème, il nous donne une excellente occasion de comprendre les membres de l'équipe deeplearning.ai - au moins un aperçu de leurs photos. En raison de leurs photos à utiliser comme la vérification de l'image.

conversion de style Nerve

Il y a aussi une des tâches liées aux arts, c'est la conversion de style nerveux (transfert Neural style). En gros, vous devez implémenter l'architecture Gatys et al 2015 document présenté par tensorflow. En plus des exigences du cours, je l'utilise aussi ce modèle pour divertir pendant un certain temps, et a obtenu des résultats intéressants et effrayants. Lorsque vous affichez les résultats enregistrés au milieu, vous pouvez voir comment le modèle est d'apprendre et de chaque itération dans le style en haut de l'image d'entrée. Il y avait un moment je me sens comme Frankenstein général, parce que mon contour des yeux de modèle à partir de la source de l'image pour apprendre et appliquer aux traits du visage dans l'image d'entrée, il est donc devenu accidentellement DeepFake.

Les modèles de la série

Ceci est la dernière classe dans cette série, est le plus difficile je pense. Ici, vous apprendrez RNN, le concept de base de l'unité répétitive fermée (Gated récurrente Unité, GRU) et la durée de la mémoire (longue mémoire à court terme, LSTM), et leur mise en uvre dans les deux sens. Pour moi, bien que, pour parvenir à la compréhension et l'utilisation de modèles spécialisés est mon but ultime, mais je trouve encore du mal à saisir le contenu. Cela peut être parce que le concept complexe à l'intérieur, comme le temps de propagation de retour (propagation à travers le temps), les mots vectoriels incorporés (plongements Word) ou la recherche de faisceau (recherche de faisceau). Et je pense que ces sujets difficiles devraient être divisés en quatre semaines pour mieux apprendre, plutôt que les trois semaines actuelles.

D'autre part, ces tests de cours et les opérations de programmation sont très simples. Vous apprendrez comment construire RNN, le RNN peut apprendre à générer un nouveau contenu similaire de la séquence de caractères. Par exemple, vous devez écrire un nom comme un dinosaure modèle. LSTMs peuvent jouer un rôle dans une variété de tâches. Vous pouvez construire un modèle de style de poésie de Shakespeare, tant qu'une séquence donnée comme un début. Puis, dans un autre projet, vous pouvez devenir riche à nouveau artistique. Vous devez construire un LSTM, faire de l'apprentissage en mode musique bibliothèque musicale jazz, après utilisation plus ce modèle à une nouvelle génération d'improvisation de jazz. Mes résultats sons comme celui-ci, bien loin d'être satisfaisante, mais au moins il sonne ou un petit sentiment de jazz. Il est ensuite suivi des besoins de LSMC, cette fois-ci vous devez LSTM combiné avec une couche intégrée, ce modèle peut détecter la séquence d'entrée émotionnelle sémantique et ajouter des émoticônes dans la phrase la plus appropriée.

Ajouter automatiquement l'expression mot est obtenue en intégrant et LSTM

Grand est que vous apprenez dans la deuxième semaine est non seulement sur les mots intégrés, ainsi que les préjugés sociaux intégrés dans le mot contient. Et surtout, vous apprendrez à l'approche en trois étapes pour résoudre ce problème: identification (Identifier) - offset (Neutralisation) - Equilibre (Égalisation). Enfin, une mission très éducative est le dernier d'un travail de programmation. Vous pouvez construire un détecteur de mots de déclenchement (Trigger mot détecteur), que vous vous réveillez Amazon Echo et de l'équipement comme Google Accueil. Je promets solennellement que je sais plus sur moi que le modèle Google assistant intelligent, et il a aussi un vocabulaire de réveil plus agréable.

Derniers chatteurs ennuyeux

Enfin, je veux dire, si vous êtes relativement nouveau à la profondeur de l'apprentissage, vous serez en mesure d'apprendre de cette spécialisation évidemment beaucoup de connaissances. Si vous avez déjà une certaine compréhension du réseau de neurones, vous pouvez sauter les deux premiers cours. Si vous la reconnaissance et le modèle de séquence d'images est également très familier avec, alors je vous suggère de prendre seulement « projet d'apprentissage de la machine à construire » des cours.

D'autre part, important de savoir quel type d'apprentissage ils appartiennent. Si vous êtes un strict mains-pie, ce cours de spécialisation peut ne pas être approprié pour vous, vous devriez chercher d'autres, des cours plus appropriés. On dit, fast.ai fournissent une pratique plus riche expérience. De plus, si vous ne souhaitez que quelque chose théorique, mais pratique mains la réalisation n'est pas intéressé, alors vous ne serez probablement pas être satisfaits du cours - alors je vous suggère de choisir parmi les cours au choix offerts par les universités locales. Peut-être vous êtes simplement intéressé par un domaine d'apprentissage en profondeur, il peut y avoir d'autres cours plus approprié pour vous. Par exemple, si vous voulez juste savoir le pilote automatique, puis vous inscrire sur Udacity ne pas offrir des diplômes « véhicules autonomes » des cours peuvent être plus efficaces. Bien que dans la troisième leçon deeplearning.ai est également introduit le pilote automatique, mais le contenu est trop fourrure, et le manque de conseils pratiques. Cependant, si vous payez plus d'attention à la présentation complète, et vous voulez combiner l'expérience pratique dans divers domaines et l'apprentissage en profondeur de celui-ci haut, je recommanderais sans hésiter deeplearning.ai.

Ce cours de spécialisation peuvent apprendre non seulement votre première étape dans l'apprentissage de la profondeur de champ. Je dirais, où chaque cours, vous devez diriger un pas dans la bonne direction, de sorte que vous finissez par prendre un total de cinq étapes. Néanmoins, je suis également très clair que c'est pas assez pour vous aider à poursuivre plus carrière à long terme dans le domaine de l'intelligence artificielle. Je pense que cette série de cours pour vous aider à construire une compréhension de base du champ. Mais encore, il faut persévérer dans la pratique, et enfin vous pouvez également envisager de lire plus au sujet de la profondeur de la méthodologie de variante d'apprentissage (par exemple, plus de communications avancées mentionnées dans le programme). Cependant, ce cours, vous pouvez commencer une façon systématique pour entrer sur le terrain - ce qui est très précieux, en particulier dans l'existence actuelle de tant de nombreuses branches de la profondeur de champ d'étude.

Si vous souhaitez obtenir plus d'informations sur les cours de spécialisation deeplearning.ai, et je voulais aussi connaître les opinions des autres (comme moi): Je vous conseille d'aller regarder conférence Christoph Bonitz sur sa participation à la série d'expériences Mooc. Vous pouvez regarder la vidéo enregistrée.

La chose la plus importante est que je ne regretterai pas le temps passé sur les cours Coursera. Parce que la plupart de mes attentes ont été remplies, et j'ai appris beaucoup de connaissances sur le plan professionnel. Remplissez tous les cours comprennent une partie élective, c'est un bon choix. Je suis très reconnaissant à Andrew Ng nous ont encouragés à lire le journal, afin de pouvoir explorer en profondeur sur un sujet particulier. Ainsi, vous obtiendrez une sélection de liste de lecture en classe MOOC, je pense que cela est très utile.

Finalement, on m'a donné les points clés de cette branche de cours de spécialisation est: Maintenant, je crois bien que la profondeur de l'apprentissage et ses fonctionnalités puissantes. Son principal avantage est l'évolutivité de grandes quantités de données et la généralisation des tâches similaires, et ceux-ci peuvent être la capacité des modèles d'apprentissage de la machine traditionnelle n'ont pas. Donc, je veux remercier Andrew Ng, deeplearning.ai remercier toute l'équipe pour les offres Coursera de contenu si précieux. Et je regarde certainement avec impatience dans un proche avenir cela pourrait ouvrir la voie à des cours professionnels sixième cours - sur le thème du renforcement de la profondeur de l'apprentissage!

Avertissement: L'auteur ne appartiennent à deeplearning.ai, Coursera MOOC ou d'autres fournisseurs. Ceci est l'auteur au cours de 2017-11 à 2018-02 d'écrire sur leur propre expérience personnelle pour participer à cette expérience de cours. De plus, ce cours n'a pas un blog mentionné valeur de référence générale, parce que les changements qui peuvent se produire à l'avenir, le programme officiel.

Adresse originale:

https://towardsdatascience.com/review-of-deeplearning-ai-courses-aed1328e4ffe

Oui, nous recrutons des gens, pour savoir?

Mission limitée Le temps de combat --- cours de base de vision par ordinateur

De algorithmes à des applications réelles, des groupes de lutte limite, la semaine dernière

Plus de 100 personnes ont participé à ces groupes de combat, le rabais le plus élevé de 200 yuans par personne!

Cliquez sur Lire l'original Ou un code de balayage ~ Maintenant Offered

(^ 0 ^) partage de bienvenue, à demain!