Profondeur Entraîneur: Laissez mimétique processus d'enseignement apprentissage profondeur humain, ce qui réduit de manière significative les données de formation et de temps!

Ji-won nouvelle colonne

Auteur: Tang Kan, Fosun Group AI scientifique en chef, fondateur d'un grand nombre de médecins

Editeur: Wen Fei

[Introduction de nouveaux Zhi Yuan ] DeepMind a publiquement AI atterrissage leur premier produit médical qui peut diagnostiquer 50 types de maladies de l'il, au-delà de la précision médecin humain. Afin de former le système, DeepMind a passé près de 15000 données homme marqué. Bien que ce travail est très grande, mais d'une perspective plus large, pas d'un apprentissage informatique, la nécessité pour les grandes données à « églises » l'apprentissage en profondeur, il n'y a plus aucune possibilité d'obtenir des données de type humain est seulement une petite la méthode d'apprentissage peut? L'auteur Fosun AI scientifique en chef, un grand nombre de médecins fondateur de Dr Deng McCain croit, Deep Coaching pourrait être un moyen possible.

DeepMind est l'objectif de Google sur la compagnie de recherche en intelligence artificielle, DeepMind réalisation la plus célèbre était le système AlphaGo, il bat tous les acteurs sur le monde d'aujourd'hui.

13 août 2018, DeepMind une équipe de chercheurs dans la Nature Medicine a publié un document intitulé « Cliniquement apprentissage applicabledeep pour le diagnostic et l'orientation de la maladie de la rétine », avec des algorithmes d'apprentissage en profondeur, l'apprentissage et le diagnostic des maladies de la rétine référence et mis en pratique clinique.

Le contenu de ce document, il y a eu de nombreux rapports dans les médias, il semble qu'il n'y a pas besoin de plus de compréhension de lecture. Mais nous pourrions un pas en arrière avec une perspective plus large, regard sur l'évolution de l'ordinateur à des machines intelligentes. Nous avons réalisé ce qui a été accompli, le principal obstacle à ce que, et comment résoudre ces problèmes.

Trois maîtres d'ordinateur de réalisation, mais ne peut pas apprendre à obéir aux instructions

Quand il vient à l'ordinateur, il est nécessaire de se tourner vers les trois maîtres: Turing, von Neumann, Shannon.

La différence essentielle avec la machine informatique traditionnelle, les instructions de l'ordinateur et l'opération de séparation, la machine ne sait pas à l'avance ce que l'opération à effectuer, l'opération est effectuée conformément aux instructions en temps réel. En outre, l'ordinateur peut également être un ensemble d'instructions compilées dans le programme, les instructions générées dynamiquement, de sorte que une machine plus complexe pour l'opération combinée.

Le principe de l'ordinateur, mis au point par Turing. Avec la mise en uvre de l'ingénierie de l'électronique informatique, mise au point par de von Neumann. Et la communication de l'information numérique, comprenant le codage et le décodage de canal de transmission, le premier Shannon.

Cependant, l'ordinateur est seulement d'exécution mécanique instructions données par le programme, et ne pense pas comme les humains, en particulier Je ne l'ai pas appris comme les humains .

réseau de neurones va « apprendre », mais nécessitent de grandes données, incompatibles avec la façon dont le cerveau humain de la pensée

Qu'est-ce que « l'apprentissage »?

Dans un point de vue, = Ajustement de fonction d'apprentissage . Si la fonction est exprimée sous la forme y = f (x), il existe un grand nombre de données d'entraînement, à savoir un lot de (x, y) tableau, alors le processus d'apprentissage, qui est, à partir des données d'apprentissage, obtenue simulation approximative de la fonction d'origine

.

Années 1940, les scientifiques imitent l'anatomie des neurones, nous avons inventé une structure de données - neurone perceptron. Les scientifiques ont constaté que plus les neurones ensemble, constituent un réseau de neurones, le réseau de neurones peut exprimer presque toutes les fonctions. En d'autres termes, Les réseaux de neurones sont une fonction commune, le processus d'apprentissage, soit les hypothèses de paramètres du réseau de neurones . L'utilisation massive des données de formation, est d'optimiser en permanence les paramètres de la spéculation sur le réseau de neurones, le réseau de neurones peut mieux simuler la fonction objective.

« Apprentissage » paramètre de réseau de neurones égal à deviner, les grandes données pour l'optimisation continue des paramètres de la spéculation

Cependant, pour exprimer des fonctions complexes nécessite réseau de neurones à grande échelle, le réseau de neurones comprend des centaines de neurones, chacun contenant des milliers de neurones. Le professeur Geoffrey Hinton, donner ce réseau de neurones ultra-grande échelle est donné un nom - la profondeur du réseau de neurones.

apprentissage en profondeur (Deep apprentissage) est dérivé de cela.

l'apprentissage en profondeur est une méthode commune, peut être appliquée dans de nombreux domaines, en particulier dans la reconnaissance de l'image, la reconnaissance vocale, le traitement du langage naturel demande trois domaines, par rapport à la méthode traditionnelle, la profondeur de l'apprentissage a fait des progrès percée.

Cependant, la profondeur de l'apprentissage est souvent d'être les faiblesses reprochées sont de trois ordres:

1. exige une grande quantité de données de formation. Par exemple DeepMind un document publié hier mentionné qu'ils artificiellement marqués par une formation de données (14884 images médicales), 50 types de diagnostic apprentissage des maladies de la rétine. Zhang annotation manuelle 14884 images médicales, la charge de travail ne sont pas petites. Mais pour l'apprentissage en profondeur, il est souvent nécessaire d'un million de données de formation. À partir d'un million d'ordres de grandeur inférieur à 14,884 feuilles image marquées, il est un très grand progrès.

2. boîte noire. Les paramètres internes du réseau de neurones, il n'y a pas de sens physique clair, l'humanité ne peut pas comprendre la langue utilisée pour expliquer les résultats de la profondeur de l'apprentissage.

3. Il n'y a aucune base pour Bionics . Les êtres humains ne ont pas besoin des dizaines de milliers d'images de la formation, vous pouvez apprendre à maîtriser le savoir-faire lire la feuille. Il est clair que le processus d'apprentissage du cerveau humain, et ne correspond pas à la profondeur de l'apprentissage.

La méthode DeepMind: deux étapes pour réduire la quantité de données, conformément aux habitudes des médecins humains Diagnostiquer

DeepMind procédé amélioré, l'interprétation est divisée en deux étapes: La première étape de l'image originale, l'extraction des lésions caractéristiques, similaire aux points de « résultats » rapport d'interprétation du médecin humain, la deuxième étape consistant à vérifier vu les caractéristiques des lésions à l'approche de classification, un diagnostic de la maladie, similaire aux « résultats de l'inspection » du contenu du rapport d'interprétation du paragraphe écrit par un médecin chez l'homme.

L'interprétation divisée en deux étapes, il y a trois avantages,

1. un grand pas décomposé en deux petites étapes, petites étapes pour réduire la complexité, ce qui modèle réduit à l'échelle du nerf, ce qui Nombre de formation du modèle neuronal des données de formation nécessaire pour réduire .

Le papier est fier de prétendre qu'ils ne se sont plus 14884 grâce à des données de formation étiquetés manuellement, la formation d'un système de reconnaissance d'image, la précision de précision diagnostique comparable aux médecins de l'homme des maladies de la rétine.

Différents dispositifs différents capturent un effet d'image, de sorte que chaque dispositif est de préférence équipé de son propre modèle d'apprentissage profond dédié (à savoir les types N N de modèles d'équipement). Cependant, la sortie de ces modèles, ils sont tous normalisés « constatations » caractéristiques focales. A partir des caractéristiques de lésion normalisée à « vérifier la conclusion, » le diagnostic de la maladie, un seul modèle (donc, un total de modèles N + 1).

Bien que le modèle exclusif de dispositifs différents, théoriquement varier. Cependant, lors de la génération du modèle exclusif du nouveau dispositif, on peut, sur la base du modèle exclusif a été généré sur d'autres appareils, réglage supplémentaire. Les besoins de formation des données de réglage, le nombre considérablement réduit.

2. Analyse de diagnostic des paramètres du modèle, qui peut être un aperçu de la saisie des caractéristiques de la lésion, plus l'impact sur les résultats de diagnostic. En d'autres termes, Il peut être basé sur l'analyse de la sensibilité de l'entrée à la sortie, pour expliquer la profondeur du modèle d'apprentissage de la logique interne .

3. Le processus d'interprétation, d'une grande étape, dans deux petites étapes (constatations et conclusions), Les médecins utilisés pour répondre à l'interprétation humaine .

Les autres questions, comment réduire encore le nombre de demandes de données de formation (images médicales annotées manuellement), en particulier dans la première étape, à partir de photographies prises avec des équipements différents, l'extraction de caractéristiques de la lésion.

Profondeur Coach: faire processus d'enseignement humain mimique l'apprentissage en profondeur, ce qui réduit considérablement les données de formation

Si nous apprenons la profondeur (apprentissage en profondeur), à une profondeur améliorée de l'entraîneur (Deep Coaching), vous pourriez être en mesure de réduire de manière significative le nombre de demandes de données de formation.

entraîneur de profondeur (Deep Coaching) Les étudiants de l'humanité mimique cours d'instructeur de l'homme.

  • L'enseignant fait une image de la médecine humaine, a dit: « Regardez ici, voici une sorte de note lésion qui forme une sorte de lésion et de la texture, avec ces caractéristiques .. »

  • Un autre étudiant, pointant vers la zone d'image, a déclaré: « Maître, voici la mise au point il? »

  • Le professeur a dit: « Non, parce que la zone de la lésion est trop petite. »

  • Les élèves ont également souligné l'image dans la troisième zone, a déclaré: « L'enseignant, il devrait y avoir un accent de celui-ci? ».

  • . . .

  • Comment le modèle d'apprentissage en profondeur, mimant le processus humain de coaching? La nécessité de répondre aux questions suivantes:

    1. Comment identifier la forme, la texture et la taille?

    Forme, la texture, la taille, est une caractéristique commune à la reconnaissance d'image, il y a eu un grand nombre d'annotation manuelle sur l'image, il peut être utilisé pour former le modèle. La question est de savoir comment espionner modèle d'apprentissage profond dans lequel une couche de ce que les neurones, ce qui représente la forme, la texture et la taille. Ce problème, il existe plusieurs solutions, telles que l'abandon scolaire et ainsi de suite.

    2. Comment faire le modèle d'apprentissage en profondeur, comprendre « Regardez ici, voici une sorte de lésions. Notez que certaines formes de lésions et de textures, avec ces caractéristiques ".

    Suivez l'approche CNN, l'image entière est divisée en plusieurs petites zones. Ensuite, l'apprentissage des modèles d'ajustement de paramètre de profondeur, une zone élargie de la lésion que possible, les différences avec d'autres régions, en supposant qu'aucune autre région est une zone de lésion. Si l'enseignant dit explicitement, la forme et la texture sont des éléments clés, le modèle d'apprentissage pour la profondeur, ce qui équivaut à l'ensemble initial de paramètres a priori Amplifiés.

    3. Comment faire la profondeur du modèle d'apprentissage des élèves à imiter , Montrer du doigt aux images dans une autre région, il a dit: « Maître, est le foyer ici il? »

    La deuxième étape du modèle formé en balayant l'image entière, marquer une autre zone de lésion suspecte.

    4. Comment faire le modèle d'apprentissage profond pour comprendre la correction de l'enseignant « Non, parce que la zone de la lésion est trop petite. »

    Il est équivalent au réglage de la profondeur paramètres des modèles d'apprentissage, en particulier ceux liés à la zone des paramètres de lésion, de sorte que la sortie du modèle est correct.

    . . .

    profondeur complète de l'entraîneur du processus devrait être un maximum de dizaines seulement de tours. Les données de la formation nécessaire, ce qui est des images annotées, estime que plus de dix. Et chaque image marquée, ne pas besoin de mettre toutes les lésions sont tracées.

    Etude comparative de l'apprentissage en profondeur vs coaching profondeur, il semble explorer la peine.

    En cas, à coopérer.

    références

    l'apprentissage en profondeur Cliniquement applicable pour le renvoi diagnosisand dans les maladies de la rétine: https: //www.nature.com/articles/s41591-018-0107-6

    New Ji-won AI MONDE 2018 Assemblée de billets Early Bird []

    En solde!

    New Ji-won aura lieu le 20 Septembre à l'Assemblée générale de Beijing National Convention Center AI WORLD 2018, invitant pionnier de la vision par ordinateur Alan Yullie, parrain d'apprentissage de la machine, le professeur CMU Tom Mitchell, Maike Mark Si-Tiger, Zhou Zhihua, un grand Cheng Tao, Chen Yiran, etc. en mettant l'accent sur l'intelligence de la machine avec les dirigeants de la destinée humaine IA.

    Le site officiel de l'Assemblée générale:

    Maintenant jusqu'au 19 Août New Ji-won nombre limité de billets Early Bird à la vente, la communication étroite avec le leader mondial de l'IA, l'intelligence artificielle, témoin de l'industrie mondiale à pas de géant.

    • Billets de ligne active lien:

    • billet de ligne active de code à deux dimensions:

    Comment améliorer la production ramure? Son efficacité et le rôle de quoi? Quelles sont les perspectives?
    Précédent
    Les soldats obturant gagner leur cur et paquet de haute énergie, le bol entier par personne et par jour
    Prochain
    Uber Pilote automatique trois mois pour brûler 200 millions $, soit une perte de plus de 30 milliards l'an dernier, les investisseurs: le vendre!
    5008 est pas mal, qu'il n'y a aucune raison d'acheter
    Le warm-up Asie Top 5 seulement 1 victoire 10 matchs, la Coupe du Monde lorsque les points get garçon, grâce aux fans de football nationaux sont allés en ridicule
    évaluation Google Waymo fait un bond de 100 milliards! Morgan Stanley dernière évaluation jusqu'à 175 milliards $
    Le nouveau marché intérieur Mazda CX-5 bientôt, comment les médias étrangers évaluer?
    Premier jour de travail après les vacances, nous dire la vérité pour l'oncle de la police!
    Quel est magnifique? Ce manoir de dix milliards de chinois vous fait ouvre les yeux!
    Shandong quatre à l'intérieur de style de jeu agressif, test de rencontre en demi-finale Hu Jinqiu, le rendement ou décider du sort des demeures
    « Grand Dieu Cheats Python Top10 » Ces astuces 99% des gens ne savent pas
    surface en cuir du cur ne se lave pas nouvelle BMW Série 5, Mercedes classe E réalisations peut sortir les ventes?
    Voyage ne peut pas tolérer la plupart des choses 15, le cur transpercé du ....
    football international match warm-up Roundup: Argentine défaite Espagne Brésil Italie Lectra Allemagne Grande-Bretagne tirage