Lei Feng réseau REVIEW: CCF-GAIR Assemblée générale il y a deux jours, l'Université de Hong Kong Professeur de Ning dit: « Avec le développement de la technologie, les robots intelligents ont la capacité de remplacer simplement les gens, d'étendre les capacités humaines. » Deux bien connu professeur de MIT Sloan School of Andrew McAfee et Erik Brynjolfsson, a déclaré que le thème de l'ère de l'intelligence artificielle ne devrait pas être "course contre la machine" (avec une course de la machine), mais "Race avec la machine" (et la machine exécuter ensemble).

Mais comment pouvons-nous réduire les AI et les risques pour la société et des douleurs? À cet égard, Google a mis en place un nouveau projet « PAIR », un groupe de scientifiques installés dans le cerveau Google, en essayant de résoudre la révolution ultime défi de la technologie AI « au profit du peuple ».

avant-propos

Pour Amnesty International apportera des changements à la société humaine, les futurologues ont peint beaucoup de tarte. Mais ces visions alléchantes pleine d'incertitudes, et les pièges potentiels.

Par exemple, nous voulons aider les gens à la technologie AI raisonnable, la prise de décision scientifique, mais il n'a pas peut aggraver les stéréotypes sociaux? Nous rêvons tous d'AI à échapper 990-6 devoir est sorti, pour amener les travailleurs à concilier travail et vie familiale, mais la plupart des avantages ne laissera pas les entrepreneurs doivent aller jouer la capitale, les emplois ordinaires plus précaire?

« Singularity Parrain » Ray Kurzweil AI considéré comme l'avenir des trois grands « changement de paradigme » * technologie (AI, le génie génétique, la nanotechnologie), le plus grand impact important, une grande portée, mais aussi basculer directe « singularité » que .

Ray Kurzweil

Par conséquent, il est facile de comprendre pourquoi public européen et américain et les sociologues, les implications sociales et éthiques de l'IA se soucieraient tant. Cela donne à Google et d'autres puissants pionniers de la technologie IA pour faire pression publique pour les forcer très soigneusement en effet, et d'examiner toutes les grandes percée dans l'IA apportera les conséquences sociales et des sous-produits.

Lei Feng réseau * Remarque: « changement de paradigme » signifie une amélioration de la science et de la technologie, l'agriculture, machine à vapeur, le moteur à combustion interne, l'électricité et l'Internet, appartiennent tous à apporter un changement de paradigme « de la technologie.

« PAIR »: les gens communiquent avec AI

Lei Feng nouvelles du réseau, en réponse aux défis mentionnés ci-dessus, Google a annoncé aujourd'hui un nouveau projet open - « PAIR ». Il était l'abréviation « People + AI Research », à savoir « la recherche et l'homme AI », dans le but « La recherche et les systèmes d'IA redessinée et la façon dont les gens interagissent » et « essayer d'obtenir des services tout le monde de la technologie AI à tout le monde des avantages. »

équipe PAIRE dirigée par le chercheur Google cerveau Fernanda Viégas et Martin Wattenberg, deux sont des experts en matière de visualisation de données. 12 employés à temps plein Google rejoindront le cerveau. En outre, PAIRE travaillera avec des chercheurs en dehors de Google, tels que l'Université de Harvard et professeur Brendan MIT Hal Abelson Meade. Et la vision par rapport, équipe principale paire qui est pas trop grand. Mais Lei Feng accès réseau aux nouvelles, a déclaré, PAIR est un projet « à l'échelle de l'entreprise à l'échelle », différents services de recherche de Google travaillera en étroite collaboration avec.

Fernanda Viégas et Martin Wattenberg

Ses sons de mission avec Google impliqués dans l'initiation du Partenariat sur l'intelligence artificielle au bénéfice des personnes et la société ( « organisations partenaires AI au profit de l'homme et de la société. » Oui, c'est un nom long pour ne pas entrer dans le titre, de sorte que les mêmes cercles médiatiques cette organisation Tucao) était très similaire. L'organisation a également les participants, y compris Facebook, Microsoft, IBM, Amazon. Google dit, PAIRE complètera particulièrement longtemps que le nom de l'organisation. Contenu du travail comprend à la fois la plate-forme de recherche technologique open source, afin d'améliorer la promotion de la transparence dans la recherche en IA. Les objectifs des deux organisations, et OpenAI semble aussi un peu similaire.

Google a annoncé dans un blog, des travaux de recherche PAIRE sera divisée en trois zones:

• Ingénieurs et chercheurs : AI par les humains à créer. Comment le rendre plus facile pour les ingénieurs à développer et à comprendre le système d'apprentissage de la machine? Ils ont besoin de ce genre de ressources pédagogiques et des outils pratiques?

• experts de l'industrie : Comment AI assisté par divers experts dans le domaine? Comment mieux pour les médecins, les techniciens, les concepteurs, les agriculteurs, compositeurs et autres services professionnels?

• Les utilisateurs ordinaires : Comment pouvons-nous assurer un apprentissage de la machine universelle, le service à tout le monde, de sorte que tout le monde profite du développement de la grippe aviaire? Que la pensée de conception peut ouvrir une nouvelle porte à la naissance d'un nombre sans précédent de demandes d'AI? Est-ce que nous permettons à la démocratisation de la technologie AI derrière?

Le visage de « inégalité » Défiez l'IA

Ils servent, il est une vision très large, mais aussi très ambitieux. Google dit, PAIRE examinera une série de questions de l'impact de la chaîne d'approvisionnement AI de tout le monde - d'écrire des chercheurs de code à utiliser (ou utilisera) Dr AI outils professionnels, agriculteurs et autres professionnels. De plus, conviviale afin que l'IA est une direction importante de travail, de sorte que la technologie AI facile à comprendre (par exemple, l'intelligibilité des algorithmes AI est un problème très difficile), tout en assurant la technologie AI aux clients de traiter également.

Ce qui rend AI « de l'égalité de traitement des usagers »?

La réalité a prouvé, Les préjugés sociaux, les préjugés, les inégalités, intentionnellement ou non, seront écrits dans le code AI. Par exemple, ne reconnaît pas le logiciel de reconnaissance faciale noir, la conception pour les médecins de sexe masculin et féminin service infirmières, pas pour les femmes médecins, infirmiers programme de traitement du langage à considérer.

Alors, quelles sont les raisons à l'origine de cette situation est-il?

La raison la plus courante est que l'ensemble de données utilisées pour la formation. Soit il contient des informations incomplètes (comme le manque de données infirmier), ou une certaine forme de préjugés.

Facettes libérer des outils open source

Pour le problème ci-dessus, PAIR né en même temps, ouvrir leur premier emploi: Facettes Vue d'ensemble et Facettes de plongée. Les deux outils open source permettent aux programmeurs d'examiner de manière plus pratique le travail de collecte de données - pour améliorer l'expérience de visualisation des données.

La figure supérieure (seconde) est Facets plongée dans la capture d'écran, il vérifie dans un système de reconnaissance faciale. Il identifie le taux d'erreur et le succès de la population de chaque pays en comparant le vérificateur de dépistage de la nationalité de chaque personne. Il est facile d'avoir à laisser les chercheurs voir quelle est la nationalité d'un taux d'erreur plus élevé, ce qui nécessite plus d'ensembles de données, plus d'échantillons, et ajuster en conséquence.

Je veux essayer ces deux outils open source? S'il vous plaît visitez ici.

PAIRE sera publié dans les outils source plus ouverts, de sorte que la technologie AI est plus transparent et ouvert effort a également été mis à l'ordre du jour. Lei Feng réseau connaîtrait, Google va également mettre en place des prix et stages des opportunités pour soutenir la recherche connexe.

après les mots

Je crois que l'investissement dans la création d'organismes sans but lucratif de plus en plus AI, AI et Google et d'autres entreprises, dans une certaine mesure, une réponse au public: répondre aux préoccupations du public au sujet de la technologie ou de préoccupation AI.

Comme prétend être comparable à l'Internet révolution technologique « changement de paradigme », AI la capacité de lever rapidement la manière traditionnelle de la communication de la vie, l'éthique conduit à une discussion sans fin. Et que, dans une large mesure a provoqué la pression publique considérable sur les dirigeants d'Amnesty International - comme celui pilote automatique développé, vous devez prendre en considération les moyens de subsistance de 10 millions de conducteurs professionnels du monde. Petites start-ups peuvent être indomptable, mais Google cette masse de personne morale, devra inévitablement venir avec préoccupations publiques Dissipation suffisantes dans une certaine mesure le programme: comment éviter un effet négatif, comment faire le travail menacé d'avoir une transition de carrière, et ainsi de suite.

PAIRE, le nom facile à retenir, et doit avez ( « paire » signifie « match », afin de mieux communiquer avec les organisations populaires afin d'AI nommé, décrit comme très occasionnelle). Mais l'idée de Google cadres de PAIRE mis en place pour sorte de relations publiques, recherche un peu à la vraie affaire, Outsiders ne savent pas. Bien que la tête de Fernanda Viégas et Martin Wattenberg, deux assez lourds experts de la visualisation des données de première classe, mais que le problème à résoudre PAIRE trop gros, trop large, ne peut pas exclure la possibilité d'un « coup de poing a frappé le vide, » le. Indifférent, nous avons tous besoin d'être l'observation du patient.

* Une partie de l'article provient de la Verge et engadget