[Réseau nuage de chasse (Micro Signal :)] Juin 14 Rapport (compilé: Anna)

Le débat sur les risques potentiels de l'intelligence artificielle s'est étendue à l'ensemble du secteur de la technologie, à la totalité de la Silicon Valley voulait comprendre l'impact de l'intelligence artificielle d'imprévisible apporte.

Zuckerberg estime que son ami et milliardaire Silicon Valley Musk un peu sans fondement.

Musk est le fondateur de SpaceX et fabricant de voitures électriques Tesla, dans une interview télévisée, il a envoyé l'avertissement aux médias mondiaux et sociaux, l'intelligence artificielle « peut être plus dangereux que les armes nucléaires. »

19 novembre 2014, Zuckerberg a donné un banquet pour Maske à Palo Alto, en Californie maison. Il y a Facebook accompagnent Laboratoire d'intelligence artificielle nouvellement formée près de deux chercheurs de haut niveau et deux autres cadres de l'entreprise.

Pendant le repas, l'équipe Facebook tente de convaincre Musk croit que son point de vue sur l'intelligence artificielle est faux. Mais il n'a pas été ébranlé. Pour assister au dîner de Facebook AI Lab chercheur Yann LeCun a déclaré: « Musk a dit à l'époque, je pense vraiment que l'intelligence artificielle est de dangereux. »

Essentiellement, Musc raison en fait très simple de préoccupation est que si nous créons une plus intelligente que la machine humaine, ils peuvent nous trahir pour exprimer l'intelligence artificielle. (Comme le film « The Terminator », « The Matrix » et « 2001: A Space Odyssey » dans le jeu comme) il a dit à l'ensemble de l'industrie de la technologie, avant que la popularité de l'intelligence artificielle complètement, s'il vous plaît réfléchir soigneusement artificielle Nous sommes en train d'étudier la ce que l'avenir de la technologie intelligente apportera des conséquences inattendues.

Aucun rapport de médias avant, Musker et Zuckerberg ne discutera pas en détail les avantages et les inconvénients de l'intelligence artificielle dans le dîner, il n'y a pas de problème depuis longtemps dans ce domaine du débat.

Superintelligence ce mot est utilisé pour décrire une technologie super intelligence artificielle de percée, ce qui indique que l'intelligence artificielle de a été élevée à un niveau supérieur, et génère beaucoup de machines d'intelligence artificielle. Ces machines peuvent remplacer les humains effectuent uniquement des tâches simples et répétitives (comme les voitures driverless), vous pouvez également remplir une tâche au-delà des capacités humaines, comme la science-fiction. Cependant, la controverse entourant l'intelligence artificielle de se propager à l'ensemble de l'industrie de la technologie.

Google plus de 4000 employés ont récemment signé une pétition pour protester contre l'intelligence artificielle du contrat de 9 millions $ la société a signé avec le Département américain de la Défense. Ce commerce de maigres revenus pour faire de nombreux chercheurs d'Amnesty International de l'entreprise profondément troublant. 1er juin calcul Google nuage Diane Greene, directeur général a demandé aux employés de Rassurer, et que leur contrat arrive à expiration en 2019, après que Google ne renouvellera pas un nouveau contrat.

la recherche en IA a un grand potentiel et de l'influence, il est un moteur économique, mais aussi une source de supériorité militaire. gouvernement chinois dit qu'il est prêt à investir des milliards de dollars dans les années à venir, ce qui rend la Chine le premier pays de la technologie de l'intelligence artificielle de du monde, et le Pentagone cherche activement à aider l'industrie de la technologie. Une nouvelle arme de renseignement artificielle seront bientôt naître.

Nous avons une variété d'industries ont rejoint le débat. PDG d'Amazon Jeff Bezos à Palm Springs, en Californie a tenu une réunion annuelle, de nombreux philosophes et scientifiques des zones côtières centrales sont venus participer.

« Maintenant, oubliez la première scène de science-fiction, venez parler des risques de l'intelligence artificielle apportent. » Institutions de recherche humaine avenir (l'avenir de l'Institut de l'humanité) Projet Intelligence artificielle chef Allan Dafoe dit. instituts de recherche Human Future Centre de recherche à l'Université d'Oxford, spécialisé dans les risques technologiques de pointe et des opportunités.

Au cours des derniers mois, Facebook et d'autres sociétés technologiques ont fait beaucoup de publicité au public, a pour but de proposer des risques imprévisibles de recherche et de développement de la Silicon Valley de la technologie apportera.

En Avril, Zuckerberg a passé deux jours à répondre aux questions des informations trompeuses concernant la confidentialité des données et les législateurs Facebook de propagation proposé avant l'élection 2016. Le mois dernier, il a également rencontré un problème similaire en Europe.

Facebook a réalisé que tout le monde veut apporter des modifications à l'IA peuvent bénéficier l'humanité reflètent les vues et il est très difficile, que les gens vraiment comme elle.

Alors même que le fondateur de Microsoft Bill Gates et Stephen Hawking sont morts de ces personnalités influentes aussi inquiet qui a créé la machine sera plus intelligent que les humains. En dépit de l'intelligence en apparence super-humaine, nous devons également développer quelques années à mûrir, nous ne devrions pas tirer profit de quelque chose de pas trop tard pour penser avant ce problème?

Ancien professeur d'informatique à l'Université Cornell et Bell Labs chercheur Bart Selman a déclaré: « Nous sommes en train d'étudier la technologie de l'intelligence artificielle est de très puissant, mais nous ne savons pas clairement l'impact qu'ils peuvent apporter. »

logiciel de communication Imparfait

Pacific Grove est une petite ville sur la côte centrale de la Californie. L'hiver 1975, un groupe de généticiens sont réunis là pour discuter entre eux si leur emploi actuel (gène d'édition) finira par mettre en danger le monde entier. Janvier 2017, une équipe de développement de l'intelligence artificielle de même également mené une discussion similaire sur cette ville.

Que des réunions privées tenues à l'hôtel Asilomar est géré par l'avenir de l'organisation Life Institute. Pour la partie qui est de discuter de la menace potentielle de l'intelligence artificielle et de d'autres technologies.

Heavyweights dans le domaine de l'intelligence artificielle sont réunis ici - y compris la participation dans Facebook avant le dîner patron Artificial Intelligence Laboratory M. LeCun à Palo Alto, il a aidé à développer le domaine de l'intelligence artificielle avait l'un des plus importants outils réseau de neurones. Nick Bostrom a également assisté au dîner, il a publié dans le livre 2014 « superintelligence: Les chemins, les dangers, les stratégies » pour une discussion sur l'intelligence artificielle a un impact très important. Ancien de l'Université de Washington professeur de science informatique à Seattle a repris Oren Etzioni Institut Allen pour l'intelligence artificielle également dans ce groupe de la liste des personnes. Led DeepMind (Institut de l'intelligence artificielle a une grande influence Google) de Demis Hassabis également invité à y participer.

Bien sûr, en fin de compte, M. Musk, il a fait don de 10 millions $ à l'Institut du Massachusetts en 2015. Enfance, il a également aidé à construire un institut de recherche appelé OpenAI intelligence artificielle d'indépendant, et pour la mise en place d'un objectif clair: créer une machine super-intelligente, et de veiller à ce que ce ne sera pas hors de contrôle. Il fait également Musk est clairement du côté de M. Bostrom.

Après avoir lu l'avantage du livre de Bostrom. Nous devons rester vigilants à l'intelligence artificielle. Il peut être plus dangereux que les armes nucléaires.

- Andy Herron Musk (@elonmusk) 2014 Nian 8 Yue 3 Ri

En vacances le lendemain, Musk a pris part à une équipe de neuf membres, consacré au super intelligence artificielle. a demandé à chaque membre du groupe spécial si l'intelligence artificielle pour réaliser ce problème. Tant que le microphone a passé les mains Maske, peu importe les mains du microphone passé, la réponse est oui. Musc dire catégoriquement non. Petit auditorium rempli de savoir rire. Tout le monde sait non seulement que l'intelligence artificielle de Musc improbable, et même penser qu'il est très dangereux.

Il Musk ensuite ajouté: « Nous sommes en bonne voie pour atteindre ou est l'intelligence artificielle, ou est vers la fin de la civilisation. »

A la fin de ce colloque à l'occasion, Musk a demandé comment le développement social peut coexister avec l'intelligence artificielle. Il a répondu, nous devons faire est de connecter notre cerveau et super-intelligent. Quelques mois plus tard, il a lancé une entreprise de démarrage appelé Neuralink, et a reçu un total d'investissement de 100 millions $ US. L'objectif de l'entreprise est d'espérer que, grâce à la combinaison de l'ordinateur et le cerveau humain, la création d'une interface neuronale que l'on appelle.

Bien sûr, quelques avertissements sur les risques d'intelligence artificielle de ces dernières années ont toujours été mentionnés. Mais les gens font ces avertissements presque personne n'a la même technologie que la réputation Musk. Cependant, peu de gens passent vraiment de grosses sommes d'argent et de temps à cet égard. Et probablement personne n'a aussi complexe que formation technique Musk.

dîner musqué à la maison de Zuckerberg a exprimé des préoccupations au sujet de l'intelligence artificielle. Quelques semaines plus tard, Musc appel LeCun, veulent connaître le nom d'intelligence artificielle des chercheurs et chercheurs expérimentés peuvent aider participer programme de drone Tesla.

Dans une conférence récente des bénéfices Tesla, Musk a critiqué les médias attention ne suffit évidemment pas à ces décès peuvent être évités grâce à la technologie automatisée - pour un avertissement en continu dans le monde de l'intelligence artificielle est une personne dangereuse pour ce poste aussi l'important. Musc récemment parce que le public remet en cause ses pertes financières et les préoccupations concernant la qualité des véhicules de l'entreprise et d'autres questions meurtri.

combats Palm Springs

Dans la Silicon Valley, il y a tellement de mots: nous surestimons leurs propres dépenses de trois ans peuvent faire, et sous-estiment ce que vous pouvez faire pour passer du temps.

27 janvier 2016, le laboratoire DeepMind de Google a introduit un joueur professionnel peut battre la vieille machine de jeu d'échecs. la machine nommée AlphaGo à la victoire cinq zéro sur le champion d'Europe Fan Hui Dans le jeu il y a quelques mois,.

Même avancés chercheurs en intelligence artificielle de croire que le développement de cette machine est capable de résoudre complètement le jeu doivent encore passer une dizaine d'années. Go est très complexe (possible sièges du conseil d'administration plus que le nombre d'atomes dans l'univers), et les meilleurs joueurs gagnent à pas seulement compter sur le calcul pur, mais de compter sur leur propre intuition. Avant AlphaGo a lancé deux semaines M. LeCun a également dit de créer une telle machine est presque impossible.

Cependant, quelques mois plus tard, AlphaGo a également battu Li Shishi, le meilleur de la dernière décennie, une main go. Cette méthode permet aux experts de l'homme aux échecs de la machine sont confus, mais aussi la victoire finale.

De nombreux chercheurs, y compris les dirigeants DeepMind et OpenAI, y compris croient, AlphaGo derrière la technologie d'auto-apprentissage est un moyen pour la « super-intelligent. » Ils croient que les progrès dans ce domaine va accélérer de manière significative dans les années à venir.

OpenAI récente « train » le système et l'utiliser pour jouer un jeu vidéo de course, les chercheurs encouragent autant que possible de gagner des points de jeu dans le jeu. Il peut vraiment continuer à gagner des points, mais tourne de temps en temps au cours de, ou de frapper un mur de pierre et d'autres aviron.

Il est cette instabilité suscite des inquiétudes au sujet de l'intelligence artificielle (y compris super-intelligent) est.

Mais en Mars de cette année, M. Bezos sur Amazon et une réunion secrète tenue à Palm Springs, une forte opposition à ces préoccupations sont nombreuses.

Une nuit, au MIT (Massachusetts Institute of Technology) scientifique du robot Rodney Brooks et neuroscientifiques, des philosophes, des podcasts, auteur Sam Harris sur les dangers potentiels de l'intelligence artificielle débattues. Un enregistrement de « New York Times » obtenus montrent que le débat très avec une touche personnelle.

Harris met en garde contre cela parce que le monde d'aujourd'hui est dans une course pour développer l'intelligence artificielle de, les chercheurs pourraient ne jamais avoir le temps d'assurer super intelligence est en cours d'élaboration en toute sécurité.

Brooks alors répondu :. « Cela est tout simplement lui-même imaginé quelque chose hors de lui, » il a suggéré l'argument de M. Harris repose sur un raisonnement non scientifique. Cela ne peut pas être utilisé pour justifier l'intelligence artificielle est bonne ou mauvaise - c'est une insulte aux scientifiques.

«S'il a un point, naturellement je l'accepte humblement. » Dit Harris.

Une bataille modérateur a finalement mis fin au débat et aux questions du public. Etzioni, directeur de l'Institut d'Allen a repris le micro. « Je ne parle pas sur scène », at-il dit. Mais dans la demande pressante de Brooks, il a encore la scène, et trois minutes pour Harris dit que les mots. Il a déclaré que le développement du système d'intelligence artificielle d'aujourd'hui est encore si limitée, passent tellement de temps se soucier de la super-intelligence n'a pas de sens.

Musk est une position commune sur le côté des philosophes, des sociologues, des écrivains - et il y a peu de chercheurs travaillant dans le domaine de l'intelligence artificielle, a déclaré Etzioni. Parmi les scientifiques d'intelligence artificielle, nous devrions commencer à se soucier du concept de renseignement super est qu'il « est devenu un des bords très de l'argument. »

Zuckerberg pour Washington

Depuis il y a trois ans, les deux hommes ont mangé un dîner-débat entre Zuckerberg et Musc devient en désagréable. L'été dernier, Zuckerberg arrière-cour a enregistré un barbecue et sa femme vivent dans une vidéo Facebook, vues vidéo, il dit Musk pour l'intelligence artificielle est « très irresponsable. »

Dans le développement de l'intelligence artificielle n'a pas été ouvert à eux maintenant de produire une telle panique ferait beaucoup de choses bénéfiques associés à l'intelligence artificielle ne peut pas être menacée par le développement de véhicules autonomes tels que l'intelligence artificielle et la protection médicale, at-il dit.

Zuckerberg a déclaré: « Je garde une attitude positive pour l'IA, je ne pouvais pas comprendre pourquoi les opposants à ceux qui prêchaient le scénario de fin du monde. »

Autrement dit: Tu penses trop, Musc. Prenez-le facile.

Musk a également répondu avec un tweet. « Je leur ai parlé avec Zuckerberg, » Musk a écrit qu ' « il reste à comprendre les limites de l'intelligence artificielle. »

J'ai parlé de ces derniers avec Zuckerberg, il doit encore comprendre les limites de l'intelligence artificielle.

- Andy Herron Musk (@elonmusk) 2017 Nian 7 Yue 25 Ri

En Avril de cette année, Zuckerberg a au Congrès pour assister à l'audience, expliquer comment résoudre leur propre Facebook piquez le panier.

La première consiste à appuyer sur des techniques d'intelligence artificielle. Mais dans son témoignage, Mark Zuckerberg a reconnu que les scientifiques ne sont pas encore à comprendre comment certains types d'intelligence artificielle est l'auto-apprentissage.

Il a dit: « Il est pour les prochaines décennies, nous allons examiner comment le système d'intelligence artificielle, ce sera une question très centrale maintenant, beaucoup de systèmes d'intelligence artificielle va se faire beaucoup plus que sur la base de la capacité de la compréhension humaine. décision ".

géants technologiques et scientifiques pourraient rire Maske sur l'attitude timide de l'intelligence artificielle, mais ils semblent être plus proche de son point de vue.

Au sein de la société Google, une équipe est à la recherche de défauts peut tromper le système informatique et rendre les gens voient des choses qui n'existent pas dans l'intelligence artificielle. Les chercheurs ont mis en garde qui génèrent automatiquement des images réelles et vidéo du système d'intelligence artificielle va bientôt rendre plus difficile de croire ce que nous voyons en ligne.

DeepMind et groupes de recherche OpenAI ont maintenant commencé à travailler sur problème « de sécurité d'intelligence artificielle ».

DeepMind fondateur de Hassabis pense toujours Maske vues un peu extrême. Et d'exprimer leurs points de vue compatibles avec Zuckerberg. Il croit que l'intelligence artificielle n'est pas dangereux, du moins pas encore. Mais maintenant, le problème de Facebook est en effet un avertissement.

Hassabis a déclaré: « Nous devons profiter de cette faible période, toutes les technologies actuelles encore sont encore dans la gamme de contrôle, afin que nous puissions préparer à l'avance pour faire face à la situation devient plus grave que nous faisons toutes les mesures l'heure actuelle est très précieux. nous devons donc aller mieux utiliser ".