Tang Xu, du fond de la non-Temple encastré
rapports Qubit | Numéro public QbitAI
Comment implanter une idée du cerveau riche? Ou à un ensemble de « Inception », ou d'écrire un livre.
Nick Bostrom (Nick persan Teluo Mu), doyen, professeur, philosophe, livre best-seller avenir humain "super-intelligent" de l'Université d'Oxford - Bill Gates et Musk sont ses livres comme un must lecture recommandée, même Musk a investi 10 millions de livres à l'appui de son organisation à poursuivre leurs recherches.
Bostrom est considéré comme largement influencé les gens Musk pour l'attitude AI.
En Août 2014, juste fini de lire « super intelligent » Musc cacher le culte Peng intérieur, et a exhorté les gens à se prémunir contre une menace d'intelligence artificielle dans les premiers tweets de cette situation ne pas reçue.
« Nous devons rester vigilants contre l'IA. Ils peuvent être plus dangereuses que les armes nucléaires. »
Dans le livre, l'intelligence artificielle Bostrom générale surpassera les êtres humains considérés comme « la disparition de la menace de » l'homme (risque existentiel), week-end dernier dans le Rhode Island National Governors Association (NGA) session d'été Quand Musk parle de l'intelligence artificielle de, en utilisant la même expression, en outre, Juin dernier, Code Musk au Congrès ont affirmé que nous vivons dans un monde virtuel informatique simulé, son origine est en fait dans Bostrom en 2003 le point fait.
Cependant, dans l'attitude de l'IA, Musc apparemment plus radical que son « mentor » qui a récemment Bostrom rester assis.
« Il y a quelques années, j'ai écrit un livre pour explorer les effets à long terme de l'intelligence artificielle, donner à certains l'impression point de gauche. Je voudrais saisir cette occasion pour dire que je suis en fait pas si pessimiste. » Bostrom sur le discours de USI cette année il a dit.
«J'ai passé beaucoup de pages pour discuter, une fois que le super-intelligent pour réaliser ce que les mauvaises choses vont probablement se produire - mais c'est parce que pour un livre à écrire des mots, le détail, la texture décrit plus importante, afin de faire les gens peuvent voir où les risques et où mieux les éviter ».
« Mais il a fallu tant d'espace dépeignant le côté pessimiste, cela ne signifie pas que je pense que ce scénario pessimiste est plus susceptible de se produire. »
Bostrom dire les mots ci-dessus du temps de cette année 19 Juin Bimasike a récemment publié un avertissement plus tôt pendant près d'un mois.
Bien sûr, il n'a pas écouté. En fait, c'est juste le début.
Ce n'est pas la première fois publiquement appelé l'attention Musk, la vigilance et le contrôle même AI. Qu'il a comparé aux armes nucléaires ou l'IA diable, les adversaires précédents étaient en fait, est rire, après tout, ne pense pas que de lui seulement, mais devant le dos du gouverneur aux États-Unis une fois de plus répété encore après leur point de vue, Musk est la haine misérable.
« Imaginez que vous avez une chance de dire 50 hommes politiques les plus puissants de l'Amérique, ce qu'ils pensent que le gouvernement a besoin d'une action immédiate, la question la plus urgente est passé ce week-end Musk a eu cette occasion. Il a choisi de rappeler ces résultats gouverneur de vigilance de l'intelligence artificielle, de peur de détruire la race humaine ».
Musk a mis en garde au bout de deux jours, « MIT Technology Review » éditeur Tom Simonite à San Francisco a publié un article intitulé « AI ne résolvent pas le vrai problème, Musk a été le robot tueur peur urine, » le cheval de la critique Trask toujours fantastique, réaliste.
Un professeur d'aspects d'apprentissage de la machine de l'Université de Washington, Pedro Domingos dit dans l'article: « Beaucoup d'entre nous qui tentent de lui enseigner et d'autres comme celui qui, au risque de la grippe aviaire de ce qui est réel et ce qui est irréel , mais apparemment personne ne peut le toucher ».
Yann LeCun retweet plus tard cet article.
Répandu. Le lendemain, la « découverte » du magazine simplement un contact direct Daniel plusieurs domaines de la science informatique et futurologie, des vues positives de répondre Musk.
Quelques réponses où qubit suivantes extrait:
Oren Etzioni (professeur de science informatique à l'Université de Washington, Institut Allen pour le PDG d'intelligence artificielle): « Elon Musk pour l'IA considéré comme une existence obstinée de l'homme fondamental d'une menace pour lui faire bouleversé, mais le problème est qu'il devrait vraiment être préoccupé par ces choses pour les systèmes d'IA et d'armes concernées. publiques doivent vraiment être en mesure d'expliquer l'IA positive et deux effets négatifs, des informations précieuses. nous avons besoin de faire la distinction entre la science et la science-fiction. dans la science-fiction, l'IA est souvent présentée comme un complot visant à saisir les méchants du monde, mais en réalité, l'IA est juste un outil ".
Toby Walsh (Université de Nouvelle-Galles du Sud professeur d'intelligence artificielle): « Les remarques alarmistes Elon Musk mes récents 300 éminents chercheurs d'Amnesty International a mené une enquête (dans cet article :. Https: //arxiv.org/ abs / 1706,06906), la grande majorité d'entre eux sont soupçonnés de faire des machines aussi intelligentes que les gens deviennent et besoins au moins 50 ans. donc, ce n'est pas un problème qui nécessite une attention immédiate ".
« Mais Elon a dit dans une bonne chose: nous avons besoin du gouvernement pour commencer dès maintenant à effectuer le contrôle AI, cependant, besoin de commencer le contrôle d'aujourd'hui, nous pouvons tromper l'intelligence artificielle, tels que le développement de l'algorithme biaisé. » Robot tueur « la course aux armements, les entreprises technologiques à des fins personnelles, les menaces de confidentialité des données médicales. »
Li Feifei (directeur Stanford Artificial Intelligence Laboratory) :. « Les valeurs n'existent indépendamment de la machine, la machine est des valeurs humaines, les valeurs humaines, si vraiment inquiets de l'impact d'une technologie qui permettra de créer l'avenir, l'IA, l'énergie ou autre chose, Que tous les horizons de la vie sont impliqués dans le développement et l'application de cette technologie dans le passé.
Musc à la réunion NGA
« Que ce soit Stanford, Google ou Tesla, chaque expert technique qui a la responsabilité de développer « bonne volonté » de la technologie pour rendre notre société meilleure. Comme un des éducateurs d'Amnesty International et des experts techniques, mon plus grand souhait est de voir plus de diversité et de sens dans ce domaine, à la fois dans le développement de l'intelligence artificielle, ou AI dans la diffusion des idées ».
Rodney Brooks directeur fondateur du célèbre grand champ de vache de la robotique, la science informatique et laboratoire d'intelligence artificielle du MIT, a déclaré interview TechCrunch, a parlé de la même question.
« Il y a beaucoup de gens prétendent que l'IA est une menace pour l'existence humaine: Stephen Hawking, Sir Martin Rees ...... sans que la personne travaillant dans le domaine de l'intelligence artificielle, donc l'idée est très commune que nous pouvons comprendre, pour ceux pas dans le travail sur le terrain AI. qui, selon le niveau du produit pour comprendre comment les choses est difficile d'avoir des problèmes ».
Ce sont les mauvaises personnes, y compris Elon, y compris ceux commis. Quand il a vu un homme mettre un morceau de travail bien fait, nous pouvons comprendre les capacités nécessaires celui-ci - je pense qu'ils mettent l'apprentissage de la machine comme le même schéma. Quand les gens voient DeepMind développé AlphaGo victoire de la série sur le champion de la Corée du Sud et la Chine, ils penseront: « Oh mon dieu, la machine est si intelligent, il peut presque tout faire! Mais entre les trois semaines, j'étais au siège DeepMind à Londres, ils admettent eux-mêmes, il est facile de mal comprendre cette question. "
Pour les questions de réglementation Maske mentionné, Brooks alors la haine et dit: « Si vous avez une mesure réglementaire, ou il peut être utilisé pour changer certaines choses sur quelque chose, ou il ne pas utiliser sur quoi que ce soit si elle est utilisée. ne pas voir quoi que ce soit au-dessus que vous voulez utiliser ce poilu règlement? me dire ce que vous voulez un changement de comportement à la fin, Elon? en passant, on parle encore de la surveillance des véhicules sans pilote Tesla il, c'est le problème réel ".
Bien sûr, personne ne pas tout à fait d'accord avec vue Musk. US Air Force général quatre étoiles Paul Selva pour répondre à des questions sur un département américain de la directive défense, a exprimé son soutien pour le Musk. Cette commande nécessite, lorsque la machine automatique capable de tuer des soldats ennemis, la manipulation humaine doit être impliqué dans ce processus de prise de décision. Le général a dit, dans la guerre, l'armée des critères moraux dans la bonne position est très importante, sinon nous pourrions libérer un groupe de leurs compatriotes ne peut pas contrôler le robot.
Pour le point de vue Musk, Selva a déclaré: « Avant de voir réellement le robot de tuer les rues, les gens ne savent pas comment réagir, car il semble trop vague .. »
« Pour moi AI tomber dans ce très rares cas, nous avons besoin de prendre l'initiative, Lorsque nous avons besoin de l'intelligence artificielle de réglementation de réagir, il était trop tard avant la déréglementation, plutôt que passivement réagir. ».
Musk ou que Musker. Que ce soit pour ou contre, sur ces remarques, il n'a pas de réponse - dans un tweet récent, il a annoncé qu'il venait de parler pour le gouvernement pour obtenir la super construction ferroviaire à grande vitesse dans la connexion à la terre Hyperloop New York, Philadelphie, Baltimore et Washington de licence.
Après la réalisation, seulement 29 minutes de New York à Washington.
[Fin]
