Racine compilateur de finition
Qubit produit | Numéro public QbitAI
Hawking a dit, General Intelligence artificielle (appelée AGI) sera la fin de l'humanité.
Cette vigilance remarques de AGI, en fait, bien avant.
Dès 1951, il a dit la machine Alan Turing finira par se débarrasser de notre contrôle humain, de prendre dans le monde entier. Même l'utilisation d'un grand nombre de robots d'usine production automatisée Tesla Model Maske 3, ont souligné à plusieurs reprises publiquement, voulez-vous un contrôle actif, etc. autrement récupérés quand il était trop tard.
ANU trois IA chercheur Tom Everitt, Gary Lea, Marcus Hutter inquiétude sur le monde de l'inquiétude, à publier un examen AGI sécurité Examen de la documentation sur IJCAI (Conférence internationale conjointe sur l'intelligence artificielle), un inventaire des chercheurs d'Amnesty International dans le monde entier ces dernières années penser aux questions générales de sécurité AI.
Un rapide coup d'oeil à l'IAG
Aujourd'hui, nos vies ont entendu parler ou l'exposition à l'IA, ne peut faire face à une seule question, que nous appelons l'intelligence artificielle de faible.
Sous un jeu d'échecs séparé, jouer à des jeux Atari, ouvrez une voiture, AI tiendra ferme. Mais maintenant, l'IA n'a pas « dix » capacité tout autour, ne peut pas faire plusieurs tâches en même temps, ils ont effectué plus de l'homme.
Seule une forte intelligence artificielle, qui est, AGI, pour avoir l'équivalent de la sagesse humaine, ou au-delà de l'intelligence artificielle de l'homme, le comportement intelligent peut montrer tous les êtres humains normaux ont.
Bien qu'il n'existe pas AGI, mais de plus en plus humaine à la répétition mécanique du travail jeté AI résoudre cette tendance, AGI viendra tôt ou tard.
Quand?
Il a été une année à la conférence et NIPS ICML, a organisé un questionnaire. L'un des problèmes, d'éminents chercheurs de prédire la présence, plus puissant que l'AGI humain quelle heure.
Yung pense -
Les résultats du sondage montrent, nous pensons que l'IAG apparaîtra dans 2061 (les résultats ont été médiane).
Qiazhiyisuan. Il y a aussi 43 ans.
modèle Aixi, les milieux universitaires AGI devrait atteindre un modèle commun de l'intelligence artificielle de, il a été proposé par l'un des auteurs, le professeur Marcus Hutter en 2000.
Il a supposé que tout problème informatique peut être converti en un problème de maximisation de la fonction d'utilité.
Ceci est seulement une formule pour résumer l'essence de l'intelligence.
D'après la théorie Aixi, le professeur et son élève Hutter Shane Legg (également DeepMind co-fondateur) en 2007, sous la définition intelligente:
Diplôme d'agent de renseignement, l'agent est la capacité à accomplir la tâche dans un environnement complexe pour voir.
Dans la plupart la perception des gens, les deux fois que l'agent a le même objectif dans un environnement répugnant, alors un degré plus élevé d'agent de renseignement par IQ broie pour gagner.
Cela fait beaucoup de gens se sentent une peur profonde.
Si un jour nous sommes devenus un obstacle objectif AGI, puis, plus fort que nous AGI est également très probable que nous nettoyer.
Cette couche d'inquiétude au sujet du problème peut être causé par cet article de l'IAG et les stratégies d'adaptation de l'homme, ces deux aspects du discours sur les politiques publiques.
AGI bébé garde rebelle
L'orientation de la valeur sous-jacente
Le premier danger peut penser, en fonction du degré d'AGI sagesse, qui aurait pu être la cible graduée.
Par exemple, la première valeur de bit xx calculé après la virgule, et la poursuite de l'indice de bonheur pour améliorer la vie humaine par rapport à, AGI peuvent trouver l'ancien très ennuyeux. Une fois que l'AGI de développer son propre ensemble du système d'évaluation objective, cela pourrait signifier qu'ils ne obéissante « pas de cerveau » pour accomplir les tâches qui leur sont confiées la race humaine.
Donc, nous, les humains début système d'évaluation conçu pour AGI bien les sous-jacents est équivalent à un ensemble de principes que nous les humains font des choses, un code moral, l'orientation de la valeur.
Eglise AGI bébé distinction entre les bons et les méchants
A ce stade, la meilleure architecture construit AGI est l'apprentissage de renforcement. Lors d'une mission à sens unique, jeux de société, jeux d'ordinateur sont utilisés dans l'apprentissage de renforcement. L'utilisation de apprentissage par renforcement Le plus grand défi est de savoir comment éviter un agent peu scrupuleux afin de coins optimiser et coupe.
Non seulement pour empêcher toute manipulation des données de formation d'agent mécanisme de traitement pour maintenir une bonne fonction de récompense, mais aussi d'évaluer soigneusement la performance de la production finale est déformée. AGI veulent falsifier, vous pouvez commencer par l'endroit trop.
Par conséquent, nous, les humains doivent penser à toutes possible pleinement faire les mécanismes de défense correspondants.
stabilité
Cependant, même après l'église comment ils ont travaillé si fort pour faire un bon AGI, ils peuvent aussi radier ces principes sous-jacents dans le processus d'auto-évolution. Ainsi, la conception d'un Stable et fiable l'orientation des valeurs est très critique.
Certains chercheurs Everitt, Filan pensent, trois locaux d'orientation de valeur nominale doit être considérée.
Everitt, Filan, et al apprentissage des préférences de l'ignorant, incohérentes agents, arXiv :. 1512,05832.
1) Agent d'évaluer l'avenir basé sur le modèle actuel de la scène ont fonction d'utilité;
2) Agent trop tôt pour prédire l'impact des futurs actes de stratégies de réécriture de soi;
3) fonction de récompense ne peut pas soutenir l'auto réécrite.
révisabilité
Trop stable, les règles changent complètement bougeaient pas trop.
Tirer un seul principe, facile à la fin du nid
DeepMind est particulièrement préoccupé de savoir si l'avenir de l'IAG la capacité d'auto-correction . Zhibuding principes de conception sous-jacents d'origine humaine de ce qui est mal avec elle. Il ne peut pas être changé, mais aussi très effrayant.
Ici, il est nécessaire d'introduire un mécanisme de correction.
Par défaut, les agents auto-protection empêchera les changements et à proximité. Comme Hal, comme 9000, lorsque Bowman et Poole trouvé près de lui, il fomenter une contre-attaque. Mais il peut être modifié, sauf dans des circonstances spéciales spécifié fermé.
En outre, le test a également besoin de définir le comportement des agents de surveillance à long terme, une fois la fermeture anormale immédiatement.
sécurité
Il y a un problème avec amélioration de l'apprentissage. Le modèle est sensible aux interférences à partir des données de formation, après avoir été manipulé dégénéré en une mauvaise AGI.
L'année dernière, Katz développer l'algorithme Simplex, l'unité de correction linéaire Relu introduit un réseau de neurones. Ensuite, le réseau de neurones comportement vérifié avec succès RELU noeuds 8 contenant 300 couches, améliorant ainsi l'interférence de réseau de neurones.
Comment améliorer le modèle de bruit Relu référence spécifique peut être: Katz, et al.Reluplex: Un solveur ecace SMT pour la vérification des réseaux de neurones profonde arXiv :. 1702. 01135
compréhensibilité
La profondeur des réseaux de neurones est à apprendre, mais il a aussi été un mystère. Ils ne comprennent pas, nous ne serions pas en mesure de les guider pour prendre des décisions positives.
Pour visualiser le comportement du réseau, DeepMind de laboratoire psychologique Psychlab pour simuler un espace à trois dimensions, en essayant de comprendre la profondeur des agents d'apprentissage de renforcement.
les chercheurs d'Amnesty International ont observé DQN Zahavy jouer à des jeux Atari de la stratégie, avec visualisation t-SNE l'activité du réseau de haut niveau DQN méthode de réduction de dimensionnalité.
Étant donné la façon dont les politiques publiques plus scientifique
Certaines personnes craignent les rebelles AGI, certaines personnes s'inquiètent de méchants abuser du monde AGI et fait un gâchis. Ce dernier préférerait un ensemble uniforme de la réglementation mondiale, la régulation du développement de l'intelligence artificielle.
Mais il était aussi prudent sur les règlements. AI chercheurs croient Seth D Baum, les règlements fixant AI mais pousseront dans la fosse de feu.
Lorsque les règlements deviennent une force pour entraver le développement de l'intelligence artificielle, les chercheurs d'Amnesty International est sûr, trouver un moyen de contourner ces règlements.
Découvrez comment créer le genre de motivation intrinsèque plus sûre spontanée AI, il pense, va essayer un chemin sûr plus rapide. A propos de la motivation intrinsèque spontanée, il a fait quelques suggestions:
1) créer une bonne ambiance pour la discussion, sans doute une partie de l'Assemblée générale institutions de recherche d'Amnesty International et d'encourager l'équipe a publié Leurs avis sur la sécurité de l'IAG.
2) se battre pour les intérêts liés à un soutien financier de tiers, tels que le dépôt majeur et l'armée. Ils ne sont pas mal d'argent, mais aussi prêt à dépenser pour une étude de l'AGI.
3) le développement de l'AGI ne peut pas être considérée comme une course. Si les règles du jeu est un winner-take-all, que nous allons nous battre aveuglément vitesse, et négligé les questions de sécurité.
4) apprendre du point de vue du comportement social, les chercheurs d'Amnesty International peuvent guider la voix publique, expriment leur travail de R & D se fait AI a couru une direction sûre d'aller. Une déclaration publique renversera affecter le comportement d'une personne, contribuant ainsi à l'idée que nous faisons tous conformément à l'opération proprement dite. Les gens ont toujours tendance à appliquer ce qu'ils apprennent.
Sans plus tarder, agir rapidement
AI principales organisations ont commencé à exercer. IEEE a commencé un guide moral (directives sur le plan éthique Alignés Design) l'année dernière. ACM et AAAI également la coopération du groupe sigai 2017 organisé conjointement un AIES (AI, éthique et société) de l'Assemblée générale.
L'UE attache une grande importance à cette question. Rassemblant cette année à venir avec les alliés et l'industrie gros bonnets de 3 milliards d'euros pour l'IA et Robotique Centre de recherche, et le Parlement européen a organisé deux réunions, solliciter ouvertement l'opinion publique, de discuter du projet de cadre de la responsabilité civile AI et les robots.
AGI nous a laissé le temps de préparer des contre-mesures, peut-être moins de 50 ans.
Enfin, AGI et espère que l'amitié et la coexistence humaine
Enfin, un avis de sécurité AGI en pleine:
https://arxiv.org/abs/1805.01109
· Département du nombre Netease nouvelles Netease « ont l'attitude » signé
- complet -
recrutement sincère
Qubits recrutent éditeur / journaliste, basé à Zhongguancun de Beijing. Nous attendons de talent, des étudiants enthousiastes de nous rejoindre! Détails, s'il vous plaît interface de dialogue qubit numéro public (QbitAI), réponse mot "recrutement".
qubit QbitAI · manchettes sur la signature de
' « suivre les nouvelles technologies AI dynamiques et de produits
