Note de l'éditeur:
24 juillet après-midi 2019, changement profond Comité central a tenu sa neuvième réunion, a approuvé le « Comité d'éthique nationale des sciences et de la technologie mis en place le programme. » Cela indique que l'état de la science et de la technologie pour construire un système de gouvernance éthique sans précédent attache une grande importance à la science et de la technologie et de l'intelligence artificielle, l'éthique est contenu important de l'éthique.
Dans ce contexte, l'intelligence artificielle de la Chine en comité d'éthique des affaires au bon moment. Mais comment l'entreprise de l'intelligence artificielle de l'éthique établi Comité est devenu un problème pratique majeur. Hier, nous avons discuté de la formation d'une science nationale et de la technologie a publié l'éthique publié quel signal? Aujourd'hui, les Nouvelles de Pékin a publié Smart City Institute particulier professeur associé à l'école de droit de l'Université Renmin de Chine, la profondeur de l'avenir à long article Responsabilité sociale et de la gouvernance du Centre de recherche, Institut de l'Etat de droit principal Ren Guorui, maîtrise de droit, Université Renmin de Chine, conformément à Li et Liu Yajie pour les entreprises et le public autre réponse comment comité d'éthique est composé des sociétés d'intelligence artificielle.
Wen | Guo Rui, Li Yi, Liu Yajie
Développement et application de la technologie de l'intelligence artificielle en profonde mutation la vie des gens, la pénétration du Voyage de la circulation, la technologie financière, l'éducation et la formation, la plate-forme d'information et d'autres aspects. De plus en plus grands scénarios d'application, de sorte qu'un consensus devient clair: l'impact de l'intelligence artificielle de l'ordre éthique de la profondeur et l'ampleur, pourrait être une technologie moderne sont difficiles à comparer. Et maîtriser la plupart des technologies de pointe, responsable de la mise en uvre technique de décrocher le rôle des entreprises scientifiques et technologiques sont, en particulier, devraient avoir une conscience éthique claire, et jusqu'à la fin des considérations éthiques. Ceci est l'un des moyens importants dont le comité d'éthique est mis en place.
comité d'éthique AI a une variété de titres dans la pratique, « comité d'éthique » communes « IRB » « Comité des risques éthiques » et ainsi de suite. Le comité d'éthique est mis fin, à partir du même nom est également évidente: Tout d'abord, que « problème » éthique AI: un ajustement endroit pour faire des considérations éthiques dans de nombreux développement de produits AI, le second est de permettre l'examen éthique AI en tant que professionnel, indépendant: une perte de ses chercheurs de première ligne dans diverses normes techniques et éthiques, mieux peler la partie éthique, fait référence aux institutions spécialisées coping centré.
De nombreuses entreprises technologiques font face à un dilemme qui, malgré le risque d'AI algorithmes de discrimination éthique généralisée, mais les programmeurs manquent l'expertise nécessaire pour évaluer avec précision l'éthique, il est difficile de supporter ces « véhicules autonomes devraient donner la priorité à la protection des passagers dans le profane voiture ou en voiture « la responsabilité et d'autres choix éthique clé. Ainsi, la concentration et les membres du comité d'éthique relativement indépendants ont des origines diverses, plus appropriés pour la détermination des questions d'éthique.
En fait, cette tentative dans les pays étrangers est depuis longtemps. À l'heure actuelle, Google, Lucid AI, Microsoft et bien d'autres grandes entreprises technologiques ont mis en place comité d'éthique. Comité d'examen généralement composé d'experts dont les connaissances et l'expérience de fond dans la référence à certaines normes de l'industrie au moment de l'examen, et prendra toute sécurité et de questions éthiques. Tel que Microsoft a créé « comité d'éthique », par la personne responsable du développement des produits, des chercheurs, des affaires juridiques, des ressources humaines et d'autres ministères.
Quelles sont les fonctions du comité d'éthique devraient avoir?
Du point de mécanisme de positionnement de vue, comité d'éthique de la gestion des risques devrait agir comme la gestion des risques d'éthique de l'organisme chef de file, tout membre peut inclure un coordonnateur, chef du département principal de la recherche et le développement de l'intelligence artificielle, juridique et / ou la conformité des entreprises et de l'éthique, responsable du traitement des risques . Les principales fonctions peuvent inclure le développement de l'éthique des politiques internes de gestion des risques, la prise de décision éthique sur les questions liées à la gestion des risques, audit et contrôle de la qualité de l'éthique de travail de l'algorithme et de coordonner les travaux des différents ministères pour faire face au risque de l'entreprise.
En particulier convient de noter que le comité d'éthique n'est pas une entreprise dans la construction du mécanisme AI de gestion des risques d'éthique mécanisme unique dépendant, les entreprises ne peuvent pas attendre à résoudre tous les problèmes éthiques désignent un ensemble par le comité d'éthique, sans fournir de soutien des mécanismes d'application. De la nature du point de vue de la Commission, les membres seront responsables de l'élaboration de l'évaluation des risques et la prise de décision, mais il est difficile que l'agence d'exécution mettra en uvre des décisions spécifiques.
Par conséquent, le comité d'éthique peut conduire la mise en uvre et la supervision du processus complet de gestion des risques, et renvoyé aux équipes de gestion des risques éthiques spécifiques à chaque mise en uvre spécifique de l'unité commerciale des décisions pertinentes, et de faire rapport régulièrement les résultats au comité d'éthique.
AI correspondance entre le processus de gestion des risques (boîte blanche) et l'éthique de l'intelligence artificielle des fonctions du comité (boîte bleue) apparaît en général le long de la figure ci-dessous:
Plus précisément, l'intelligence artificielle de sein de l'entreprise mis en place par le comité d'éthique doit avoir les fonctions suivantes:
1. La mise en uvre et le suivi de leadership éthique processus AI de contrôle des risques. En outre, la gestion des risques, l'intelligence artificielle d'éthique qui pourrait survenir, la Commission peut établir un système interne approprié d'identification des risques, l'évaluation, le traitement, le suivi et les rapports, pour gérer les risques associés. Pour une gestion éthique des risques devrait phase de conception d'intelligence artificielle d'un produit ou d'un service pour commencer, et tout au long du cycle de vie d'un produit ou d'un service.
2. La participation évaluation éthique des risques de la grippe aviaire. La Commission peut procéder à l'éthique des évaluations périodiques des risques, éthique des affaires risque global peut être impliqué pour identifier, évaluer au fil du temps les réponses aux risques éthiques pertinents sont appropriés et efficaces. Commission peut et le gouvernement des lois et règlements pertinents et les normes de l'industrie, en particulier pour évaluer les risques encourus par l'entreprise, évaluer et enregistrer le contenu et les résultats. Le cas échéant également appel à des experts extérieurs pour évaluer et assurer l'efficacité de l'évaluation.
3. Passez en revue les résultats de l'évaluation éthique. Une intelligence artificielle pour des produits ou services spécifiques, les entreprises peuvent être des moyens éthiques d'identifier les risques possibles associés impliqués dans l'analyse de la nature et les caractéristiques des risques éthiques et l'évaluation des risques, l'enregistrement et les résultats de l'évaluation des risques visés Comité de gestion éthique examen. Le but de l'analyse des risques est de comprendre la nature et les risques, y compris les caractéristiques du niveau de risque comprennent.
En outre, le risque d'un produit AI Ethique n'est pas la même chose. Dans la profondeur du processus d'apprentissage basé sur l'algorithme, l'algorithme continuera de mettre à jour le modèle en fonction de la base de données de l'échantillon, et peut apporter de nouvelles questions d'éthique ou l'élimination progressive du risque éthique existant. Par conséquent, la Commission peut régulièrement la normalisation de l'évaluation éthique passé pour examen secondaire afin d'assurer l'évaluation rapide des résultats de l'éthique.
4. examiner périodiquement la mise en uvre des décisions. Comme mentionné ci-dessus, dans le cadre du comité d'éthique, ainsi que d'entreprendre un groupe de gestion des risques de l'éthique a décidé d'effectuer. La mise en uvre du comité de prise de décision du groupe, naturellement, nécessite un examen et un suivi régulier.
Les experts ont souligné, il y a un paradoxe de l'examen éthique de l'intelligence artificielle: comment concevoir leurs propres solutions aux problèmes comprennent pas encore tout à fait? Par conséquent, la décision prise par la Commission en première ne pas nécessairement des résultats pratiques et concrets, à travers ses preuves. L'équipe de gestion des risques peut assumer les fonctions de la pratique et des commentaires des résultats communiqués au Comité.
Source: Vision Chine
Google se précipita comité d'éthique démantelée, laissant quelles sont les implications?
Suivant le principe de l'annonce Google Intelligence artificielle 2018, le 26 Mars, Kent Walker, vice-président senior de Google affaires mondiales a publié un document annoncé dans le blog de Google, afin de mettre en uvre les sept principes Google AI, d'améliorer les structures de gouvernance interne et processus, la mise en place de technologies de pointe Comité consultatif externe (Advanced Technology Conseil consultatif externe, ATEAC).
Google a mis en place ce but du comité de renseignement artificiels pour vérifier la prise de décision de l'entreprise, se réunissent régulièrement et de faire des rapports sur les progrès dans ce domaine et de la technologie Google. Kent a écrit dans un blog: « Le comité n'a pas le pouvoir de veto, mais vise à fournir une perspective diversifiée à notre travail. »
Le comité est d'aider à résoudre certains des défis Google apparu dans les principes de l'intelligence artificielle pour guider le développement et l'utilisation de la recherche et le développement de produits de sa publication. Tels que la reconnaissance faciale, l'apprentissage machine certains des facteurs inquiétants. Un point à noter est que la mise en place de la Commission est d'analyser les questions éthiques liées à l'intelligence artificielle sous plusieurs angles, tandis que les non-membres de l'extérieur du comité des employés de Google qui ont diverses origines:
Alessandro Acquisti, les économistes du comportement, chercheur de la vie privée, professeur Carnegie Mellon University de la technologie de l'information et des politiques publiques.
Bubacarr Bah, l'application et mathématicien de calcul, agrégé supérieur de recherches, président de la recherche allemande Institut sud-africain des sciences mathématiques (AIMS) de la science des données importante.
Wu Kai, la technologie de la musique et des experts d'apprentissage automatique, Kong Université du professeur des sciences de l'informatique et du génie, Institut informatique à Berkeley chercheurs internationaux en suspens Les.
Dyan Gibbens, les systèmes sans pilote et des experts en génie industriel, sans pilote Trumbull PDG de l'entreprise, la société axée sur l'automatisation, les données, l'énergie et la défense de la reprise de l'environnement.
Joanna Bryson, la psychologie et l'éthique de l'expert en intelligence artificielle de, Professeur agrégé Département des sciences informatiques, Université de beaucoup conseiller en intelligence artificielle de Bath.
Kay Coles James, Président de la Fondation du patrimoine, a servi d'experts en politiques publiques à tous les niveaux de gouvernement aux États-Unis.
Luciano Floridi, philosophe, experts en éthique numérique, et de l'éthique de l'information au professeur de philosophie de l'Université d'Oxford, l'éthique numérique pour guider le laboratoire Oxford Internet Institute, Président du Groupe numérique éthique Alan Turing Institut.
William Joseph Burns, experts en politique étrangère, ancien secrétaire d'Etat adjoint américain, président de la Fondation Carnegie pour la Fondation internationale pour la paix.
membres Google AI du comité d'éthique
Comité composé du personnel du monde universitaire, des affaires, la politique et arrière-plans différents. Google initialement prévu que la première session des huit membres des quatre réunions d'Avril jusqu'à la fin de 2019 a expiré. Mais dès le 31 Mars, 2019, Alessandro Acquisti sur Twitter a déclaré publiquement quitter ATEAC, envisager de discuter de ces questions importantes éthique d'Amnesty International, l'agence inappropriée. 4 avril 2019, a annoncé la dissolution du comité.
Google a mis en place le Comité d'éthique Comité d'éthique de dissoudre l'expérience Bien que peu de temps, mais il y a plusieurs points qui sont toujours penser une valeur d'environ. Tout d'abord, si le comité d'éthique devrait être composé de gens d'affaires à l'extérieur? En second lieu, la composition du comité d'éthique devrait être comment choisir? Troisièmement, quelles questions doivent discuter du comité d'éthique? Quatrièmement, décider comment rendre l'efficacité du comité d'éthique, l'entreprise est ou devrait être une implémentation de référence directe? Cinquièmement, comment assurer la transparence du Comité d'éthique discuté?
Google se est précipité comité d'éthique démantelée, mais aussi donner aux nouveaux arrivants une pensée, mis en place un comité d'éthique des affaires si elle peut vraiment atteindre l'objectif initial de l'établissement? Comment ça va changer le comportement des entreprises?
De l'utilisateur à l'entreprise, ce qui signifie la géométrie Comité d'éthique?
Compte tenu de la complexité des questions éthiques de l'intelligence artificielle, intelligence artificielle entreprises chinoises, en particulier une partie de la grande quantité de maître de données personnelles de l'entreprise, vous pouvez envisager la création d'un comité spécial d'éthique de l'intelligence artificielle pour aider les entreprises à faire des choix plus droit lorsqu'ils sont confrontés à des questions éthiques . Comité d'éthique mis en place des sociétés d'intelligence artificielle sont mieux en mesure de réglementer les entreprises connexes, promouvoir le développement sain.
À l'heure actuelle, en effet de nombreuses entreprises et organisations sont engagées dans l'élaboration de politiques pertinentes dans l'éthique de l'intelligence artificielle dans le monde, mais du point de vue, de nombreuses politiques se sont précipités, la plupart de l'intelligence de artificielle des principes éthiques sous serment ou sur le papier, l'absence de cadre institutionnel approprié pour les entreprises réflexion dans, résoudre des problèmes pas réellement d'affaires rencontrés dans le développement ou l'absence de perspective prospective, le développement futur ne peut pas supprimer les obstacles qui peuvent être rencontrées.
Source: Vision Chine
Le comité d'éthique mise en place du système d'intelligence artificielle pour analyser et arrangements de maquillage pour les questions d'éthique dans la perspective du développement des entreprises, pour aider les politiques d'éthique appropriées et une meilleure mise en uvre de l'intelligence artificielle du niveau du système, et pour aider à déterminer la direction future du développement.
D'un comité ont mis en place de l'intelligence artificielle correspondant point de vue pratique, non seulement Google, de nombreuses entreprises étrangères. société de l'intelligence artificielle de Google profonde, ind établi comité d'éthique et de sécurité, mais n'a pas révélé la composition des membres du Comité DeepMind au monde extérieur, sujet de discussion, même si elles ont eu une réunion formelle et d'autres questions.
Microsoft a ses propres principes de l'intelligence artificielle, l'intelligence artificielle et mis en place des comités d'éthique Microsoft'sAI et éthique en génie et de la Recherche (AETHER) en 2018, Le comité composé de cadres au sein de l'entreprise, en développant activement les politiques internes, et décider comment traiter les nouveaux enjeux de façon responsable. études amazoniennes ont été financés par la National Science Foundation, « juste l'intelligence artificielle », Facebook et le centre de recherche de l'Université technique de Munich ont établi conjointement l'éthique de l'intelligence artificielle.
Intelligence artificielle Comité d'éthique devrait inclure des scientifiques, des chefs d'entreprise et profession éthique / juridique. Dans la pratique, cette plus proche approche, les gros titres aujourd'hui a été créée en 2018, « Le Technology Strategy Board » , la Commission essentiellement comprend également les fonctions de la part du comité d'éthique de l'ours mentionné ci-dessus, et son but est « de mieux permettre technologie de l'intelligence artificielle d'aujourd'hui titres le bénéfice ultime de l'humanité, en même rencontrent temps les défis du développement de la technologie de l'intelligence artificielle, « le premier lot de membres, dont le professeur Turing Award winner, professeur JohnE.Hopcroft, Académie chinoise d'ingénierie, Fondation nationale adjointe des sciences naturelles de Chine Ren Gaowen et l'Académie des Sciences de Chine professeur Zhang Bo.
Du point de vue des affaires, les entreprises mis en place comité d'éthique de l'intelligence artificielle, peut aider les entreprises à la collecte de données, le traitement et l'utilisation de prendre des règlements, afin de protéger les droits et les intérêts des utilisateurs et de réduire les risques de conformité, les intérêts des entreprises PROTEGER. Plus précisément, les informations transmises par le processus utilisateur au système, il doit être standardisé pour la collecte d'informations, y compris des informations qui peuvent être collectées, comment collecter les autres.
Pour les obligations relatives aux droits des utilisateurs éclairés dans ce processus, et si elle pouvait accepter le retransfert d'autres questions. Comité d'éthique composé de l'intelligence artificielle peut aider les entreprises à améliorer la politique de confidentialité, y compris les normes pop et contenu sous licence, le financement de la recherche appropriée, l'introduction de livres blancs de protection de la vie privée appropriée.
l'entreprise a mis en place un comité spécial d'éthique de l'intelligence artificielle, mais aussi de mieux protéger les données personnelles des utilisateurs à l'autodétermination et le droit de savoir du point de vue de l'utilisateur,. Les utilisateurs ont des raisons de l'inquiétude sur la façon dont les entreprises gèrent les données utilisateur, des informations particulièrement sensibles et des données privées.
Multi-performé lorsque le comité d'éthique mis en place l'intelligence artificielle pour aider les entreprises à mener à bien la prise de décisions éthiques intelligence artificielle des considérations morales, et conformément aux lois et règlements des temps, par des normes et des contraintes de comportement des entreprises, renforcer la protection des données personnelles.
Guo Rui (professeur associé de l'Université Renmin de Chine École de droit, directeur de la responsabilité sociale et la gouvernance du Centre de recherche Institut de l'Etat de droit dans l'avenir), (Maître de l'Université Renmin de droit Chine) Liuya Jie, Li Yi (Master de droit, Université Renmin de Chine)
Voir les nouvelles connexes: http: //www.sohu.com/a/273845834_395737
https://www.theguardian.com/technology/2017/jan/26/google-deepmind-ai-ethics-board
https://www.theverge.com/2019/4/3/18293410/ai-artificial-intelligence-ethics-boards-charters-problem-big-tech
https://news.microsoft.com/2018/03/29/satya-nadella-email-to-employees-embracing-our-future-intelligent-cloud-and-intelligent-edge/
https://newsroom.fb.com/news/2019/01/tum-institute-for-ethics-in-ai/
Voir les nouvelles connexes: http: //news.hexun.com/2017-12-01/191838791.html
Edit: Fan Nana
Commenté par: Liu Jun
Contribution, coopération, Contact: futurecity@xjbsmartcity.com
