Pas assez bon vaut mieux que ne rien faire mieux.

Auteur | Rachel

Modifier | Camel

Deepfake, le champ AI « grand cancer », attire de plus en plus contre-attaque de l'industrie.

Heure locale le 6 Janvier 2020, vice-président de la gestion de la politique globale Facebook Monika Bickert a déclaré dans un blog, Facebook va supprimer respecter ses normes Deepfake vidéo. Ceci est la « manipulation des médias » sur les plates-formes de grève Facebook (manoeuvré Media) de la dernière action.

Source: Washington Post

Monika Bickert a déclaré:

Bien que Deepfake vidéo est actuellement encore rares sur l'Internet, mais il augmentera le nombre de grands défis pour l'industrie et de la société.

1, ce qui est Deepfake?

Deepfake, vous plus ou moins susceptibles d'avoir entendu le nom.

À la fin de 2017, un site nouvelles sociales US utilisateur Reddit Deepfakes l'utilisation de la technologie de l'intelligence artificielle, ce qui rend une vidéo porno de « faux », l'actrice visage de Cal Gadot « Wonder Woman » greffée à une actrice de films pour adultes qui, pendant un certain temps il a fait sensation.

En fait, la greffe du visage est assez fréquent dans le domaine de la vision par ordinateur, AI mentionné méthode de greffe du visage, un pas ouvert autour du sujet est une importante tentative du cycle face GAN-- dans la conversion précoce. Cycle GAN par le modèle d'apprentissage en profondeur GAN (générative accusatoire Networks, qui a généré contre réseau) dérivé peut être converti facilement apprendre la relation entre les deux catégories, donc applique naturellement à « l'image à la conversion d'image. »

Cependant, le cycle GAN assurer un changement dans la sémantique, mais pas de méthode pour veiller à ce que certains des détails, mais le plus de points importants est l'expression ne peut pas être sans signification mixte d'un pixel apparaît.

Contrairement au cycle GAN, Deepfake est un modèle de profondeur codec automatique (Autoencoder-décodeur), au moins des centaines d'images avec le caractère source et le caractère cible, identifiant chaque modèle de formation, la capacité de restaurer les deux faces, et enfin avec une source photos de caractère avec le décodeur de personne cible pour terminer la conversion.

Source: GitHub

Bien sûr, il y a des limites Deepfake - ne fonctionne pas sur un petit échantillon, qui ne peut être remplacé par douze photographies sur deux faces, les modèles de processus de formation doivent également consommer beaucoup de ressources.

AI Technology Review a appris qu'en raison de les Deepfakes de greffe du visage de l'utilisateur de créer et télécharger des vidéos de pornographie et de violation de la vie privée d'autrui, reddit son titre officiel, et en représailles, Deepfakes devront faire face à la transplantation du code AI pour le public vidéo gratuit.

La boîte de Pandore a été ouverte, Deepfake commencer par le taux alarmant de développement, l'effet de la greffe du visage réaliste et entraînant finalement l'impact négatif négatif sur la société. sécurité réseau néerlandais start-ups Deeptrace avait en Octobre 2019 a publié un rapport sur l'état de Deepfake (voir AI Technology Review précédemment), et a souligné que le réseau existant de Deepfake vidéo 96% de matériel pornographique, majeur porno Deepfake vidéo circulant sur le site Web, toutes les victimes étaient des femmes, en même temps, les célébrités de divertissement deviennent la cible principale de la vidéo de Deepfake.

En outre, l'impact Deepfake la situation politique ne peut pas être sous-estimée, ce qui est le plus deux exemples typiques:

• 2018, par le président gabonais Ali Bongo synthétique Deepfake Nouvelle vidéo de l'adresse de l'année a provoqué une mutinerie;

• 2019, ministre de l'Economie de la Malaisie Azmin Ali et vidéo ont des rapports sexuels avec des hommes agité la situation politique en Malaisie (Note: même sexe des relations sexuelles en Malaisie est illégale, Azmin Ali a prétendu être forgé par la technologie vidéo Deepfake, est une conspiration politique);

En tant que fondateur de la sécurité du réseau Pays-Bas Deeptrace et directeur scientifique Giorgio Patrini a déclaré:

Que ce soit la vidéo, audio ou texte, nous avons été dépendants de la confiance et une pluralité de canaux de communication numériques ont été subverti.

2, gouvernement , Entreprises, universités force commune

Développement Deepfake vidéo de panique et de réflexion naturellement déclenché. Par conséquent, les grandes entreprises technologiques ont commencé à faire une action communautaire académique commune afin d'éviter un impact négatif plus profond.

Comme le College of Engineering et sciences appliquées Université d'État de New York Professeur Lv Siwei a déclaré:

La nécessité pour le personnel technique pour résoudre ce problème, gouvernement Les institutions, les médias, les entreprises et les efforts conjoints de chaque utilisateur en ligne.

5 septembre 2019, Facebook CTO Mike Schroepfer a annoncé, Facebook travaille avec des combinaisons Microsoft incluent le Massachusetts Institute of Technology, l'Université d'Oxford, campus de Cornell et Berkeley technologie, y compris les méthodes de recherche pour détecter Deepfake des universités, alors que le non à but lucratif partenariat organisme de recherche sur la grippe aviaire ont également été impliqués, notamment Google, Apple, Amazon, IBM et d'autres grandes entreprises technologiques les membres de l'organisation.

En outre, Facebook a investi 10 millions $ pour lancer « Deepfake détecter Challenge » (Deepfake détection Défi, dFdC), concours de NeurIPS tenue à Vancouver à la fin 2019 sur 2019 a officiellement commencé et a pris fin en 2020 au printemps, puis les chercheurs Motiver et amateur les amateurs de trouver une solution.

Mois, Google AI open source jeu de données de détection Deepfake vidéo, l'ensemble de données contient les acteurs en direct à partir de 28 scènes différentes a duré 1 année tournage sur place 30 Plus de 00 vidéos.

Au début Octobre 2019, la commission du renseignement du Sénat américain a convoqué Mark Warner et Marco Rubio, y compris Facebook, Twitter, YouTube, Reddit et LinkedIn, dont 11 personnes en charge des entreprises technologiques, vise à accélérer le développement des normes de l'industrie, les normes de contenu synthétique AI Partager, supprimer, et l'archivage. La fin, Twitter a publié un projet de plate-forme a l'intention d'effectuer et de solliciter publiquement les opinions des utilisateurs.

Comme mentionné au début de cet article, Facebook a récemment publié un blog, décrit une nouvelle politique pour la vidéo Deepfake.

Blog mentionné, Facebook supprimera manipuler les médias répondent aux critères suivants:

• montage vidéo excessive ou synthétique, les téléspectateurs en leur faisant croire vidéo induire en erreur que les personnages disent ce qu'ils ont fait pas dire les mots;

• L'intégration de matériel vidéo existant par AI ou par des techniques d'apprentissage machine remplacer ou de superposition vidéo généré.

Il est à noter que pour la vidéo ne répond pas aux critères ci-dessus, le fait que les inspecteurs tiers examinera (y compris plus de 50 partenaires dans le monde entier Facebook utiliseront 40 langues pour vérification). Si la vidéo est considérée comme fausse section ou faux, Facebook permettra de réduire considérablement la propagation Nouvelles flux RSS, l'utilisateur recevra des alertes lorsque le partage vidéo.

Pendant ce temps, Facebook a déclaré la nouvelle politique ne concerne pas le contenu vidéo impliquant la parodie ou la satire, et ne fait la coupe ou modifier l'ordre de la vidéo parler.

3, Facebook nouvelle politique controversée

Think tank américain Centre pour une nouvelle sécurité américaine et la technologie CNAS Programme de sécurité nationale directeur  Paul Scharre a averti que:

Deepfake très destructeur, l'utiliser pour manipuler l'élection juste une question de temps.

Par conséquent, l'entrée 2020, avec l'élection présidentielle américaine actuelle approche, la plus grande plate-forme de médias sociaux du monde, déplacer Facebook prend naturellement en compte les facteurs politiques.

AI Technology Review a appris, le blog de Monika Bickert en cause avant qu'elle était sur le point d'assister à une audience du Congrès sur la manipulation et la tromperie réseau, cela peut ne pas être une coïncidence - de l'élection 2020 seulement 10 mois, peu, voire une classe politique les gens sont satisfaits du rôle joué Facebook dans le processus démocratique, a annoncé la politique semble être de prouver leur capacité à Facebook aux autorités.

En parlant de la politique, rappelez-vous, en 2019 certains démocrates américains la vidéo de la parole de Nancy Pelosi a été une parodie (vitesse vidéo est réduite à 0,75x, le ton Nancy Pelosi a également été soulevée) pour la faire ressembler à un état d'ivresse. Bientôt, cette vidéo se propage à travers les réseaux sociaux, l'image des partis a causé un grand impact.

À cet égard, Facebook a dit que dans le cadre des clips vidéo de routine, ne viole aucune disposition de la plate-forme, et ne sera donc pas supprimé, mais, compte tenu de ses effets négatifs, Facebook a réduit la propagation de la plate-forme vidéo.

Cette pratique conduit à de nombreuses critiques, et Facebook lancement du « New Deal » pour une stratégie similaire l'année dernière n'a pas la vidéo Nancy Pelosi de fausses informations données convaincante, si controversée, principalement en raison du conflit sont les suivantes:

Tout d'abord, l'article 1 de la norme ne concerne que les « téléspectateurs pensent à tort les personnages de la vidéo ont dit qu'ils ne disent pas vraiment les mots » vidéo , Cela ne comprend pas ceux des personnages vidéo public Mistook-ils avaient effectivement pas fait la vidéo Deepfake.

En fait, cela est une grande lacune. Selon la déclaration de Facebook, même s'il y a un politicien vidéo Deepfake brûlant le drapeau américain, de participer aux rassemblements nationalistes blancs, ou serrer la main avec les terroristes, Facebook ne supprimera pas la vidéo. Bien que ce qui précède sont des « circonstances extrêmes », mais en termes de politique étrangère, la sécurité nationale et l'intégrité des élections, ce sont souvent les plus critiques. Embarrasser est que, Facebook est en effet un porte-parole pour les médias payés OneZero a confirmé aux États-Unis, dans ces circonstances, ne supprime pas la plate-forme vidéo.

La seconde, la deuxième information fausse norme finie pour contrôler la diffusion des résultats Parce que, à ce stade est encore la grande majorité de cette vidéo grâce à un logiciel de montage vidéo pour modifier, supprimer ou des informations de fond en réglant manuellement l'ordre des mots, le clip vidéo atteint la destination qu'ils étaient « hors contexte » de. Comme New York Stern de l'Université d'affaires et adjoint Centre des droits de l'homme directeur expert de l'information fausse politique Paul Barrett a dit:

Selon la nouvelle politique de Facebook, même si la vidéo est faux, mais les moyens ne sont pas avancé en raison d'une altération, il ne sera pas supprimé.

Troisièmement, le Facebook est mentionné « la politique de vérification de fait » dans le blog, il y a de sérieuses limites. États-Unis, le magazine « Connexion » écrivain Renée DiResta dit:

Un problème majeur est le fait que la politique de vérification trop lent, avant d'établir les faits, la vidéo a été virale, et si elle vient à la politique, la plupart des gens ne croient pas les résultats de la vérification des faits, qui peut même être mis à jour à la fête différend.

Un bon exemple est le fait que lorsque le mécanisme de vérification --2019 années de démarrage Facebook, vidéo Nancy Pelosi a été largement diffusé, mais a finalement échoué à supprimer, l'impact négatif ne se réduit pas, face à la violence de réseau, Nancy Pelosi a également accusé équipe Donald Trump a également une responsabilité incontournable (note: la vidéo Nancy Pelosi parler de Donald Trump).

Quatrièmement, la seule politique pour la vidéo. Récemment, le membre du Congrès républicain de l'Arizona Paul Gosar fait par un ancien président serrer la main de Barack Obama avec photos de faux président iranien sur Twitter. Facebook a confirmé qu'il est en effet pas dans le cadre de la nouvelle politique vise.

Cinquièmement, le plus gros défaut est que la politique ne concerne pas la parodie ou la satire vidéo. En effet, les fabricants utilisent souvent de fausses informations label « satire » pour faire une reprise, et repassa la vérification des faits Facebook, la diffusion virale du message avec un clair trompeur. À moins d'une définition claire de ce qui compte comme Facebook « satire », sinon la vidéo Deepfake à travers la « ironie » du nom sous de faux prétextes est impossible.

Sixièmement, la politique peut se plier aux riches et puissants aussi. Selon le « New York Times » a rapporté qu'un porte-parole de l'e-mail Facebook dit:

Si les discours politiques dans l'intérêt public, Facebook ne sera pas examinée. Si les hommes politiques, en violation des dispositions de la plate-forme, nous allons évaluer la « valeur d'intérêt public et risque de préjudice » par le biais des compromis.

À cet égard, « New York Times » que le soi-disant « valeur d'intérêt public et risque de préjudice » vaguement défini, mais il est certain que les politiciens sont protégés classe. Il semble que les politiciens manipulent les médias sociaux, il semble plus probable que la personne moyenne.

Lorsque les voix de la critique, certains disent que l'affirmation de cette politique.

Par exemple, un directeur de projet organisme sans but lucratif Sam Gregory a dit FOI:

Je pense que cette politique bien avant, dans Deepfake devenu un problème commun, une plate-forme sociale doit d'abord position claire, annoncent leurs politiques spécifiques, il est très important.

De plus OneZero pense, n'est pas assez bon vaut mieux que ne rien faire mieux, au moins la nouvelle politique Facebook de prendre en compte une partie de la vidéo typique Deepfake peut se produire, ce qui revêt une importance politique positive. En effet, la majorité d'aujourd'hui Deepfake impliqués dans la pornographie, plutôt que politique, mais Facebook a été l'interdiction de la nudité et la pornographie en fait, ont un bon effet.

Dans AI Technology Review semble, Facebook a été une entreprise commune, les milieux universitaires, gouvernement Les efforts déployés, en effet démontré sa responsabilité sociale comme le plus grand des médias sociaux du monde, mais je dois dire, le visage de tant de femmes, des célébrités souffrent le Deepfake, le blog de Facebook comme un irréfléchies, main pressée en réponse.

Pour éviter efficacement les groupes de victimes beaucoup plus grandes, ont peut-être réfléchir à deux fois.