Récemment, la police de Baotou a publié un cas de fraude aux télécommunications utilisant l'IA. Le 20 avril, M. Guo, propriétaire d'une entreprise à Fuzhou, a soudainement reçu un contact vidéo WeChat d'un « ami », le compte de l'entreprise a été débité.
M. Guo n'était pas trop sceptique. D'une part, il a fait confiance à son ami et a confirmé l'identité de l'autre partie dans le chat vidéo. De plus, l'autre partie a également envoyé une capture d'écran du bordereau de virement bancaire et a transféré 4,3 millions yuans en moins de minutes 10. Accédez au compte spécifié. En conséquence, lorsqu'il a contacté son ami par téléphone, M. Guo a découvert :
J'ai été trompé.
Vous pouvez difficilement reprocher à M. Guo d'être « négligent ». Les détails publiés par la police mentionnaient que les escrocs avaient directement volé le WeChat de l'ami de M. Guo, "simulé" l'ami de M. Guo grâce à la technologie intelligente de changement de visage et d'onomatopée, puis lancé un chat vidéo WeChat. Et du point de vue du processus, l'escroc peut avoir une certaine compréhension des amis de M. Guo et même de M. Guo via les enregistrements de chat WeChat ou d'autres canaux, sinon il ne prétendrait pas à tort que l'enchère nécessite un énorme dépôt.
"Amis WeChat, chat vidéo, comment empêcher cela ?" Un internaute a fait part de ses inquiétudes. Après l'annonce de l'incident, la fraude à l'IA a rapidement suscité de nombreuses discussions et partages, et le sujet "La fraude à l'IA éclate à travers le pays" s'est une fois précipité au sommet de la recherche à chaud de Weibo.
Il est compréhensible que dans de nombreux incidents de fraude en télécommunications dans le passé, de nombreux escrocs prétendaient être des parents, des camarades de classe ou des amis et utilisaient des routines étape par étape pour tromper la confiance des victimes. Tant que nous avons un contact vocal et vidéo avec notre famille et nos amis en personne, la plupart des escroqueries seront vouées à l'échec.
Mais maintenant, la voix et la vidéo sont également peu fiables et deviennent de moins en moins crédibles.
Son, image, vidéo, génération accélérée de tout par l'IA
C'est un fait incontestable que l'IA a changé la fraude.
En plus du cas de M. Guo, les médias étrangers Gizmodo ont également signalé un incident de fraude à l'IA plus tôt. La voix du PDG d'une entreprise énergétique britannique a été recueillie par des escrocs à son insu. Ensuite, les escrocs ont synthétisé le matériel sonore acquis avec AI, puis ont utilisé l'échappatoire du transfert téléphonique pour transférer 220000 livres sur leur compte dans un pays étranger.
Selon le PDG, il a également été surpris lorsqu'il a entendu cette voix synthétisée par l'IA, car Cette voix non seulement imitait son ton de parole habituel, mais avait même un peu de son habitude orale.
Imiter la voix d'une personne n'est pas nouveau pour l'IA. Au début de cette année, Microsoft a lancé le modèle vocal VALL-E, qui peut même copier la voix de n'importe qui en seulement 3 secondes, maintenir le ton et même imiter l'arrière-plan environnemental.
Figure/Microsoft
Évidemment, cette technologie ne peut pas voler dans les maisons des "gens ordinaires", mais les gens ordinaires peuvent déjà utiliser certaines technologies de synthèse vocale open source pour synthétiser des voix réelles et sans faille basées sur une grande quantité de données vocales. Par exemple, Bark, un outil avec fonction de synthèse vocale, En plus du son et de la couleur proches des personnes réelles, des bruits de fond et des effets tels que des rires, des soupirs et des cris très réalistes peuvent également être ajoutés.
Au cours des deux derniers mois, "AI Stefanie Sun" est également devenu populaire sur les principales plateformes vidéo. Un grand nombre de créateurs d'IA ont utilisé "AI Stefanie Sun" pour couvrir des uvres de différents genres, et de nombreux internautes ont "reconnu ces chansons", parmi lesquels "la version "AI Stefanie Sun" de "Hair Like Snow" compte près de 2 millions de vues sur une seule plateforme de Station B.
Figure/capture d'écran de la station b
L'abaissement du seuil technique donne également une chance aux criminels. Dans le cas de M. Guo, l'escroc a volé le WeChat de son ami, et une grande quantité de matériel sonore était également facilement disponible.Il n'est pas étonnant que M. Guo n'ait jamais rencontré de problèmes avec la voix de son ami du début à la fin.
Bien sûr, en ce qui concerne le chat vidéo, le cur de notre jugement d'authenticité est "regarder le visage". Après tout, notre voix changera quand nous serons malades, et la réduction du bruit des téléphones portables n'a pas été bien résolue .
Dans le même temps, le visage est également plus facile à gagner notre confiance.
Cependant, la technologie de l'IA face à l'évolution est en réalité très mature. L'agence de presse Xinhua a rapporté un jour que le coût de synthèse d'une vidéo dynamique se situe entre le yuan 2 et le yuan 10. Pour les plates-formes de diffusion en direct à grande échelle, le prix d'achat d'un ensemble complet de modèles prenant en charge le changement de visage en temps réel est de 35000 yuan, et peut atteindre un retard et un taux d'erreur très faibles.
En plus des escrocs utilisant la technologie de changement de visage de l'IA pour prétendre être d'autres personnes, dans le streaming en direct, de nombreux présentateurs ont récemment utilisé le changement de visage de l'IA pour remplacer leurs visages par des "stars" avec plus de popularité et de trafic. des "stars" peut aussi être qualifiée d'un autre type de fraude. Mais plus important encore, cet incident montre que le coût du changement de visage de l'IA est déjà assez faible.
Photo/Réseau d'information de Chine
Le développement de l'IA générative peut non seulement rendre M. Guo incapable de distinguer la voix et l'apparence de ses amis dans les chats vidéo, mais aussi faire de l'IA Stefanie Sun un outil de premier ordre, permettant à chacun de changer de visage avec une seule touche sur son téléphone portable.
Les gens ont raison de s'inquiéter de l'IA, et même Stefanie Sun elle-même a déclaré dans une déclaration contre "AI Stefanie Sun", "Vous pouvez objecter que je peux encore faire la différence, il n'y a pas d'émotion, pas de tonalité et de souffle (ou tout autre terme que vous peut penser). Désolé, je soupçonne qu'il s'agit d'une réponse à très court terme."
L'IA change la fraude, comment les gens ordinaires y font-ils face ?
Pour en revenir à la question de la fraude dans les télécommunications, il existe une infinité de méthodes d'escrocs, et la technologie de l'IA rend la fraude difficile à prévenir. En plus de la réglementation et des conseils des agences de réglementation, bien que les gens ordinaires ne puissent pas affecter le taux d'évolution de la technologie de l'IA, il y a encore certaines choses que nous pouvons faire face à la fraude à l'IA.
Tout d'abord, protégez les informations personnelles.
Dans l'affaire de fraude de M. Guo, le vol du WeChat de son ami est sans aucun doute un facteur extrêmement critique.
Aujourd'hui, WeChat est depuis longtemps devenu l'une des méthodes de contact les plus importantes pour tous les Chinois. Par défaut, on ne s'attend pas à ce qu'il soit volé, en particulier pour les personnes qui se connaissent, il est facile d'être trompé pour transférer de l'argent. Non seulement cela, mais il existe également une grande quantité d'informations personnelles, de voix, de fichiers et éventuellement de vidéos de portraits et de cartes d'identité stockées sur WeChat, nous devons donc les gérer avec prudence.
En plus de WeChat, nous devons également réaliser qu'à l'ère de l'IA, les données personnelles de confidentialité deviendront de plus en plus importantes.
Deuxièmement, vérifiez l'identité de l'autre partie.
L'IA a rendu plus difficile que jamais la vérification des identités. Après tout, tout, des voix aux visages, peut être synthétisé, et la technologie est toujours optimisée de manière itérative. Bien que se rencontrer en personne puisse éviter les escroqueries par l'IA, c'est clairement irréaliste. Un grand nombre de nos interactions avec la famille, les amis et les collègues ont migré vers Internet, y compris d'innombrables transactions.
Nous ne pouvons qu'apprendre à nous adapter, en particulier pour les transferts de gros montants, nous ne pouvons pas nous fier uniquement au visage et à la voix de l'autre partie, mais nous devons confirmer par différents canaux, tels que les appels téléphoniques et WeChat. Si possible, il est préférable de poser plus de questions, de préférence uniquement connues des deux parties.
Troisièmement, appelez le 110 à temps pour appeler la police.
Les ruses de la fraude télécom n'ont cessé d'émerger.Beaucoup de gens pensent avec confiance qu'ils ne seront pas trompés, mais la réalité nous dit que tout le monde a la possibilité d'être trompé. Et après avoir découvert que nous avons été trompés, nous avons encore une chance de récupérer la perte.Bien que M. Guo ait été trompé de 4,3 millions, il a intercepté et restitué plus de 3 millions en raison d'un signalement opportun à la police. Après tout, ce sont les policiers qui connaissent le mieux la fraude électronique.
Mais franchement, en réalité, la fraude à l'IA est encore trop difficile pour nous, les gens ordinaires, en particulier l'étape clé de la vérification d'identité, qui ne deviendra que de plus en plus difficile avec l'itération de l'IA.
La bonne nouvelle est que le niveau réglementaire suit également. Avec l'apparition de l'IA, les pays du monde entier prêtent attention aux problèmes de sécurité et de réglementation de l'IA. ", souligne également la sécurité et la crédibilité des ressources de données, du contenu généré, des informations des utilisateurs. et d'autres aspects.
