Les applis promettaient des rencontres. Beaucoup de profils étaient animés par l’IA

Le chercheur en sécurité Matthew Gore-Kormanik a reçu un appel sur Doni, une application de rencontre, et a décroché. Ensuite, son match lui a écrit comme si c’était lui qui avait appelé, alors que Doni signalait un appel entrant. Gore-Kormanik a raconté cette contradiction à The Verge, qui enquêtait sur plusieurs de ces applications.

Qui avait appelé qui ? L’épisode ne permet pas de le déterminer ni de conclure que ce profil particulier était automatisé. Mais il renvoyait à un système plus vaste, dans lequel poursuivre la conversation pouvait coûter de l’argent.

Une enquête d’Anthropic décrit ce système : Claude rédigeait les messages de personnages fictifs. Les exploitants leur demandaient de cacher qu’ils étaient automatisés, d’esquiver les demandes de photo ou d’appel vidéo et de suivre un déroulement défini. Parmi les profils proposés figuraient aussi des personnes rémunérées, capables d’assurer des appels en direct ou de suivre des utilisateurs sur les réseaux sociaux.

Selon Anthropic, le réseau regroupait plus de 20 applications. Pendant deux semaines en avril 2026, l’entreprise a observé plus de 4 700 personnages d’IA échanger environ 2,36 millions de messages avec au moins 25 000 personnes. Dans la sélection étudiée, on comptait à peu près trois personnages d’IA pour une personne rémunérée. Ce chiffre compte les personnes qui ont échangé des messages, pas celles dont le paiement est établi.

Quand une personne répondait

Ces personnes pouvaient prendre un appel en direct ou suivre quelqu’un sur les réseaux sociaux. Anthropic indique qu’un autre modèle leur proposait de courtes réponses parmi lesquelles choisir. Les personnages d’IA entretenaient les conversations à toute heure ; les personnes rémunérées assuraient les interactions en direct. Voir quelqu’un à l’écran ne révélait pourtant rien sur les autres profils.

Messages automatiques, appels vidéo et contacts réels sur les réseaux sociaux coexistaient donc dans les mêmes applications. L’IA n’avait pas besoin d’imiter une personne de bout en bout. Les sources documentent cette combinaison à l’échelle du réseau, mais pas le passage d’une conversation précise de l’IA à une personne rémunérée.

D’autres signes donnaient l’impression d’un intérêt personnel. Selon Anthropic, les systèmes des applications produisaient des « j’aime » et des visites de profil, puis diffusaient des vidéos préenregistrées lorsqu’aucune personne n’était disponible. Ils repéraient aussi les utilisateurs qui semblaient soupçonner un bot : le même service fabriquait des marques d’intérêt et surveillait les signes de méfiance.

Dans l’enquête de The Verge, Gore-Kormanik a examiné plusieurs applications Android. Il a trouvé du code commun et des systèmes reliés entre Doni, Dora, Jovia, Kira, Nalo et Romi. Doni contenait aussi un manuel interne décrivant des procédures de travail, notamment des moyens d’inciter les utilisateurs à passer des appels. The Verge n’a pas pu confirmer indépendamment toutes les conclusions d’Anthropic, mais son examen a montré que plusieurs des applications citées étaient techniquement liées.

Payer pour poursuivre la conversation

Selon Anthropic, les mises en relation et les messages consommaient un quota ; les utilisateurs pouvaient acheter des crédits pour continuer. The Verge a également examiné le parcours de paiement. Prolonger la conversation constituait déjà le service payant.

Payer pour discuter avec un personnage d’IA peut être un choix éclairé lorsque le service annonce clairement ce qu’il propose. Ici, de nombreux profils automatisés n’étaient pas signalés comme tels. Une personne qui espérait en rencontrer une autre pouvait dépenser des crédits sans savoir si un personnage d’IA ou une personne rémunérée lui répondait. Le service décidait qui — ou quoi — se trouvait de l’autre côté de la conversation.

Claude générait une grande partie des réponses. Mais ce sont des personnes qui ont conçu les applications, fixé les règles de paiement et demandé aux personnages d’IA de cacher leur automatisation. Anthropic précise que le modèle ne pouvait pas voir l’ensemble du dispositif commercial à partir d’une seule conversation. La tromperie n’est pas née d’une réponse spontanée du modèle : elle était intégrée au service.

Il n’existe aucun total vérifié des sommes dépensées ou perdues par les utilisateurs. Anthropic affirme avoir fermé les comptes liés à l’opération et transmis ses conclusions aux boutiques d’applications et à d’autres fournisseurs d’IA. Certaines fiches ont ensuite disparu, mais les motifs de chaque retrait et la situation du réseau dans son ensemble restent incertains.

Les utilisateurs voyaient que poursuivre la conversation pouvait coûter des crédits. Ils ne voyaient pas qui leur répondait.