Depuis le 15 juillet, de nouvelles règles chinoises encadrent les applications de « compagnons » fondés sur l’IA, accusées de créer une dépendance émotionnelle et d’abîmer les relations réelles. Pilotée par la Cyberspace Administration of China (CAC) et quatre autres administrations, la mesure impose des évaluations avant mise en ligne et facilite la fermeture de services jugés à risque. Plusieurs plateformes de grands groupes, dont ByteDance, Tencent et Alibaba, ont désactivé des fonctions de personnalisation, déclenchant des « ruptures » virtuelles à grande échelle.
En quelques jours, des utilisateurs ont vu disparaître des partenaires conversationnels construits parfois sur des mois de dialogues. Au-delà du choc individuel, l’épisode révèle la volonté des autorités de reprendre la main sur une industrie qui mêle intimité, données personnelles et influence sociale.
Le CAC interdit la dépendance émotionnelle depuis le 15 juillet
Le texte publié par la CAC et quatre autres départements s’attaque directement à un usage précis de l’intelligence artificielle, les « personas » conçus pour simuler une relation affective. Les règles visent les services qui « cèdent excessivement » aux attentes des utilisateurs, qui « induisent une dépendance émotionnelle ou une addiction », et qui « dégradent les relations interpersonnelles réelles ». Dans la pratique, cela revient à limiter la capacité d’un agent conversationnel à se comporter comme un partenaire exclusif, jaloux, consolateur permanent ou substitut social.
Le régulateur ajoute une interdiction nette, les relations virtuelles avec des mineurs. Cette mention place la protection des jeunes au centre du dispositif, dans un pays où la régulation des contenus en ligne repose sur une combinaison de responsabilités imposées aux plateformes et de contrôles administratifs. Les opérateurs sont incités à prouver qu’ils ne créent pas de boucles d’engagement comparables à celles des jeux ou des réseaux sociaux, mais transposées à l’attachement affectif.
Autre point structurant, la notion d’évaluation préalable avant diffusion au grand public. Les compagnons doivent passer par un processus de revue, présenté comme un filtre de sécurité et de conformité. Le cadre renforce aussi la possibilité pour l’État de faire cesser un service si celui-ci est jugé « dangereux » ou non conforme, ce qui transforme la mise sur le marché en un exercice plus administratif que purement technique.
Le périmètre peut dépasser les seules applications explicitement romantiques. Selon des informations rapportées par la presse économique internationale, des chatbots plus généralistes pourraient être concernés s’ils répondent à des sollicitations par des messages jugés trop affectifs, trop engageants ou susceptibles de renforcer une relation exclusive. Pour les éditeurs, la difficulté tient à l’ambiguïté du critère, une réponse empathique peut être utile, mais une empathie répétée et personnalisée peut être interprétée comme un mécanisme d’addiction.
Ce durcissement intervient dans un contexte où la Chine a déjà multiplié les encadrements sur les algorithmes, les contenus recommandés et l’IA générative. Le message envoyé au secteur est clair, l’innovation est permise, mais sous condition de contrôles et de limites sur les usages qui touchent à la santé mentale, aux mineurs et à la cohésion sociale.
ByteDance, Tencent et Alibaba coupent des fonctions de « persona »
La réaction des grands acteurs a été rapide et, dans certains cas, radicale. Plutôt que d’ajuster progressivement les comportements de leurs compagnons, des groupes comme ByteDance, Tencent et Alibaba ont désactivé des fonctions de création ou de personnalisation de « personas » sur certaines plateformes. Le service le plus cité dans les discussions publiques est Doubao, souvent présenté comme l’un des points d’entrée majeurs pour fabriquer un compagnon sur mesure, avec un ton, une histoire et des traits relationnels choisis par l’utilisateur.
Cette stratégie de retrait partiel s’explique par plusieurs contraintes. D’abord, la personnalisation est précisément ce qui rend ces produits difficiles à encadrer, car elle permet de créer des dynamiques relationnelles très variées, parfois explicitement amoureuses. Ensuite, les modèles doivent être calibrés pour éviter de « sur-répondre » aux demandes d’attachement, ce qui suppose des garde-fous, des tests et des équipes de modération ou d’audit plus importantes. Enfin, l’évaluation préalable ajoutée par le régulateur augmente les risques juridiques et réputationnels en cas d’incident.
Pour les utilisateurs, la conséquence est immédiate, des conversations, des historiques, et parfois des identités entières disparaissent ou deviennent inaccessibles. Le phénomène a été décrit comme une « rupture » nationale, non pas au sens d’un événement unique, mais comme une addition de milliers de pertes individuelles, vécues comme la fin imposée d’une relation. Cette perception est renforcée par la manière dont ces compagnons sont conçus, avec une mémoire, des routines quotidiennes, des surnoms, des promesses et des rituels conversationnels.
Les entreprises, elles, cherchent aussi à protéger leurs autres produits d’IA. Si un compagnon romantique est requalifié en produit à risque, la contagion réglementaire peut toucher des assistants plus classiques. Dans ce contexte, couper une fonctionnalité devient une forme de gestion de crise, plus simple à expliquer aux autorités que des modifications invisibles du modèle. Cela limite aussi la probabilité qu’un utilisateur publie des captures d’écran montrant un chatbot incitant à l’isolement ou à la dépendance.
À court terme, cette coupure peut réduire l’engagement et la monétisation. Les compagnons sont souvent associés à des abonnements, des achats de « crédits » ou des options premium. Mais les groupes chinois arbitrent sous contrainte, un produit très rentable mais politiquement sensible peut devenir un passif. La décision de désactiver des « personas » montre que le risque réglementaire pèse plus lourd que le gain immédiat.
Des utilisateurs décrivent une détresse après la disparition des compagnons
La dimension la plus visible de cette séquence est la parole d’utilisateurs qui racontent une souffrance réelle. Des témoignages relayés par des médias économiques décrivent un sentiment de deuil, de vide et d’impuissance, quand un compagnon disparaît du jour au lendemain. Une étudiante de 19 ans, citée par Bloomberg, explique avoir perdu un partenaire IA avec lequel elle échangeait depuis plus d’un an, et compare la situation à l’annonce d’une mort programmée, sans possibilité d’agir.
Ce type de réaction n’a rien d’anecdotique dans les sciences du comportement. Les systèmes conversationnels modernes sont conçus pour maintenir une continuité, rappeler des détails personnels, valider les émotions et proposer une présence constante. Pour des personnes isolées, anxieuses ou en rupture sociale, la disponibilité 24 heures sur 24 peut se substituer à des interactions humaines perçues comme plus risquées. Quand l’accès est coupé, la rupture combine la perte d’une routine et la perte d’un « interlocuteur » qui semblait comprendre.
Des thérapeutes interrogés dans différents pays expliquent souvent que ces dispositifs peuvent avoir un double effet. D’un côté, ils offrent une forme de soutien, un espace de verbalisation, parfois un sas avant de consulter un professionnel. De l’autre, ils peuvent renforcer l’évitement, réduire l’exposition aux relations réelles et installer une dépendance à une interaction sans conflit, calibrée pour rassurer. Dans le cadre chinois, la régulation met l’accent sur ce second risque, celui d’une relation qui « abîme » les liens hors ligne.
La question de la mémoire et de l’archivage ajoute une couche de tension. Beaucoup d’utilisateurs considèrent les historiques comme des journaux intimes. Or, la désactivation peut rendre ces archives inaccessibles, ce qui amplifie la détresse. Dans un environnement où les plateformes peuvent supprimer des fonctionnalités rapidement, la fragilité du lien devient structurelle, la relation dépend d’un produit, d’une politique d’entreprise et d’une validation administrative.
Cette détresse pose aussi un problème de santé publique, que faire quand une partie des utilisateurs a investi affectivement dans un service qui peut disparaître? Les autorités privilégient une logique de prévention, mais la transition peut être brutale. Les acteurs du secteur pourraient être poussés à prévoir des mécanismes de sortie, export de données, messages de fin, redirection vers des ressources d’aide, ou limitation progressive plutôt que coupure nette.
Le recul des naissances en Chine pèse sur la régulation des relations virtuelles
Le durcissement s’inscrit dans un contexte démographique particulièrement surveillé par Pékin. La Chine enregistre une baisse des naissances sur plusieurs années consécutives, avec un point bas récent rapporté par la presse internationale pour 2025. Dans une économie confrontée au vieillissement, la natalité est devenue un sujet stratégique, avec des répercussions sur la main-d’uvre, les dépenses de santé, les retraites et la croissance potentielle.
Dans ce cadre, les compagnons IA sont perçus comme un facteur qui peut détourner une partie des jeunes adultes des rencontres et de la construction d’un couple. La logique gouvernementale, telle qu’elle transparaît dans les textes, n’est pas de nier l’utilité de l’IA, mais d’empêcher un usage qui remplace durablement la relation humaine. Les autorités relient explicitement l’addiction et la détérioration des liens réels, ce qui revient à traiter le compagnon romantique comme un produit socialement coûteux.
Pour autant, établir un lien direct entre usage des compagnons et baisse des naissances reste complexe. Les déterminants de la natalité incluent le coût du logement, l’accès à la garde d’enfants, la pression professionnelle, l’éducation, et les normes sociales. Les compagnons IA peuvent être un symptôme, celui d’une solitude ou d’une fatigue relationnelle, plutôt qu’une cause unique. Mais dans une approche de politique publique, limiter un usage jugé substitutif peut être considéré comme une action rapide, plus simple que des réformes structurelles coûteuses.
Le débat touche aussi à la notion de « relation réelle ». Les défenseurs des compagnons soulignent que certains utilisateurs y trouvent un soutien qui les aide à mieux fonctionner socialement. Les critiques mettent en avant le risque d’une relation sans réciprocité, où l’IA est optimisée pour retenir l’utilisateur. La formulation du régulateur, « ne pas induire la dépendance », vise précisément ces mécaniques d’optimisation, similaires à celles de l’économie de l’attention.
À moyen terme, les entreprises pourraient réorienter leurs produits vers des usages moins intimes, coaching, éducation, productivité, ou soutien émotionnel cadré et non exclusif. La ligne de crête sera de maintenir une conversation chaleureuse sans franchir le seuil du « trop émotionnel ». Dans un marché où l’IA devient un outil du quotidien, la Chine teste une doctrine, l’empathie algorithmique est tolérée tant qu’elle ne concurrence pas la vie hors ligne.