Character.AI vient de se placer sous la protection de la loi sur les faillites, et ses actifs sont mis en vente sous la supervision d’un tribunal américain. Parmi ces actifs, il y a potentiellement les conversations de millions d’utilisateurs, dont certains y ont parlé de leur santé mentale, de leurs peurs ou de leurs relations. Personne ne sait pour l’instant qui récupérera quoi.

Cette affaire pose une question plus large. Les échanges avec un assistant IA sont-ils aussi privés qu’on le croit ?

Une confiance mal placée

Beaucoup d’utilisateurs ignorent comment leurs échanges sont traités. Une enquête commandée par DuckDuckGo et publiée en août a interrogé 1 944 adultes américains. Plus de la moitié (53 %) ne savaient pas si leurs conversations servaient à entraîner les chatbots. C’est pourtant le cas dans de nombreux services. Un quart seulement des répondants savaient que ces conversations peuvent être réclamées par la justice dans le cadre d’une procédure.

Chez les personnes qui se disent passionnées d’IA, 56 % affirment avoir confié à un chatbot quelque chose qu’elles n’avaient jamais dit à un proche, un collègue, un médecin ou un thérapeute.

Lire Aussi : Comment verrouiller une conversation ChatGPT avec un code PIN

Le cas Character.AI

Character.AI permet de discuter avec des personnages personnalisables. Certains y évoquent des pensées suicidaires, y partagent leur âge, des appels vocaux ou des difficultés sentimentales.

Depuis la faillite, la valeur de l’entreprise repose en grande partie sur son modèle de langage, que les utilisateurs ont contribué à entraîner en créant des personnages et en discutant avec eux. Reste à savoir ce qu’il adviendra des données des comptes.

Aux États-Unis, une société peut céder des données personnelles si sa politique de confidentialité l’autorise. Celle de Character.AI reste très floue. Elle indique que « certaines informations » peuvent être transmises en cas de vente, sans préciser lesquelles. Le Bureau du Trustee américain, rattaché au département de la Justice, demande la nomination d’un médiateur pour la protection des consommateurs. Celui-ci conseillerait le juge, qui pourrait ensuite limiter la vente des « dossiers » de l’entreprise, y compris les données des utilisateurs.

Des pratiques très variables selon les services

Les différences entre les chatbots portent sur 4 points : L’entraînement sur les conversations est-il activé par défaut ? Des relecteurs humains peuvent-ils lire les échanges ? Pendant combien de temps les conversations sont-elles conservées ? Servent-elles à la publicité ?

Les grands acteurs publient des réglages de confidentialité, mais leurs propres documents reconnaissent que les conversations des comptes grand public peuvent servir à l’entraînement, être lues par des humains, ou les deux. Plusieurs proposent d’ailleurs des offres pour les entreprises où les échanges ne servent pas à entraîner les modèles. Cette différence de traitement laisse penser que les comptes individuels offrent moins de garanties.

Certains services, dont OpenAI, permettent de désactiver l’entraînement sur ses conversations. La documentation d’OpenAI précise toutefois que cette option ne supprime pas les conversations elles-mêmes.

Lire Aussi : Pseudonymisation : utiliser ChatGPT, Claude ou Copilot sans exposer ses clients

3 façons dont vos données peuvent être exposées

Les conversations avec un chatbot peuvent sortir du cadre privé de plusieurs manières : 

1. Les bugs informatiques

En mars 2023, une faille dans la bibliothèque open source redis-py a permis à certains utilisateurs de ChatGPT de voir les titres des conversations d’autres personnes, et parfois le premier message d’un nouvel échange. Plus de 1 % des abonnés ChatGPT Plus actifs pendant une fenêtre de 9 heures ont pu voir leurs informations de paiement exposées. Cela incluait le nom, l’adresse e-mail, l’adresse de facturation, le type de carte, les quatre derniers chiffres et la date d’expiration.

2. Le partage des conversations

Certains chatbots proposent de partager une conversation par lien, ce qui peut la rendre publique, volontairement ou non. Les moteurs de recherche se chargent ensuite de les indexer. Selon Forbes en 2025, Google affichait plus de 370 000 conversations Grok après que des utilisateurs avaient cliqué sur « partager ». Des conversations ChatGPT partagées sont aussi apparues dans les résultats de recherche, jusqu’à ce qu’OpenAI retire cette option.

3. L’intégration des conversations aux données d’entraînement

Il est courant de coller un message reçu dans un chatbot pour lui demander de rédiger la réponse. L’en-tête et la signature contiennent souvent un nom et une adresse. Si le message d’une même personne est collé des centaines de fois, un inconnu pourrait-il demander cette adresse au chatbot et l’obtenir ?

Une étude de 2022 apporte un début de réponse. Avec des modèles GPT-Neo, le nom seul permettait de retrouver la bonne adresse dans 1,24 % des cas au maximum. En ajoutant le nom de domaine, le taux montait à 16,55 %, puis à 37,06 % avec cinq exemples. La fréquence d’apparition de l’adresse dans les données d’entraînement et la présence du texte qui l’entoure faisaient aussi grimper le résultat.

Supprimer ses conversations ne règle pas tout. L’effacement des historiques n’annule pas forcément leur influence sur un modèle déjà entraîné. 

Quand une entreprise d’IA disparaît ou change de mains

Au final, la protection de vos informations repose surtout sur les pratiques de l’entreprise qui héberge le service. Or ces entreprises peuvent être vendues, fusionner, faire faillite ou subir un piratage.

Difficile de prédire quelles entreprises d’IA tiendront dans la durée. Le fonctionnement interne des modèles reste lui aussi opaque. La règle la plus prudente consiste donc à ne jamais saisir d’informations sensibles dans un chatbot grand public, qu’il s’agisse de données médicales, bancaires, professionnelles ou concernant des tiers.