ChatGPT lu par des humains : le Project Lily d'OpenAI

OpenAI paie des sous-traitants pour lire vos conversations ChatGPT via Project Lily. Découvrez ce que personne ne vous dit vraiment.

Vous tapez une question intime à ChatGPT. Vous vous confiez sur un problème de santé, un souci d'argent, une dispute familiale. Et si quelqu'un lisait tout ça ? Pas un algorithme. Une personne. Un être humain, payé pour parcourir votre conversation et noter la qualité des réponses.

Ce n'est pas de la science-fiction. C'est un fait rapporté en septembre 2026 : OpenAI rémunère des centaines de sous-traitants pour lire de véritables échanges ChatGPT et évaluer les réponses du chatbot. Le tout sous un nom de code interne : Project Lily .

Ce que révèle vraiment Project Lily

L'affaire a été documentée par 404 Media. Des centaines de personnes, souvent externalisées, parcourent des conversations réelles pour noter la pertinence, la sécurité et la qualité des réponses générées par le modèle. Un travail de « human feedback » à grande échelle, essentiel pour affiner les modèles de langage.

Ce qui dérange, ce n'est pas tant l'existence de ce processus. C'est le silence autour de lui.

Ce que les relecteurs voient réellement

Les évaluateurs ne voient pas vos noms d'utilisateur. Mais ils accèdent à un résumé de vos « mémoires » de conversation, placé juste au-dessus du prompt. Ce résumé peut révéler ce que vous avez demandé par le passé, vos habitudes, parfois même votre région géographique approximative. Autrement dit : un profil comportemental suffisant pour vous reconnaître indirectement.

OpenAI affirme qu'un modèle de « Privacy Filter » retire d'abord les informations personnelles. Mais la page officielle de ce modèle reconnaît elle-même qu'il peut se tromper, manquer des identifiants rares et sous-filtrer quand le contexte est limité. Une prudence honnête — mais qui laisse la porte ouverte à des fuites involontaires.

La question que 404 Media a posée — et qui est restée sans réponse

404 Media a demandé à OpenAI de pointer l'endroit exact où l'entreprise prévient ses utilisateurs que des humains peuvent lire leurs conversations. OpenAI n'a pas répondu. Après publication, l'entreprise a renvoyé vers une page d'aide générale. Pas un document clair, pas un encadré explicite au moment de l'inscription.

Ce n'est pas un détail juridique. C'est le cœur du problème.

Ce que dit la plus haute juridiction européenne

En septembre 2025, la Cour de justice de l'Union européenne a tranché une question décisive dans l'affaire EDPS contre SRB. Sa position : l'obligation d'informer les personnes concernées s'applique avant tout transfert de données , et s'évalue du point de vue du responsable de traitement — pas de celui du destinataire.

Traduction concrète : peu importe qu'un sous-traitant en Amérique du Nord puisse ou non identifier formellement qui a écrit un prompt. Ce qui compte, c'est qu'OpenAI, en tant que responsable du traitement, doit informer clairement ses utilisateurs. Point.

Et les concurrents ? Ils ne sont pas blancs comme neige

Anthropic confirme également recourir à la relecture humaine, mais uniquement pour les utilisateurs qui activent explicitement l'option, et après suppression des identifiants de compte. Google, de son côté, affiche une ligne dans Gemini précisant que des humains examinent certaines conversations sauvegardées.

La différence n'est pas dans la pratique. Elle est dans la clarté du contrat passé avec l'utilisateur.

Pourquoi c'est important

Parce que vous confiez à ces outils des fragments de votre vie que vous ne diriez peut-être à personne. Si des humains peuvent les lire, vous avez le droit de le savoir — avant, pas après. Cette transparence n'est pas un luxe juridique : c'est la condition même de la confiance que vous accordez à une technologie qui prétend vous comprendre.

Comment reprendre la main dès aujourd'hui

Vous n'êtes pas sans ressources. Quelques réflexes simples changent la donne.

1. Vérifiez les paramètres de votre compte : cherchez les options liées à l'amélioration du modèle et à l'historique des conversations.
2. Désactivez la conservation des échanges quand c'est possible, ou utilisez les modes temporaires qui existent chez plusieurs fournisseurs.
3. Évitez de partager des identifiants directs : noms complets, adresses, numéros de sécurité sociale, coordonnées bancaires.
4. Considérez que tout ce que vous écrivez peut, en théorie, être lu par un tiers — et adaptez votre niveau de détail en conséquence.
5. Privilégiez les outils qui affichent clairement leurs pratiques de relecture humaine.

Aucune de ces précautions ne vous demande de renoncer à l'IA. Elles vous demandent simplement de l'utiliser en connaissance de cause.

Conclusion

L'IA générative n'a pas besoin de secret pour être utile. Elle a besoin de clarté. Project Lily n'est pas un scandale en soi : l'amélioration des modèles passe par l'humain. Ce qui pose problème, c'est l'écart entre ce que les entreprises savent et ce que les utilisateurs ignorent.

Vous avez désormais l'information. À vous d'en faire quelque chose : lisez les petites lignes, posez des questions, exigez de la transparence. C'est ainsi que la confiance dans l'IA cessera d'être un pari pour devenir un choix éclairé.

Points clés à retenir

• OpenAI paie des centaines de sous-traitants pour lire de vraies conversations ChatGPT sous le nom de code « Project Lily ».
• Les relecteurs ne voient pas les noms d'utilisateur, mais accèdent à des résumés de mémoire qui peuvent révéler vos habitudes et votre région.
• Le filtre de confidentialité d'OpenAI reconnaît lui-même pouvoir manquer certains identifiants rares.
• La Cour de justice de l'UE impose au responsable de traitement d'informer les utilisateurs avant tout transfert — pas au destinataire de prouver qu'il peut les identifier.
• Anthropic et Google affichent des pratiques similaires, mais avec des niveaux de transparence variables.