Projet Cannes : Meta a testé en secret les failles de ChatGPT et …

« Projet Cannes : Meta révèle en secret les failles cachées de ChatGPT ! »

Des documents internes révélés par WIRED indiquent que Meta a lancé un programme secret intitulé « Cannes », géré par son sous-traitant Covalen, actif jusqu’au moins avril 2026. Ce projet a mobilisé des centaines d’opérateurs pour créer de faux comptes d’utilisateurs mineurs, afin de soumettre des requêtes sensibles à des modèles d’IA comme ChatGPT, Gemini et Character.AI. L’objectif était de recueillir des réponses à des questions sur des sujets graves tels que le suicide et les troubles alimentaires, générant ainsi une base de données comparative.

En août 2025, plus de 45 000 requêtes simulant des situations de détresse psychologique chez des mineurs ont été envoyées. Bien que Meta fasse valoir qu’il s’agit d’une procédure standard pour évaluer la sécurité des systèmes d’IA, les entreprises touchées n’étaient pas informées de cette démarche. De plus, celles-ci soulignent une violation des clauses contractuelles d’accès à leurs API par Meta.

Cette situation pose des questions sur les limites du « red teaming », qui est une évaluation technique des systèmes d’IA. Effectuer ces tests clandestinement et en falsifiant l’identité des utilisateurs viole les Conditions Générales d’Utilisation des fournisseurs d’IA. Meta se défend en affirmant que les données collectées n’ont pas été utilisées pour entraîner leurs propres modèles.

En parallèle, l’usage des agents conversationnels par les jeunes devient une source d’inquiétude. Une étude d’Internet Matters révèle que 64 % des mineurs de 9 à 17 ans utilisent des chatbots, et 58 % des enfants de 9 à 12 ans admettent contourner l’âge minimum requis par les plateformes. Cette affaire met en lumière des enjeux importants concernant la sécurité et le bien-être des jeunes face à l’IA.
Source