Les données post mortem seront au programme de l'événement éthique annuel de la CNIL, et du 10ème cahier Innovation et Prospective, Nos données après nous, publié à cette occasion.

To round off this series of experiments in style, let's dive into the topic of persona creation, asking ourselves how AI could eventually invent someone.

In this article, we try our hand at using other generative AIs besides ChatGPT, moving away from text generation to image creation. Welcome to the era of deep fakes !

Can ChatGPT be used as an assistant in our daily work ? What are its limitations when it comes to more than just jokes ? What questions should we ask ourselves when using a tool such as the one offered by OpenAI ?

In this second part, we return mainly to the topic of IT development, which has caused quite a stir on the internet, detailing the possible uses of ChatGPT with examples.

So, is ChatGPT a co-pilot or a captain ?

From writing instructions on how to make a homemade bomb to refusing to provide a list of « bad » gifts to give, ChatGPT, which is being introduced as the representative of the new generation of chatbots, has made its choice.

In this series of articles devoted to the use of generative AI through various experiments, we will first review some general information about these algorithms, then focus on the limitations encountered when using ChatGPT.

In this final part of the series dedicated to generative AI, the LINC presents three experiments that shed light on both the capabilities and the limitations of these new interfaces. The exploration ranges from ChatGPT to MidJourney, drawing on spontaneous inspirations as well as fact-checking across the Internet. Between bad jokes, questionable programming, and identity theft, what can we truly expect from generative AI?

Changes in the legal framework governing « augmented » cameras invite to a closer look at cameras’ sensors themselves. This article examines new types of sensors that could provide stronger personal data protection measures, in addition to more « conventional », purely algorithmic approaches.

On July 1, 2025, the CNIL's annual academic event took place, bringing together 164 on-site participants and 750 people online. This article aims to review the organization and content of this event.

As with previous editions, the day after Privacy Research Day is an opportunity for us to present the CNIL's activities and to exchange with the conference speakers during a series workshops. The objective of one of these workshops was to address the issue of the protection of personal data within research projects themselves. The exchange led to a shared diagnosis of the difficulties encountered in the field and promising avenues for collaboration to address them.

Comme pour les précédentes éditions, la journée qui suit le Privacy Research Day est l’occasion pour nous d’échanger avec les intervenants de la conférence au cours d’ateliers de réflexion. L'objectif de l’un de ces ateliers : plonger au cœur d'un enjeu qui concerne les chercheurs en premier lieu, la protection des données personnelles au sein même des projets de recherche. De cet échange ont émergé un diagnostic partagé des difficultés rencontrées sur le terrain et des pistes de collaboration prometteuses pour y répondre.

Le 1e juillet 2025 a eu lieu l'événement académique annuel de la CNIL, réunissant 164 participants sur place et 750 personnes en ligne. Cet article se propose de revenir sur l'organisation et le contenu de cet événement.

This article seeks to understand why the field of explainable AI (xAI), despite its importance and effervescence, is struggling to establish itself as a stable and consensual scientific field. Through a sociological analysis, we argue that this instability is not simply a technical failure, but the consequence of its function as a “frontier” space, one of whose functions is to absorb criticism and external demands in order to facilitate the acceptance of AI.

In response to the opacity of deep learning, this article presents the main methods in the field of explainable AI (xAI), organising them according to a distinction between local and global approaches. While detailing these techniques, it nevertheless highlights their lack of robustness and the absence of scientific consensus on what constitutes a valid explanation, thus revealing the profound heterogeneity of the field.

As artificial intelligence systems become increasingly prevalent, the need to explain their decisions has become a major regulatory and political issue. This article traces the evolution of this challenge by contrasting symbolic AI, based on interpretable human logic, with deep learning, whose ‘black box’ operation makes the question of explicability even more complex.

Pour répondre à l'opacité de l'apprentissage profond, cet article présente les principales méthodes du champ de l'IA explicable (xAI), en les organisant selon une distinction entre approches locales et globales. Tout en détaillant ces techniques, il souligne cependant leur manque de robustesse et l'absence de consensus scientifique sur ce qui constitue une explication valide, révélant ainsi l'hétérogénéité profonde du domaine.

Alors que les systèmes d'intelligence artificielle sont de plus en plus présents, la nécessité d'expliquer leurs décisions est devenue un enjeu réglementaire et politique majeur. Cet article retrace l'évolution de ce défi en opposant l'IA symbolique, fondée sur une logique humaine interprétable, à l'apprentissage profond, dont le fonctionnement en « boîte noire » complexifie la question de l'explicabilité.

Cet article cherche à comprendre pourquoi le champ de l'IA explicable (xAI), malgré son importance et son effervescence, peine à se constituer en un domaine scientifique stable et consensuel. À travers une analyse sociologique, il soutient que cette instabilité n'est pas un simple échec technique, mais la conséquence de sa fonction de « zone frontière » subordonnée, dont le rôle principal est d'absorber les critiques et les demandes externes pour faciliter l'acceptation de l'IA.

Pour répondre à l'opacité de l'apprentissage profond, cet article présente les principales méthodes du champ de l'IA explicable (xAI), en les organisant selon une distinction entre approches locales et globales. Tout en détaillant ces techniques, il souligne cependant leur manque de robustesse et l'absence de consensus scientifique sur ce qui constitue une explication valide, révélant ainsi l'hétérogénéité profonde du domaine.

Alors que les systèmes d'intelligence artificielle sont de plus en plus présents, la nécessité d'expliquer leurs décisions est devenue un enjeu réglementaire et politique majeur. Cet article retrace l'évolution de ce défi en opposant l'IA symbolique, fondée sur une logique humaine interprétable, à l'apprentissage profond, dont le fonctionnement en « boîte noire » complexifie la question de l'explicabilité.

The artificial intelligence ecosystem is strongly structured around open source resources : models, datasets and librairies. This allows anyone to use these resources – sometimes with restrictions – to adapt them to new needs (for exemple, by refining models on specific datasets) and often to make them available to the community once again. This mode of collaboration is undoubtedly at the root of some of AI’s greatest successes. Nevertheless, this proliferation of freely exchanged models and datasets raises questions about the protection of personal data, and their traceability is becoming a major issue. For example, if an individual’s personnal data is present in training dataset with errors, how can we identify the models in which the data might be contained ?

L’écosystème de l’intelligence artificielle se structure fortement autour de la mise à disposition en open source de ressources : modèles, jeux de données, librairies. Cela permet à tout un chacun de se saisir – parfois avec des restrictions – de ces ressources, afin de les adapter à des nouveaux besoins (par exemple en affinant les modèles sur des jeux de données spécifiques) et souvent de les mettre à nouveaux à disposition de la communauté. Ce mode de collaboration est sans nul doute à l’origine de très grands succès en IA. Néanmoins, ce foisonnement de modèles et de jeux de données échangés librement pose question vis-à-vis de la protection des données personnelles et leur traçabilité devient un enjeu majeur. Par exemple, dans le cas où les données à caractère personnel d’un individu seraient présentes dans un jeu de données d’entraînement avec des erreurs, comment est-il possible d’identifier les modèles dans lesquels ces données seraient susceptibles d’être contenues ?

The CNIL just opened a public consultation on "multi-terminal consent". This consultations aims to help entities seeking consent on multiples devices linked to an account to obtain consent complying with the GDPR requirements. The scope of this consultation is limited to cases where users are logged into an account.

For the first time, following their partnership agreement, the CNIL and the School for Advanced Studies in the Social Sciences (EHESS) will be awarding a award for the best submissions in social science submitted to Privacy Research Day.

Les entretiens avec les experts en cryptographie ont permis d'explorer les techniques cryptographiques protectrices de la vie privée, couramment désignées sous le terme de « PETs » (privacy-enhancing technologies). Bien que ce domaine ait historiquement été un sujet d'intérêt dans le milieu académique depuis plusieurs décennies, il suscite désormais un certain intérêt au-delà de la sphère de la recherche, portant avec lui de grandes promesses. Dans cet article, nous présentons une synthèse des idées partagées lors de ces entretiens avec O. Blazy, S. Canard, M. Önen, P. Pailler et les experts et expertes de l’ANSSI.

Les entretiens nous ont donné un aperçu des fondements et des promesses de la cryptographie post-quantique (article #1) et des techniques de cryptographie avancée pour la vie privée (article #2). Les experts et expertes ont abordé les cas d’utilisation pratiques de ces technologies prometteuses tout en mettant en lumière les défis à surmonter pour leur adoption à grande échelle.

Si la cryptographie classique continue de jouer un rôle essentiel au quotidien, les outils de cryptographie avancée répondent aux nouveaux défis posés par des usages tels que le cloud computing ou l'intelligence artificielle, où le traitement des données est souvent délégué à des serveurs distants. En ce qui concerne les preuves à divulgation nulle de connaissance (ZKP), l’approche est légèrement différente : il s'agit avant tout d'améliorer les garanties de sécurité en réduisant la nécessité de faire confiance à une partie tierce, tout en minimisant les risques associés. Il est également important de souligner que ces nouveaux outils cryptographiques s'appuient sur les fondamentaux de la cryptographie traditionnelle, comme le chiffrement et le hachage.

Les échanges avec les experts en cryptographie ont offert un aperçu de la transition vers la cryptographie « post-quantique », c’est-à-dire la cryptographie qui résiste aux attaques des ordinateurs quantiques, un domaine qui connaît actuellement une dynamique très forte, tant sur le plan académique que dans le secteur industriel. Dans cet article, nous présentons une synthèse des idées partagées lors de ces entretiens, mettant en lumière les défis et les opportunités à venir.

La cryptographie a toujours été un pilier de la sécurité des communications et des données. Quoi de neuf en cryptographie, docteurs ? Quelles sont les principales tendances en matière de cryptographie pour la protection des données et de la vie privée ? Quelles évolutions anticiper ? Pour nous aider à répondre à ces questions, nous nous sommes entretenus avec plusieurs experts et expertes français en cryptographie. Cet article met en lumière les points clés issus de ces échanges.

Nous avons accueilli en juillet 2023 Paul Canchon, étudiant de dernière année en école d’ingénieur, pour un stage de six mois au sein du service de l’expertise technologique afin de tester l’applicabilité du chiffrement totalement homomorphe (FHE) à des tâches d’apprentissage automatique. Son travail démontre que la mise en œuvre du FHE est à la portée de personnes non expertes en cryptographie. Cependant, la technologie disponible actuellement se limite, notamment pour des raisons de temps de calcul, à des cas d’usage relativement restreints, en attendant le développement d’améliorations pouvant ouvrir de nouvelles possibilités.   

For the fourth edition of the Privacy Research Day, the CNIL is inviting the international academic community to submit communications in IT, social sciences and law on the theme of privacy and personal data protection.

Pour la quatrième édition du Privacy Research Day, la CNIL invite la communauté scientifique internationale à effectuer des présentations de publications académiques et de projets de recherche en informatique, sciences sociales et droit sur le thème de la protection de la vie privée et des données personnelles.

As we have seen in previous articles, generative AI raises questions and issues about the underlying models and how they are trained. But what about the "output"? What are the issues involved in using an AI system such as ChatGPT? The risks seem to match the benefits announced by the tool's promoters.

ChatGPT, Bard and Ernie - AI-powered chatbots are all over the news, praising their prowess and highlighting challenges they face. Big tech companies behind these creations seem to be racing for media coverage and market share in a market that had not even existed in late 2022. This AI media battle is not the first, of course, with tech companies regularly jousting in areas such as autonomous vehicles, generative content, image analysis and voice assistants.

What are the technical and legal risks associated with these technologies and the new uses they are opening up ? This article, the first in a series on generative AI, on the language processing and learning methods used to operate a chatbot, using ChatGPT as an example.

The spectacular popularity of ChatGPT interface has sparked a series of legal debates, to the point of calling for the adoption of dedicated regulations.

However, various regulations already exist and apply to such systems, even if clarifications are needed.

The purpose of this article is to explore some of the structuring rules (such as copyright and personal data protection) that apply to the design and use of AI systems that generate content such as text or images, independently of the draft European regulation on AI that is currently being drawn up.

A well-known technique in copyright protection, digital watermarking has been put forward as a solution to the problem of detecting artificial content. Brandished by many users as the most robust solution, digital watermarking is nevertheless an ambiguous notion in the field of AI, and can be the name of a number of different practices. This article details each of them, based on a review of the scientific literature.

Recent excitement surrounding generative artificial intelligence systems has been accompanied by the realisation that these tools could lead to new risks in terms of intellectual property, data protection, reputational damage and deception of various kinds. In this article, we analyse various solutions proposed for recognising artificial content and look ahead to the future of these techniques.

At a time when conversational agents are multiplying, the security of personal data processed via these interfaces appears to be a major issue. This confidentiality issue is twofold in that it concerns both data submitted by a user and the outputs produced by an interface. To address this issue, manufacturers now offer numerous techniques, with disparate advantages and limitations. These techniques should be mapped.

For the last three years, follow-up meetings have been organized with the participants of our annual academic conference, the Privacy Research Day. This meeting is an opportunity to present the CNIL and to have informal exchanges with participants about research projects and potential collaborations. In this article, we provide a quick summary of the ideas that emerged during these meetings.

L’évolution du cadre juridique relatif aux caméras « augmentées » appelle une réflexion relative aux capteurs eux-mêmes. Dans cet article, nous nous intéressons à de nouveaux types de capteurs qui pourraient offrir des garanties renforcées pour la protection des données personnelles en complément de méthodes plus « traditionnelles » purement algorithmiques.

For the first time, following their partnership agreement, the CNIL and the School for Advanced Studies in the Social Sciences (EHESS) will be awarding a award for the best submissions in social science submitted to Privacy Research Day.

From the production of data throughout our lives to its use in a new "digital afterlife", digital practices around death have been constantly evolving since the advent of the consumer Internet. A whole ecosystem of practices, as much as a market, is being reconfigured by technological advances, with their share of legal and ethical issues.

Suite à leur enquête sur le numérique adolescent et la vie privée, le LINC et la mission d'éducation au numérique de la CNIL publient leurs résultats en libre accès et lancent un projet européen de recherche-action sur ces enjeux.

Suite à leur enquête sur le numérique adolescent et la vie privée, le LINC et la mission d'éducation au numérique de la CNIL publient leurs résultats en libre accès et lancent un projet européen de recherche-action sur ces enjeux.

Pour la première fois, suite à la signature de leur partenariat, la CNIL et l’EHESS récompenseront la meilleure contribution en sciences humaines et sociales soumise au Privacy Research Day.

For the first time, following their partnership agreement, the CNIL and the School for Advanced Studies in the Social Sciences (EHESS) will be awarding a award for the best submissions in social science submitted to Privacy Research Day.

From the production of data throughout our lives to its use in a new "digital afterlife", digital practices around death have been constantly evolving since the advent of the consumer Internet. A whole ecosystem of practices, as much as a market, is being reconfigured by technological advances, with their share of legal and ethical issues.

De la production de données tout au long de nos vies à leur utilisation dans un nouvel « au-delà numérique », les pratiques numériques autour de la mort ne cessent d’évoluer depuis l’avènement de l’internet grand public. C’est tout un écosystème de pratiques autant qu’un marché qui se reconfigurent au gré des avancées technologiques, avec leur lot de questions juridiques, mais aussi éthiques.

Le Pôle d’Expertise de la Régulation Numérique (PEReN) travaille en partenariat avec le LINC sur un projet d’étude, de recensement et d’évaluation d‘outils permettant de faire des hyper-trucages, ou Deep Fake. L’utilisation de ces outils est de plus en plus accessible au grand public, et il est fréquent de voir passer des vidéos réalisées grâce à ce type d’outils sur les réseaux. L’objectif de ce projet est de faire un état de l’art des techniques existantes et ainsi de pouvoir alerter sur la facilité de réalisation de ces vidéos hyper-truquées.

La CNIL publie sa cartographie des entrepôts de données de santé en France, avec pour objectif de rendre compte de la diffusion et de l’implémentation de ces nouvelles bases de données, ainsi que des acteurs qui en ont la responsabilité. Pour accompagner la cartographie, cet article vise à apporter un éclairage sur les dynamiques – temporelles et spatiales – à l’œuvre.