Le LINC publie les actes de l'école d'automne co-organisée par la CNIL et l'EHESS. Il s'agit du premier événement scientifique d'ampleur depuis la signature d'une convention entre les deux institutions. 

Le LINC publie Apparences Trompeuses, un site de test de sensibilisation aux designs trompeurs (aussi appelés dark patterns) pour s’entrainer à les reconnaître, et apprendre comment certaines pratiques nous poussent à partager plus de données personnelles que ce que nous voudrions initialement.

La CNIL a développé un outil permettant de structurer et de naviguer à travers les liens généalogiques entre modèles d’IA en source ouverte. Cette expérimentation vise à construire la réflexion de la CNIL sur la façon dont les droits des personnes pourraient s’exercer dans l’éventualité où leurs données seraient mémorisées par un modèle.

Cette deuxième partie revient sur l’important travail de recherche-utilisateur réalisé avec les élèves pour co-construire le design de l’application et parvenir à un résultat qui corresponde à leurs attentes et à leurs habitudes.

Cette première partie revient sur le passage de l’enquête terrain à la mise en œuvre du projet, en passant par le dépôt d’une demande de financement auprès de la Commission européenne.

Depuis le 16 décembre 2025, l’application FantomApp est disponible au grand public sur les magasins d’application et le web. Cet article en deux parties revient sur la genèse du projet.

At the end of 2024, as part of the drafting work for Innovation and Foresight Report No. 10, ‘Our Data After Us’, the LINC launched a survey with Harris Interactive – Toluna to explore how French people relate to post-mortem data.

One year after its publication, the Mapping of Health Data Warehouses (EDS in French) has been updated. This update concerns the EDS database, but also includes a more technical change (a change of tool and map background).

The CNIL's 10th Innovation and Foresight Report explores the uses and challenges of post-mortem data, from death to digital immortality, from data management, accounts and data transmission to new offerings from “deadbots”, conversational agents trained on the data of deceased individuals.

Un an après sa publication, la Cartographie des entrepôts de données de santé (EDS) est mise à jour. Cette actualisation concerne la base de données des EDS, mais aussi pour un changement plus technique (changement d’outil et de fond de carte).

The LINC is publishing the proceedings of the autumn school co-organized by the CNIL and the EHESS. This is the first major scientific event since the signing of an agreement between the two institutions.

For Issue No. 10 of the IP report, “Our data after us”, the LINC analyzed the user experience (UX) of major digital services to understand how people are enabled to manage and configure their post-mortem data settings.

Le LINC publie les actes de l'école d'automne co-organisée par la CNIL et l'EHESS. Il s'agit du premier événement scientifique d'ampleur depuis la signature d'une convention entre les deux institutions. 

Le 10ème cahier Innovation et Prospective de la CNIL explore les usages et enjeux des données post mortem, de la mort à l’immortalité numérique, depuis la gestion des données, des comptes et la transmission des données jusqu’aux nouvelles offres d’agents conversationnels entrainés sur les données des défunts.

En fin d’année 2024 et dans le cadre des travaux de rédaction du Cahier IP n°10 « Nos données après nous », le LINC a lancé une enquête avec Harris Interactive – Toluna afin d’explorer les relations des Français aux données post-mortem. 

Pour le cahier IP n°10 « Nos données après nous », le LINC a analysé l’expérience utilisateur (UX) de grands services numériques afin de comprendre les possibilités données aux personnes pour le paramétrage des données post mortem.

This article proposes to look back on a year of news from the LINC: publications, events & collaborations with the research community.

Cet article vous propose de revenir sur un an d’actualités du LINC : publications, évènements & collaborations avec le monde de la recherche.

The brain and nervous system have become a new frontier for what are known as “neurotechnologies.” Initially confined to the medical sector, applications are now being developed in a wide variety of private sector and commercial fields. This article provides a definition of these neurotechnologies and an overview of the types and contexts of use for “neurodata”.

The last frontier of privacy, the brain and nervous system are a testing ground for the collection and processing of a particular type of data, neurodata, for uses that go far beyond the field of health. The use of this data raises new ethical and legal issues and sparks debate on how to approach it.

Le cerveau et le système nerveux se sont mués en un nouvel espace de conquête pour celles que l’on nomme les « neurotechnologies ». D’abord cantonné au secteur médical, des applications se développent dans une grande variété de secteurs d’activité relevant du secteur privé, ou à visées commerciales. Cet article propose une définition de ces neurotechnologies ainsi qu’un panorama des typologies et contextes d’usages pour les « neurodonnées ».

Dernière frontière de l’intimité, le cerveau et le système nerveux sont un terrain d’expérimentation pour la collecte et le traitement d’un genre particulier, les neurodonnées, pour des usages qui dépassent largement le cadre de la santé. L’usage de ces données pose de nouveaux enjeux éthiques et juridiques, et suscite des débats sur la manière de l’aborder.

Les données post mortem seront au programme de l'événement éthique annuel de la CNIL, et du 10ème cahier Innovation et Prospective, Nos données après nous, publié à cette occasion.

To round off this series of experiments in style, let's dive into the topic of persona creation, asking ourselves how AI could eventually invent someone.

In this article, we try our hand at using other generative AIs besides ChatGPT, moving away from text generation to image creation. Welcome to the era of deep fakes !

Can ChatGPT be used as an assistant in our daily work ? What are its limitations when it comes to more than just jokes ? What questions should we ask ourselves when using a tool such as the one offered by OpenAI ?

In this second part, we return mainly to the topic of IT development, which has caused quite a stir on the internet, detailing the possible uses of ChatGPT with examples.

So, is ChatGPT a co-pilot or a captain ?

From writing instructions on how to make a homemade bomb to refusing to provide a list of « bad » gifts to give, ChatGPT, which is being introduced as the representative of the new generation of chatbots, has made its choice.

In this series of articles devoted to the use of generative AI through various experiments, we will first review some general information about these algorithms, then focus on the limitations encountered when using ChatGPT.

In this final part of the series dedicated to generative AI, the LINC presents three experiments that shed light on both the capabilities and the limitations of these new interfaces. The exploration ranges from ChatGPT to MidJourney, drawing on spontaneous inspirations as well as fact-checking across the Internet. Between bad jokes, questionable programming, and identity theft, what can we truly expect from generative AI?

Changes in the legal framework governing « augmented » cameras invite to a closer look at cameras’ sensors themselves. This article examines new types of sensors that could provide stronger personal data protection measures, in addition to more « conventional », purely algorithmic approaches.

On July 1, 2025, the CNIL's annual academic event took place, bringing together 164 on-site participants and 750 people online. This article aims to review the organization and content of this event.

As with previous editions, the day after Privacy Research Day is an opportunity for us to present the CNIL's activities and to exchange with the conference speakers during a series workshops. The objective of one of these workshops was to address the issue of the protection of personal data within research projects themselves. The exchange led to a shared diagnosis of the difficulties encountered in the field and promising avenues for collaboration to address them.

Comme pour les précédentes éditions, la journée qui suit le Privacy Research Day est l’occasion pour nous d’échanger avec les intervenants de la conférence au cours d’ateliers de réflexion. L'objectif de l’un de ces ateliers : plonger au cœur d'un enjeu qui concerne les chercheurs en premier lieu, la protection des données personnelles au sein même des projets de recherche. De cet échange ont émergé un diagnostic partagé des difficultés rencontrées sur le terrain et des pistes de collaboration prometteuses pour y répondre.

Le 1e juillet 2025 a eu lieu l'événement académique annuel de la CNIL, réunissant 164 participants sur place et 750 personnes en ligne. Cet article se propose de revenir sur l'organisation et le contenu de cet événement.

This article seeks to understand why the field of explainable AI (xAI), despite its importance and effervescence, is struggling to establish itself as a stable and consensual scientific field. Through a sociological analysis, we argue that this instability is not simply a technical failure, but the consequence of its function as a “frontier” space, one of whose functions is to absorb criticism and external demands in order to facilitate the acceptance of AI.

In response to the opacity of deep learning, this article presents the main methods in the field of explainable AI (xAI), organising them according to a distinction between local and global approaches. While detailing these techniques, it nevertheless highlights their lack of robustness and the absence of scientific consensus on what constitutes a valid explanation, thus revealing the profound heterogeneity of the field.

As artificial intelligence systems become increasingly prevalent, the need to explain their decisions has become a major regulatory and political issue. This article traces the evolution of this challenge by contrasting symbolic AI, based on interpretable human logic, with deep learning, whose ‘black box’ operation makes the question of explicability even more complex.

Pour répondre à l'opacité de l'apprentissage profond, cet article présente les principales méthodes du champ de l'IA explicable (xAI), en les organisant selon une distinction entre approches locales et globales. Tout en détaillant ces techniques, il souligne cependant leur manque de robustesse et l'absence de consensus scientifique sur ce qui constitue une explication valide, révélant ainsi l'hétérogénéité profonde du domaine.

Alors que les systèmes d'intelligence artificielle sont de plus en plus présents, la nécessité d'expliquer leurs décisions est devenue un enjeu réglementaire et politique majeur. Cet article retrace l'évolution de ce défi en opposant l'IA symbolique, fondée sur une logique humaine interprétable, à l'apprentissage profond, dont le fonctionnement en « boîte noire » complexifie la question de l'explicabilité.

Cet article cherche à comprendre pourquoi le champ de l'IA explicable (xAI), malgré son importance et son effervescence, peine à se constituer en un domaine scientifique stable et consensuel. À travers une analyse sociologique, il soutient que cette instabilité n'est pas un simple échec technique, mais la conséquence de sa fonction de « zone frontière » subordonnée, dont le rôle principal est d'absorber les critiques et les demandes externes pour faciliter l'acceptation de l'IA.

Pour répondre à l'opacité de l'apprentissage profond, cet article présente les principales méthodes du champ de l'IA explicable (xAI), en les organisant selon une distinction entre approches locales et globales. Tout en détaillant ces techniques, il souligne cependant leur manque de robustesse et l'absence de consensus scientifique sur ce qui constitue une explication valide, révélant ainsi l'hétérogénéité profonde du domaine.

Alors que les systèmes d'intelligence artificielle sont de plus en plus présents, la nécessité d'expliquer leurs décisions est devenue un enjeu réglementaire et politique majeur. Cet article retrace l'évolution de ce défi en opposant l'IA symbolique, fondée sur une logique humaine interprétable, à l'apprentissage profond, dont le fonctionnement en « boîte noire » complexifie la question de l'explicabilité.

The artificial intelligence ecosystem is strongly structured around open source resources : models, datasets and librairies. This allows anyone to use these resources – sometimes with restrictions – to adapt them to new needs (for exemple, by refining models on specific datasets) and often to make them available to the community once again. This mode of collaboration is undoubtedly at the root of some of AI’s greatest successes. Nevertheless, this proliferation of freely exchanged models and datasets raises questions about the protection of personal data, and their traceability is becoming a major issue. For example, if an individual’s personnal data is present in training dataset with errors, how can we identify the models in which the data might be contained ?

L’écosystème de l’intelligence artificielle se structure fortement autour de la mise à disposition en open source de ressources : modèles, jeux de données, librairies. Cela permet à tout un chacun de se saisir – parfois avec des restrictions – de ces ressources, afin de les adapter à des nouveaux besoins (par exemple en affinant les modèles sur des jeux de données spécifiques) et souvent de les mettre à nouveaux à disposition de la communauté. Ce mode de collaboration est sans nul doute à l’origine de très grands succès en IA. Néanmoins, ce foisonnement de modèles et de jeux de données échangés librement pose question vis-à-vis de la protection des données personnelles et leur traçabilité devient un enjeu majeur. Par exemple, dans le cas où les données à caractère personnel d’un individu seraient présentes dans un jeu de données d’entraînement avec des erreurs, comment est-il possible d’identifier les modèles dans lesquels ces données seraient susceptibles d’être contenues ?

The CNIL just opened a public consultation on "multi-terminal consent". This consultations aims to help entities seeking consent on multiples devices linked to an account to obtain consent complying with the GDPR requirements. The scope of this consultation is limited to cases where users are logged into an account.

For the first time, following their partnership agreement, the CNIL and the School for Advanced Studies in the Social Sciences (EHESS) will be awarding a award for the best submissions in social science submitted to Privacy Research Day.

Les entretiens avec les experts en cryptographie ont permis d'explorer les techniques cryptographiques protectrices de la vie privée, couramment désignées sous le terme de « PETs » (privacy-enhancing technologies). Bien que ce domaine ait historiquement été un sujet d'intérêt dans le milieu académique depuis plusieurs décennies, il suscite désormais un certain intérêt au-delà de la sphère de la recherche, portant avec lui de grandes promesses. Dans cet article, nous présentons une synthèse des idées partagées lors de ces entretiens avec O. Blazy, S. Canard, M. Önen, P. Pailler et les experts et expertes de l’ANSSI.

Les entretiens nous ont donné un aperçu des fondements et des promesses de la cryptographie post-quantique (article #1) et des techniques de cryptographie avancée pour la vie privée (article #2). Les experts et expertes ont abordé les cas d’utilisation pratiques de ces technologies prometteuses tout en mettant en lumière les défis à surmonter pour leur adoption à grande échelle.

Si la cryptographie classique continue de jouer un rôle essentiel au quotidien, les outils de cryptographie avancée répondent aux nouveaux défis posés par des usages tels que le cloud computing ou l'intelligence artificielle, où le traitement des données est souvent délégué à des serveurs distants. En ce qui concerne les preuves à divulgation nulle de connaissance (ZKP), l’approche est légèrement différente : il s'agit avant tout d'améliorer les garanties de sécurité en réduisant la nécessité de faire confiance à une partie tierce, tout en minimisant les risques associés. Il est également important de souligner que ces nouveaux outils cryptographiques s'appuient sur les fondamentaux de la cryptographie traditionnelle, comme le chiffrement et le hachage.