For the fourth edition of the Privacy Research Day, the CNIL is inviting the international academic community to submit communications in IT, social sciences and law on the theme of privacy and personal data protection.

Pour la quatrième édition du Privacy Research Day, la CNIL invite la communauté scientifique internationale à effectuer des présentations de publications académiques et de projets de recherche en informatique, sciences sociales et droit sur le thème de la protection de la vie privée et des données personnelles.

As we have seen in previous articles, generative AI raises questions and issues about the underlying models and how they are trained. But what about the "output"? What are the issues involved in using an AI system such as ChatGPT? The risks seem to match the benefits announced by the tool's promoters.

ChatGPT, Bard and Ernie - AI-powered chatbots are all over the news, praising their prowess and highlighting challenges they face. Big tech companies behind these creations seem to be racing for media coverage and market share in a market that had not even existed in late 2022. This AI media battle is not the first, of course, with tech companies regularly jousting in areas such as autonomous vehicles, generative content, image analysis and voice assistants.

What are the technical and legal risks associated with these technologies and the new uses they are opening up ? This article, the first in a series on generative AI, on the language processing and learning methods used to operate a chatbot, using ChatGPT as an example.

The spectacular popularity of ChatGPT interface has sparked a series of legal debates, to the point of calling for the adoption of dedicated regulations.

However, various regulations already exist and apply to such systems, even if clarifications are needed.

The purpose of this article is to explore some of the structuring rules (such as copyright and personal data protection) that apply to the design and use of AI systems that generate content such as text or images, independently of the draft European regulation on AI that is currently being drawn up.

A well-known technique in copyright protection, digital watermarking has been put forward as a solution to the problem of detecting artificial content. Brandished by many users as the most robust solution, digital watermarking is nevertheless an ambiguous notion in the field of AI, and can be the name of a number of different practices. This article details each of them, based on a review of the scientific literature.

Recent excitement surrounding generative artificial intelligence systems has been accompanied by the realisation that these tools could lead to new risks in terms of intellectual property, data protection, reputational damage and deception of various kinds. In this article, we analyse various solutions proposed for recognising artificial content and look ahead to the future of these techniques.

At a time when conversational agents are multiplying, the security of personal data processed via these interfaces appears to be a major issue. This confidentiality issue is twofold in that it concerns both data submitted by a user and the outputs produced by an interface. To address this issue, manufacturers now offer numerous techniques, with disparate advantages and limitations. These techniques should be mapped.

For the last three years, follow-up meetings have been organized with the participants of our annual academic conference, the Privacy Research Day. This meeting is an opportunity to present the CNIL and to have informal exchanges with participants about research projects and potential collaborations. In this article, we provide a quick summary of the ideas that emerged during these meetings.

L’évolution du cadre juridique relatif aux caméras « augmentées » appelle une réflexion relative aux capteurs eux-mêmes. Dans cet article, nous nous intéressons à de nouveaux types de capteurs qui pourraient offrir des garanties renforcées pour la protection des données personnelles en complément de méthodes plus « traditionnelles » purement algorithmiques.

For the first time, following their partnership agreement, the CNIL and the School for Advanced Studies in the Social Sciences (EHESS) will be awarding a award for the best submissions in social science submitted to Privacy Research Day.

From the production of data throughout our lives to its use in a new "digital afterlife", digital practices around death have been constantly evolving since the advent of the consumer Internet. A whole ecosystem of practices, as much as a market, is being reconfigured by technological advances, with their share of legal and ethical issues.

Suite à leur enquête sur le numérique adolescent et la vie privée, le LINC et la mission d'éducation au numérique de la CNIL publient leurs résultats en libre accès et lancent un projet européen de recherche-action sur ces enjeux.

La perspective de fabriquer des ordinateurs quantiques suscite des investissements massifs et des politiques publiques destinées à soutenir l’innovation technologique dans de nombreux pays. Si ceux-ci finissent par être opérationnels, ils pourraient avoir de très grandes puissances de calculs et permettre de traiter certains problèmes bien plus rapidement que les meilleurs ordinateurs classiques.

Néanmoins, pour faire un ordinateur quantique, il faut maîtriser plusieurs ingrédients extrêmement délicats à préparer et à manipuler, et c’est pour cela qu’un ordinateur quantique à même de faire concurrence aux ordinateurs classiques n’existe pas encore.

Ceci n’empêche pas les ordinateurs quantiques de susciter de nombreux fantasmes et parfois, une médiatisation qui n’est pas forcément en phase avec le rythme des développements technologiques.

Claire Goursaud travaille à l’Insa Lyon, où elle développe des algorithmes quantiques pour résoudre des problèmes rencontrés dans les grands réseaux, en particulier les réseaux d’objets connectés (IoT). Claire répond à nos questions sur les capacités actuelles des ordinateurs quantiques, et leurs limites, afin d’éclairer les avancées les plus récentes du domaine.

Aujourd’hui, qui peut utiliser un ordinateur quantique ?

Claire Goursaud : Un ordinateur quantique est construit autour d’un processeur (qui est la partie intelligente de l’ordinateur, c.-à-d., celle qui réalise les calculs), auquel on doit rajouter des périphériques/interfaces, une mémoire, et un circuit de refroidissement. Il existe des processeurs quantiques que les chercheurs et industriels peuvent utiliser à des fins de recherche et développement. Par exemple, IBM dispose dans ses fermes de calcul de systèmes quantiques qui sont mis à disposition des chercheurs. D-Wave proposait aussi un accès à ses processeurs jusqu’à fin 2024, mais l’a restreint à ces clients depuis le début d’année. Pour l’instant, ces processeurs sont assez petits — 133 qubits dans le cas d’IBM — ce qui limite ce que l’on peut en faire.

Si le nombre de qubits est affiché en augmentation régulière (avec une multiplication par 2 tous les ans pour les processeurs d’IBM), ce n’est pas le seul critère qui permet d’évaluer l’utilité d’un processeur quantique. En effet, c’est la fiabilité des qubits actuels et des calculs qui pêche aujourd’hui.

Les applications promises par les promoteurs des ordinateurs quantiques sont encore lointaines en pratique — simuler des molécules pour développer de nouveaux médicaments par exemple, améliorer la planification des vols commerciaux, ou booster encore davantage l’intelligence artificielle.

À lire aussi : De la cryptographie à l’intelligence artificielle, l’informatique quantique pourrait-elle changer le monde ?

Ces processeurs quantiques peuvent-ils déjà faire des calculs inaccessibles aux supercalculateurs classiques ?

C.G. : Pour le moment, les calculateurs quantiques n’apportent pas encore d’avantage par rapport aux supercalculateurs classiques pour des problèmes qui ont une application concrète tels que ceux cités précédemment.

En revanche, si, en théorie, tous les calculs que l’on sait écrire mathématiquement peuvent être programmés dans un ordinateur classique, la pratique est plus compliquée. En effet, certains calculs demanderaient trop de ressources pour un ordinateur classique : il nous faudrait soit des ordinateurs beaucoup plus grands que ceux dont on dispose (dont les capacités de calcul ne sont donc pas assez importantes), soit un temps que nous n’avons pas (pouvant aller jusqu’au millier ou million d’années pour certains calculs !).

À cet égard, un exemple connu est celui des « clefs de chiffrement », qui sont notamment nécessaires dans le domaine des télécommunications. Ces communications sont chiffrées avec un code que l’on pourrait cracker en principe (en les testant un par un) ; mais cela prendrait tellement de temps de le faire avec un ordinateur classique que ce n’est pas rentable en pratique pour des attaquants.

Comme les processeurs quantiques promettent de paralléliser massivement certains calculs, ils permettraient de résoudre des problèmes qu’on ne sait pas traiter assez rapidement avec un ordinateur classique… Ainsi, les ordinateurs quantiques pourraient permettre de décrypter ces messages actuellement inattaquables.

Mais les processeurs quantiques ne seront pas utiles pour toutes les applications. En effet, pour que le calcul quantique ait réellement un intérêt, il faut des problèmes avec une structure particulière. C’est le cas, par exemple, dans l’internet des objets — le domaine de recherche auquel j’applique le calcul quantique. On a des millions d’objets connectés : des montres, des radiateurs, des voitures… Ces millions d’objets transmettent des informations sans aucune coordination préalable. La station de base reçoit un mélange des messages de chacun de ces objets, qui ne sont pas facilement séparables. La difficulté pour la station de base est de savoir qui a transmis quoi à chaque instant.

Dans ce cas, l’intérêt du calcul quantique est d’attribuer une unité de calcul (un qubit) à chaque objet connecté ; de calculer tous les messages que l’on aurait pu recevoir en fonction de l’activité potentielle de chaque objet connecté, puis de comparer toutes ces possibilités au signal qu’on a réellement reçu… afin de trouver celle qui est la plus proche du message réel.

Pour simuler de cette manière un petit réseau de 20 objets connectés avec un ordinateur classique, il faut faire 2²⁰ calculs (soit 1 048 576) ; alors qu’avec un ordinateur quantique, il ne faut faire « que » sqrt(2²⁰) de calculs environ (en utilisant alors 20 qubits pour représenter les 20 objets auxquels se rajoutent une ou plusieurs dizaines de qubits pour contenir le résultat des calculs intermédiaires).

Ainsi, on peut réduire considérablement le temps de calcul. En pratique, le gain de temps dépendra des processeurs quantiques utilisés.

Qu’est-ce qui limite les processeurs quantiques actuels ?

C.G. : Ce qui limite l’utilisation de processeurs quantiques aujourd’hui est principalement leur taille et leur fiabilité.

Tout d’abord, les processeurs quantiques opérationnels actuellement font entre quelques dizaines et quelques centaines de qubits (par exemple IonQ avec 35 qubits et 1121 qubits pour le processeur Condor de IBM), mais avec des fiabilités variées.

Ces nombres ne sont pas suffisants pour qu’il soit réellement intéressant d’utiliser actuellement des processeurs quantiques pour autre chose que de la recherche, ou du développement de meilleurs processeurs. Par exemple, les processeurs quantiques qu’IBM met à disposition des chercheurs possèdent 133 qubits, ce qui me permet d’étudier un réseau de 20 objets connectés seulement.

Mais, ce qui limite la taille des ordinateurs quantiques aujourd’hui, c’est ce qu’on appelle le « bruit ». Aujourd’hui — ou du moins jusqu’à très récemment, comme nous allons le voir — plus il y a de qubits, plus il est difficile de contrer ce bruit. Ce « bruit » détruit les propriétés quantiques des qubits, ce qui provoque des erreurs de calcul, et diminue donc l’utilité des processeurs quantiques.

D’où vient le bruit dans les processeurs quantiques ?

C.G. : Dans les processeurs quantiques, on manipule des qubits, qui sont en fait des particules toutes petites et très sensibles à tout ce qui se passe autour d’elles : du « bruit » qui perturbe, voire détruit, leur état quantique.

À lire aussi : Ordinateur quantique : comment progresse ce chantier titanesque en pratique

Il y a plusieurs sources de bruit pour les ordinateurs quantiques aujourd’hui. Tout d’abord, la particule quantique « vieillit » lorsqu’elle interagit avec son environnement. C’est un phénomène que l’on appelle la « décohérence ».

Il y a aussi du bruit thermique : quand on n’est pas au zéro absolu, la particule bouge, ce qui peut perturber son état quantique.

Il peut aussi y avoir des impuretés dans les matériaux électroniques — c’est également le cas dans les processeurs classiques ; mais c’est particulièrement nuisible dans les ordinateurs quantiques.

Enfin, deux autres sources de bruits sont liées au fait qu’on met plusieurs qubits les uns à côté des autres. On est face à une injonction contradictoire : il faut à la fois isoler les particules les unes des autres pour limiter le bruit, mais aussi bien sûr les laisser interagir quand c’est nécessaire pour le calcul. Quand on demande aux qubits d’interagir pour faire le calcul, on le fait avec des impulsions (des « portes ») — si ces impulsions sont mal réglées, ça introduit des perturbations qui modifient l’état quantique du qubit.

Ce bruit induit des erreurs de calcul ?

C.G. : Oui, et on distingue deux types d’erreurs de calcul quantique.

La première s’appelle un « bit flip » : c’est quand l’état quantique de la particule passe de 0 à 1 ou l’inverse. On maîtrise très bien ces erreurs dans le domaine des télécommunications, qui est depuis toujours basé sur des 0 et des 1 (les « bits » des ordinateurs classiques). Pour réparer ces erreurs, on peut utiliser les « codes correcteurs d’erreurs » hérités des télécommunications classiques.

En revanche, le second type d’erreur est plus problématique. Il s’agit de ce que l’on appelle une « erreur de signe » : on conserve le 0 (l’erreur n’est pas un bit flip) mais le signe est erroné (un signe « moins » au lieu d’un signe « plus », ou l’inverse). Les erreurs de signe sont très importantes aujourd’hui en calcul quantique, parce que les codes correcteurs historiques ne corrigent pas ces erreurs de signes… qui sont tout à fait spécifiques au monde quantique, parce qu’elles sont liées au fait que l’on décrit les états quantiques avec des nombres complexes.

Pour contrer les effets du bruit qui perturbe les qubits et obtenir des processeurs quantiques utiles, les chercheurs développent aujourd’hui de nouveaux codes correcteurs d’erreurs qui prennent aussi en compte les erreurs de signe.

Ces « codes correcteurs d’erreur » qui sont au cœur des recherches et des avancées actuelles ?

C.G. : Aujourd’hui, une des tendances les plus porteuses pour ces nouveaux codes correcteurs d’erreurs s’appelle les « codes de surface » : le principe est de dupliquer le qubit physique (l’état de la particule), et à l’aide de liens entre tous les qubits dupliqués, de générer un « qubit logique ». Ce qubit logique est donc composé de plusieurs qubits physiques, et il est en principe dépourvu d’erreurs, ce qui permet de l’utiliser dans le calcul.

Cette stratégie demande d’avoir de nombreux qubits physiques pour obtenir un seul qubit logique. Or, on a vu que plus il y a de qubits, plus il y a de problèmes de bruit. C’est pourquoi on craignait jusqu’à récemment que les problèmes ajoutés par la démultiplication des qubits physiques n’annulent les gains obtenus avec cette stratégie de code de surface.

Or, en décembre 2024, Google a montré que cette stratégie marche en pratique : les chercheurs ont présenté un processeur appelé « Willow », qui contient 105 qubits physiques formant un qubit logique : c’est un code correcteur d’erreur plus grand et plus difficile à manipuler que les codes précédents, mais, au global, il est plus performant.

Il faut bien réaliser que Willow ne contient qu’un seul qubit logique. Il faudrait en associer plusieurs pour pouvoir faire des calculs utiles. Dans l’exemple de mon réseau d’objets connectés, il faudrait un Willow pour chacun des objets connectés du réseau puisque les 105 qubits physiques équivalent à un seul qubit logique suffisamment résistant aux perturbations pour faire des calculs. Le nombre de qubits annoncés par les fabricants, qui sont des qubits physiques, ne sont donc pas suffisants pour évaluer les capacités d’un processeur quantique.

Néanmoins, cette avancée suggère que l’on va désormais voir se développer des codes encore plus grands, pour une probabilité d’erreur encore plus petite — en d’autres termes, la stratégie des codes correcteurs de surface semble avoir de l’avenir devant elle.

Claire Goursaud a reçu des financements de l'ANR et de l'INRIA pour travailler sur les algorithmes quantiques.

Les fraudeurs utilisent toujours les mêmes trucs car ils connaissent nos biais psychologiques. Ils savent que ça marche, mais le savons-nous?

Dans cet épisode, je vous explique ce que sont les biais psychologiques, comment les fraudeurs les utilisent contre nous et surtout comment on se reprogramme pour ne plus tomber dans les pièges de la fraude en ligne.

00:00 - Introduction à la manipulation psychologique

01:17 - Les biais psychologiques, qu’est-ce que c’est ?

02:11 - Daniel Kahneman, système 01 système 02

03:35 - Les heuristiques

04:55 - Le biais de l’urgence

05:53 - Le biais de confirmation

06:22 - L’effet de halo

06:45 - Le biais d’aversion à la perte

07:28 - Les biais psychologiques et la fraude en ligne

07:38 - La fraude aux faux investissements

12:41 - L’appel téléphonique du faux banquier

16:18 - La fraude aux abonnements

20:32 - C’est toi le mulet

21:07 - Se reprogrammer contre la fraude en ligne

23:05 - Conclusion

Suite à leur enquête sur le numérique adolescent et la vie privée, le LINC et la mission d'éducation au numérique de la CNIL publient leurs résultats en libre accès et lancent un projet européen de recherche-action sur ces enjeux.

Pour la première fois, suite à la signature de leur partenariat, la CNIL et l’EHESS récompenseront la meilleure contribution en sciences humaines et sociales soumise au Privacy Research Day.

For the first time, following their partnership agreement, the CNIL and the School for Advanced Studies in the Social Sciences (EHESS) will be awarding a award for the best submissions in social science submitted to Privacy Research Day.