Les enjeux internationaux de l’intelligence artificielle : table ronde - 15/05/2024

bon mais la séance est donc ouverte mes chers collègues je vous je vous souhaite le bonjour euh nous nous nous travaillons beaucoup en ce moment soit en séance publique soit en commission et nous faisons des choses qui sont euh parfois intéressante comme celle que nous allons faire maintenant surtout pour moi qui suis vraiment un néophy absolu j'appartiens à la génération qui a tout à apprendre euh j'appartiens à la génération qui à qui les les et les jeunes quand je commence à dire il y a des choses que tu devrais savoir et qui répondent qu'est-ce que tu veux que je t'apprennes donc c'est assez simple notre ordre du jour appelle donc ce matin la tenue d'une table ronde enfin on appelle ça une table ronde je sais pas pourquoi sur l'un des phénomènes les plus importants les plus intriguants les plus euh dont il est très difficile de mesurer les implications qui est l'intelligence artificielle alors à bien des égards celle-ci est présentée comme je crois que c'est indiscutable le socle d'une révolution majeure dans la vie de l'humanité et notre commission ne peut pas qui s'intéresse tout ce qui est rien de ce qui est humain ne lui est étranger y compris l'intelligence artificielle dont on doit considérer qu'elle est humaine euh oui d'accord je pense bien que vous pensiez ça raison pour laquelle notre commion ne peut donc s'en désintéresser alors je je me bien me garder de dire grand-chose sur la le le fond des du sujet parce que je le connais pas bien et que j'ai à côté de moi des gens qui ont tout à dire et moi qui est tout et je suis là comme beaucoup d'entre vous mais plus que beaucoup d'entre vous j'ai tout à apprendre alors je voudrais présenter nos deux nos deux invités qui que je remercie l'un et l'autre d'avoir bien voulu venir des potrons minés éclairer les membres de cette commission qui ont choisi de se lever euh c'est-à-dire d'abord malamema mala vous êtes spécialiste des les enjeux politiques et géopolitiques de la tech vous êtes enseignante à sciencesp et chargée de cours à l'École polytechnique vous vous intéressez et c'est évidemment quelque chose qui nous concerne directement concerne les compétences de cette commission vous vous intéressez plus particulièrement aux nouvelles formes de pouvoir et de puissance entre État et géant technologique assi qu'aux enjeux démocratiques et de gouvernance c'est évidemment sur ce type de choses que nous devons comme on dit en bon français focuser actuellement concentrer disons vieux vieux en mauvais français en ancien français que nous devons concentrer nos nos échanges je tiens également à remercier évidemment Monsieur Charles Tibou vous vous êtes chercheur associé à l'IRIS vous êtes chercheur au Centre européen de sociologie et de sciences politiques vous conseillez est aussi je crois le le le le CAPS le centre d'analyse et de prévision et de stratégie du ministère des Affaires étrangères vous êtes vos travaux de recherche portent notamment sur la position des firm transnational numérique dans les champs du pouvoir donc le phénomène dit de transformation numérique des états et le rôle des technologies émergentes dont l'intelligence artificielle n'est pas la moindre dans les relations internationales vous voilà donc la la la présentation euh je vais je vais vous laisser la parole pour un propos ind introductif d'une douzaine de minutes avant d'avoir simplement rappelé une chose c'est que à ma connaissance mais vous allez sans doute au début de vos de vos propos vous allez nous éclairer sur ce point à à ma connaissance liya n'a pas de définition une universellement admise il semble que ce soit l'ingénieur McCarty qui le premier qui est utilisé cette dénomination dans l la conférence de darmou en 1956 tout ça je le savaz pas je la prends pour vous accueillir c'est là déjà votre présence est utile au cours de laquelle l'intelligence artificielle a été établie en tant que discipline à part entière ça je crois qu'il faut d'abord creuser la notion même le le concept parce que c'est pas évident la définition usuelle que parmi les définitions usuelles qu'on qu'on connaît je retiendrai celle du Parlement européen beaucoup de respect pour le Parlement européen don j'ai été membre P près de 20 ans pour qu' l'intelligence artificiel représente tout outil utilisé par une machine afin je cite de reproduire des comportements liés aux humains tels que le raisonnement la planification et la créativité alors si cette définition vous paraît faiarde vous allez vous avez tout loisir de le dire et de le faire bon donc l'ambition de alors on va pas faire faire l'historique disons qu'on est on est passé quand même de des des des des autate de vos canon jusqu'à chadpt en passant par la machine de Turing et quelques autres on a quand même une évolution bonjour madame la vice-présidente on on on a une évolution quand même historique enfin l'intelligence artificielle n'est pas sorti n'est pas sorti miraculeusement de rien elle est l'aboutissement d'un d'un processus d'artificialisation des mécanismes de d'intelligence et vous allez vous vous vous situ évidemment dans cette logique alors moi je n'ai pas je n'ai rien d'autre à à vous dire en vérité sinon que cette commission s'occupe des affaires étrangères des affaires internationales nous sommes absolument convaincus que sans savoir exactement les contours du bouleversement auquel il faut s'attendre nous sommes absolument convaincu que le développement de l'intelligence artificielle va affecter très profondément à à la fois les relations entre les États les relations à l'intérieur des états entre les populations et les gouvernants et les relations entre les grands acteurs économiques et et technologiques et les la puissance publique ou les puissances publiques donc on a vraiment le sentiment que à travers ces trois ces trois évolutions ces trois bouleversements dont nous ne mesurons pas nous en tout cas les exactement les conséquences nous sommes en plein dans le champ de nos compétences et nos interrogations et nous avons la certitude que ce que vous allez nous dire est-ce que nous allons continuer à étudier parce que nous voulons nous estimons que c'est pas simplement une table ronde quelle que soit la qualité de vos apports qui suffira à nous éclairer nous allons poursuivre ce cycle de réflexion sur l'intelligence artificielle nous sommes convaincus que c'est un enjeu absolument centrale pour l'activité internationale d'un État comme la France donc il y a cette considération générale et à travers ça il y a une considération particulière nationale cette fois-ci nous voulons savoir selon vous comment nous nous situons nous Français euh est-ce que nous avons manqué le coche est-ce que nous avons pris le train au bon moment est-ce que nous avons pris le bon train est-ce que nous l'avons pris au bon moment euh qu'est-ce sil que devons-nous redouter comme comportement négatif ou au contraire naïf que devons-nous espérer que devons-nous faire donc a cette approche aussi qui est une logique normale de la part de la Commission des Affaires étrangères d'un pays qui est la France à un moment donné de d'aborder aussi la question sous cet angle de politique nationale voilà je je n'ai rien d'autre à dire je vous laisse la parole alors j'ai cru comprendre que c'est que c'était monsieur Tibou qui allait d'abord ouvrir le le bal euh donc entre 10 et 15 minutes à peu près et puis alors vous savez le système ensuite madame fera la même chose et ensuite on aura chaque chaque groupe pendant 2 minutes et demi un représentant de chaque groupe vous posera une question fera une intervention vous sollicitera et vous répondrez im immédiatement dans un délai approximativement identique sauf que j'arrive à peu près à contrôler le temps de parole de mes collègues mais j'arrive absolument pas à contrôler sans être malélevé celui de mes invités voilà Monsieur Tibou vous avez la parole bien merci monsieur le Président Mesdames et Messieurs les Députés effectivement pour vous avez posé là des questions très importantes alors bon pour cette intervention liminaire je vais je vais surtout me borner à essayer de dresser un panorama euh à la fois bon évidemment limité et subjectif de l'histoire politique d'une certaine manière de de de l'intelligence artificielle en tout cas essayer d'en poser quelques jalons et puis ça nous permettra au fur et à mesure et bien dans comment dire dans d'en mettre en en lumière les les principaux enjeux en tout cas ce que je considère être les principaux enjeux alors la première remarque al ce terme d'intelligence artificielle il est intéressant parce que effectivement vous vous avez rappelé son origine 1956 le mathématicien John mcarty alors il est intéressant le terme en lui-même au-delà du champ de recherche parce que c'est un terme marketing c'est un terme marketing qui a été inventé par John McCarty qui désirait tout simplement en fait trouver des financements pour le nouveau champ de recherche qui était en train de créer et quoi de mieux que l'intelligence artificielle pour frapper l'imagination d'investisseur potentiel ça c'est un peu la première origine de de l'intelligence artificielle la seconde elle est plus ancienne elle s en racine dans dans l'Amérique de la Seconde Guerre mondiale et à la croisée des champs scientifiques militaires et industriel et ce qu'il faut bien avoir en tête c'est que l'intelligence artificielle je résume évidemment mais elle dérive essentiellement d'un mouvement scientifique qui s'appelle la cybernétique dans les années 40 qui était donc un mouvement scientifique animé par des chercheurs venus de de plein d'horizons mais qui surtout s'était mis en tête d'édifier une science générale du fonctionnement de l'esprit humain et de reproduire cet esprit humain dans une machine donc vous voyez on est dans les années 40 et on a déjà là d'une certaine manière les origines scientifiphilosophiques à la fois de l'intelligence artificielle et du transhumanisme alors comme tant d'autres scientifique à cette époque pendant la guerre et bien les cybernéticiens travaillent pour l'armée pour le département de la guerre qui n'est pas encore le département de la Défense certains pour le projet manatan d'autres comme Norbert wiinner qui est la figure de prou du mouvement cybernétique vont plutôt s'atteler à ce qu'on va appeler l'automatisation des tâches militaire et en lien avec un ingénieur d'IBM la le premier gfam l'ancêtre de tous les gfames avec un ingénieur d'IBM Julian bigelot ils vont travailler à la mise au point d'un système de tir prédictif anti-aérien l'idée étant de prendre alors excusez-moi on tombe un petit peu dans le jargon scientifique mais de prendre en entrée en donné entrée des données acoustiques typiquement le bruit des aéronefs le bruit des avions pour essayer d'en déduire d'en prédire la trajectoire et donc pour que la défense anti-aérienne puisse prévoir où sera l'avion à détruire les liens entre la cybernétique et le monde de la défense vont se poursuivre dans les années suivantes avec l'intelligence artificielle dès les années 60 ce sont des millions dollars qui sont dépensés chaque année par l'ARPA qui est donc l'ancêtre la dararpa l'agence de recherche et développement du pintagone des millions de dollars dès les années 60 qui vont financer les laboratoires d'intelligence artificielle du MIT de la carnegy melon de Stanford que John McCarty dont John McCarty vient de créer le laboratoire d'intelligence artificielle ainsi que le laboratoire d'IBM qui est donc un partenaire de premier plan du département de la défense dupartement de la guerre depuis la Seconde Guerre mondiale alors il est difficile de dire quand ont été testés les les les toutes premières applications de l'intelligence artificielle mais on sait toutefois que dès la guerre du Vietnam les militaires américains disposaient à leur côté d'une équipe d'experts d'informaticiens qui avaient en charge d'essayer d'utiliser l'intelligence artificielle pour aider les stratèges américains et bien à prendre des décisions dans le cadre de la guerre du Vietnam bon on est dans les années 60 on peut pas dire que le succès fut au rendez-vous en 1969 vous avez un de ces experts qui va demander à l'ordinateur quand gagnerons-nous la guerre en 69 donc et l'ordinateur lui répond vous avez gagné en 1964 bon ce qu'il faut garder en tête donc c'est que l'origine de l'intelligence artificielle il a plonge ses racines dans la défense américaine c'est-à-dire dans l'État et à cet égard lia ne diffère pas d'autres technologies dével à cette époque aux États-Unis toutes pratiquement toutes sont financées sur fonds fédéraux et tout particulièrement par l'armée ce qui avait d'ailleurs conduit l'économiste américain John Kennet galbret en 1967 à parler à propos des États-Unis d'économie planifiée alors deuxième remarque l'intelligence artificielle n'est pas un enjeu géopolitique récent dès les années 80 se met en place une compétition internationale au autour du leadership enintelligence artificielle où vont rivaliser les Américains les Européens et surtout les japonais c'est intéressant parce que alors le Japon est dans un état de quasi vassalité à l'égard des États-Unis qui dispose et d'ailleurs toujours de base militaires sur le sol Nipon et de fait c'est pas vraiment l'usage militaire qui inquiète le gouvernement américain à cette époque mais l'impact de l'IA sur l'économie américaine le risque majeur qui est mis alors en avant c'est que l'informatique japonaise risque de dépasser celle des États-Unis et que pour reprendre l'expression d'un d'un candidat démocrate aussi vice-président américain dans les années 80 le risque c'est quoi c'est que les enfants des américains des années 80 et bien soit condamné à l'avenir à épouser à nettoyer les ordinateurs japonais voilà la crainte qui avait qui avait cours dans dans ces années là Monsieur cal bref le risque identifié de cette époque c'est l'automatisation généralisée des tâches le remplacement des travailleurs humains par les machines et que dans cette grande transformation informatique on oserait dire numérique de l'économie les gains de productivité ne bénéficient qu'aux japonais et en réaction d'ailleurs les Américains vont lancer un programme d'intelligence artificielle d'un milliard de dollars dans les années 80 ce qui un montant gigantesque qui est inédit à cette époque pour pour un le domaine ce qui montre que qu'une menace sérieuse avait été identifiée bon il se trouve qu'à l'orée des années 90 le Japon entre dans une crise financière économique catastrophique et qui va mettre fin totalement aux espoirs japonais dans ce domaine ce qui fait que la compétition internationale autour de cette technologie va s'éteindre et elle ne va ressurgir que 25 ans plus tard avec l'émergence d'un nouveau rival stratégique cette fois c'est la Chine troisème remarque donc lesessort de la Chine dans dans inigence artificielle alors si on était raisonnable c'est un processus qu'il faudrait pour le comprendre qu'il faudrait inscrire dans le temps long et à la limite en fait il faudrait remonter jusqu'au 19e siècle il faudrait remonter jusqu'au Gard de l'opium jusqu'au sac du palais d'Ét par les troupes britanniques et françaises en 1860 pour comprendre comment un empire conservateur scrupuleusement attaché à ses traditions et réfractaires à la modernité occidentale et bien on est venu à à épouser les canons du développement technologique européen puis américain à partir de la seconde guerre mondiale il faudra expliquer le changement profond aussi qui est intervenu à la mort de mautong et à au moment de son remplacement par den chaoping mais bon je passe je vous renvoie au très belle page qu'a consacré l'anthropologue Maurice Gaudelier sur cette question question qui est comment se moderniser sans s'occidentaliser voilà question essentielle à coup sûr qui devrait intéresser votre commission retenons donc que depuis les années 70 la politique scientifique et technologique a progressivement gagné le rendre priorité nationale dans l'agenda du Parti communiste chinois et à cet égard l'intelligence artificielle ne dévie pas des objectifs que sont fixés les hiérarques du du parti état voici un demi-siècle objectif qu'on peut sans difficulté attribuer à coller à à toutes les puissances he qui se rêvent en puissance technologique numérique y compris dans le domaine de de l'intelligence artificielle alors ces objectifs ils sont clairement énoncés dans le plan de développement de la nouvelle génération d'intelligence artificielle c'est le terme très succ du du plan chinois qui a été dévoilé par le Conseil des affaires de l'État en en juillet 2017 alors le premier objectif de ce plan il est d'ordre économique parce que la promesse de l'intelligence artificielle quelle est-elle c'est de produire ou d'aider à produire des biens des services mieux que des humains et en se passant des humains en tout cas le plus possible même si en réalité ce qui se passe c'est bien plutôt l'affectation d'êtres humains à des tâches subalternes redondantes extrêmement mal rémunéré et malgré tout essentielle pour entraîner les intelligences artificielles notamment et là-dessus je vous renvoie aux travaux que qu'a consacré le le sociologue Antonio casili à ce sujet notamment son son livre en attendant les robot bref le but Futi illusoire en l'état c'est de dégager des gains de productivité jusqu'à l'automatisation complète des tâches et l'élimination non moins complète du facteur travail humain ce qui n'est pas un atout négligeable dans un pays la Chine où la démographie la démographie est en berne depuis 2017 l'année même où est dévoilé ce plan le second objectif lui est d'ordre sociopolitique comme tout régime politique et à forcerie comme tout régime politique autoritaire le régime chinois a depuis le commencement mis en place des dispositifs de contrôle social de régulation des rapports sociaux sous l'Ang de la surveillance de la censure de la propagande et de la répression et ce afin de maintenir la stabilité du régime le plan Ia de la Chine lui embrasse cette perspective comme le montre sa section 3 et notamment deux sous-sections intitulé promouvoir une gouvernance sociale intelligente ou intelligencié selon les traductions donc dot des armes de l'intelligence artificielle et la deuxième section Utiliser l'intelligence artificielle pour renforcer les capacités en matière de sûreté et de sécurité publique et de des dispositifs d'intelligence artificielle basés sur l'IA à des fins de contrôle de la population et bien sont en place depuis quelques années notamment mais pas seulement dans la province du singjang he où vit une importante communauté Ouigour et on sait que des technologies de cette sorte ont déjà été mises en place notamment dans le cadre des manifestations pour dire de la révolte qui a eu lieu à Hong Kong il y a quelques années alors que conclure de tout cela d'abord que le développement de l'intelligence artificielle et des technologies émergentes plus généralement est indissociable d'une forte intervention étatique qui peut prendre différents chemins bien entendu et on pourra revenir si vous souhaitez sur les différences entre les modèles chinois américains et européens mais il faut bien retenir que les financements et les innovations privées en intelligence artificielle reposent sur des bases étatiques et en particulier militaire comme le disait déjà galbret dans les années 60 il faut abandonner le myth de l' eneurs autonome qui s'y étend aux économistes la réalité c'est que le monde des technologies avancées est un monde d'état de politique industriel de financement public de la recherche de programme militaires car seul l'état peut concéder des investissements aussi important dont la rentabilité est incertaine seul l'état peut garantir à des entreprises un retour sur investissement à l'abri des fluctuations du marché et ce n'est pas pour rien que les grandes entreprises du numérique proviennent d'État interventionnistes qui n'ésine pas sur les dépenses militaires et les contrats à long terme alors je terminerai cette intervention par un pas de côté qui peut s'assimiler à une remarque de bon sens mais qui me semble être la clé de lecture la plus heuristique pour employer pardon un terme jargonant pour embrasser d'un du regard tous les enjeux que soulève l'intelligence artificielle les individus les organisations les entreprises les état tous ceux qui financent l'intelligence artificielle et indépendamment des objectifs de le leurs objectifs propres ont pour but la substitution la plus large possible des machines aux êtres humains afin de dégager des gains de productivité au sens large c'est-à-dire remplacer des êtres humains par des machines jugées plus performantes moins coûteuses qui ne perçoivent pas de salaire d'allocation de pension de retraite et cetera et aussi des machines moins dangereuses parce qu'elles ne sont pas susceptibles sauf innovation radicale de faire grve de manifester de refuser d'obéir aux ordres ou de se révolter on peut se mettre à la place d'un état belligérant il peut sembler plus efficient aussi d'un point de vue politique et desb de guerre de remplacer les soldats par des machines ne serait-ce que pour éviter les réactions aussi de la population quand on va apprendre la mort les premières morts les premiers morts au combat évidemment cette recherche de productivité pose des questions essentielles et je terminerai par là que fait-on d'une masse importante de la population euh sans emploi ou relégué à des tâches annexes qui lui permettent pas de subvenir à ses besoins quels sont les débouchés d'une entreprise dont la clientèle se retrouverait impécunneuse incapable de consommer le fruit de la production de l'intelligence artificielle comment maintenir la confiance d'une population et donc étouffer ces élans séditieux si son lien à la puissance publique est médié par des machines qui plus est des machines dont le fonctionnement par nature et opaque parce que c'est bien là un trait distinctif de l'intelligence artificielle que de produire des résultats sans qu'on sache exactement comment elle y est parvenue bref voilà donc quelques questions qui me semble essentiell que pose le développement d'intelligence artificielle et et je m'arrête là pour le moment oui ça ça va ça va intéresser monsieur Lecoq parce que fondamentalement c'est le problème de la plusvalue que vous posez Infiné c'est le gain de plusvalue va à celui qui qui possède ces techniques mais qu'est-ce qu'on en fait si les les si les les salariés ne sont plus bénéficiires de ça comme les salariés sont aussi les consommateurs ça met en cause le théorème de de de hen Ford de donc on est mais là je pense que le vice-président le coq va le vice-président le coque réagira madame malas excusez-moi oui il faut couper votre micro madame malas c'est à vous après cette cette très très intéressante introduction qui nous permet de de de ça ça fait penser la phrase de toeville le passé n'éclair n'éclairant plus l'avenir l'homme s'avance dans les ténèbres vous avez parfaitement éclairé le passé et donc nous nous avançons plus dans les ténèbres madame merci merci ch euh monsieur le Président merci beaucoup de vous intéresser non ça marche pas si plus là ça va et là ça va très bien ma voix de cresselle arrive jusqu'à vos tendres oreilles euh monsieur le Président merci beaucoup pour l'invitation merci surtout d'avoir pris le sujet de de vous y pencher et de nous donner la parole ce matin euh mesdames messieurs les députés bonjour et merci pour votre présence euh je vais essayer d'être complémentaire avec les propos de Charles et donc je ne vais pas du tout revenir sur pour ne pas faire de redondance sur l'historique 56 1950 et surtout 1943 la date des premiers textes et des premiers des premiers papiers de recherche en fait avec MK and Pitz sur en gros cette obsession à un moment donné qui est arrivée et qui est interdisciplinaire pour essayer de comprendre si on était capable de construire en fait des modèles de d'intelligence dite artificielle qui seraiit capable de reproduire l'intelligence biologique humaine c'était ça un peu la question obsessionnelle et initiale des chercheurs du domaine je ferme la parenthèse parce que je je crois que entre monsieur le Président et et et Charles Tibou vous avez une vision exhaustive de de cette historique si je devais maintenant plonger vers le présent et plutôt d'ailleurs en perspective vers le futur le thme de la Table Ronde c'est il me semble enjeux internationaux de l'intelligence artificielle si je ne me trompe pas donc c'est un très vaste sujet de bac j'ai presque envie de dire où on aurait 4 heures pour y répondre avec une thèse une antithèse et une synthèse en gros pour vous plonger directement dans les gros enjeux et si je devais en définir les plus importants il y en aurait quatre à mon sens le premier est un enjeu évidemment géopolitique encore que l'intelligence artificielle mais vous l'avez compris maintenant ça ne veut strictement rien dire mais j'y reviendrai dans probablement vers la fin de ma de de mon propos donc le premier c'est un enjeu géopolitique le second est un enjeu militaire le troisème est un enjeu de gouvernance et donc normatif le 4ème c'est l'enjeu évidemment de la souveraineté laquelle de qui comment comment est-ce qu'on la redéfinit est-ce qu'on devrait même la redéfinir et selon quel terme de l'équation disons politique euh si je devais aller sur d'abord les enjeux géopolitiques pourquoi est-ce que l'intelligence artificielle tout d'un coup au-delà de la des discours que vous entendez souvent à droite à gauche sur une espèce d'hystérisation du débat les super intelligences qui viendraient tout détruire sur leur chemin l'humanité les hommes la civilisation la démocratie je pense qu'il faut absolument garder la tête froide et avoir ce travail de déconstruction des des des narratifs comme on dit en très bon français qui viennent d'ailleurs directement de la Silicon valleé en partie donc les enjux géopolitiques de façon et en terme de réel politique et de façon beaucoup plus pragmatique c'est tout simplement la rivalité États-Unis Chine autour de la question des systèmes d'intelligence artificielle des SIA et en particulier à à usage militaire parce que ce qui se joue et là je ne vous apprends strictement rien c'est la c'est la c'est le leadership en fait et notamment ce qui est en train de se passer euh en mer de Chine et plus largement sur la recomposition de l'échiquet géopolitique et de ce point de vue-là la question technologique et en particulier l'intelligence artificielle est absolument nodal dans cette rivalité et en fait si on est un tout petit peu méthodique l'intelligence artificielle puisque ça ne veut rien dire il faut en fait la déconstruire selon sa chaîne de valeur et donc en amont vous avez quoi évidemment la question des semi-conducteurs et en particulier des semi-conducteur de très fune gravure et qui en fait cristallise cette hystérisation États-Unis Chine et c'est là où on a vu apparaître dès 2022 avec le fameux discours de Jak syivan de septembre 2022 le concept de dérisquage par exemple qui va être atténué un peu plus tard par l'autre concept plus européen de découplage et en fait on est dans cette aller-retour États-Unis Chine entre monter en tension mais en même temps mais en même temps et c'est plutôt pas une très mauvaise nouvelle je n'irai pas jusqu'à dire que c'est une bonne nouvelle mais enfin ils ont un tout petit peu mis de l'eau dans leur vin en novembre 2023 quand les deux présidents se sont rencontrés Biden et sjin pin à San Francisco et qu'ils ont décidé justement de maintenir disons le canal de communication ouvert notamment sur la question de la gouvernance de l'intelligence artificielle entre les deux blocs disons donc enjeu géostratégique parce que rivalité parce que leadership parce que l'intelligence artificielle au sens générique et conceptuel du terme gardons-le pour aller vite dans la démonstration ce sont d'abord des outils de soft et de hard power chat GPT quand en fait il a une adoption de plusieurs millions d'utilisateurs en quelques semaines ce sont des véhicules en fait de valeur de vision et en fait de soft américain et quand vous écoutez les auditions de Sam Altman euh en mai 2023 il le dit ça n'a pas été vachement pardon pour la familiarité mais beaucoup relevé en tout cas pas beaucoup relevé en France et en Europe mais il le dit très clairement Altman quand il est auditionné il dit que un de ses enjeux de diffus du modèle de chat GPT et des modèles d'Open ai en général c'est aussi la diffusion ou en tout cas le la protection des valeurs démocratiques occidentales sous-entendu à comprendre les valeurs démocratiques américaines évidemment donc il y a évidemment cet enjeu là et puis l'enjeu de hard power là on a deux champs des champs d'expérimentation passés à l'échelle l'Ukraine et évidemment Gaza où on voit que les intelligences artificielles sont aujourd'hui à usage militaire et que c'est plus que des bac àables ça permet aussi d'ailleurs au au au aux technologies américaines d'expérimenter vraiment à échelle un certain nombre de d'outils de logiciels j'y reviendrai si si vous le souhaitez donc enjeu géostratégique parce que hard soft power parce que rivalité États-Unis Chine parce que ça cristallise la question des semiconducteurs avec évidemment TSMC et c'est ce qui va expliquer en fait l'ensemble des mesures qui vont être prises par les États-Unis pour disons bloquer ou prenez le développement chinois dans cette dans cette filière là qui n'est pas une filière en fait qui est vraiment et et monsieur le président l'a précisé dans dans ses propos liminires une révolution l'intelligence artificielle si je devais la schématiser pour que vous ayez un peu une une vision d'ensemble ce n'est pas des outils ou ou plus exactement avant que ce ne soit des des outils ce sont des infrastructures si vous voulez socle à partir desquelles se déploie absolument tout le reste et quand je parle de tout le reste c'est quoi c'est le fait politique le fait militaire le fait industriel le faitc omique le fait social euh et vous avez tout un tas de continuum comme ça qui se mettent en place réseaux sociaux des informations intelligence artificielle générative par exemple donc tout ça doit absolument faire système et si on ne comprend pas l'intelligence artificielle en système on passe à côté de de de de de quelque chose c'est-à-dire que on on ne va pas savoir diagnostiquer ces nouvelles structure de pouvoir et de puissance qui sont en train de se mettre en place le deuxième enjeu c'est un enjeu militaire on en a parlé il y a évidemment la question du leadership euh Charles Tibou l'évoquait dans ses propos mais dès 2017 dans les plans quinqueno euh chinois est présenté l'ambition de la Chine devenir une puissance militaire de rang mondiale à 20149 la rivalité États-Unis Chine de ce point de vue-là n'est absolument pas nouvelle c'est pas tout d'un coup en 2022 sous l'administration Biden qu'on va découvrir ça en réalité ça commence en 2008 si je devais être dans un dans un dans un dans dans un passé proche sous l'administration Obama et pour quelle raison et c'est là on va commencer à avoir la fameuse stratégie pivot où tout d'un coup on va se rendre compte qu'évidemment la région devient un sujet éminemment stratégique pour les États-Unis dans un contexte par ailleurs où on a besoin d'un autre aussi narratif ou d'une fabrique dont on peut d'ailleurs discuter la pertinence et le fait est que elle est aujourd'hui pertinente mais la fabrique d'un ennemi la puissance américaine c'est souvent construite contre quelque chose contre un bloc contre quelqu'un donc 2008 ça va être le début de ce qu'on va appeler le démarrage d'une stratégie de containment et on va arriver très vite DS 2019 la question le le le le scandale Huawei et puis après TikTok qui participe toujours de cette même disons logique de rivalité États-Unis Chine avec les États-Unis qui pose cette question fondamentale pour eux et qu'on retrouve dans l'exécutive order de d'octobre 2023 qui donne si vous voulez les grandes signe à l'administration et aux administrations des agences fédérales américaines sur l'usage de l'intelligence artificielle et donc le grand enjeu c'est évidemment la question de la sécurité nationale bien sûr qu'on retrouve un tout petit peu en en miroir d'ailleurs du côté du côté chinois rivalité militaire donc disais-je parce que l'intelligence artificielle aujourd'hui est un carburant est un outil qui est mis au service aussi de disons de la puissance de feu conventionnel les classiques en Ukraine qu'est-ce qu'on a vu euh qu'est-ce qu'on a vu éclore et advenir l'intelligence artificielle au service mais des deux côtés et en particulier au côté des des des armées ukrainiennes aider évidemment énormément par les États-Unis et qui on retrouve évidemment Starlink de Elon Musk palentir ClearView les logiciels de reconnaissance facial Amazon AWS euh Google Microsoft sur les questions de cyberdfense et quand on parle aujourd'hui de cyber dééfense c'est impossible d'envisager le sujet sans évidemment le volet intelligence artificiel à la fois pour créer ou amplifier massifier la menace ou à contrario pour identifier par signau faible ou pour contrecarrer la menace donc tout ça vraiment est est absolument imbriqué plus plus récemment la le le conflit Israël Gaza a montré aussi l'usage de logiciel d'intelligence artificielle pour disons cibler les les les opérations il y a eu tout le toutes les révélations disons autour de logiciel la vendeur asbora et cetera ce qui pose une autre question qui iménemment philosophique mais qui devient très vite politique et donc très très vite géopolitique la question de l'usage de ces outilslà nouveaux qu'on est en train d'expérimenter qu'on est en train de découvrir avec ce vieux rêve qui était le rêve de la frappe chirurgicale en réalité on pensait on a pensé dans les narratifs on peut penser à tort d'ailleurs que les logiciels dia mis au service de euh de conflit peuvent être ultra précis en réalité en fonction des dommages collatéraux que vous acceptez ou non avec le coup politique que ça peut avoir ou non on on observe et on note que ça peut devenir des armes de destruction littéralement massives avec la question de la responsabilité et donc aussi de la gouvernance ce qui m'amène à mon 3isème et dernier point dans le volet enjeu militaire évidemment à la question des armes autonomes qui aujourd'hui ne fait absolument pas consensus ni sur la définition ça commence où ça s'arrête ou et surtout il y a par le l'enjeu géostratégique de rivalité entre les États-Unis et la Chine à mon sens pas tellement une un grand désir au-delà de quelques consignes de quelques vux pieux et de quelques livres blanc et cetera de de de réguler ou en tout cas d'interdire ce type d'arme je crains et c'est un peu notre histoire à nous et notre peut-être destin d'humain je crains qu'il ne faille attendre comme d'habitude l'accident donc le scandale donc la mobilisation des opinions publiques pour qu'un moment donné peut-être les lignes bouge mais en tout cas euh c'est un sujet aujourd'hui un des grands sujets disons de discussion de gouvernance internationale sur la question de l'intelligence artificielle il y a quelques jours il y a de semaines je crois il y a eu le sommet de Vienne sur ces questionslà avec un appel justement à la régulation des armes autonomes sans que ça ne débouche pour l'instant sur euh pas grand-chose euh et c'estàd que c'est la c'est c'est euh c'est la fin je ne le crois pas mais la l'avenir nous le dira et puis enfin la question de la gouvernance internationale et donc normative de l'intelligence artificielle pareil c'est un sujet absolument passionnant parce que les instances aujourd'hui sont soit multilatérales mais surtout véhiculant disons une une une une vision trèsocci occidentalo centrée disons des choses en tout cas jusque-l et vous avez un état empire qui s'appelle la Chine qui conteste finalement elle-même étant pu pu sens de cette technologie là qui conteste cette vision disons normative qui serait trustée par par par les démocraties occidentales et en particulier par les États-Unis donc il y a cette cette bataille juridique normative des standard en fait et des usages qui est en train de se jouer actuellement et c'est ce qui explique d'ailleurs la multiplication la prolifération de sommets de réunion d'audition de commission de rapports de livre blanc à vraiment toute échelle le le phénomène peut-être le plus intéressant dans la question de la de de la gouvernance internationale de l'intelligence artificielle avec comme enjeu allons-nous vers une collaboration globale et internationale premier scénario ou une fragmentation une balcanisation régionale et donc normative qui serait l'autre option les les dés sont jetés les jeux sont ouverts on verra bien on il est probable qu'on aille vers quelque chose d'un peu mou à très court terme qui serait de la coopétition donc cette rivalité G stratégique mais on garde le canal et puis on se et et on se teste mais le le il y a deux phénomènes qui sont très intéressants en sous-point à avoir en tête sur la question de la gouvernance c'est les bricks les bricks plus en fait qui arrivent sur la scène avec notamment des pays qui ont des vraies ambitions l'Inde mais aussi l'Arabie Saoudite les Émirats arabes unis qui pose des agendas et avec la Chine qui aimerait elle avoir et voir pousser un agenda de norme contraignante topd verticale coercitive euh sur ces questions-là la question des brick plus dans la gouvernance internationale elle va être de savoir s'ils vont pousser leur s'ils vont d'abord réussir à avoir un agenda commun c'est absolument pas gagné il sont 10 et 10 avec des intérêts diplomatiques et parfois géostratégiques pas toujours convergents il y a des rivalités entre eux il y a des tensions entre la Chine et l'Inde par exemple notamment sur la question technologique donc la question des briques ça ça va être de savoir s'ils vont pousser s'ils vont réussir à pousser un agenda commun donc de parler d'une seule voix et en particulier au sein des instances multilatérales ou si ils vont finalement disons faire ses sessions on verra pareil c'est une question qui reste parfaitement ouverte ce qui m'amène je sais pas si je suis dans mes temps j'ai encore un peu de temps pas beaucoup je fais très vite je continue je je je persévère donc avantdernier enjeu j'irai très vite de la souveraineté avec avec la fameuse troème voix européenne et là on ira probablement j'espère là-dessus dans dans dans la partie question réponse en gros si je la fais vite et courte en France et en Europe non en France je crois qu'on est un tout petit peu à côté de la plaque pour pas dire complètement eu et j'y reviendrai et on a beau sortir des commissions et des rapports et des et tout un tas de choses en fait on a un système d'innovation nationale illisible on a une difficulté culturelle à fusionner ou en tout cas à intégrer ou à faire travailler le public et le privé hors bit et on a un problème de compréhension de la dualité de ces technologies là qui sont civiles et militaires à la fois or quand on voit les stratégies gagnantes dans le monde en général vous avez une fusion civile et militaire qu'on a du mal aujourd'hui à faire éclore or quelques quelques disons hos spécifiques dans le champ défense h l'enjeu évidemment démocratique euh je le problématiserai simplement pour ouvrir vos chakras au-delà de la question de la régulation le a ne ne ne couvre pas tellement le sujet ce qui est en fait un angle mort total et absolu au-delà de simplement avoir une obligation de watermking c'est-à-dire d'avoir une une un marquage des des des contenus qui vont être générés par par lesas génératives le problème au-delà de la simple régulation c'est de se demander à quoi sert ma régulation c'est-à-dire quel est mon objectif politique or la régulation ou une réglementation par définition est expost enfin forcément on a beau dire que c'est exenté c'est forcément expos à la fin des fins et puis surtout l'exemple argentin est extrêmement intéressant il y a eu les élections argentines il n'y a pas longtemps et ce qu'on a vu apparaître ce sont des chip fake c'est-à-dire des deep fake qui sont absolument grossiers visibles et ça ne comptait pas tellement en réalité donc il y a toute la question de l'éducation de l' culturation de la compréhension de ça et ça ne peut pas passer simplement par l'appareil législatif ou par de la loi disons descendante c'est impossible euh je terminerai sur les acteurs nouveaux qui sont encore un angle mort dans le débat public français et Charles je je parle en en complément parce que je sais aussi que c'est c'est vos champs de de travaux et de recherche c'est évidemment les géant technologiqu et les non non j'ai dit ça oui non il a pas dit son dernier mot mais mais je rebondiss ça parce que j'entendais dans la description que c'était son champ de travail et qui est donc aussi le mien et donc évidemment il y a l'apparition tout d'un coup de ces bigtech ou ces géants technologiques américains ou chinois d'ailleurs selon des modalités de gouvernance différentes et parfois parallèles des deux côtés et qui deviennent des acteurs politiques géopolitique militaire à part entière et qu'il faut donc comprendre comme tel et qui donc viennent aussi réinterroger la question de la souveraineté quand on est un pays comme comme comme la France la question n'est pas de les diaboliser ou d'être dans un souverainisme patenté et complètement illusoire et fantasmatique ou d'être dans quelque chose de complètement américanophobe la question est de se dire comment est-ce qu'on travaille avec et où son nos intérêts convergents à condition à condition de maintenir une souveraineté à minima des données les plus confidentielles les plus sensible ou secret défense et là ce sont des champs entiers qui sont ouverts qui sont en discussion et qui ne sont absolument pas du tout aujourd'hui clos voilà pour mes voilà pour mes propos liminires et je terminerai peut-être avec un clin d'œil à tucidide toute la question de l'intelligence artificielle qui est éternelle et c'est la permanence de nos questions c'est à la fin des fins de savoir qui est dominé et qui est dominant voilà voilà voilà c effectivement vous terminé par une question très ouverte je vous je vous remercie infiniment je crois que c'est ces deux éclairage était très important je crois notamment qu'on a très très bien compris à quel point C phénomène d'intelligence artificielle étaiit au cœur d'une d'une modification des rapports de domination et notamment est une sorte de plein développement de ce qu'on appelle l'hybridisme c'est-à-dire quelque chose qui est indissolublement civil et militaire euh dans le ce que vous avez décrit y avvec quand même une grande part de euh enfin c'est l' l'automatisation sous toutes ses formes je dire ce qui nous inquiète ce qui nous pas nous inquiète mais ce qui nous interroge euh c'est le le fait que nous avons derrière ces phénomèn à la fois une une une extériorisation de tâches d'exécution puis un stade supérieur de la prise de décision un stade encore supérieur de la conception h de ce qu'on fait et et presque euh c'est c'est implicite dans ce que vous avez dit euh et même quasiment explicite avec les normes une tâche de prescription donc on a donc une une artificialisation de niveau d'action de de l'esprit humain qui sont de plus en plus considérables et c'est ça qui donne un peu le vertige alors maintenant comme les les groupes vont on le vertige ils vont pouvoir apaiser leur vertige en vous interrogeant et pour la le début ce sera le groupe Renaissance qui sera représenté par pardon oui oui vous éteignez votre micro par Madame Mireille clapau qui est notre vice qui est député de la Drome et qui est notre vice-présidente Mireille c'est à vous merci monsieur le Président merci beaucoup madame monsieur au nom du groupe Renaissance apparentée pour vos interventions très intéressantes alors c'est vraiment un sujet qui me passionne puisque je travaille depuis quelques mois sur le sujet tant pour la commission supérieure du numérique et des postes composé de députés de sénateur que pour l'Assemblée parlementaire du Conseil de l'Europe avec un angle plutôt égalité de genre et intelligence artificielle alors moi j'en suis arrivé à la conclusion que l'intelligence artificielle c'est comme la langue des HES hein ça peut être la meilleure et la pire des choses et aussi que le la France a un rôle particulier à jouer parce qu'on a des talents parce que on a une politique publique comme vous le soullignez qui qui porte ses fruit depuis 2018 avec le rapport villan et la première stratégie et puis plus récemment avec ces nombreux rapports dont le rapport du comité d'experts euh qui préconise d'investir 5 milliards d'euros mais aussi toutes les annonces faites par les investisseurs étrangers Google pas plus tard qu'ier Microsoft 4 milliards Amazon 1 milliard et on va avoir un sommet très important en 2025 et je voudrais aussi rendre hommage à nos services publics qui utilisent l'intelligence artificielle et donc font un effort d'acclimatation de la population au bienfait euh d'une automatisation du travail alors sur la régulation c'est c'est qui est aussi une nécessité vous avez souligné madame ma la profusion de niveau de régulation l'Union européenne avec l'IA acte moi je trouve qu'elle a fait un travail intéressant elle permet de réguler selon les risques et de rester sur cette ligne de crête éviter de tomber dans trop de régulation ou dans trop d'interventionnisme de l'État avec des des des un modèle européen finalement qui est entre les les deux blocs moi je pense que l'avenir ça sera sans doute dans un traité international comme on en a pour les traités de circulation aérienne ou maritime et puis il faudra aussi s'occuper de la question de des des droits d'auteur impact sociaux vous l'avez dit je pense aussi impact sur les capacités cognitives il faut qu'on garde la maîtrise et pour ça il faut garder certaines compétences et surtout l'esprit critique et puis pour revenir à ce qui préoccupe une commission des affaires étrangères c'est des enjeux géopolitiques avec des utilisations dans des robot tueurs qui violent le droit international humanitaire des enjeux démocratique parlons aussi des enjeux environnementaux parce que lia consomme beaucoup d'énergie et d'eau et donc pourrait tenter de quitter l'Europe et l'enjeu de souveraineté et malheureusement comme le maître du temps me rappelle à mes devoirs je vais conclure juste par une question comment pensez-vous qu'on peut se prémunir des risques d'ingérence face à l'intensification des investissements étrangers que j'ai mentionné je vous remercie bien je vous remerci madame la la vice-présidente ce qu'il faudrait c'est essayer de tenir dans une réponse de 2 minutes et demi ça sera difficile donc vous êtes pas obligé de répondre tous les deux je sais pas mais vous pouvez répondre tous les deux vous pouvez répondre vous vous alternez celui celui ou celle qui a envie de dire quelque chose le fait euh alors je vous avez redressé un un un panorama synthétique et à la fois exhaustif des des principaux enjeux si je devais peut-être en profiter pour pour Ajouter pour ajouter quelque chose sur la question de la de la de de du Ia Act et de la régulation je ne dis pas exactement qu'on a une stratégie efficace je dis que elle est plutôt inefficace euh euh pourquoi inefficace enfin en tout cas pas tellement abouti pour une raison très simple alors sur le Ia Act sur le Ia Act d'un point de vue du signal politique c'est-à-dire redéfinir et réaffirmer nos valeurs parce que c'est un texte qui est basé sur sur nos droits les droits fondamentaux les droits de l'homme qu'est-ce qu'on peut disons tolérer dans un cadre d'État de droit démocratique qui est notre modèle politique ça de ce point de vue-là moi j'y souscris absolument et il de toute façon il fallait le faire parce qu'il fallait une préemption d'ailleurs de la régulation internationale et de ce point de vue-là l'autre enjeu du EAC c'était de dire est-ce qu'on aurait pas un Brussells effect où tout d'un coup on emballerait la machine internationale sur le modèle européen et donc il fallait le faire de ce point de vue-là du point de vue européen après la la question de d'avoir un texte à ce point disons corseté malgré tout avec une architecture disons qui peut-être rapidement lourde et bureaucratique c'est le dilemme éternel innovation versus réglementation ou régulation qu'on arrive pas exactement nous en Europe à résoudre l'approche chinoise peut-être que Charlie reviendra est davantage itérative on va dire mais pareil avec un enjeu de sécurité nationale et de contrôle surtout social intérieur et qui pose d'ailleurs d'énormes questions sur la probabilité la possibilité qu'aura la Chine de développer ses propres systèmes d'intelligence artificielle puisque plus vous enfermez benah en fait plus vous freinez votre propre développement technologique et puis les États-Unis qui ont fait davantage un des des disons des guidelines donc des grandes consignes à à destination des agences fédérales avec évidemment la question de la sécurité nationale mais aussi du développement économique et industriel puisque c'est aussi un instrument de puissance la capacité d'innovation et d'avoir un un un un tissu industriel extrêmement dynamique ce qui explique entre autres d'ailleurs notre discours aujourd'hui notre stratégie de réindustrialisation donc dans les faites ou en tout cas dans l'intention oui c'est exactement ça qu'il faut faire réindustrialiser trouver la bonne jauge de réglementation avec le bon gradient on verra ça s'affinera peut-être le problème étant que voilà si je reviens à un niveau local donc frçais le problème étant que aujourd'hui on a un système d'innovation nationale pardon de le dire aussi franchement mais qui est isible illisible donc on a beau ajouter des strates supplémentaires des rapports supplémentaires des dotations supplémentaires et on voit d'ailleurs les les écarts de grandeur c'est à échelle d'un pays qui n'est pas aujourd'hui un grand pays technologique donc avant de dire on abonde il y a qu'à faucon il faudrait que et regardons toujours être toujours en position de fol des États-Unis et de la Chine c'est plutôt de se dire et moi c'est ce que j'explique du matin au soir mais je ne suis toujours hélas pas écoutter c'est commencer par faire une carographie en fait de la France où sont nos forces nos forces et nos faiblesses où est-ce qu'il faudrait qu'on aille dire développer l'intelligence artificiel ça ne veut rien dire d'un point de vue économique et industriel ça ne veut rien dire du tout merci je vous remercie non je je terminerai juste donc c'est la question des cas d'usage est-ce qu'on va sur la santé enfin il va falloir qu'on comprenne où sont nos avantages compétitifs c'est c'est très très clair je je me sens un peu coupable vis-à-vis de vous est-ce que vous avez quelque chose à ajouter à ce qu'a dit votre euh bon c'est non non mais on on on peut il faut arrêter le voilà non non on peut on peut enchaîner ça non je voulais juste juste relever sans intervenir ça dure 10 secondes j'ai il m'a semblé relever dans dans votre questionatus peut-être l'esquise d'une contradiction au moment où vous avez évoqué vous êtes félicité des investissements étrangers récent notamment voilà des grandes entreprises du numérique français et à la fin de votre intervention vous pointiez les risques d'ingérence étrangère via ces investissements étrangers voilà je trouvais ça intéressant peut-être que ça pourrait faire madame clapo n'est pas député en Géorgie je tiens à vous rassurer madame pour le rassemblement national madame Galzi qui est député de l'héro merci monsieur le Président Madame Monsieur l'intelligence humaine au cours de son histoire a permis à nos sociétés de se transform for de passer de rien à la civilisation de vivre la révolution industrielle d'aller dans l'espace de marcher sur la lune aujourd'hui la civilisation humaine vit une nouvelle révolution celle de l'intelligence artificielle pour ceux de ma génération on pourrait imaginer que les films de science-fiction se réalisent 20 ans plus tard devons-nous avoir peur ou devons-nous nous en réjouir il s'agit d'une question importante nous devons évoluer nous adapter à cette forme de prouesse humaine qui doit nous permettre de progresser tout en ayant des gardes-fous notre mission pour notre pays est de garantir sa souveraineté numérique tout en développant nos propres applications et ainsi de les promouvoir dans le monde entier oui la souveraineté numérique française doit devenir le nouvel enjeu des décennies à venir la question éthique est une grande préoccupation en effet il faut encadrer l'intelligence artificielle pour ne pas dépasser certaines limites tout en respectant les libertés fondamentales et surtout éviter la manipulation de l'information et la violation de la vie privée il est aujourd'hui possible de faire une vidéo en utilisant l'image et la voix d'une personne en y ajoutant un discours contraire à ce que cette personne pense en réalité cette manipulation devenue très simple peut-être un danger pour nos démocraties et une nouvelle arme utilisée par nos ennemis la question de la coopération internationale doit être encouragée comme celle de sa réglementation analysée l'intelligence artificielle peut nous être utile en matière de sécurité car elle permet de traiter d'énormes volumes de données et ainsi de nous renforcer dans la gestion des menaces garder l'humain au cœur de l'intelligence artificielle est essentielle car c'est l'empathie la créativité et les valeurs éthiques humaines qui guident et enrichissent les capacités de l'IA assurant qu'elle reste un outil au service du bien-être et de l'épanouissement de l'humanité avec l'intelligence artificielle il est possible d'écrire un discours en moins de 30 secondes voire même un roman mais elle ne remplacera jamais un Molière Albert Camu ou encore Charles baudler aucune machine ne pourra remplacer le génie humain malgré des inquiétudes légitimes il nous faut accompagner l'intelligence artificielle afin que cette dernière soit au service de l'homme tout en gardant notre sens critique je terminerai donc par une question un peu philosophique ne pensez-vous pas que le plus grand défi en ce monde n'est pas tant le manque d'intelligence que le manque d'humanité je vous remercie je vous remercie madame la députée je rappelle que quand je tapote son son mon mon mon micro c'est simplement non pas pour vous couper mais pour vous dire que vous avez encore 15 secondes je tiens à l que donc il faut que comme je le disais tout à l'heure vous prépariez votre atterrissage vous voulez répondre à Madame oui oui bien sûrame merci merci pour votre pour ou ch je répondrai pas à votre question philosophique en 2 minutes d'ailleurs pas en plus d'ailleurs serai bien incapable mais non je je voulais relever ce que ce que vous disiez à propos de la souveraineté numérique et donc l'idée de développer finalement nos propres technologie si si je vous ai bien entendu finalement pour concurrencer les grandes firmes les grandes firmes du numérique bon c'est quelque chose que la France a a déjà essayé de faire je sais pas si ça dit quelque chose à certains d'entre vous mais le projet Kro euh datant de 2006 2005 200006 ça voilà était un projet de moteur de recherche vous pouvez vous taire était un à 100 allez-y merci il était un projet de de recherche pardon un projet de de création d'un moteur de recherche concurrent de celui de Google en 2005 lancé par par Jacques chira qui était d'abord un projet européen puis un projet franco-allemand et qui a été qui a été pris en charge à l'époque par France Télécom et Thomson bon qui s'est avéré un échec cuisant parce que voilà on ne crée pas on n'innove pas comme ça à partir de rien il y a il y a comment dire il y a une histoire en fait derrière ces technologies quand on pense au moteur de recherche de Google c'est ce sont des décennies de recherche derrière de de liens très importants entre Stanford la NSF le département de la Défense la communauté du renseignement pensez he la création du moteur de recherche de Google c'est à la base de de doctorants je terminerai par là mais deux doctorants de Stanford Sergey Brin et Larry Page qui voi une partie de de leur recherche financé à la fois par la NSF mais aussi par des industriels IBM Itachi le japonais et puis la NASA le département de la Défense la NSA et cetera et cetera c'est ce sont des décenni de de de confusion de d'accumulation effectivement de relation entre le secteur public l'État le militaire et les universités puis après par-dessus les les soutiens financiers qui vonter par-dessus les firmes de capital risque en particulier qui permettent de créer ces technologies et tout cela ça demande des décennies à se construire il paraî mais je suis pas un grand clair mais il me paraî illusoire en fait de penser cela du moins sur le court terme il faudurit poser toutes ces briques là petit à petit et envisager ça pour les les décennies à venir ussi vous voulez ajouter un mot vous n'êtes pas obligé un mot c'est l'Afrique il va falloir qu'on en parle très bien ça c'est vraiment un mot je vous remercie maintenant pour la la France insoumise c'est mon collègue monsieur saintou mon collègue départemental absolument merci monsieur le Président en 2 minutes 30 évidemment on a peu de temps vous avez ouvert de nombreuses perspectives mererci vous n'êtes pas membre de cette commission nous apprécions beaucoup que vous nous fassiez votre visite et la démonstration de votre compétence qui est reconnue merci beaucoup monsieur le Président merci de m'accueillir eu je retiens de ce que vous avez dit des choses qui vont dans le sens de ce que défend la France insoumise et je je préfère le souligner et puis ensuite vous poser des questions un petit peu plus précises euh vous préférez d'une certaine façon revenir aux infrastructures aux politiques publiques plutôt que de prendre par le petit bout de la lorniette des usages qui est en réalité la façon dont le le sujet est le plus souvent traité dans les médias et je crois que cet aller-retour plutôt du de l'usage vers l'infrastructure vers la politique et ce qui doit nous intéresser désormais et il y aura une longue discussion à avoir sur l'innovation et les modèles de financement de l'enseignement supérieur on a eu de nombreuses réformes ces 20 dernières années qui ont affaibli l'enseignement supérieur et l'archerche et on bouleversé ce qui était un modèle mertonien du financement de l'innovation et on aurit nombreuses discussions mais je crois que c'est un sujet extrêmement important à avoir euh des questions précises queles sont d'après vous les perspectives ou les effets de la rencontre de la puissance de calcul quantique qu'on a qu'on attend et le développement de l'IA de alors une question un peu générale et et délicate mais évidemment c'est un secteur qui progresse comme tous les secteurs scientifiques par le la coopération le partage et en même temps évidemment la question centrale est celle de la souveraineté parce que il y a un enjeu sur les données donc est-ce que vous seriez en mesure de définir ce qu'est le bon niveau de partage bon courage vous avez 2 minutes euh et la troisième question vous avez déjà évoqué le sujet des armes autonomes j'étais à Vienne il y avait 140 pays qui étaient représentés et 900 participants j'étais le seul parlementaire français néanmoins la participation a été massive et c'est original euh est-ce que vous avez dit votre pessimisme sur les perspective de régulation sur les armes autonomes pourtant il y a une stratégie qui est proposée qui est de sortir la négociation d' d'un cadre qui existe le cadre jeune voie de la convention sur certaines armes pour en faire un objet spécifique d'une négociation à New York et qui est la proposition du secrétaire général des Nations unies Gutiérrez est-ce que vous pensez que cette stratégie pourrait être pertinente être la bonne et ne pas menacer les intérêts français si jamais la France y adhérait pour ma part je le crois je crois pas que l'intelligence artificielle soit de nature à conférer une supériorité opérationnelle telle que nous devions renoncer d'agir même dans un cadre qui n'inclurait pas la Russie ou la Chine par exemple mais j'aimerais entendre votre avis sur ce sujet je vous remercie infiniment trois questions à très importante qui veut apporter bon madame h allez-y je crois que vous les deux les deux seront sans doute nécessaires parce que ce sont des questions assez fondamentales qui mais du coup je vais pas forcément répondre à à tout plutôt en en racontant en racontant une histoire à partir de de vos question euh sur la question de la souveraineté puisque c'est un peu le le le sujet qui revient en bouclein et qui à juste titre d'ailleurs eu c'est de trouver le le c'est c'est de trouver le le la juste mesure c'est-à-dire de se dire où est-ce qu'elle commence où est-ce qu'elle se termine on a beaucoup parler par exemple de Mistral Mistral quand on regarde la composition du capital ou à partir de quel hyp scaleur c'estàd les super clouer américain elle américain donc elle déploie donc ça pose une question ou un cas d'école extrêmement intéressant moi mon propos et là je vais donner un avis qui est personnel qui est le mien donc je ne suis plus sur de l'état des lieux je suis sur de la disons proposition de point de vue c'est que en fait avec les géants technologiques américains il va falloir qu'on travaille avec eux et ce qui est très intéressant c'est que il y a quelques mois de ça ce qu'ils ont fait au UK en Grande Bretagne c'est que Microsoft par exemple c'est l'exemple que j'ai en tête ils ont abondé ils ont ils ont annoncé c'est quelque chose comme je crois il faudrait vraiment vérifier les chiffres mais 3 milliards de dollars pour en fait continuer le développement des infrastructures donc les Data Center avec les capacités de calcul donc les puces notamment Nvidia et et et et enfin le troisième volet qui est le volet de la recherche fondamental et ça c'est Microsoft qui investi avec le le gouvernement britannique qui essaie d'ailleurs de prendre le UK une position de leadership sur lia et notamment sur la question de la désinformation et il proposait d'ailleurs itunak il y a pas longtemps le cerne de l'IA avec une espèce de coopération qui serait basée à Londres donc il y a des concurrences aussi entre capital pour accueillir ces ces éventuelles prochaines instance donc et il se trouve que en ce moment même il y a de chos France et qu'est-ce qu'on apprend exactement la même stratégie d'ailleurs de Microsoft Google Amazon et cetera mais qui n'est pas du tout packagé de la même façon c'estàdire que pour justement ne pas heurter une sensibilité disons plus élevée sur les questions de souveraineté en France parce que ce n'est pas les mêmes liens et bien bien il va y avoir les les mêmes montants les mêmes projets par pareil par Microsoft donc sur les Data cur sur la recherche et CEA et la deuxième chose sur les armes autonomes je termine là-dessus c'est parce que je vois monsieur le Président s'impatienté oh je m'impatiente pas vous savez je vous écoute avec beaucoup d'intérêt mais je regarde en même temps le chronomètre ouais donc je j'atterris je je chute sur la question des donc sur la souverainé c'est de définir où ça commence et donc c'est vraiment se dire mes géants technologiques SS sont détenteurs d'infrastructur qui deviennent des infrastructures publiques c'estàdire d'intérêt public plus exactement il va falloir se demander comment on travaille avec eux en étant non pas pessimiste non pas optimiste mais simplement pragmatique pragmatique ce sont des entités aujourd'hui qui sont hybrides et qui sont partie prenantes de cette discussion là deuxème et dernière remarque sur les armes autonomes je ne suis pas pessimiste je suis réaliste c'est très important de ne pas confondre les deux aujourd'hui dans le dans dans le contexte géopolitique actuel je vois mal pourquoi les États-Unis et la Chine irit sur au-delà de quelques guidelines maintenant les propositions de l'ONU qui essayent justement d'ailleurs l'ONU c'est très intéressant parce qu'ils ont aussi un enjeu interne de maintenir une forme de leadership aussi normatif là-dessus donc se joue encore une fois cette bataille juridique normative réglementaire à échelle internationale avec la question qui reste ouverte fragmentation balcanisation régionalisation ou coopération globale je n'en sais strictement rien parce que je n'ai pas de boule de cristal monsieur oui en quelques mots sur les sur les armes létal autonomes bon je je suis pas un juriste donc voilà ce que je vais dire et tuapprendre avec des pincettes mais il me semble en fait que déjà on a un cadre on a un cadre juridique international qui est assez qui est assez fort en fait pour encadrer l'ustilage de ces armes notamment avec le droit international humanitaire qui permet voilà de fixer notamment des des normes en terme de responsabilité de niveau de proportionnalité de discrimination de l'usage de ces armes l'idée étant que une arme quelle qu'elle soit en fait doit respecter certains principes euh notamment le fait de de d'effectuer une t un tir proportionnelle par rapport à la cible voilà et euh qui soit qu'elle soit discriminatoire c'est-à-dire qu'elle puisse euh choisir cibler de façon suffisamment précise pour euh abattre des combattants pour le dire simplement et non pas des civils à côté euh et puis la question de la responsabilité étant de savoir effectivement dans le cadre d'une arme létale autonome qui est responsable juridiquement he si elle est complètement autonome si l'humain est out of the loop hors de la boucle de décision ça c'est ça pose effectivement des problèmes est-ce que c'est un opérateur est-ce que c'est le chef militaire est-ce que c'est éventuellement le responsable politique qui a autoriser la fabrication et l'usage de ces armes bon pour l'instant ces questions ne sont pas réglées et effectivement là sur ce point en particulier il y a besoin de faire quelque chose mais je pense qu'on peut s'appuyer assez assez fortement sur ce qui existe notamment la convention de tawa et la France elle a une que là-dessus 2021 nous on a dit en France on on a déclarer que notre position sur les armes létales autonomes ou les l ce serait de ne pas y aller ou de ne pas disons les utiliser ou de ne pas les fabriquer après se posose la question très justement évoquée par vous est-ce que ce faisant on ne prend pas un retard supplémentaire sur disons une forme de réelle politique sur le sujet si euh maintenant c'est pour le groupe démocrate c'est Monsieur monsieur pin qui est député du morbillan merci monsieur le Président Madame madame monsieur nous souhaitons un bon anniversaire merci à nouveau Président au nom du groupe modem démocrate et apparenté je veux d'abord remercier les différents intervenants de nous avoir présenter leurs travaux leur réflexion sur ce sujet devenu incontournable de l'IA y compris dans les domaines qui intéressent notre commission les relations internationale ces dernières années l'Union européenne n'a cessé de construire et de préciser sa politique numérique notamment depuis la mise en place du règlement général sur la protection des données en 2016 nous en sommes nous en sommes nous européens nous nous sommes nous Européens lancés dans la course dont la Chine et les États-Unis ont pris la tête et vous nous avez parlé ch madame malade de la 3oème voix si l'intelligence artificielle entraîne des bénéfices économiques sociaux ou encore stratégiques elle comporte aussi des risques jusqu'à potentiellement porter atteinte à nos intérêts et à nos droits l'Union européenne est en conscience en en en est consciente et s donné pour objectif de défendre ses valeurs en luttant contre les risques associés au développement irrégulé de ces systèmes en jeu de cybersécurité lutte contre la concurrence déloyal et desinformations et protection des données notamment elle veut promouvoir des systèmes d'intelligence artificielle sûr transparents traçabl non discriminatoire et respectueux de l'environnement l'importance de ces systèm et l'utilisation grandissante des intelligences artificielle générative ont poussé des États à réfléchir à la définition d'un cadre réglementaire plus strict un cadre juridique provisoire a été discuté en décembre dernier au Royaume-Uni lors du Sommet sur la sécurité de l'intelligence artificielle qui devrait être concrétisé en France à la fin de l'année lors d'un second sommet en accueillant cet événement la France démontre qu'elle entend jouer un rôle de premier plan dans le développement de l'intelligence artificielle et de sa régulation nous faisons partie des leaders européens dans ces technologies et quand on bien resté ambitieux et innovant pouvez-vous nous parler un petit peu de cet événement qui acccueillera la France à la fin année je vous remercie vous avez vu que monsieur pin avait évoqué la 3è vois avait rappelé que vous aviez parlé de trè voix quand vous parlez de 3è voix un centriste vous suscitez quasiment un réflexe pavlovien bon qui veut répondre à qui veut répondre à à Monsieur le Député du mortvillant bon allez-y madame ala bon j'y vais donc la troisème voix européenne ou française donc on on retourne encore sur des sur sur la question de la souveraineté je vais bientôt ne plus avoir grandchose à dire de plus alors et vous n'êtes pas obligé de vous répéter il suffit de dire que vous l'avez déjà dit non non je ve dire je vais quand même vous savez que je suis intarissable sur sur ce sujet oui je sais oui joyeux anniversaire euh alors comme vous êtes modem et vous avez une très jolie cravate orange il y a quelque chose qu'on a qui est une institution en France qui s'appelle comment ça le Commissariat au Plan or ce qu'il faut il me semble le Haut Commissariat au Plan il me semble he et je c'est bien la couleur de la cravate qui m'y fait penser parle sans vous émouvoir c'est pas la couleur du plan mais c'est la couleur de la cravate c'est la couleur de la cravate pourquoi je dis ça parur parce que la stratégie en fait construire une stratégie technoindustrielle sur la question de l'intelligence artificielle mais sur tout un tas d'autres technologies aujourd'hui on parle beaucoup d'IA mais ça peut être beaucoup d'autres choses suppose en fait de jouer sur deux tempor réité du très court terme évidemment il faut gérer ben des surprises des bons des des des bons technologiques disons de l'incrémental ou pas et puis il faut surtout avoir une vision de très long terme sur ce que devrait être la France en fait dans 20 30 ans et ça peut être à la fois euh disons euh je sais pas comment vous le dire mais vraiment travailler sur ces deux aspects là or pour se dire ce qu'est la France dans la question technologique av 20 ans il faut absolument comprendre où sont nos stratégie de niche donc tout à l'heure je vous parlais de cartographier en fait nos assets nos actifs stratégiques ça suppose vraiment de monter un du travail c'est travailler c'est c'est monter des équipes pour essayer de comprendre où est-ce qu'en fait il va falloir qu'on mette la focale pour arrêter de spoudrer il ne faut plus se poudrer et la question n'est pas d'ailleurs de faire plus c'est pas de mettre plus d'argent c'est juste de se dire avec les moyens qu'on a à disposition comment est-ce qu'on affecte le plus intelligemment possible pour non pas être partout suiveurs des États-Unis parce que c'est un peu ça notre logique en fait mais c'est plutôt de se dire où est-ce qu'on peut être avant-gardiste sur quelques stratégies de N sur des chaînes de valeurs stratégiques qui sont ultra importantes pour nous et donc de devenir incontournable c'est-à-dire d'avoir quelque chose à mettre sur la table transactionnelle quand vous avez besoin de tenir votre rapport de force c'est ça la véritable souveraineté c'est et c'est d'autres stratégies c'est Israël par exemple dans le cyber et donc c'est c'est plutôt cette réflexion là un peu plus disons constructive qu'il faudrait ou ou disons qui peut être plus apporter plus d'opportunités qu'il faudrait avoir et enfin et je termine parce que j'y tiens parce que je n'arrive pas toujours pas à le placer c'est la question africaine aujourd'hui l'exportation du modèle chinois se fait sur ce continent-l ils ont préempté cette question là donc on a les lutte informationnelle par la Russie on a les infras et les réseaux et la connectivité par la Chine d'ailleurs dans un continuum où récemment je lisais un article je crois dans le Time où ils ont même lancé des écoles de formation des dictateurs donc vous avez cette continuité d'exportation du modèle technoautoritaire chinois en Afrique et là où nous on est rivé sur les les États-Unis et on aurait peut-être des choses à faire en Afrique de ce point de vue-là en terme de rayonnement de soft power et même d'exportation de nos normes et de nos valeurs enfin valeur non mais en tout cas nos norm et ça serait ça le Brussels effect je vous remercie enfin en terme de formation l'école saciè kidan a contribué à la formation de nombreux chefs d'État africains euh monsieur Tibou est-ce que vous voulez ajouter quelque chose à ce qu'a dit Madame mal non bien comme comme vous le souhaitez je crois que il a été répondu assez clairement à aux questions de Monsieur pin pour les socialistes et apparentés c'est Monsieur David qui est député de la girude Alain c'est à vous merci monsieur le Président Madame Monsieur chers collègues la maîtrise de ces nouvelles technologies et l'intelligence artificielle en particulier constitue un élément de la capacité d'influence dans les prochaines décennies que ce soit en terme de soft power et même en terme de hard power puisque vous évoquez également les déclinaisons et technologique il est d'ailleurs très paradoxal que tous les que tous ces sujets sur les technologies de pointe et sur l'intelligence artificielle prennent autant de place au moment où les relations internationales ont elle été plutôt un grand pas en arrière vers la conflictualité les rapports de force la guerre à haute intensité que l'on pourrait qualifier de à l'ancienne avec son cortège de destruction de barbarie d'obus ou de tranché même si les drones et le guidage intelligents des obus et missile tiennent une large place cela a été mentionné un rapport a récemment été remis au Président de la République par la Commission de l'intelligence artificielle coprésidée par Anne bouverau présidente du conseil d'administration de l'École Normale supérieur et par l'économiste Philippe agion je vous ai senti en parti réservé sur la tonalité raisonnablement optimiste de ses travaux dans la capacité de la France à figurer à la pointe de cette révolution technologique en conséquence sur ce sujet comme sur bien d'autres je pense qu'il convient de nous départir d'une certaine naïveté naïveté dont s'encombre je trouve moins rarement nos partenaires anglo-saxons et plus encore chinois on l'a vu ces derniers jours avec la visite d'État du président chinois en France il est est encore difficile de considérer ce géant comme un partenaire un concurrent et surtout comme un rival systémique tel que le Parlement européen l'avait qualifié en 2019 de fait ne pensez-vous pas qu'en matière d'intelligence artificielle aussi l'enjeu de long terme n'est pas autant que le leadership économique la défense du modèle démocratique libéral et de respect des libertés fondamentales et des droits de l'homme je vous remercie monsieur le député qui souhaite répondre à Monsieur David allez-y monsieur oui oui ben il y a beaucoup de choses dans dans votre dans vos observations la non je redirais tout simplement ce que j'ai dis tout à l'heure c'est-à-dire que dans mon intervention liminale quand vous regardez effectivement ce qui s'est passé aux États-Unis ce qui se s'est passé également en Chine c'est que vous n'avez pas de développement technologique important endogène sans l'intervention massive de l'État et aujourd'hui l'Europe et la France ne sont pas du tout dans cette optique à part quelques petites enclave effectivement en France et le ministère de la Défense en la DGA de manière très spécifique qui encore intervient directement dans ses affairirees par la commande publique mais à part cela ça n'existe pas en fait en Europe on est dans la régulation c'est en matière en terme actif et sinon on est plutôt dans un esprit d'accompagnement au plus près des entreprises avec l'idée que finalement on va pas commencer à à à poser des directives aux entreprises dans ce qu'elles doivent faire que ce soit par des règlements ou que ce soit par de la commande publique non non on pense que finalement il faut laisser éclore le génie de chacun et que miraculeusement peut-être par les lois magiques du marché on arrivera à une situation optimale bon c'est c'est un Paris c'est un Paris qui peut qui peut se défendre mais pour l'heure en tout cas les grands modèles qui ont fonctionné que ce soit les États-Unis ou la Chine on fonctionn à partir d'économie planifiée et je j'appuie sur ce terme arê on avec le mythe des États-Unis libéraux c'est ça marche très bien en terme de propagande internationale mais dans les fait bon c'est c'est une économie planifiée et alors selon des modalités qui ont ét évolué au fil du temps on est plus dans les années 60 mais malgré tout donc pour conclure si on regarde ce qui se passe en France ou en Europe si le but est de développer une capacité endogène majeur à même de faire de nous des leaders en matière de technologie numérique de de façon indépendante et je dis pas que c'est bien ou c'est pas bien j'ai absolument pas du tout envie de prendre partie dans ce débat mais de manière complètement indépendante des des acteurs états-uniens et des acteurs chinois bon ben clairement on fait fausse route donc c'est soit on fait fausse route on se trompe soit on se dirige dans une autre direction à ce moment-là il faudrait nous dire dans quelle direction on se dirige c'est très clair comme diagnostic maintenant c'est pour horizon apparenté c'est Monsieur porte àieu qui est lui député de la HauteGaronne ouais merci monsieur le Président question très courte vous avez évoqué madame l'espèce de consensus international qui existe sur la nécessité de se doter d'une instance de gouvernance appropriée de l'intelligence artificielle vous avez vous avez mentionné le rôle des bricks que les bricks pourrai pourrait tenir mais à quoi ça pourrait ressembler cette cette gouvernance cette instance Monsieur B a de nombreuses qualités dont celle de poser des questions extrêmement brèves merci parce que j'aurais d'autant plus de temps pour la réponse non je je répéterai simplement ce que ce que je disais tout à l'heure les les les les questions restent ouvertes aujourd'hui les les possibilités qu'on a sur la table enfin les différents scénarios possibles c'est soit en effet on arrive à monter une gouvernance globale de l'intelligence artificielle qui pourrait être abrité soit par des instances multilatérales existantes soit ad hoc bon pourquoi réinventer la poudre mais pourquoi pas à la limite si l'ONU crisp certains certains états j'entends euh donc il y aurait cette première possibilité là donc de coopération globale qui est appelé par les vœux d'un certain nombre d'étas mais enfin dans les faits on est très tâonnant parce que vous avez des intérêts diplomatiques et géostratégiques divergents quoi qu'il en quoi qu'il quoi qu'on en dise soit vous avez en effet des une régionalisation c'est-à-dire que ça va se balcaniser et d'ailleurs sur la question de la régulation globale et internationale ce qu'il faudrait détricoter et revenir un tout petit peu c'est vraiment sur les usages techniques de ces outil là et en fait ce qu'on est en train de voir apparaître on en a pas du tout parlé c'est l'éventuel ou le ce qui pourrait être perçu comme un petit retard qui a été enregistré par la Chine par rapport aux États-Unis sur la question des As génératives aujourd'hui les modèles dominants des des génératives sont d'abord et avant tout américains et et donc est-ce que on va pas avoir finalement un système international mais à double vitesse où on va découpler de plus en plus pour pas oser le mot de de de des risquages mais est-ce qu'on va découpler en fait au fur et à mesure toutes ces filières et tous ces usages ultra stratégiques pour arriver à des système en fait qui cohabite sans sans sans forcément dialoguer ou en dialoguant vraiment à la marge je n'ai toujours pas la réponse et puis les bricks oui c'est un mouvement vraiment à suivre de près en en 2 à l'été 2 23 quand ils se sont réunis à Johannesbourg ils ont sorti d'ailleurs le leur leur groupe d'étude sur l'intelligence artificielle avec un énorme volet d'ailleurs sur l'éducation donc à regarder l'Afrique encore une fois j'insiste j'insiste pourquoi sur l'Afrique pas parce que j'en suis originaire pas du tout mais pour une raison très simple c'est parce que quand on parle de souveraineté ou quand on parle d'Europe puissance quand on parle de France puissance il va falloir à un moment donné qu'on re définisse la morphologie de notre relation à l'Afrique dont on a un destin absolument commun autour de la question technologique et de ce point de vue-là moi j'ai travaillé sur un certain nombre de projets notamment technologique en Afrique et je vois très peu d'acteurs français se positionner même sur les appels d'offrees donc sur les histoires de Smart City de ville intelligente et d'infra donc il va falloir venir en France simplement avoir un discours de la commande publique c'est très bien mais si aujourd'hui on ne va pas chercher aussi nos marchés là-bas on est en train de passer à côté d'une bataille quelqu'un l'évoqué de soft power et donc industriel aussi pur et donc il il ne faut pas négliger ces zones-là tout ne tourne pas systématiquement autour des États-Unis il faut aussi savoir décentrer un tout petit peu son regard je crois que vous avez tout à fait raison et c'est une dimension dans cette commission est très consciente euh monsieur Tib voulez dire quelque chose de plus euh euh donc maintenant c'est pour la Gauche démocrate et républicaine c'est notre vice-président député du Havre monsieur Lecoq merci monsieur le président vous imaginez bien qu' en 150 secondes il est pas facile de développer une thèse une antithèse comme on pourrait le faire au bac en 800 et euh Gueu et parler voilà et doncurence question de la technique déjà il y a au moins un point qui qui me fait aller vers vous c'est de de mesurer que ces grandes technologies nécessitent de la planification ça fait des décennies qu'on l'explique mais c'est bien ça on commence à gagner et je propose que la première décision que devrait prendre à la commission notre gouvernement c'est de confier aux communistes la planification de ces grandes technologies ça ira peut-être plus vite que que par baerou euh le deuxième aspect c'est vous en avez parlé c'est l'éducation on n'est pas au niveau où il faut dans notre pays sur la compréhension de l'intelligence artificielle de ces possibilités de ces risques parce qu'on en parle pas trop mais mais il y a quand même l'ONU dit attention l'intelligence artificielle et la bombe atomique faut faut limiter les choses quoi faut pas trop confier la bombe atomique à l'intelligence artificielle ça ça veut dire qu'il y a peut-être un risque de décision euh contre nature ensuite euh l'ONU guteres dit c'est un sujet pour les futures générations il dit c'est pas la prochaine pas la suivante mais l'autre d'après euh et euh et moi quand j'écoutis tout ce que me disaient ces gens-là et comme je suis très attaché à la liberté je me dis en quoi l'intelligence artificielle peut entraver ma liberté et vous avez parlé des systèmes et et quand je vois la reconnaissance faciale plus tous les systèmes numériques ma carte bleue mon téléphone et cetera et au-dessus de tout ça un système qui permet de croiser potentiellement des données et tout je me dis que ma liberté peut être entravé par celui qui maîtrisera ou celle qui maîtrisera ou ceux qui maîtriseront ces systèmes d'intelligence artificielle quand ce sont les des états je me dis qu'il y a peut-être encore un espace démocratique même si des fois j'en doute euh mais alors quand ce sont des entreprises privées qui investissent fortement alors au début c'est pour faire des profits mais euh mais au bout du bout ça peut être aussi pour avoir le pouvoir euh et donc la notion pouvoir et intelligence artificielle c'est c'est aussi ça qui fait qu'on dit euh peut-être il faudrait une régulation peut-être il faudrait que la communauté internationale mette des bornes comme on a mis des bornes sur le clonage à un moment donné on savait faire mais on a eu hop stop on s'arrête là ça peut pas être la société de demain et est-ce que sur l'intelligence artificielle vous pensez qu'à un moment donné on sera contraint et forcé de mettre des bornes en se disant attention ça peut pas être la société humaine de demain je vous ai pas ah je vous ai pas tapoté je parce que je sais que vous êtes d'une discipline absolue mais enfin effectivement la question posée par Monsieur leco est quand même importante j'avais un ami à moi disparu pendant l' l'épidémie du covid qui était le président du Conseil département SC monsieur dejan qui avait toujours cette maxime ceux qui ont connu le pétrole avant la démocratie ne connaîtront jamais la démocratie et on a un peu tendance à à dire ceux qui connaîtront l'intelligence artificielle avant la démocratie connaîtront-ils la démocratie est-ce que les démocraties qui rencontrent l'intelligence artificielle resteront démocrates oui ouimoc pas question oui oui un peu différemment la question question que vous posez monsieur le député c'est celle en fait vous dites mettre des bornes finalement alors oui effectivement mais si je peux me permettre c'est que votre question présuppose finalement qu'il y ait une distinction nette entre le public et le privé entre l'État et les entreprises et cela en fait bon en sociogéopolitique on sait très bien que les liens entre ces deux entités un peu abstraites sont effectivement très très importants et mais que ce soit d'ailleurs dans une économie totalement planifié à la limite soviétique comme la Chine hein que aux États-Unis qu'en France en Europe euh donc en fait c'est beaucoup plus compliqué que ça à mon avis hein de que de vouloir poser des bandes parce que si vous si vous voulez mettre un des bornes au pouvoir des entreprises qui maîtriseraient l'intelligence artificielle il faut consid il faudrait que ces entreprises n'ai pas de pouvoir déjà auparavant et à mon avis elles l'ont déjà et mais c'est de manière assez compliqué et on peut pas traiter ça tout de suite doncon je je je laisse de côté mais sur les libertés la question de la reconnaissance faciale la reconnaissance biométrique effectivement c'est un sujet extrêmement majeur moi je crois que les les représentants de la nation aujourd'hui les moyens en fait de commencer à réguler cette question là pour l'État lui-même hein parce que effectivement on voit depuis quelques années des libertés qui sont prises par les autorités publiques à ce sujet des libertés qui sont même aujourd'hui consacré notamment alors dans la loi qui sont consacrés dans le règlement européen les qui notamment autorise sous certaines conditions l'usage de l'identif des outils d'identification biométrique en temps réel à distance c'est-à-dire le fait de reconnaître des gens à partir de leur visage et cetera alors dans des cas spécifiques mais qui sont suffisamment larges qui permettent suffisamment d'exceptions pour qu'on puisse disons craindre des cas de généralisation en tout cas des cas de de dérive si si je puis dire donc donc il me semble que s'il fallait effectivement voilà renforcer la question des libertés individuelle et fondamentale dans le domaine de l'intelligence artificielle ce serait d'abord à mon avis à la représentation nationale de le faire pour le cas de l'État concomitamment avec évidemment la question des entreprises bien sûr inv voocation de la souveraineté de l'État et certainement très très bienvenue pour les derniers orateurs inscrit au au au titre des groupes euh et non pas au nom d'un groupe puisque c'est au titre des nonincrit c'est Madame Véronique B qui est député de la Vendé merci monsieur le Président merci beaucoup pour vos vos interventions et vos éclairage euh alors vous y avez déjà en partie répondu parce que voilà le problème quand on passe en dernier c'est que beaucoup de choses ont été dites euh mais de nombreux acteurs gravitent autour de cette innovation que qui il a et beaucoup de de choses restent à découvrir l'Union européenne a ouvert le bal si je puis dire des législations autour de Lia en adoptant en mars dernier la proposition de règlement établissant des règles harmonisées concernant l'intelligence artificielle ce texte une première mondiale soutient cert l'innovation mais vise également à protéger les droits et la sécurité si ce texte est validé par le Conseil européen il rentrera en vigueur je crois en 2025 euh l'intelligence artificielle semble devoir entraîner des bouleversement dans nos quotidiens on en a parlé mais des impacts sur les relations géopolitiques sont à envisager c'est ce qu'anticipe l'Europe en résumant les objectifs du règlement voté le le 13 mars 2024 je cite protéger les droits fondamentaux la démocratie l'État de droit et la durabilité environnementale contre les risques liés à l'IA tout en encourageant l'innovation en faisant de l'Europe un acteur de premier plan dans ce domaine donc l'Europe cherche à se protéger elle interdit donc certains usages de l'IA comme les systèmes de notation citoyenne ou la manipulation du comportement mais au-delà de ce texte fondateur l'Europe est-elle bien intégrée dans la course de cette nouvelle technologie ou cette course est-elle déjà gagné par un autre acteur la France doit-elle faire cour communees avec l'Europe ou doit-elle parier sur ses propres capacités notre pays est-il d'ailleurs en capacité réelle à innover dans ce domaine et en a-t-il les les moyens et au-delà des rivalités étatiques et du besoin de savoir développer et utiliser cette technologie de manière souveraine est-ce que les entreprises privées sont avantagées dans cette période de défrichage de l'intelligence artificielle merci madame la députée monsieur Tibou merci Madame les députés euh alors est-ce que la l'Europe est dans la course déjà c'est une bonne question est-ce que l'Europe cherche véritablement à devenir une puissance en matière d'intelligence artificielle autonome je n'en suis pas sûr pour le moment ce ce qu'on voit Voilà il se trouve que mon travail le fond mon principal travail c'est une thèse que je suis en train de préparer sur les rapports entre Google et l'État et ce que je pu voir au fil au fil de mes recherches c'est finalement quoi l'attitude des gouvernants étant dans finalement la volonté alors pas que dans le domaine des nouvelles technologies un petit peu partout d'attirer effectivement les investissements étrangers avec cette idée que finalement personne ne le dit comme ça mais on sera jamais en mesure de recréer un Google un Microsoft un Amazon un Apple ce qui est peut-être d'ailleurs vrai donc faisons venir ces investisseurs en France et faisons en sorte qu'ils infusent le tissu économique national et qu'ils diffusent leur technologie c'est c'est le Paris aujourd'hui que font les Français je crois pas me tromper en disant cela peut-être et que font les Européens en règle générale donc à mon sens la question de la souveraineté numérique européenne est est presque une fausse question alors ça fonctionne dans la je comprends l'usage rétorique qui peut en être fait c'est c'est normal c'est c'est ça un poid aujourd'hui dans le débat public de parler de souveraineté mais je ne crois pas aujourd'hui que ce soit véritablement le au sens strict du terme le la dire vers laquelle se dirige nos gouvernants je crois pas que ce soit ça l'idée l'idée c'est plutôt de se dire bon attirons ces investisseurs profitons des technologies qu'ils ont faisons en sorte de les utiliser à bonant pour accroître le PIB et l'emploi et puis espérons espérons que nous ne fions jamais avec eux quoi et avec leur état de de tutelle voilà c'est comme ça que que je verrai les choses rapidement oui c'est un peu inquiétant quoi ils apportent la technologie n nous apporton versaill on apporte aussi les talents madame j'aimerais j'aimerais simplement compléter euh ça dépend ce qu'on ce qu'on entend pardon par acteur privés eu il y a une focale sur les bigtech ou les lesg technologiques américains à juste titre mais encore une fois il s'agit absolument pas du tout de les diaboliser mais de comprendre en quoi pragmatiquement on peut avoir des intérêts convergents avec eux et quand on dit d'ailleurs big tech ou acteur privés ça veut encore rien dire vous avez en fait ceux qui se sont normalisés qui sont devenus vraiment des industries en tant que tel et qui sont aujourd'hui des partenaires et des stakeholders de ces discussions là évidemment il y a Google ma dans une certaine mesure Microsoft évidemment Amazon et puis vous avez les nouveaux entrants entre guillemets open ai Elon Musk qui sont beaucoup plus dans une immaturité même industrielle et donc en fait ça dépend de qui on parle et quel est l'interlocuteur qu'on a en face quand on voit aujourd'hui Google par exemple sur la question de la souveraineté on en a pas parlé très brièvement où je l'évoquais en fait il faut toujours comprendre la chaîne de valeur de l'intelligence artificielle et en fait en à Mont de ça vous avez les Data Center donc toute la question par exemple du Cloud et bien sur la question de l'extraterritorialité du droit américain dont on vraiment de qu'on a totalement hystérisé par exemple en France donc laodac et FISA qui sont un peu les deux textes qui sont disons problématiques d'un point de vue juridique justement sur la protection la souveraineté disons des données et des données sensibles en particulier et ben dans toutes les discussions qu'il peut y avoir google a publié ou a disons annoncé récemment un Cloud qui est complètement déconnecté c'est-à-dire que en cas de crise géopolitique extrêmement majeure entre la France et les États-Unis dans un cas absolument catastrophique et bien ceux qui sont sur ce cloud là bim BIM BIM ils coupent tout et de toute façon vous recentrez vous recentralisez vous relocalisez totalement votre infra même si elle était d'origine disons américaine donc il y a des réflexions c'est pour ça que je dis ne pas diaboliser et aller un tout petit peu dans le détail des choses plutôt que de faire disons des des des analyses trop génériques sur le sujet et puis il y a la question en fait de qu'est-ce que vaut votre souveraineté si aujourd'hui vous n'avez pas la couche de cybersécurité ça vaut quoi au-delà de l'incantation politique donc ça pose des questions systémiques de ce type là enfin quand je dis de quel acteur privé on parle vous avez aujourd'hui des entrepreneurs ou des hommes d'affaires français qui investissent là-dedans dans ces sujets là à quelques centaines de millions d'euros donc les ordes de grandeur n'y sont pas mais quand on on on les interroge la question est de se dire pourquoi est-ce qu'ils ne travaillent pas avec l'État pourquoi ben je vais vous le dire pour une raison très simple parce qu'en fait on a pas de fléchage on a une bureaucratie très lourde et en fait ça devient tout d'un coup au-delà de dire on a un super rapport une super commission il faut mettre 5 milliards il y a une difficulté aujourd'hui de faire davantage intégrer des très bonnes volonté du secteur privé avec le secteur public la culture l'agilité ne s'est encore pas faite est-ce qu'elle est en cours je l'espère est-ce que il faut continuer à sensibiliser sur ces questions là je je l'espère mais en tout cas on est encore très en très très disons tatonnant là où les stratégies disons de pays qui sont beaucoup plus avancé Chine États-Unis Israël et cetera eux ont dépassé ce cap là depuis très longtemps mais dans leur ADN en fait il y a ces allés-retours entre public et privé et donc il va falloir s'interroger aussi sur notre culture entrepreneuriale notre culture du risque et notre culture technologique au sens large et ça on y est pas tout à fait donc il y a cette questionl euh je voulais dire autre chose puis je je terminerai juste mot encore une fois quand on dit il ça ne veut rien dire c'est la question des de quels usages quels sont les développements d'usage dont on parle on a des champ énorme en France sur la question de la santé sur le le l'agritech sur l'agriculture sur le climat donc la question n pas se dire tiens il y a de l'a et donc on va mettre de l'a partout la question est de se dire quel est notre projet de société quel est l'objectif politique qu'on cherche à atteindre et de ce point de vue-là et en rétrrooplning disons en quoi les systèmes technologiques en quoi les logiciels peuvent nous aider atteint cet objectif politique et donc en fait il faut réinverser la proposition de valeur il faut réinverser la question oui vous me faites penser vous me faites penser à la phrase des des théologiens catholiques qui disent que l'argent est un est un mauvais maître un bon serviteur c'est exactement ça monsieur Tibou est-ce que vous voulez ouis je voulais juste apporter peut-être une nuance sur ce que ce que viens de dire ma voisine sur le point de est-ce que les est-ce que les gfemes finalement sont capables de se découpler à un moment donné de l'État américain en cas de conflit et cetera bon ça me paraît extrêmement extrêmement compliqué ça me paraît extrêmement compliqué peut-être non je disais pas ça je disais juste que Google vient sortir une annonce sur un Cloud déconnectter et ça peut être intéressant de voir un peu ces C ces formesl plus d'acord investigué mais effectivement j'ai alors il est arrivé he dans l'histoire récente effectivement qu'il y ait des coups d'éclat de la part de Microsoft Apple et Google mettant refusant par exemple d'obéir aux injonctions du FBI en terme de requête de requête judiciaire mais dans le temps long imaginez imaginez que ces entreprises refusent d'obéir à l'État fédéral américain je n'y crois pas trop pourquoi parce que c'est un petit peu ce qui a commencé ce qui s esquissé je vous dis rapidement je vous fais rapidement cette anecdote en 2018 en 2018 il y a on a vu un yatus se produire d'un côté certaines entreprises notamment Google annoncé notamment sous la pression de ses employés le retrait d'un grand contrat avec le P Agone un contrat d'intelligence artificielle qui visait à équiper les drones de l'armée pour faire vite de d'outils de reconnaissance d'image automatique pour cibler des terroristes des des cibles diverses Google s'est retiré de ce contrat sous la pression d'une partie de ses employés le même mois Google signé un partenariat avec l'Université de singoa pour le développement de l'intelligence artificielle donc l'université pékinoise université qui est de notoriété publique connue pour être un acteur majeur de la la stratégie de fusion civilo-militaire chinoise et une semaine avant le vice-président de cette université a expliqué dans les médias chinois que l'université était tout à fait en pointe dans le développement de l'IA des fins militaires avec avec l'armée il y a eu une sorte de disjonction stratégique qui s'est opéré à ce moment-là euh et le gouvernement américain sous la houlette de Trump en fait a réagi extrêmement vivement vous avez une audition notamment du comité des forces armées du Sénat du secr à la défense à l'époque et du chef d'étatmajor des armées qui explique quasi mot pour mot que Google est en état de trahison voilà Google est un traître et il est en train de travailler avec l'armée chinoise et à partir de ce momentl mais façon de façon plus globale l'image des gfam S extrêmement dégradé dans l'opinion publique américaine et donc la classe politique a un peu suivi à partir de ce momentl on a vu un réalimement quand même s'opérer c'estàd que les certes aussi sous la de la Chine les entreprises américaines se sont désengagées du territoire chinois faut dire qu'ils n'ont pas été aidés par la notamment la loi de protection sur les données personnelles chinoises qui faisait en sorte que d'une certaine manière en fait il devenait impossible pour une entreprise américaine en raison des lois extritorial type FISA et cetera de d'opérer sur le marché chinois mais voilà c'est pour ça pour cette raison que aujourd'hui je vois moins au-delà d'ailleurs des textes juridiques je vois moins c'est ce qui sa la perspective d'un d'une disjonction entre les grandes entreprises technologiques américaines et le gouvernement fédéral américain même si je ne doute pas que dans l'esprit notamment des commerciaux de Google Amazon Facebook Apple Microsoft il y ait cette volonté effectivement de se détacher de de de cette tutelle encombrante bien je vous remercie nous avons encore nous avons un quart d'heure pas plus et nous avons fini les prise de parole des représentants des groupes nous avons les parlementaires qui interviennent à titre individuel c'est en rétorique classique j'enseignais Corneille aux enfants on appelait ça de la sticomity c'est-à-dire une intervention en moins d'une minute auquelle vous répondez dans le même délai le premier intervenant ce sera madame soude merci monsieur le Président ce débat sur l'intelligence artificielle devrait être régulé dans notre assemblée car son omniprésence prochaine pose deux questions essentielles la première c'est que nous devons établir un rapport de force avec les entreprises lia ne doit pas serv à supprimer des emplois le FMI estime que l'IA impactera 40 % des emplois au niveau mondial 60 % dans les pays les plus riches il faut s'y préparer encadrant le plus possible cette technologie la deuxième problématique tient à la régulation et au contrôle nous savons que le ministère de l'Intérieur travaille sur une centaine de projets mobilisant le numérique etia une grande majorité sont des Chabottes qui permettent de simplifier la communication avec les usagers mais certaines activités voulues par le gouvernement doivent être strictement contrôlés voir combattu par le pouvoir parlementaire l'exemple plus parlant est l'exp spentation de la vidéosurveillance algorithmique dans le cadre fixé par la loi Jeux Olympiques adopté l'an dernier alors mes deux questions sont très simples quelle garantie pouvez-vous nous donner quant à la protection des emplois mis en concurrence par l'IA quel contrôle le gouvernement prévoit-t-il quant à la récolte de données sensibles et leur utilisation via l'IA et comment le Parlement pourra-t-il contrôler son application je vous remercie madame la députée lequel de vous deux ou lesquel de vous deux si enend répondre madame la députée allez allez-y mais en en une minute c'est impossible de répondre en tout cas c'est c'est c'est absolument impossible euh pour essayer de comprendre un peu les enjeux démocratiques donc sur la question des libertés je vous invite vraiment à essayer de voir les travaux de la Quadrature du Net et de ces quelques associations qui qui ont une vision ou d'un juriste qui s'appelle Serge Slama qui sont extrêmement disons actif sur ces questionsl et qui mériteraiit une audition en tant que telle que je problématiserai en tout cas de la façon suivante en quoi les instruments de projection de puissance que sont en fait les outils technologiques et en particulier ces acteurs technologiques américains peuvent devenir tout d'un coup un instrument d'hyperpouvoir sur sa population et en quoi donc notre modèle démocratique se diluerait ou convergerait vers des modèles qu'on critique et qui ne sont pas les nôtres en terme de valeur les technoautoritarismes que que l'on connaît bien je n'ai pas de boule de cristal et tout dépendra aussi de la sensibilité des Français à ces questions là or le silence est globalement assourdissant au-delà de quelques ergumain qui essayent qui parle un peu c'est c'est donjant le truc et donc qui chot pardon et et euh non c'est pas du tout la même chose donc qui chot et je pensais non je pensais à autre chose et et et donc voilà donc c'est une question fondamentale et qui suppose peut-être aussi une sensibilisation de ou des opinions publiques sur ces sujets-là mais visiblement la le fameux dilemme sécurité versus liberté dans la rhétorique actuelle tend plutôt vers la question sécuritaire pour plein de raison qui n'ont rien à voir avec la question technologique et dans laquelle s'inscrit la question technologique mais là ça supposerait une réponse de 4 He au moins oui alors c'est une vous précisez effectivement que cette réponse 4h on va certainement la porter et on a on on j'ai bien pris note du conseil que nous avez donné de consulter monsieur slabin bien maintenant c'est Monsieur Wix qui est député député du Calvados merci monsieur le Président jeputé horizon du Calvados merci monsieur le Président je pense que ma question va nécessiter des développement malheureusement moi je voulais vous interroger sur la question juridique et règlementaire le Conseil de l'Europe a mis en place une convention cadre et je cite le contrôleur européen de la protection des données l'a vivement critiqué ou du moins été déçu parce que trop restrictive et limité au champ public je voulais en fait vous entendre et savoir notamment si on a pas déjà un premier point de blocage lié justement aux intérêts économique qui contraignne forcément la protection aussi des droits de tout à chacun oui vaste question là encore vous voulez monsieur Tibou voulez dire un mot madame comme comme vous voulez je pratique le stationnement alterné évidemment quand on prend position en matière juridique il y a toujours la question de savoir quels sont les intérêts en jeu et comment est-ce qu'on arbitre entre ces intérêts en l'Union européenne alors là vous parlez du Conseil de l'Europe effectivement mais les instances européennes en général alors le Conseil de l'Europe en particulier ont toujours été plutôt dans le sens en fait d'un renforcement des droits et des libertés fondamentaux et peut-être qu'effectivement pour une fois le Conseil de l'Europe a fait un pas en arrière et n'est pas allé aussi loin qu'il aurait pu effectivement dans dans ce sensl mais peut-être aussi parce que la question de l'innovation du besoin d'innovation en fait a aujourd'hui pris une importance majeure euh euh dans le discours dans tous les discours politiques d'une certaine manière et c'est sans doute une erreur c'est sans doute une erreur parce qu'à un moment donné quel que soi les les aspirations économiques quels que soi nos espoirs en terme de croissance et d'emploi une démocratie digne de ce nom doit je pense pouvoir mettre des lignes rouges à ne pas franchir et les lignes rouge c'est quoi c'est ne pas surveiller sa population pour à tout prétexte ce n'est pas restreindre des libertés bi je m'arrêterai là ne pas restrainre des libertés de fondamentales ne pas voilà il y a des choses à respecter à un moment donné si on a envie d'être une puissance française ou européenne qu'on a envie d'exporter notre modèle dans vers le reste du monde si on a envie de rayonner il faut qu'on soit conforme à nos valeurs faut qu'on puisse regarder les gens en face et leur dire voilà nous nous vous proposons ce modèle que nous appelons universel voire universaliste mais voilà parce que nous le respectons nous-mêmes et je crois que il y a un risque effectivement depuis quelques années que notamment en matière technologique nous nousous dirigeion dans une direction un petit peu hasardeuse je termine je le cycle d'audition démarre à un point absolument idoine puisque on est en pleine préparation des Jos et que la question justement des VSA des vidéos de surveillance algorithmique euh le cadrillage de l'espace public et cetera en terme d'expérimentation commence justement et et et et soulève un certain nombre de débats donc ces auditions là autour de la question de la technosécurité ou technosécuritaire ou de technurveillance peuvent être très intéressant avec notamment aussi l'acnil qui aujourd'hui a davantage un rôle consultatif et n'est pas du tout d'ailleurs n'a pas assez de ressources disons humaines pour pour pour gérer l'ensemble de ces de ces de ces questionsl donc ça peut être aussi intéressant d'avoir aussi le régulateur qui est censé en charge de ces questions là de d'avoir son son point de vue sur sur ces sujets puisquils sont en au cœur de l'actualité du moment oui l'acnil qui d'ailleurs en fait depuis 2004 n'a quasiment plus aucun pouvoir sur l'état hein euh les pouvoirs de laacn ont été vidés de leur substance alors queelle a quand même été créé pour protéger les citoyens contre le fichage par l'État en 78 bon ce qui c'est terrible euh autre re chose qui est quand même terrible mais pensons-y c'est que nous avons aujourd'hui un très grand acteur de la tech chinoise qui est un partenaire officiel des Jeux Olympiques je ne le citerai pas parce que je n'ai pas envie de me prendre un procès mais c'est une entreprise qui aujourd'hui participe à la ségrégation à la persécution de population en Chine je pense au igour je pense à d'autres types de population civile et nous ouvrons notre pays à cette entreprise là je le dis c'est scandaleux c'est scandaleux que nous ayons laissé faire ça et j'espère que voilà à l'avenir on réfléchira quand même à deux fois à qui nous invitons en France c'est effectivement assez préoccupant et ça mériterait qu'on poursuive cette cette réflexion sur ce terrainl euh monsieur maintenant c'est c'est un monsieur Jie qui député rassemblement national de l'iser si je ne me trompe pas c'est ça merci monsieur le Président Madame Monsieur l'intelligence artificielle constitue un défi majeur pour nos sociétés mais les promesses de progrès technologique et humain qu'elle porte sont absolument gigantesques notamment en terme d'organisation du travail puisque le développement de ces technologie aura pour conséquence effectivement un accroissement considérable d'abord du chômage dû à la disparition de nombreuses activités jusque'à la pilotée par l'humain mais engendrera dans le même temps une hausse considérable de la prod productivité l'articulation de l'intelligence artificielle et de cette nouvelle organisation du travail repose d'abord et avant tout sur la question de la répartition des gains de productivité l'intelligence artificielle sera un cauchemar social si les gains de productivité de productivité seront captés entièrement par une toute petite minorité et un véritable paradis économique s'ils sont à contrario bien répartis et profitent à l'ensemble de la population en permettant soit une hausse des salaires soit une réduction du temps de travail alors je souhaiterais savoir si vous avez si vous avez quelques éléments dans perspective sur cette question s'il vous plaît je vous remercie cette intéressante question [Musique] vous répondez tous les deux si vous voulez ben c'est BRI je euh sur la question productivité est-ce que on va avoir des gains de productivité il est vraisemblable que oui de quel ordre personne a de boules de cristal encore une fois et les les rapports aujourd'hui essa d'être un peu plus mesurés mais vous avez un peu à boire et à manger sur l'impact du travail pareil c'est exactement la même question ce qui est très intéressant sur la question du travail il a évidemment la question de la politique publique çaàdire comment un état en l'occurrence la France va accompagner c'est-à-dire la remontée en compétence le changement de compétence de de de de de la population française donc ça c'est un champ énorme qui est à qui qui est à qui est à lancer d'une certaine façon j'ai presque envie de vous dire parce que une fois qu'on l'a écrit noir sur blanc sur des rapports et des commissions encore faut-il passer à l'acte donc il y a toute la question ce qu'on va appel en en anglais pardon pour le mot mais du reskilling ou de l'upskilling de de de de la de la population active française ça c'est fondamental à à avoir en tête sur l'impact vous vous évoquez l'éventualité d'une casse sociale je n'en sais rien en fait c'est beaucoup moins disons binaire que ça il faudrait voir par poche de métier tous les métiers ne seront pas impactés de la même façon et puis il y a aussi des complémentarité notamment dans le secteur de la santé avec les médecins et cetera donc il faut aussi voir où est-ce que l'intelligence artifici iiciel au sens disons général s'inscrit dans la dans la chaîne de valeur mais et je terminerai là-dessus ce qui est très intéressant c'est les narratif et c'est les récit surtout de Sam alttman et de Elon Musk sur la question et d'une certaine façon il réinvente il booste Marx dans une forme de de postcitalisme complètement débonnaire puisque eux parlent en fait de la création de valeur ajoutée entre eux élite technologique et leur production leurs créatures les intellig les intelligences artificielles demain général on va dire et doncù tout d'un coup on remettrait au goût du jour le revenu universel de base mais qui serait distribué par eux à nous le peuple pour la paix sociale pendant que eux vont à la conquête du monde de l'univers et du futur donc pour l'instant c'est du récit d'ailleurs qui vient d'être hier soir remis à jour par Sam Altman lui-même mais il faut faire un tout petit peu attention parce que tout d'un coup de Hurlu Berlu de la silicone vleé ils ont quand même des milliards ils sont capables de lever des milliards et puis enfin je terminerai là-dessus vous avez une partie de l'élite technologique américaine qui commence à pencher doucement vers l'altright et donc de ce point de vue-là si vous si vous si vous combinez impact sociaux sociétaux démocratiqu et idéologique on a une on a on a des phénomènes politiques à vraiment garder à l'œil je vous remercie monsieur si vous voulez dire quelque chose en deux mots pour abonder dans votre sens effectivement que ce soit la Banque mondiale en 2019 ou le FMI là récemment en début 2024 on parle quand même des de taux de suppression nette d'emploi tout à fait énorme en moyenne la le FMI 2024 janvier 2024 vous le disiez tout à l'heure très rapidement il me semble parle de 60 % des emplois nets supprimés dans les économies avancées dans les économies avancées c'estàd qu'en fait ce sont plutôt les professions dit intellectuelles pour aller vite j'aime pas du tout ce terme mais passons qui vont être impactés 60 % ce serait pour les États-Unis en particulier ça gu jusqu'à 70 % pour la Grande-Bretagne d'autres chiffres ont été avancés jusqu'à alors là c'était plutôt la Banque mondiale 77 % en Chine 66 en Inde et cetera bon il se trouve que on sait pas ce qui va se passer mais on risque d'avoir des suppressions massives d'emploi et donc un chômage on on parle de chômage de masse depuis les années 80 mais là un chômage gigantesque et la question c'est que comment on va qu'est-ce qu'on va faire de ces gens-là qu'est-ce qu'on va faire ces gens-là est-ce que on va développer à partir des gains de productivité développé par les IA est-ce qu'on va distribuer ces gains productiv à ces gens pour qu'ils essaient de survivre je j'ai pas l'impression que ce soit l'optique de nos gouvernant actuel j'ai plutôt l'impression que c'est des personnes qui vont être marginalisées peut-être que je me trompe d'ailleurs j'espère parce que ce qui va ce qui risque de se passer c'est une véritable catastrophe sociale et qui dit catastrophe sociale dit des troubles socioppolitiques majeur la la question va être de savoir dans les années à venir si ce scénario se confirme dans quelle direction voz nos gouvernants est-ce qu'ils vont aller plutôt vers mettre en place une redistribution des gaines productif productif ité pour faire en sorte que les gens continuent à vivre décemment même s'ils ne travaillent pas ou qu'ils travaillent peu ou est-ce qu'on va aller plutôt vers une une une accentuation des dépenses sécuritaires de de police de justice et d'armée pour essayer de quadriller le paysage social et faire en sorte que les populations ne se révoltent pas on en est là si on si ces scénarios se précisent on en est à ce point-là c'est un sujet extrêmement inquiétant et je pense que le la représentation nationale devrait s'enarer as est-ce que je peux ajouter quelque chose sur question très très très très brièvement je vous jure je vous assure non c'est juste que si on prend un tout petit coup un petit coup de rétroviseur c'est pas du tout pour nuancer parce que vraiment je pense que on en sait je crois rien mais simplement pour apporter un autre élément de réflexion pour ouvrir vraiment les les perspectives quand on prend un petit coup de rétroviseur quand on eu les grosses vagues d'automatisation dans les années 7080 de l'économie notamment allemande et japonaise ça c'est'est absolument pas du tout traduit par du chômage de masse ça s traduit par de la complémentarité par par d'autres compétences et cetera et le rapport de cet été de l'OIT je crois parlait plutôt d'e d'une destruction nette d'emploi de 5 % chiffre je crois qui a été repris par la commission le rapport de la commission qui a été remis euh à au au président de la République bon en gros je crois que tous les scénarios sont possibles que personne n'en sait rien et que toute la question n'est pas de se dire voilà l'horreur et et et avoir des épouvantails c'est plutôt de se dire aujourd'hui en terme de politique publique comment ce qu'on prépare on accompagne et on anticipe un risque éventuel et c'est là où en fait on est complètement détenteur de et producteur et fabricateur même de de notre avenir d'une certaine façon il nous est pas imposé il nous est pas tombé comme ça sur les sur les épaules ça se prépare oui bon ça se prépare mais je je trouve que l'intervention précédente était plus compatible avec celle de Monsieur Tibou et elle me pas vôtre et je crois qu'elle était plus juste c'est que Monsieur Tibou dit il y a un un un risque massif de suppression d'emploi et ce que vous aviez dit qui me paraissait très juste c'est qu'il fallait absolument nuancer toutes les situations qui étaient très différentes mais je pense que le le déficit net on est plutôt dans un scénario euh digne de Vespasien que de que de Ricardo bah il y a il y a une étude qui vient de sortir mais franchement il y a 2 semaines sur les gains de productivité aujourd'hui avec les les génératives par je vous donne le truc pour que vous retrouviez la source c'est le minse Global Institute je sais que minse c'est le diable en ce moment enfin c'est intéressant parce qu'ils ont des méthodologie assez disons traçable si vous voulez vérifier les chiffres bon bah les gains de productivité à date en fait les retours d'expérience qu'on commence à avoir sont pas si extraordinaire que ça il y a eu une espèce de vague de hype absolument incroyable sur lesas génératives par aussi tous les récits de la Silicon Valley de Altman de musk et cetera en réalité on est en train d' revenir un tout petit peu quand même en terme de principe de réalité d'usage industriel et économique dans les grandes entreprises françaises et européennes donc il faut vraiment on tatonne voilà enfin je pas moi je suis pas spécialiste mais j'ai quand même j'ai l'impression que là vous posez un un un autre problème qui est très juste qui est le problème du rythme c'est-à-dire qu'il est très très possible que ce que ce que les les études constatent et que effectivement les les changements n'ont pas été massivement destructeurs jusqu'à présent mais quand on nous on voit ce qu'on nous propose ce qu'on nous prévoit sur le plan des évolutions technologiques il peut y avoir une une modification très très importante même si comme dit à nouveau je vais encore faire une une citation religieuse même si personne ne sait le jour ni l'heure monsieur alors le dernier intervenant excusez-moi monsieur guign je ne vous ai pas oublié c'est Monsieur Michel Guinot qui est député rassemblement national de looise oui merci monsieur le Président non non je n'en doutais pas madame monsieur oui rapidement donc les boueverersements ça a été dit plusieurs fois lié à l'intelligence artificielle modifierons évidemment de façon indélibide notre société nous assistons là à un changement de paradigme sûrement aussi important que celui qui nous a fait passer de l'agriculture à l'industrie ce changement est impulsé autant par les technologies que par l'histoire et nous ne savons pas quel en sera le résultat concret l'intelligence artificielle rend dispensable bien plus de professions et de travailleurs que ne l'a fait l'automatisation des usines il y a un certain nombre d'années vous parliez d'ailleurs tout à l'heure vousvoquiez 60 % des emplois nets et cela fait froid dans le dos puisque là aussi vous l'avez confirmé une possibilité de chômage gigantesque avec bien sûr des des conséquences absolument terrifiantes pourtant ces apports semblent loués au point que deux visions divergentes s'oppose d'un côté la possibilité de préserver notre nature humaine et nos activités de l'autre la possibilité de dépasser les capacités humaines quitent à nous rendre dispensablebl voir spectateurs de nouvelles avancées juste sur un point très précis pensez-vous qu'à terme il devient nécessaire de certifier le mode de production par exemple d'une image comme cela commence à être le cas dans les publicités que nous pouvons observer et son origine merci voilà vous n'avez pas eu besoin de tapoter monsieur le je vous remercie monsieur le député est-ce que une certification des images c'est répondez monsieur Tibou non non mais il se trouve que je n'ai pas entendu la votre question est-ce que vous pas de votre faute monsieur c'est eux qui étaient bavard pour une fois c'était pas moi oui ma question pa sur les sur les images est-ce que merci de certifier le mode de production d'une image comme cela commence à être le cas dans les publicités que nous pouvons observer et l'origine de cette image merci on pourra faire des f certificat bon sur la question du watermking c'estàdire marquer la production de imag in tiquement fausse ou en tout cas nativement produite par les génératives oui c'est prévu dans le Ia Act c'est une des obligations d'ailleurs et c'est à peu près l'une d'erreurs sur la question de la désinformation et de la massification de l'industrialisation de la désinformation par les deep fake et les audios et cetera bon mais ce que je disais aussi tout à l'heure sur cette question là précisément c'est que au-delà de la question de ce solutionnisme technojuridique donc on va mettre un texte de loi coercitif et puis après avec une solution technique le problème de de de du solutionnisme technologique permanent c'est que en fait vos outils ne sont pas du tout infaillibles ils sont donc faillibles ils sont piratables ils sont détournables on le voit déjà sur le watermking on s'est déjà aujourd'hui supprimer bidouiller et cetera donc et quand vous avez aujourd'hui de la vraie intention malveillante par les États ou des groupes paraétatiques donc les fameuses luttes informationnelles et demain ce qu'on va appeler probablement les guerres cognitive vous voyez bien que l'enjeu ou la réponse n'est pas à hauteur donc en fait c'est et c'est tout le promo d'ailleurs de mon de de mon ouvrage c'est de dire que la dualité de ces technologies qui sont toujours civiles et militaires à la fois qui sont qui s'inscrivent dans le cadre de guerre hybride doivent absolument embarquer avec elle la population entière comprendre que chacun devient une cible que chacun doit être armé cognitivement de comprendre les enjeux sous-jacant et que ça concerne strictement tout le monde que ça ne peut plus être simplement de l'ordre de l'industriel ou du rigalien ou de je ne sais quoi mais que ça doit absolument infuser dans toute la société c'est vraiment cette dualité là qu'il faut avoir en tête et donc c'est en fait une nouvelle éducation une nouvelle anthropologie c'était Michel ser puisqu'on en est sur les références qui écrivait de façon très succinte mais que j'avais trouvver très brillante avant qu'il ne se dédiseent euh sur dans petite poussette ce sont de nouvelles anthropologies qu'il nous faut accompagner et donc on ne peut pas les accompagner avec un regard qui vient du 20e siècle de ce point de vue-là et c'est toute la question de la symbiose finalement entre le vrai et le faux le réel le virtuel le public le privé ça pose d'énormes questions voilà écoutez je oui ça poseénnormes questions je crois que c'est la bonne conclusion de ce de ce très très intéressant colloc on a effectivement compris je crois que le le le marché la main invisible d'Adam Smith n'était pas très applicable à à à l'intelligence artificielle on a compris on a compris que la langue desop pouvait être artificielle si j'ose dire et vous venez de l'évoquer à l'instant euh je je crois qu'il faut vous vous remercier parce que nous sommes maintenant vous nous avez amené aujourd'hui c'est un début de réflexion pour nous nous allons continuer ce cycle de réflexion mais vous nous avez amené au pied de la montagne ou au pied de trois montagnes qui sont effectivement très dures à gravir mais nous vous sommes très reconnaissants la première de ces montagnes c'est la la montagne démocratique est-ce que est-ce que nous pouvons survivre euh faire survivre la démocratie à l'ensemble de ces de ces évolutions ça n'est pas évident quand on vous entendait on voyait bien qu'il y avait des choses à faire mais que ce n'était pas gagné la deuxième montagne est la montagne sociale euh les les transferts les les transferts de la la destruction potentielle d'un d'un grand nombre d'emplois et la concentration des bénéfices de la production sur en fait les actionnaires disons sur un certain nombre de de de gens très limité vont va poser un problème de distribution qui a été notamment posé très fortement par par Monsieur Tibou qui est très très compliqué et qui fait que sans doute les solutions de de demain seront effectivement assez différentes de celles qu'on avait évoqué au 19e et au 20e siècle et troisièmement un enjeu national c'est-à-dire où sommes-nous dans cette course quels sont nos atout quels sont nos limites quels sont nos défaillances aux insuffisances je crois que ça fait trois montagnes que nous allons gravir donc heureusement que ça se termine maintenant cette audition parce que le travail à effectuer est tout à fait énorme et demanderait bien davantage que le prolongement de cette audition merci vraiment c'était pour moi qui suis un homme du 20e siècle al profondément euh c'est c'était quelque chose de très éclairant de très intéressant je crois que un grand nombre de questions ont été posées je crois que tous les collègues ont on on ont pris intérêt un grand intérêt à à ces questions qui en fait percute direct traverse un défaut de percuter mais traverse directement et fortement les compétences et les préoccupation de cette commission merci à à vous deux vous êtes un couple admirablement complémentaire et nous nous félicitons de vous avoir invité l'une et l'autre c'est un plaisir merci beaucoup merci beaucoup la la la séance élevée la réunion du bureau aura lieu dans 10 minutes