Droit public du numérique et Intelligence Artificielle : défis des libertés fondamentales et de la souveraineté Working Paper 1 Février 2024 Kaoutar Rarhoui
To cite this version: Kaoutar Rarhoui. Droit public du numérique et Intelligence Artificielle : défis des libertés fondamentales et de la souveraineté Working Paper 1 Février 2024. 2024. �hal-04450952�
HAL Id: hal-04450952 https://hal.science/hal-04450952v1 Preprint submitted on 11 Feb 2024
HAL is a multi-disciplinary open access archive for the deposit and dissemination of scientific research documents, whether they are published or not. The documents may come from teaching and research institutions in France or abroad, or from public or private research centers.
L’archive ouverte pluridisciplinaire HAL, est destinée au dépôt et à la diffusion de documents scientifiques de niveau recherche, publiés ou non, émanant des établissements d’enseignement et de recherche français ou étrangers, des laboratoires publics ou privés.
Droit public du numérique et Intelligence Artificielle : défis des libertés fondamentales et de la souveraineté Working Paper 1 Février 2024 Dr. Kaoutar RARHOUI Docteur en Droit Public A l’Université Mohammed V de Rabat Faculté des Sciences Juridiques Économiques et Sociales
Résumé : La révolution numérique transforme profondément les processus de production du droit, influençant les cadres théoriques et juridiques des normes. Les processus numériques redéfinissent les débats constitutionnels et pourraient devenir incontournables dans l'adoption des textes constitutionnels. Le droit du numérique, émergé du droit privé, pose des défis en droit public, notamment dans la protection des données personnelles et la souveraineté numérique face aux acteurs transnationaux. Une réglementation globale s'avère nécessaire pour concilier l'innovation technologique avec la préservation des droits fondamentaux. La révolution numérique impose des défis sans précédent au droit constitutionnel, exigeant une réflexion approfondie sur la manière dont nous conceptualisons et appliquons les principes juridiques. Cet article explore la nécessité d'une refonte du droit constitutionnel pour répondre aux dynamiques changeantes du numérique dans nos société, mettant en lumière les aspects clés liés à la protection des donnée, aux droits individuels et aux droits fondamentaux ou à la souveraineté nationale. Mots clés : Intelligence Artificielle, Droit public du numérique, Droit du numérique, Droit des libertés fondamentales, Droit constitutionnel.
Abstract: The digital revolution is profoundly transforming the processes of production of law, influencing the theoretical and legal frameworks of standards. Digital processes are redefining constitutional debates and could become essential in the adoption of constitutional texts. Digital law, emerging from private law, poses challenges in public law, particularly in the protection of personal data and digital sovereignty in the face of transnational actors. Global regulation is necessary to reconcile technological innovation with the preservation of fundamental rights. The digital revolution imposes unprecedented challenges on constitutional law, requiring deep reflection on how we conceptualize and apply legal principles. This article explores the need for an overhaul of constitutional law to respond to the changing dynamics of digital technology in our societies, highlighting key aspects related to data protection, individual rights and fundamental rights or national sovereignty. Keywords: Artificial Intelligence, Public digital law, Digital law, Fundamental freedom law, Constitutional law.
Introduction La révolution numérique redéfinit fondamentalement les processus de production du droit, influençant le cadre théorique et juridique des caractéristiques de la norme. L'impact le plus évident réside dans les nouveaux registres de légitimité de la norme résultant de l'utilisation du numérique. Les processus numériques d'élaboration de la norme transforment les débats constitutionnels en renouvelant les modalités de création de la Constitution et de la loi. Il est envisageable que ces processus numériques de participation deviennent incontournables dans les procédures d'adoption des textes constitutionnels et législatifs. Le numérique n'est pas simplement une nouvelle technique d'ingénierie constitutionnelle, mais génère un objet inédit qui renouvelle les registres de légitimité de la norme. Il offre la possibilité d'une participation plus étendue des individus, permettant une présence fréquente et active du peuple réel dans le processus d'élaboration normative. L'idée selon laquelle la préservation des valeurs fondamentales nécessite un retour à la constitution est soulignée par des voix telles que celle de John Perry Barlow. Le numérique dans sa globalité n’est pas un monde sans aucune régulation ou de contraintes légales. En effective, le numérique en général et les systèmes d'IA plus spécifiquement existent sur un spectre aux contours flous,1 et il n'y a pas encore de catégorie significative pour une telle reconnaissance. Dans le même ordre d’idée Frank Easterbrooke défend l’idée selon laquelle un droit spécifique du numérique « de la même façon qu’il n’y a aucun droit spécial des chevaux, pourquoi un droit « du » numérique émergerait-il ? Ainsi, même si « de nombreux litiges concernent la vente de chevaux ; d’autres concernent les victimes de ruades de chevaux ; d’autres concernent les contrats de licence relatifs aux courses de chevaux, ou aux soins que les vétérinaires donnent aux chevaux, ou encore aux prix des concours hippiques » aucun droit spécifique au cheval n’existe.2 Le droit constitutionnel, en tant que science de l'organisation du pouvoir politique et de la protection des droits, se trouve confronté aux défis du développement de l'intelligence artificielle (IA). Alors que la révolution numérique transforme la société, l'ancienne conception nationale du droit constitutionnel apparaît inadaptée à cette réalité mondiale émergente. Les principes de souveraineté étatique perdent leur légitimité face aux acteurs numériques transnationaux. Le droit du numérique a été l’objet de plusieurs réflexions en droit privé avant de devenir un champ de réflexion et de recherche en droit public (I). Le respect des principes constitutionnels de l’usage du numérique dans les administrations publiques pose plusieurs problématiques (II). La protection des données personnelles varie selon les pays et les contextes. En effet, les approches divergentes en matière d'IA et d'algorithme soulignent la nécessité d'une réglementation globale, tout en préservant les droits fondamentaux. La 1
Castelluccia C. and D. Le Métayer, “Understanding Algorithmic Decision-Making: Opportunities and Challenges, Study, Panel for the Future of Science and Technology”, European Parliamentary Research Service (EPRS), Mars 2019. 2 Cité par THOMAS-SERTILLANGES J.-B., « Droit et technologies : concilier l’inconciliable ? Réflexions épistémologiques pour un droit des libertés technologiques », Les Cahiers du numérique, vol. 10, 2014, no 2, pp. 17-40
souveraineté numérique devient cruciale, avec les États en compétition avec des entités privées et internationales pour le contrôle du cyberespace.
I : Droit du numérique et de l’Intelligence Artificielle : du droit privé à un droit public du numérique
I.1 Droit numérique privé : protection, responsabilité et personnalité juridique Les systèmes d'IA deviennent plus sophistiqués et jouent un rôle plus important dans la société. Les juristes en droit privé ont été les premiers à traiter des questions liées au numériques ou à l’IA. De ce fait les recherches dans cette branche du droit ont été beaucoup plus centrées sur la question de la responsabilité, de la personnalité, du commerce électronique ou la protection de la propriété intellectuelle. En effet, en droit privé, par exemple deux raisons distinctes justifient la reconnaissance de l’IA en tant que personnes devant la loi. La première vise à établir une responsabilité en cas de défaillance, comblant ainsi les lacunes potentielles liées à leur vitesse, autonomie et/ou opacité. La seconde raison est d'assurer une reconnaissance en cas de réussite, notamment en ce qui concerne la propriété intellectuelle créée par ces systèmes. En effet, les applications concrètes de l'IA, telles que la livraison par drones et les voitures autonomes, transforment divers secteurs, notamment la vente au détail, améliorant l'expérience client et l'efficacité globale. Cependant, cette révolution soulève des défis légaux et sociaux, tels que la protection de la vie privée face à la « pervasivité » technologique, les risques de biais cognitifs dans les décisions des systèmes intelligents, la concentration de Big Data et le risque de profilage extrême altérant la liberté de choix. Par conséquent, la nécessité de réglementer l'IA se manifeste dans des domaines spécifiques tels que la responsabilité des machines intelligentes et l'applicabilité des lois sur la propriété intellectuelle. Actuellement, il n'existe pas de législation spécifique, et certains problèmes se trouvent non résolus en utilisant les catégories et principes juridiques existants. La protection des droits liés à la conception et à l'utilisation d'IA se base sur les lois sur le droit d'auteur et la propriété industrielle. Néanmoins en droit comparé, nous pouvons remarquer le Royaume-Uni a consacré la protection par le droit d’auteur aux œuvres issues de l’intelligence artificielle si aucune personne physique puisse être considérée comme en étant l’auteur de l’œuvre et ce depuis 1988. Les États-Unis appliquent quant à eux la « politique de paternité humaine » qui ne permet pas la protection par le droit d’auteur aux œuvres non créées par des hommes. Le principe de paternité humaine est adopté par plusieurs pays. En effet, ’Office européen des brevets (OEB) a également confirmé qu’en vertu de la Convention sur le brevet européen, seul peut être désigné dans une demande de brevet européen un inventeur humain. D’un côté, les débats portent sur la question de savoir si la personnalité est accordée pour des raisons instrumentales ou inhérentes, souvent comparées à la personnalité juridique des sociétés. Cependant, certains soutiennent que les systèmes d'IA, lorsqu'ils approchent l'indiscernabilité des humains, devraient avoir un statut comparable à celui des personnes
naturelles. Des développements récents, tels que l'octroi de la "citoyenneté" à un robot en Arabie saoudite, soulèvent des questions sur la nécessité de reconnaître une personnalité juridique aux IA. Les juristes et chercheurs en droit suggèrent d'attribuer une personnalité juridique aux systèmes d'IA pour résoudre des questions de responsabilité, notamment dans le cas des voitures autonomes. Certains proposent même des procédures pour juger des robots criminels, évoquant la possibilité de "punitions" par reprogrammation ou destruction. Les théories sur la personnalité juridique, telles que l'approche contractuelle, fictionnelle, et réaliste, utilisées pour les sociétés, alimentent le débat sur l'extension de ce statut aux systèmes d'IA. Finalement, la décision d'octroyer une personnalité juridique à une IA devrait être guidée par les droits et devoirs associés à cette reconnaissance.3 Le manque d’une législation spécifique régissant l'utilisation des systèmes d'intelligence artificielle, les conséquences civiles et pénales ou les événements préjudiciables ou des infractions liées à leur utilisation pose un certain nombre d’interrogation et de défis aux législateurs. Les effets juridiques et les problèmes juridiques liés à la conception, à la production et à l'utilisation de ces nouvelles technologies doivent donc être intégrés dans le cadre de la législation actuelle et résolus sur la base des catégories et des principes juridiques existants. Si des problématiques nouvelles liées à la propriété intellectuelle peuvent être régis par les textes sur la protection de la propriété intellectuelle et industrielle il n’en reste pas moins que certaines zones sont non régis par la loi et soulève l’incomplétude ou l’inadaptabilité de certaines législations. Toutefois, « les litiges liés à l’intelligence artificielle et à la propriété intellectuelle ne sont pas limités à une seule juridiction, mais se déploient à l’échelle internationale, chacune ayant ses propres défis et approches pour résoudre ces problèmes complexes »4. Pour l'avenir prévisible, il est préférable de s'appuyer sur les catégories existantes, avec la responsabilité pour les méfaits liée aux utilisateurs, propriétaires ou fabricants plutôt qu'aux systèmes d'IA eux-mêmes. Il est à noter que « même si le cyberespace présente des différences avec les espaces territoriaux, les instances étatiques continuent d’y exercer une importante activité normative. À bien des égards, il est naïf de croire que l’avènement du cyberespace met fin à la capacité des États de réguler ».5
I.2 Droit public du numérique : Etat de droit, constitutionnalité numérique L'évolution des pouvoirs des entreprises privés dans la société de l'information, soulève la question du risque de concentration de pouvoir dans des acteurs privés tels que Google et Facebook. Ces acteurs privés, en exploitant des technologies algorithmiques, peuvent exercer un pouvoir qui rivalise, voire dépasse, celui des autorités publiques. Cette concentration de 3
SIMON CHESTERMAN, “ARTIFICIAL INTELLIGENCE AND THE LIMITS OF LEGAL PERSONALITY”, British Institute of International and Comparative Law, Vol 69, October 2020, pp 819-844 4 Patocki-Tomas E. et C Monnet, « L’IA, LE DIGITAL ET L’ÉTHIQUE DES AFFAIRES Intelligence artificielle, création humaine et contentieux. Qu’en est-il actuellement ? », Revue Internationale de la Compliance et de l ’Éthique des Affaires - N° 5 - OCTOBRE 2023. 5 A. LEPAGE, « Internet un nouvel espace de délinquance », AJ Pénal juin 2005, p. 217
pouvoir soulève des inquiétudes quant à la démocratie et à l'État de droit, mettant en évidence la nécessité d'une réflexion sur le rôle de l’Etat et de sa souveraineté dans le contexte de la société algorithmique. D’un autre côté, la recrudescence de l’utilisation du numérique dans les administrations publiques, le processus d’informatisation de l’administration qui a commencé avec la généralisation de l’utilisation des ordinateurs ou la digitalisation de plus en poussée comme on le constate aux jours d’aujourd’hui, ou l’e-gouvernement ont le fruit d’une transformation et de la modernisation de l’Etat sont autant d’éléments qui ont attisé la curiosité des publicistes. En substance, un champ nouveau du droit public a commencé a émergé est celui du droit public du numérique. De ce fait, Lucie Cluzel-Métayer6 définit le droit public numérique comme « le droit applicable à l’ensemble des technologies de l’information et de la communication reposant sur le codage des données en langage binaire utilisés par les autorités publiques ». Toutefois, les recherches en droit public se sont penchées sur des problématiques limitées telles que la dématérialisation des échanges (…), la protection des données à caractère personnelle, de la relation entre liberté et surveillance, de l’open data et de la protection des données.7 Dans le même ordre d’idées, Johan Wolswinkelen en 2022, dans son étude sur l’IA et le droit administratif dans les pays de l’Europe souligne la nécessité des réadaptations des systèmes juridiques afin d’accompagner les changements technologiques observés dans l’environnement socio-économique. En effet, l’impact des systèmes d’IA sur les principes du droit administratif. Tout d'abord, il est crucial que l'utilisation de ces systèmes soit conforme à la légalité et aux règles de compétence, sans prendre de mesures arbitraires. En effective, le cadre juridique des systèmes d'aide à la décision automatisée (ADM) dans l'administration publique nécessite le respect plusieurs principes comme la protection des données personnelles ou du respect de la vie privée. Il est également essentiel que l'utilisation des systèmes ADM ne soit pas assimilée à une délégation illégale des pouvoirs administratifs et que les autorités publiques restent responsables de la qualité des décisions prises. La question de la liberté d'appréciation et de l'entrave à son exercice se pose également, en particulier lorsque des systèmes d'apprentissage automatique sont utilisés. Il est crucial de garantir l'égalité de traitement et de prévenir toute discrimination, en évitant les biais et en prenant en compte les particularités individuelles. De même, le principe d'objectivité et d'impartialité exige que l'administration utilise les éléments pertinents et évite tout parti pris favorable ou défavorable envers certaines personnes. Ajoutons à cela, le principe de proportionnalité qui 6
Lucie Cluzel-Métayer (sous la dir.), Elément du droit public numérique, Paris, L’Harmattan, 2023. Par exemple, en France L. Cluzel Métayer souligne qu’outre une stratégie de communication de l’administration consistant à déployer l’information administrative à destination des administrés, un véritable droit à l’information est consacré. Elle énumère plusieurs textes qui insistent sur le principe de transparence comme l’accès aux fichiers (loi du 6 janvier 1978), de l’accès aux documents administratifs (loi du 17 juillet 1978) et de la motivation des actes administratifs (loi du 11 juillet 1979) font de la transparence la règle et du secret administratif l’exception. Bien d’autres textes (loi sur les archives du 3 janvier 1979 ou encore décret du 28 novembre 1983). L’accès aux documents administratifs est érigé en « liberté fondamentale » par le Conseil d’Etat (CE 29 avril 2002, M. Ullmann). Selon Métayer Le droit à la transparence prend également en France une autre forme, reflet des exigences communautaires, qui impose aux services publics de rendre des comptes de leur gestion et de leur fonctionnement à leurs usagers. Voir CLUZEL-MÉTAYER Lucie, « Les enjeux juridiques de l’open-data en France », Conférence-débat du CDPC sur la transparence administrative et ses déclinaisons technologiques récentes, Cycle « Les valeurs du droit public », 15 avril 2013 7
exige que l'utilisation des systèmes ADM soit nécessaire et n'entraîne pas d'impact excessif sur les droits des personnes. De plus, la transparence est également un principe clé, impliquant la divulgation des documents publics détenus par l'administration, ainsi que des informations sur les activités et les actes administratifs, y compris les systèmes d'IA utilisés. Enfin, le droit de recours permettrait à toute personne d'obtenir un contrôle judiciaire sur la légalité des actes administratifs litigieux.8 Comme le souligne dans ce sens Lemaire,9 dans le passé, les universitaires se sont interrogés sur la question de savoir si l'environnement numérique pouvait être réglementé, avec différentes approches mettant en avant le rôle de l'architecture du réseau, de la technologie et des réseaux de communication en tant que sources de régulation. Alors que les États étaient initialement considérés comme les principaux régulateurs, le paysage a évolué. Les États ne sont plus les seuls régulateurs puissants ; ils coexistent au sein d'un réseau complexe d'entités réglementaires fragmentées. En effet, les technologies d'intelligence artificielle dans la société de l'information illustrent cette double nature de la technologie, offrant des opportunités d'innovation tout en posant des risques lorsqu'elles sont mises en œuvre sans garanties adéquates. L'utilisation discrétionnaire de technologies de prise de décision automatisées à des fins lucratives nécessite un examen de la mesure dans laquelle par exemple, le droit constitutionnel peut limiter l'essor des pouvoirs privés en ligne, assurant la protection des droits fondamentaux et des valeurs démocratiques. Cependant, dans le paysage réglementaire fragmenté actuel, les États ne sont qu'un élément d'un cadre complexe. De nouveaux pouvoirs, tels que les plateformes en ligne, ont émergé en tant qu'entités influentes, agissant en tant que mandataires ou entités déléguées des autorités publiques pour appliquer des politiques en ligne, s'appuyant de manière autonome sur un mélange de pouvoir de marché et d'asymétrie technologique. De plus, l’utilisation de l’IA n’a pas cessé d’impacter le secteur public dans plusieurs Etats allant de l’utilisation de l’IA générative ou de l’expérimentation de la Vidéosurveillance assistée par l’IA dans le cadre de loi sur les Jeux Olympiques et Paralympiques de 2024.