Face à la puissance croissante des algorithmes, l’Union européenne (ci-après, « UE ») prend les devants avec le Règlement européen sur l’intelligence artificielle, également connu sous le nom d’AI Act,¹RÈGLEMENT (UE) 2024/1689 DU PARLEMENT EUROPÉEN ET DU CONSEIL du 13 juin 2024. https://eur-lex.europa.eu/legal-content/FR/TXT/PDF/?uri=OJ:L_202401689., adopté le 13 mars 2024, constituant le premier cadre légal mondial pour l’intelligence artificielle (ci-après, « IA »). De la protection de la vie privée à la régulation des créations générées par l’IA, l’UE cherche à concilier innovation technologique et droits fondamentaux – un défi inédit à l’échelle mondiale.

Selon la définition donnée par le Parlement européen, l’intelligence artificielle « désigne la possibilité pour une machine de reproduire des comportements liés aux humains, tels que le raisonnement, la planification et la créativité. ».²https://www.europarl.europa.eu/news/fr/headlines/society/20200827STO85804/intelligence-artificielle-definition-et-utilisation. Consulté le 15/11/2025 à 22h07. Elle « permet à des systèmes techniques de percevoir leur environnement, gérer ces perceptions, résoudre des problèmes et entreprendre des actions pour atteindre un but précis. L’ordinateur reçoit des données (déjà préparées ou collectées via ses capteurs – une caméra, par exemple) les analyse et réagit. ».³Ibidem.

Au niveau national, la Commission Nationale de l’Informatique et des Libertés⁴La Commission Nationale de l’Informatique et des Libertés (CNIL) a été créée par la loi Informatique et Libertés du 6 janvier 1978. Elle est chargée de veiller à la protection des données personnelles contenues dans les fichiers et traitements informatiques ou papiers, aussi bien publics que privés. de France définit l’intelligence artificielle comme « un procédé logique et automatisé reposant généralement sur un algorithme et en mesure de réaliser des tâches bien définies. ».⁵https://www.cnil.fr/fr/definition/intelligence-artificielle. Consulté le 15/11/2025 22h09.

Selon une définition technique, le processus central des systèmes d’IA prévoit le traitement de données massives, détection de motifs, et utilisation de ces modèles pour générer des prédictions ou des décisions automatisées.⁶« In general, AI systems work by ingesting large amounts of labeled training data, analyzing the data for correlations and patterns, and using these patterns to make predictions about future states. ». Source : https://www.techtarget.com/searchenterpriseai/definition/AI-Artificial-Intelligence, consulté le 11/11/2025 à 21h48.

En pratique, les systèmes d’IA fonctionnent en absorbant d’immenses volumes de données, en détectant des corrélations et en les exploitant pour prévoir ou générer des résultats. Cette capacité d’apprentissage donne à l’IA un rôle croissant dans des domaines aussi variés que la santé, la justice, la sécurité, la création artistique ou encore la gestion des entreprises.

Mais derrière la prouesse technique se dessine une interrogation essentielle : jusqu’où peut-on confier à la machine des décisions qui touchent à nos droits fondamentaux ? L’intelligence artificielle ne remet pas seulement en cause nos méthodes de travail — elle questionne la liberté individuelle, la protection des données personnelles, la création intellectuelle et la responsabilité juridique.

C’est tout l’enjeu de la régulation européenne actuelle : trouver un équilibre entre innovation technologique et protection des droits fondamentaux.

Plus précisément, l’Union européenne s’est dotée d’un instrument puissant – le règlement européen sur l’intelligence artificielle – s’imposant ainsi comme pionnière sur la scène mondiale de la régulation de l’IA. Son placement sur le podium international résulte du fait qu’il s’agit du premier cadre législatif au monde qui encadre l’utilisation des systèmes d’IA.

I. Les risques de l’intelligence artificielle pour les droits fondamentaux et la justice

L’essor de l’intelligence artificielle soulève des enjeux majeurs pour la protection des droits fondamentaux au sein de l’Union européenne. D’une part, l’exploitation massive des données qu’elle implique met directement à l’épreuve le droit à la vie privée et à la protection des données personnelles. D’autre part, son utilisation croissante dans des domaines régaliens tels que la justice interroge les garanties procédurales et l’impartialité du juge.

A. La vie privée et les données personnelles face à l’IA

L’essor et l’intégration de l’intelligence artificielle illustrent un progrès technologique fulgurant, susceptible d’améliorer le quotidien, d’optimiser le travail et de transformer la gestion des entreprises. Cependant, cette innovation soulève aussi des risques non négligeables, susceptibles d’affecter les droits fondamentaux garantis par le droit de l’Union européenne.⁷Voir la Charte des droits fondamentaux de l’Union européenne.

Un premier exemple est illustré par la protection des données à caractère personnel, constituant l’un des enjeux majeurs de l’encadrement juridique de l’intelligence artificielle. En effet, de nombreux systèmes d’IA reposent sur la collecte et l’analyse de données dites « à caractère personnel », définies à l’article 4, point 1, du règlement (UE) 2016/679 (RGPD) comme « toute information se rapportant à une personne physique identifiée ou identifiable ».⁸Le droit fondamental à la protection des données à caractère personnel est garanti en particulier par les règlements (UE) 2016/679 et (UE) 2018/1725 du Parlement européen et du Conseil, ainsi que par la directive (UE) 2016/680 du Parlement européen et du Conseil. Parfois, ces données sont collectées auprès des utilisateurs sans leur consentement explicite.

Le droit à la vie privée et à la protection des données constitue une pierre angulaire de l’architecture des droits de l’Union européenne.

Le droit à la protection des données à caractère personnel est consacré par l’article 8 de la Charte des droits fondamentaux de l’Union européenne, tandis que l’article 7 de celle-ci garantit que « Toute personne a droit au respect de sa vie privée et familiale, de son domicile et de ses communications. ». En droit français, cette même exigence est reprise à l’article 9 du Code civil : « chacun a droit au respect de sa vie privée ».

L’utilisation croissante de systèmes d’IA dans la surveillance, la publicité ciblée, la reconnaissance faciale ou la police prédictive accroît le risque de dérive vers une surveillance de masse et une atteinte à la vie privée. Les algorithmes collectent et analysent en continu des volumes considérables de données personnelles, souvent à des fins de profilage. Ces pratiques posent la question du consentement réel des individus, de la transparence du traitement et du contrôle humain sur les décisions automatisées.

La solution du droit de l’Union européenne consiste à établir des catégories de risques auxquelles elle associe des niveaux d’obligations proportionnés pour les acteurs de l’intelligence artificielle.

Le règlement européen sur l’intelligence artificielle (AI Act) repose sur une approche dite « fondée sur les risques » (risk-based approach). Il distingue ainsi quatre niveaux :

• les systèmes à risque inacceptable, purement interdits (par exemple, la reconnaissance faciale en temps réel dans les lieux publics) ;
• les systèmes à haut risque, soumis à des exigences strictes de conformité, de transparence et de supervision humaine ;
• les systèmes à risque limité, pour lesquels seules des obligations de transparence s’appliquent (comme les chatbots) ;
• et enfin, les systèmes à risque minimal, libres d’utilisation.

En l’occurrence, l’UE interdit, par le biais de l’article 5, g), du Règlement européen sur l’intelligence artificielle, des pratiques portant atteinte au droit à la vie privée et aux données à caractère personnel et notamment l’interdiction de la mise sur le marché, de la mise en service ou de l’utilisation de systèmes d’intelligence artificielle qui catégorisent des personnes à partir de leurs données biométriques (comme le visage, la voix ou l’iris) afin d’en déduire des informations sensibles telles que l’origine ethnique, les opinions politiques, les convictions religieuses, l’appartenance syndicale ou l’orientation sexuelle.

Cette interdiction ne s’applique pas aux activités techniques de filtrage ou d’étiquetage de données biométriques légalement acquises, ni à certaines utilisations dans le domaine répressif.

Donc, nous pouvons conclure que les leviers de l’UE reposent sur une régulation graduée, fondée sur le niveau de risque que présente chaque usage de l’intelligence artificielle — un équilibre entre la nécessité d’encadrer et la volonté de ne pas freiner l’innovation.

Après avoir examiné les risques que l’IA fait peser sur la vie privée et la protection des données personnelles, il convient d’élargir l’analyse aux enjeux démocratiques, notamment lorsque les technologies algorithmiques interviennent dans l’exercice de la justice et la garantie de l’accès à un tribunal impartial.

B. Démocratie et justice assistée par l’intelligence artificielle : impartialité et garanties procédurales

L’administration de la justice constitue l’un des piliers de l’État de droit européen. L’article 47 de la Charte des droits fondamentaux de l’Union européenne garantit à toute personne le droit à un tribunal indépendant et impartial, ainsi qu’à une procédure équitable.⁹Article 6 de la Convention européenne des droits de l’homme. Ce principe implique que les décisions de justice soient rendues par un juge humain, capable d’apprécier les faits, d’interpréter les normes et de motiver son raisonnement.

Le droit européen exige que la décision de justice résulte d’une appréciation personnelle, motivée et individualisée par le juge. La Cour européenne des droits de l’homme (ci-après « Cour EDH ») rappelle régulièrement que la motivation d’une décision doit permettre au justiciable de comprendre les raisons exactes du jugement et de contrôler l’absence d’arbitraire.¹⁰CEDH, 10 janvier 2013, Affaire AGNELET c. FRANCE, Requête no 61198/08 ; CEDH, 10 janvier 2013, Affaire FRAUMENS c. FRANCE, Requête no 30010/10..

Les recommandations du Conseil de l’Europe sur l’usage de l’IA dans la justice¹¹CEPEJ European Ethical Charter on the use of artificial intelligence (AI) in judicial systems and their environment, 2018. soulignent que les outils algorithmiques ne peuvent jouer qu’un rôle d’assistance, et jamais se substituer au raisonnement du magistrat.

Ainsi, en droit européen actuel, la décision juridictionnelle doit rester pleinement humaine.

Bien que l’IA n’est pas aujourd’hui utilisée pour rendre directement des jugements, son intégration croissante dans la justice fait émerger un risque à moyen et long terme : celui d’une dépendance progressive aux outils prédictifs ou de recommandation. À terme, une telle dérive pourrait compromettre le droit fondamental à un tribunal indépendant et impartial.

Si le droit de l’Union européenne interdit strictement que des décisions juridictionnelles soient automatisées, un risque de sur-utilisation pourrait se produire si les magistrats en venaient à s’appuyer systématiquement sur les analyses prédictives proposées par des algorithmes.
Cette dérive, bien que futuriste, poserait une menace directe pour l’article 47 de la Charte des droits fondamentaux, qui garantit le droit à un tribunal indépendant et impartial. Une justice dont le raisonnement serait partiellement ou principalement fondé sur des calculs algorithmiques perdrait sa légitimité démocratique et sa capacité à apprécier l’humain dans la décision.

Le Parlement européen alertait dès 2021 sur les risques que présentent les systèmes d’IA dans la justice pénale, notamment en matière de biais algorithmiques et d’opacité des traitements.¹²Parlement européen, Résolution du Parlement européen du 6 octobre 2021 sur l’intelligence artificielle en droit pénal et son utilisation par les autorités policières et judiciaires dans les affaires pénales (2020/2016(INI). Source : https://www.europarl.europa.eu/doceo/document/TA-9-2021-0405_FR.html.

En réponse à ce risque et afin de garantir le droit fondamental à un tribunal indépendant et impartial l’AI Act exige un contrôle humain effectif pour toute décision affectant des droits individuels : « Le contrôle humain vise à prévenir ou à réduire au minimum les risques pour la santé, la sécurité ou les droits fondamentaux qui peuvent apparaître lorsqu’un système d’IA à haut risque est utilisé conformément à sa destination ou dans des conditions de mauvaise utilisation raisonnablement prévisible […]. ».¹³Article 14, §2 du Règlement européen sur l’intelligence artificielle.

La Cour de justice de l’Union européenne (ci-après, « Cour de justice ») a déjà rappelé, dans l’interprétation de l’article 22 du RGPD, que toute décision produisant des effets juridiques ne peut être fondée exclusivement sur un traitement automatisé sans intervention humaine significative.¹⁴CJUE, arrêt du 4 mai 2023, SCHUFA, C-634/21. Ce principe général, bien qu’issu du droit des données, confirme l’importance attachée par l’Union européenne à l’intervention humaine dans les décisions individuelles.

Ainsi, en l’état actuel du droit européen, la justice doit rester pleinement humaine : les outils d’intelligence artificielle ne peuvent être utilisés qu’à des fins d’assistance, sous le contrôle d’un magistrat, dans le respect des garanties procédurales du droit de l’Union européenne.

Au-delà des défis qu’elle pose aux droits fondamentaux, l’IA conduit aussi à reconfigurer plusieurs régimes juridiques établis. C’est ce mouvement de transformation que la seconde partie se propose d’étudier.

II. L’intelligence artificielle, un vecteur de transformation des régimes juridiques existants

Les technologies d’intelligence artificielle ne se limitent pas à poser des enjeux de protection des droits fondamentaux, elles transforment également les régimes juridiques actuels. Responsabilité civile, relations contractuelles, droit du travail, mais aussi propriété intellectuelle et création artistique, tous ces domaines doivent aujourd’hui s’adapter à l’émergence de systèmes autonomes et génératifs. Le droit de l’Union européenne tente d’y répondre à travers une révision progressive de ses instruments, des propositions législatives et l’adoption de nouvelles normes telles que l’AI Act.

A. Responsabilité et IA : une nécessaire adaptation

Le monde juridique repose, depuis des siècles, sur un principe simple : chaque obligation a un auteur, chaque dommage un responsable.¹⁵Article 1240 du Code civil français : « Tout fait quelconque de l’homme, qui cause à autrui un dommage, oblige celui par la faute duquel il est arrivé à le réparer. ». Or l’IA bouleverse ce schéma. Qui doit répondre lorsqu’un algorithme se trompe, apprend mal, ou agit d’une manière que même son concepteur n’avait pas prévue ?

C’est à ces difficultés que le législateur européen tente aujourd’hui de répondre.

La Commission européenne a déjà eu une tentative en 2022 d’harmoniser le cadre juridique européen sur le plan de la responsabilité civile à l’ère algorithmique par le biais d’une directive sur la responsabilité de l’IA.¹⁶AILD, COM(2022) 496 final En avril 2025, des organisations de la société civile comme BEUC¹⁷https://www.beuc.eu/letter/open-letter-european-commission-announced-withdrawal-ai-liability-directive?utm_source=chatgpt.com. Consulté le 17/11/2025 à 10h04. ou encore Mozilla, ont envoyé une lettre ouverte à la Commission pour demander un nouveau cadre de responsabilité, mais ce texte a été finalement retiré, faute d’accord avec les colégislateurs.¹⁸https://www.altajuris.com/retrait-du-projet-de-directive-sur-la-responsabilite-en-matiere-dia/. Consulté le 17/11/2025 à 9h59.

Le but de cette sous-partie vise à mettre en lumière de nouvelles problématiques de droit auxquelles les entités juridiques doivent apporter des réponses. Par exemple, si un robot de tri automatisé blesse un employé dans un entrepôt logistique, qui en est responsable ? L’entreprise a-t-elle bien mis à jour l’algorithme ?

Un autre exemple dans lequel l’IA a une influence croissante constitue le droit du travail et notamment l’évaluation des travailleurs par des systèmes algorithmiques. Le phénomène du « management algorithmique » – défini par le Parlement européen comme la supervision, l’évaluation ou la prise de décision fondée sur des systèmes automatisés¹⁹Parlement européen, Résolution 2021/2066(INL). – suscite des préoccupations en matière de transparence et de dignité du travailleur. Le droit de l’UE a mis en place un mécanisme de contrôle et d’encadrement, en imposant une information obligatoire lorsque des systèmes automatisés supervisent le travail, ainsi qu’une intervention humaine obligatoire en cas de décision affectant les droits du travailleur.²⁰RÈGLEMENT (UE) 2023/1230 DU PARLEMENT EUROPÉEN ET DU CONSEIL du 14 juin 2023 sur les machines. https://eur-lex.europa.eu/legal-content/FR/TXT/PDF/?uri=CELEX:32023R1230.

Le monde médical soulève également des questions quant à l’interprétation des diagnostics médicaux grâce à des machines. La question consiste à savoir comment engager la responsabilité lorsque l’erreur provient d’un raisonnement algorithmique non interprétable ?

Le droit européen encadre déjà strictement l’usage de ces technologies. Les dispositifs médicaux intégrant de l’IA sont soumis au Règlement (UE) 2017/745 relatif aux dispositifs médicaux (MDR)²¹https://eur-lex.europa.eu/legal-content/FR/TXT/PDF/?uri=CELEX:32017R0745. Consulté le 17/11/2025 à 17h32. et au Règlement (UE) 2017/746 relatif aux dispositifs de diagnostic in vitro (IVDR),²²https://eur-lex.europa.eu/legal-content/FR/TXT/PDF/?uri=CELEX:32017R0746. Consulté le 17/11/2025 à 17h58. qui exigent un niveau élevé de sécurité, de traçabilité et de contrôle clinique. La Cour EDH a également rappelé, au titre des articles 2 et 8 de la Convention européenne des droits de l’homme, que les États doivent garantir un environnement médical sûr et fiable, ce qui inclut le contrôle de la qualité des dispositifs utilisés.²³CEDH, Affaire Lopes de Sousa Fernandes c. Portugal, 2017, Requête no 56080/13.

L’article 14 de l’AI Act impose pour les systèmes d’IA à haut risque un « contrôle humain effectif » permettant d’identifier, d’interpréter et de corriger les erreurs du modèle. Le droit de l’Union européenne interdit donc qu’une décision médicale engageant la santé ou la vie d’un patient soit prise uniquement par un système automatisé.

Outre la responsabilité juridique, la propriété intellectuelle constitue un autre domaine qui doit faire l’objet de modifications législatives et réglementaires en raison de l’utilisation massive de l’IA à travers différents mécanismes.

B. Création et propriété intellectuelle face à l’IA générative

L’intelligence artificielle est capable de créer des contenus d’une qualité et d’une créativité étonnantes. En dehors des risques et des problématiques de fake news et de deep fake, elle pose le problème autour de la création générative et de la propriété intellectuelle.

Au niveau européen, le droit d’auteur, au sens de l’article 2, sous a), de la directive 2001/29/CE, ne s’applique qu’à un objet qui est original, c’est-à-dire une création intellectuelle propre à son auteur. Comme le rappelle la Cour de justice,²⁴CJUE, arrêt du 16 juillet 2009, Infopaq, C-5/08, §37. le droit d’auteur n’est susceptible de s’appliquer que par rapport à un objet qui est original en ce sens qu’il est une création intellectuelle propre à son auteur. Par conséquent, une œuvre générée uniquement par un système d’IA, sans intervention créative humaine, ne satisfait pas à ce critère d’originalité et n’est donc pas protégée par le droit d’auteur.

L’article 53 de l’AI Act oblige les fournisseurs d’IA générative à être transparents : ils doivent publier un résumé des données utilisées pour l’entraînement, respecter le droit d’auteur et permettre de détecter les contenus générés artificiellement. L’objectif est de favoriser l’innovation tout en protégeant les artistes. En pratique, un illustrateur peut constater que son style est imité par un modèle et un musicien pourra savoir si ses créations ont servi à former un algorithme.

En conclusion, l’Union européenne se trouve devant un défi majeur : garantir que l’innovation technologique demeure compatible avec la protection des droits fondamentaux, la sécurité juridique et le respect des créateurs — un équilibre délicat, encore en construction, mais essentiel pour toutes les entités.