
L’évolution de l’IA, vers une avancée réglementée des métiers du droit ?
Auteur : Jeanne Pandraud & Barbara Brau
Publié le :
04/10/2024
04
octobre
oct.
10
2024
L’intelligence artificielle (IA), comme son nom l’indique, permet aux ordinateurs et aux machines de simuler l’intelligence humaine et ses capacités de résolution des problèmes. Son développement s’ancre peu à peu parmi nous avec des applications concrètes, des logiciels de recherche analysant des millions de documents en seulement quelques minutes ou encore des assistants virtuels et chatbots.
Dans le quotidien des avocats et des juristes aussi, l’IA s’intègre progressivement, allant de l’automatisation des tâches administratives à la prédiction des résultats de litiges ou encore à la rédaction d’actes. Malgré des avantages indéniables, l’intégration de l’IA au sein des professions juridiques, obligera les avocats à relever des défis majeurs concernant l’éthique, le respect de l’équité et de la neutralité, la confidentialité. Si les algorithmes ne sont pas conçus avec vigueur, ils peuvent engendrer les biais algorithmiques (le fait que le résultat d'un algorithme ne soit pas neutre, loyal ou équitable que ce soit de manière inconsciente ou délibérée).
Face à ces problèmes, le Parlement européen a dû poser un cadre réglementaire. Un règlement 2024/1689, l’AI ACT, en date du 12 juillet 2024, a été publié au Journal officiel de l’Union européenne (UE).
Il a pour but de mettre en place un cadre juridique uniforme dans les pays de l’UE pour le développement et l’utilisation des systèmes d’IA. Il vise à promouvoir une IA centrée sur l’humain et fiable tout en garantissant la protection de la santé, des droits fondamentaux et de l’environnement. Le règlement ne vise pas à ralentir ces avancées mais plutôt à soutenir l’innovation et à assurer la libre circulation des biens et services tout en respectant un cadre juridique strict :
Résumé en 4 points du règlement :
La loi classe l’IA en fonction de son risque :
- Les risques inacceptables sont interdits (les systèmes de scoring social et l’IA manipulatrice)
- Les systèmes d’IA à haut risque sont réglementés (ceux qui profilent les individus, traitent automatiquement les données personnelles)
- Les systèmes d'IA à risque limité, soumis à des obligations de transparence légères : les utilisateurs doivent être informés qu'ils interagissent avec une IA.
- Les risques minimaux ne sont pas réglementés (y compris la majorité des applications d’IA actuellement disponibles sur le marché unique de l’UE)
La majorité des obligations incombent aux fournisseurs (développeurs) de systèmes d’IA à haut risque.
- Celles qui ont l’intention de mettre sur le marché ou de mettre en service des systèmes d’IA à haut risque dans l’UE, qu’elles soient basées dans l’UE ou dans un pays tiers.
- Ainsi que les fournisseurs de pays tiers où les résultats du système d’IA à haut risque sont utilisés dans l’UE.
- Les régulations mentionnées s'appliquent aux entreprises ou aux individus qui utilisent un système d'IA dans un cadre professionnel, et non aux simples utilisateurs finaux (les consommateurs). Cela s’applique aux utilisateurs situés dans l’UE et aux utilisateurs de pays tiers dont les résultats d’IA sont utilisés dans l’UE.
- Tous les fournisseurs de modèles GPAI doivent fournir de la documentation technique, des instructions d’utilisation, se conformer à la directive sur le droit d’auteur et publier un résumé du contenu utilisé pour la formation.
- Les fournisseurs de modèles GPAI sous licence libre et ouverte doivent uniquement se conformer au droit d’auteur et publier le résumé des données d’entraînement, sauf s’ils présentent un risque systémique.
Chronologie :
Au plus tard 6 mois après l'entrée en vigueur :
- Interdiction des risques inacceptables liés à l'IA. (Article 113)
- Finalisation des codes de pratique pour l'IA à usage général (GPAI). (Article 113)
- Nomination des autorités compétentes des États membres. (Article 70)
- Examen annuel des interdictions par la Commission, avec modifications possibles. (Article 112)
- Publication par la Commission d'un modèle de plan de surveillance pour les IA à haut risque. (Article 6)
- Application des obligations pour les systèmes d'IA à haut risque (Article 111)
- Mise en place de règles de sanctions par les États membres. (Article 57)
- Examen et révision éventuelle de la liste des IA à haut risque par la Commission. (Article 112)
- Application des obligations pour les systèmes d'IA à haut risque. (Article 113)
- Application des obligations pour les IA à haut risque utilisés comme composants de sécurité ou produits nécessitant une évaluation de conformité. (Article 113)
- Application des obligations pour certains systèmes d'IA intégrés dans les systèmes d'information à grande échelle de l'UE, tels que le système d'information Schengen. (Article 111)
Historique
-
L’évolution de l’IA, vers une avancée réglementée des métiers du droit ?
Publié le : 04/10/2024 04 octobre oct. 10 2024Propriété intellectuelle, droit des nouvelles technologies et des plateformesL’intelligence artificielle (IA), comme son nom l’indique, permet aux ordinateurs et aux machines de simuler l’intelligence humaine et ses capacités de résolution des problèmes. Son développement s’ancre peu à peu parmi nous avec des applications concrètes, des logiciels de recherche analys...
-
Difficulté et enjeu de la qualification d’éditeur sur Internet
Publié le : 04/11/2022 04 novembre nov. 11 2022Propriété intellectuelle, droit des nouvelles technologies et des plateformesLa diversité des plateformes sur Internet pose la question de la responsabilité des opérateurs qui les mettent en oeuvre, vis-à-vis du contenu ou des données stockées sur leur(s) site(s). Cette responsabilité change en fonction de la qualification d’hébergeur ou d’éditeur de l’opérateur co...
-
CNIL : Une nouvelle procédure simplifiée pour les affaires sans difficulté particulière
Publié le : 15/04/2022 15 avril avr. 04 2022Propriété intellectuelle, droit des nouvelles technologies et des plateformesUne nouvelle procédure simplifiée permet au Président de la CNIL d’engager les poursuites selon une procédure simplifiée, pour les affaires ne présentant pas de difficulté particulière Selon le dernier bilan de l’activité de la CNIL, l’année 2021 est « une année sans précédent, tant par le...
-
Appréciation de la contrefaçon des dessins et modèles
Publié le : 12/11/2021 12 novembre nov. 11 2021Propriété intellectuelle, droit des nouvelles technologies et des plateformesEn matière de dessins et de modèles, l’article 513-5 du Code de la propriété intellectuelle dispose que : « La protection conférée par l'enregistrement d'un dessin ou modèle s'étend à tout dessin ou modèle qui ne produit pas sur l'observateur averti une impression visuelle d'ensemble diff...
-
Adoption d'un référentiel relatif aux traitements de données à caractère personnel
Publié le : 09/07/2021 09 juillet juil. 07 2021Propriété intellectuelle, droit des nouvelles technologies et des plateformesMis en œuvre dans le cadre de la gestion locative Focus sur la délibération n° 2021-057 du 6 mai 2021 portant adoption d'un référentiel relatif aux traitements de données à caractère personnel mis en œuvre dans le cadre de la gestion locative. Dénué de valeur contraignante, le nouveau référ...
-
ePrivacy
Publié le : 25/06/2021 25 juin juin 06 2021Propriété intellectuelle, droit des nouvelles technologies et des plateformesLe Projet de Règlement « Vie privée et communications électroniques » ou ePrivacy Droit des plateformes / A l’heure où internet est devenu un outil du quotidien et où les messageries instantanées sont indispensables, la méfiance des utilisateurs à l’encontre des opérateurs collectant et uti...