Les problématiques juridiques induites par l’utilisation de systèmes d’IA sont nombreuses : régime de protection des œuvres générées par l’IA, confidentialité des données, conformité RGPD, identification des contenus générés par l’IA, gestion des hallucinations et des biais, risque cyber, sujets éthiques, etc..
Certaines études publiées en ligne estiment qu’entre 4% et 11% des données utilisées sur ChatGPT seraient « confidentielles » ou « sensibles » (2023). Par ailleurs, la majorité des salariés utiliseraient des comptes ChatGPT gratuits, de sorte que des données confidentielles ou stratégiques seraient de facto utilisées pour en enrichir la base d’entrainement. Il est impossible d’évaluer le volume réel de documents professionnels, confidentiels ou non, qui transitent quotidiennement via les agents conversationnels. La plupart des grandes entreprises avisées encadrent ainsi strictement l’usage des systèmes d’IA via des dispositifs de blocage et des chartes d’utilisation des systèmes d’IA.
Avant toute utilisation, il est capital d’analyser les Conditions Générales d’Utilisation des système d’IA, qui vont dans la plupart des cas préciser les conditions dans lesquelles le systèmes vont traiter les « inputs » et accorder des droits sur les « outputs ». Il faut aussi étudier les chartes et politiques de protection des données, lorsque l’utilisation d’un système d’IA implique un traitement de données à caractère personnel.
Le Droit a, une nouvelle fois, un « wagon » de retard, en particulier s’agissant des droits sur les contenus générés par l’IA. Devant le vide juridique laissé par l’IA Act, il est prudent de considérer que les textes et images générés par l’IA ne sont en principe pas protégés par le droit d’auteur, qui suppose en droit français une intervention humaine via la notion d' »originalité ». Il est en outre capital de s’interroger sur la question épineuse de l’éventuelle contrefaçon constituée par l’utilisation de contenus protégés dans les « inputs », qui sera probablement tranchée par la jurisprudence d’ici… quelques mois ou années..
L’épineuse question de la responsabilité doit en outre être prise en considération. Lorsque le contenu généré par une IA est destiné à un usage commercial ou public, un contrôle humain doit impérativement être réalisé avant publication. Ce contrôle permet notamment de vérifier que l’IA n’a pas généré un contenu non conforme à la réglementation ou préjudiciable aux droits des tiers. En tout état de cause, l’utilisation d’un système d’IA ne permet pas, à ce stade, de bénéficier d’une quelconque garantie sur les contenus générés: les publications sont ainsi réalisées sous la seule responsabilité de l’organisme qui en prend l’initiative.
Enfin et surtout, il est capital de prendre la mesure de l’impact environnemental et éthique de l’utilisation des systèmes d’IA. Les systèmes d’IA actuels sont en effet extrêmement gourmands en eau et en énergie, à l’heure où les certifications et règlementations imposent au contraire des règles sensées préserver l’environnement. Certains s’interrogeront par ailleurs sur les conséquences sociales induites par la généralisation de l’IA. A cet égard, nombre de professionnels estiment que l’IA remplace(ra) les stagiaires et salariés sans expérience, constituant ainsi un nouvel obstacle à l’embauche des jeunes diplômés … qui sont pourtant les premiers utilisateurs des agents conversationnels.
LEXYMORE est une société d’avocats d’affaires basée à Bordeaux et intervenant sur tout le territoire national. Ses avocats forment une équipe complémentaire dédiée aux problématiques du dirigeant, qu’il soit chef d’entreprise, cadre exécutif ou gestionnaire de sociétés patrimoniales. Bertrand Hassid y a débuté sa carrière en 2011, développant une expérience significative en droit des contrats ainsi qu’en droit du numérique. Il a également acquis un savoir-faire reconnu en matière de sécurisation du capital immatériel des entreprises et de leur mise en conformité à la règlementation applicable aux traitements de données à caractère personnel (RGPD)).
Les Vinitiques sont nées d’une volonté commune du Pôle Digital Aquitaine (fin décembre 2024, Digital Aquitaine a fusionné dans le pôle ENTER, qui traitera à l’avenir ces sujets), du Cluster Inno’vin et des technopoles Bordeaux Montesquieu et Unitec, d’inventer un lieu convivial et propice aux rencontres et aux échanges d’informations entre les filières du vitivinicole et des technologies numériques, électroniques et informatiques. Lancé en 2012, l’événement Les Vinitiques est un rendez-vous bi-annuel à destination des professionnels.
inscrivez-vous
Laisser un commentaire