ChatGPT : un avocat se fait piéger par l’intelligence artificielle…

L’intelligence artificielle (IA) juridique promet de révolutionner le travail des avocats en leur offrant des outils performants de recherche et d’analyse.

Mais elle n’est pas infaillible, comme l’a montré l’affaire Avianca, où un avocat a invoqué de fausses jurisprudences créées par ChatGPT, un logiciel d’IA conversationnel. Ce scandale soulève des questions éthiques et juridiques sur l’utilisation de l’IA dans le domaine du droit.

justice

L’affaire Avianca en bref

Avianca est une compagnie aérienne colombienne qui a été poursuivie par un homme qui affirmait avoir été blessé au genou par un chariot à nourriture lors d’un vol vers New York. Pour défendre Avianca, son avocat a utilisé ChatGPT, un logiciel d’IA qui génère des textes à partir de mots-clés ou de questions. Il a ainsi obtenu des arguments juridiques basés sur des cas fictifs et des citations inventées.

Le juge Kevin Castel, du tribunal fédéral de Manhattan, a découvert la supercherie en vérifiant les références citées par l’avocat d’Avianca. Il a constaté que six des cas invoqués n’existaient pas et que les citations étaient fausses. Il a ordonné une enquête approfondie et envisagé de sanctionner Avianca et son avocat pour fraude et abus de confiance.

L’avocat Steven A. Schwartz, du cabinet Levidow, Levidow & Oberman qui avait créé le document avec ChatGPT, a reconnu son erreur et présenté ses excuses. Il a dit qu’il avait demandé au logiciel de vérifier que les cas étaient réels, mais que celui-ci avait confirmé qu’ils l’étaient. Il a dit qu’il ignorait que le contenu du logiciel pouvait être faux, et qu’il regrettait profondément de s’être fié à ChatGPT.

Les enjeux de l’IA juridique

L’affaire Avianca met en lumière les enjeux de l’IA juridique, qui présente à la fois des opportunités et des risques pour les professionnels du droit.

Les bénéfices sont multiples, L’IA permet :

  • d’optimiser les recherches et les analyses en explorant rapidement des volumes de données juridiques (jurisprudences, lois, décrets, etc.).
  • de démocratiser l’accès au droit et à la justice en offrant des conseils personnalisés, des simulateurs de procès en ligne et des outils de médiation accessibles pour tous.
  • de moderniser le système juridique en l’aidant à s’adapter aux évolutions sociales et technologiques, et en stimulant la créativité des professionnels du droit confrontés à de nouvelles perspectives.

Les risques sont également réels, elle peut :

  • générer des informations erronées ou trompeuses, comme dans l’affaire Avianca, ce qui porte atteinte à la rigueur et à l’éthique juridiques.
  • porter atteinte à la protection des données personnelles, si elle n’est pas encadrée par des règles claires et transparentes sur la collecte, le traitement et le partage des rensignements.
  • remettre en cause le rôle et la responsabilité des professionnels du droit, si elle se substitue à leur jugement et à leur expertise.

Les bénéfices de l’IA juridique sont réels mais partiels. Elle doit rester un outil parmi d’autres, non une baguette magique. Sans vérification et discernement humains, son usage risque d’être contre-productive. Examinez toujours les conclusions de l’IA en recoupant plusieurs sources. Soyez vigilants ! L’IA juridique n’en est qu’à ses débuts : utilisez-la avec doigté.

source

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.