L’avocat d’Anthropic a dû s’excuser après que Claude ait halluciné une citation juridique
Un avocat représentant Anthropic a admis avoir utilisé une citation erronée générée par le chatbot IA Claude de l’entreprise dans le cadre de son conflit juridique en cours avec des éditeurs musicaux. Cette information a été révélée jeudi dans un document déposé auprès d’une cour de Californie du Nord.
Selon le document, Claude a généré une citation avec « un titre inexact et des auteurs inexactes ». Anthropic a expliqué dans le dépôt que leur « vérification manuelle des citations » n’a pas détecté cette erreur, tout comme plusieurs autres causées par les hallucinations de Claude. L’entreprise s’est excusée pour cette faute, la qualifiant de « simple erreur de citation et non de fabrication d’autorité ».
Plus tôt dans la semaine, les avocats représentant Universal Music Group et d’autres éditeurs musicaux avaient accusé la témoin expert d’Anthropic, Olivia Chen, une employée de l’entreprise, d’avoir utilisé Claude pour citer de faux articles dans son témoignage. La juge fédérale Susan van Keulen a ensuite ordonné à Anthropic de répondre à ces allégations.
Ce procès s’inscrit dans une série de litiges entre les propriétaires de droits d’auteur et les entreprises technologiques concernant la prétendue utilisation abusive de leurs œuvres pour créer des outils d’IA génératifs.
Il s’agit du dernier exemple où des avocats utilisent l’IA en justice, puis regrettent leur décision. Plus tôt dans la semaine, un juge californien avait critiqué deux cabinets d’avocats pour avoir soumis des « recherches bidon générées par IA » dans sa cour. En janvier, un avocat australien avait été pris en flagrant délit d’utilisation de ChatGPT pour préparer des documents judiciaires, ce qui avait entraîné des citations erronées.
Cependant, ces erreurs ne freinent pas les startups qui lèvent des sommes colossales pour automatiser les travaux juridiques. Harvey, qui utilise des modèles d’IA générative pour assister les avocats, serait en pourparlers pour lever plus de 250 millions de dollars à une valorisation de 5 milliards.
Rédaction Kominotek NEWS
