Michael Cohen cita casi giudiziari fasulli generati da IA

Michael Cohen, l’ex avvocato di Donald Trump, ha ammesso di aver citato casi giudiziari falsi generati da intelligenza artificiale in un documento legale che è finito davanti a un giudice federale, come riportato in precedenza dal New York Times. Un deposito reso pubblico venerdì scorso afferma che Cohen ha utilizzato Google Bard per effettuare ricerche dopo averlo scambiato per “un motore di ricerca super potente” anziché per un chatbot AI.

Casi giudiziari falsi citati da Cohen

Il documento in questione era una mozione che chiedeva a un giudice federale di accorciare la durata della condizionale di tre anni di Cohen, che sta affrontando dopo un periodo di detenzione e una confessione di colpevolezza per evasione fiscale e altre accuse. Tuttavia, dopo aver esaminato la lettera di sintesi, il giudice del distretto degli Stati Uniti Jesse Furman ha scritto in un documento che “nessuno di questi casi esiste” e ha chiesto all’avvocato di Cohen, David Schwartz, di spiegare perché i tre casi sono inclusi nella mozione e se il suo cliente, ora radiato dall’ordine degli avvocati, ha contribuito alla stesura del documento.

In risposta, Cohen ha presentato una dichiarazione scritta in cui afferma di non avere intenzione di ingannare il tribunale, aggiungendo di aver utilizzato Google Bard per fare ricerche legali e di aver inviato alcune delle sue scoperte a Schwartz. Tuttavia, Cohen afferma di non aver capito che i casi citati da Bard avevano il potenziale di essere falsi, né pensava che Schwartz avrebbe aggiunto le citazioni alla mozione “senza confermare nemmeno che esistessero”. Schwartz rischia sanzioni per aver incluso le citazioni fasulle.

“Non essendo un avvocato, non mi sono tenuto aggiornato sulle tendenze emergenti (e sui rischi correlati) nella tecnologia legale e non sapevo che Google Bard fosse un servizio di testo generativo che, come ChatGPT, poteva mostrare citazioni e descrizioni che sembravano reali ma in realtà non lo erano”, scrive Cohen. “Invece, l’ho interpretato come un motore di ricerca super potente e l’ho usato ripetutamente in altri contesti per trovare informazioni accurate online.“

Precedenti casi di citazioni generate da IA

Questo non è il primo caso in cui sono state citate citazioni generate da intelligenza artificiale in tribunale. Nel giugno scorso, due avvocati di New York sono stati sanzionati e multati di 5.000 dollari dopo aver incluso casi giudiziari falsi generati da ChatGPT in una memoria legale. Alcuni avvocati stanno addirittura utilizzando l’IA per redigere argomentazioni, incluso il team legale del rapper Pras Michél, che sta cercando un nuovo processo dopo una condanna.