YuUn avvocato di New York che ha utilizzato ChatGPT per prepararsi a una causa civile in tribunale si è scusato perché il software di intelligenza artificiale lo ha informato di casi inventati.

“Semplicemente non avevo idea che ChatGPT fosse in grado di fabbricare intere citazioni da casi o opinioni legali, in modo tale da sembrare autentiche”, ha scritto l’avvocato Stephen Schwartz in un documento rilasciato questa settimana sul caso.

In questo caso — quello vero — l’avvocato sta rappresentando davanti al tribunale civile federale di Manhattan un cliente che ha citato in giudizio la compagnia aerea colombiana Avianca. Roberto Matta chiede un risarcimento in quanto sostiene di essere stato ferito a una gamba dalla caduta di una placca metallica, durante un volo dell’agosto 2019 da El Salvador a New York.

La compagnia aerea ha chiesto al tribunale di archiviare il caso, ma l’avvocato del passeggero ha presentato una memoria citando più di una mezza dozzina di giurisprudenza a sostegno delle sue argomentazioni. Questi includevano casi intitolati “Petersen v. Iran Air”, “Varghese v. China Southern Airlines” o “Chabon v. EgyptAir”.

Il problema è che né la controparte né il giudice Castell ne hanno trovato traccia nella giurisprudenza.

Il giudice ha rilevato per iscritto che “sei dei casi presentati sembrano essere decisioni giudiziarie spurie con false citazioni”. Stephen Schwartz ha dovuto ammettere che ChatGPT, lo strumento di intelligenza artificiale creato da OpenAI, ha fatto tutto.

Nella sua dichiarazione di colpevolezza, che ha scritto quando il giudice lo ha chiamato a comminare eventuali sanzioni, l’avvocato ha sottolineato di non voler trarre in inganno la corte.

Quando ho svolto le ricerche legali su questo caso, pensavo che ChatGPT fosse un motore di ricerca affidabile, ma ora so che non era così.

Promettendo di non farlo più, ha aggiunto che il caso aveva coperto di ridicolo il suo governo, sin dalla pubblicazione del primo articolo sulla Gazzetta Ufficiale. Il New York Times.

Simbolo del nuovo ingegno dell’intelligenza artificiale, ChatGPT, il chatbot creato da Open AI, ha riscosso un enorme successo negli ultimi mesi grazie alla sua capacità di generare contenuti vicini a ciò che gli esseri umani possono creare, come poesie o articoli.

Ma solleva anche una marea di preoccupazioni: disinformazione, manipolazione elettorale, massiccia distruzione di posti di lavoro e persino la minaccia per l’umanità.