Forse è il momento di cambiare prospettiva sull’intelligenza artificiale

Immaginate se HAL-9000 – il famoso computer di 2001: Odissea nello spazio di Stanley Kubrick – scrivesse un saggio: passerebbe i filtri di una rivista di fascia A, le pubblicazioni scientifiche di eccellenza?  È quanto si sono domandati Marta Cartabia e Andrea Pugiotto, i quali hanno voluto sperimentare in prima persona l’impatto dell’IA nella produzione scientifica e nelle relative pratiche editoriali.

IA e scrittura scientifica: un esperimento possibile?
L’IA non è da tempo estranea al lavoro editoriale: editori internazionali quali Elsevier, Wiley e Springer Nature già dispongono di linee guida su come usare gli strumenti di IA nei processi di pubblicazione, sia come supporto alla redazione sia alla scrittura, e su come dichiarare tali usi ai lettori e alle lettrici.
L’esperimento, realizzato con la Direzione e Redazione della rivista Quaderni Costituzionali, ha visto la collaborazione tra esperti ed esperte di nuove tecnologie, giuristi e giuriste. Il lavoro è stato diviso in più fasi: in primo luogo, la macchina è stata addestrata adeguatamente, costruendo la sua conoscenza di base con materiali che il sistema ha processato in più occasioni, commettendo meno errori di volta in volta. Questo processo, denominato AI-Training, è fondamentale per la riuscita del compito.
La macchina è diventata in grado di produrre il saggio in un singolo documento finale – un output – rimuovendo gli elementi più facilmente riconducibili a una scrittura IA. Ma al termine del processo avrà passato i criteri della produzione scientifica e quindi di selezione per la pubblicazione sulla rivista?
Un primo risultato è chiaro: ora come ora, l’IA non è in grado di scrivere autonomamente un saggio accademico in maniera immediata e senza padronanza dell’argomento. Tuttavia, è possibile notare in questa «scrittura imitata» amplificazioni di tratti già presenti all’interno della letteratura scientifica. Forse la questione non tratta unicamente i limiti della tecnologia, bensì espone anche quelli dei criteri di valutazione e selezione della letteratura scientifica.

Se anche i giuristi usano l’IA, cambia la domanda
Come detto, tra gli autori e le autrici del recente esperimento pubblicato sulla rivista scientifica Politica del diritto compare un nome che non passa inosservato: Marta Cartabia. Ex presidente della Corte costituzionale, ex ministra della Giustizia, è una delle giuriste italiane più autorevoli. Forse non il profilo che ci si aspetterebbe di trovare in prima fila quando si parla di intelligenza artificiale applicata alla scrittura scientifica.
È proprio questo il punto: se persino chi rappresenta il massimo dell’autorevolezza giuridica sceglie di sperimentare l’uso dell’IA nel processo editoriale, significa che non siamo più di fronte a una curiosità tecnologica, ma davanti a un cambiamento destinato a modificare gli standard del lavoro intellettuale fino a crearne di nuovi.
La domanda, allora, cambia completamente. Non è più: «Si può usare l’intelligenza artificiale?» – la risposta è scontata –, ma «Come possiamo sapere quando viene utilizzata? E, nel caso, chi ne risponde?».

Le linee guida dell’AI Act: un divieto (quasi) impossibile da verificare
Questi interrogativi sono gli stessi delle recenti linee guida della Commissione europea sull’AI Act, il regolamento europeo che disciplina l’intelligenza artificiale, dedicate ai sistemi di IA ad alto rischio, cioè quei sistemi che possono incidere significativamente su diritti fondamentali, salute o sicurezza delle persone. Nel capitolo dedicato alla giustizia, il messaggio è chiaro: l’intelligenza artificiale non dovrebbe sostituire il giudice nelle decisioni e non dovrebbe essere utilizzata per redigere una sentenza in modo da incidere sull’attività decisionale. Ma subito dopo arriva la domanda: «Come lo verifichiamo?». Esiste davvero un modo per accertare che un magistrato, un ricercatore o un professionista non abbia utilizzato ChatGPT o strumenti analoghi per scrivere un testo? Ad oggi la risposta sembra essere no. O almeno, non con il livello di certezza richiesto per trarne conseguenze giuridiche.
Gli attuali «rilevatori di IA», ovvero software che dicono di distinguere i testi scritti dagli esseri umani da quelli generati dall’intelligenza artificiale, promettono molto più di quanto riescano a mantenere e continuano a produrre falsi positivi e falsi negativi. Non esiste, ad oggi, un test del DNA capace di dirci se un paragrafo è nato dalla mente umana, da un algoritmo o – più probabilmente – da entrambi. Nessun giudice deposita insieme alla sentenza anche la cronologia delle conversazioni con ChatGPT.

Alla fine resta solo la responsabilità
A quel punto il diritto sposta il problema sul terreno della responsabilità. Se un magistrato firma una sentenza, ne risponde direttamente. Se un professore pubblica un articolo, la responsabilità scientifica rimane la sua. L’intelligenza artificiale, almeno per ora, non compare nei registri degli ordini professionali e non può essere chiamata a rispondere davanti a un giudice. Nessun algoritmo è (ancora?) iscritto a un ordine professionale.
L’eventuale utilizzo dell’IA emergerebbe solo quando qualcosa va storto, ad esempio quando compaiono errori clamorosi. O le cosiddette «allucinazioni», cioè risposte apparentemente convincenti ma contenenti informazioni false o inventate, dei sistemi generativi: sentenze che citano precedenti inesistenti, riferimenti normativi inventati, casi giudiziari mai accaduti. Episodi che negli Stati Uniti sono già diventati cronaca giudiziaria e che hanno ricordato a molti professionisti e professioniste l'importanza del controllo delle fonti.
Ed è forse proprio qui che l’esperimento di Cartabia diventa interessante, costringendo ad abbandonare il pregiudizio che l’intelligenza artificiale sia utilizzata solo da studenti o da chi cerca scorciatoie. Oggi gli strumenti di IA sono entrati anche negli ambienti più qualificati e nelle mani di chi, per formazione e ruolo, possiede gli strumenti critici per usarli consapevolmente.

Una sfida per il futuro
L’esperimento dimostra che l’IA è già entrata nella normalità del lavoro intellettuale. Spetterà alle redazioni valutare, caso per caso, se e in quale misura l’utilizzo dell’IA sia compatibile con gli standard scientifici della pubblicazione e se il contributo umano resti effettivamente centrale. La sfida, quindi, non è scoprire chi usa l’intelligenza artificiale – molti –, bensì capire quali regole di trasparenza, controllo e responsabilità dovranno accompagnarne l’utilizzo. E su questo punto il diritto, forse, è ancora qualche pagina indietro rispetto alla tecnologia.