L’AI inventa ricercatori e pubblicazioni false: il caso degli “scienziati fantasma” e i rischi per l’affidabilità della ricerca scientifica.
Negli ultimi mesi è emerso un fenomeno inquietante che sta attirando l’attenzione del mondo della scienza. I sistemi di intelligenza artificiale generativa non si limitano infatti a scrivere testi o creare immagini, ma possono inventare interi profili di scienziati, completi di biografie, affiliazioni universitarie e articoli scientifici. Queste identità fittizie possono comparire all’interno di documenti e repository online, creando una traccia digitale che rischia di rendere più difficile distinguere tra ricerca autentica e contenuti generati.
Il problema non è più soltanto teorico. Ricerche recenti hanno mostrato che alcuni modelli linguistici tendono a generare ripetutamente gli stessi nomi inventati, associandoli a biografie e pubblicazioni inesistenti. In alcuni casi, documenti attribuiti a questi autori possono persino ricevere codici identificativi reali attraverso infrastrutture di registrazione bibliografica. Il fenomeno solleva interrogativi importanti sull’affidabilità dei metadati, sui limiti dei sistemi di verifica e sull’uso dell’AI nella produzione della conoscenza scientifica.
Indice
- Cosa sono gli scienziati fantasma
- Come l’AI inventa profili e studi falsi
- Perché i database scientifici sono vulnerabili
- I rischi per la ricerca e la società
- Il caso degli scienziati fantasma
- Le risposte della comunità scientifica
- Come riconoscere un lavoro sospetto
- Il ruolo delle piattaforme e delle riviste
- Prospettive future e soluzioni possibili
Cosa sono gli scienziati fantasma
Gli scienziati fantasma sono profili di ricercatori completamente inventati dall’intelligenza artificiale. I nomi possono essere plausibili e associati a identità apparentemente credibili, ma le specifiche persone descritte dal modello non esistono. L’AI può attribuire loro università, incarichi accademici, competenze scientifiche e liste di pubblicazioni, costruendo in pochi secondi una biografia che a una prima lettura può sembrare autentica.
Il fenomeno nasce dalla tendenza dei modelli generativi a “allucinare”, cioè a produrre informazioni plausibili ma false quando non dispongono di dati sufficienti o quando vengono sollecitati a fornire una risposta precisa. Invece di ammettere di non avere informazioni affidabili, il sistema può generare una risposta coerente dal punto di vista linguistico ma priva di fondamento. In alcuni casi, determinati nomi vengono ripetuti frequetemente.
Questa pratica non significa che ogni autore poco conosciuto o privo di una presenza online sia necessariamente falso. Il problema riguarda soprattutto la creazione di identità fittizie coerenti, che possono essere associate a numerosi documenti generati artificialmente. Quando queste informazioni vengono poi pubblicate online o riprese da altri sistemi, la loro origine diventa più difficile da ricostruire e verificare.
Come l’AI inventa profili e studi falsi
I modelli di linguaggio di grandi dimensioni funzionano prevedendo la parola successiva più probabile in base ai dati di addestramento. Quando vengono interrogati su temi scientifici complessi, possono generare riferimenti bibliografici inesistenti per rendere la risposta più completa e convincente. Lo stesso meccanismo può portare alla creazione di nomi di autori, affiliazioni e intere biografie che non corrispondono a persone reali.
Spesso questi riferimenti includono titoli realistici, nomi di riviste esistenti o apparentemente credibili e anni di pubblicazione plausibili. In alcuni casi l’AI può arrivare a creare riassunti, metodologie, risultati e conclusioni che sembrano coerenti tra loro. Il risultato è un contenuto che, a una lettura superficiale, può apparire legittimo e richiede invece verifiche esterne per essere confermato.
Il meccanismo può autoalimentarsi. Se un utente o un altro sistema riprende uno studio falso, il contenuto acquisisce una nuova traccia online e può diventare più difficile da distinguere da una fonte autentica. Alcuni ricercatori hanno inoltre osservato che determinati nomi inventati ricompaiono nelle risposte di modelli differenti, quasi come se esistesse una piccola “anagrafe” di identità virtuali che i sistemi tendono a ricostruire.
Perché i database scientifici sono vulnerabili
I sistemi che gestiscono la letteratura scientifica non svolgono tutti la stessa funzione. Una rivista sottopone normalmente gli articoli a un processo editoriale e, in molti casi, a peer review; un archivio conserva e rende disponibili documenti; un database indicizza metadati; un motore di ricerca rende le informazioni facilmente reperibili. Confondere questi livelli può portare a sovrastimare il grado di verifica che un contenuto ha effettivamente ricevuto.
Molte piattaforme permettono upload automatici o semi-automatici. Se un documento viene caricato in un repository, cioè un archivio online per documenti e materiali di ricerca, può ottenere metadati e, in determinati casi, un DOI, un codice che identifica in modo univoco un documento online, senza essere per questo equiparabile a un articolo pubblicato e verificato da altri esperti. Il documento può quindi diventare facilmente rintracciabile online, mentre la sua qualità scientifica rimane una questione distinta da verificare.
La velocità di generazione dell’AI rappresenta un ulteriore elemento di pressione. Un modello può produrre in pochi secondi grandi quantità di testo, riferimenti e documenti, mentre la verifica umana richiede tempo. Questo squilibrio rende sempre più importante sviluppare strumenti capaci di individuare anomalie senza trasformare i sistemi di controllo in barriere che ostacolino la ricerca autentica.
I rischi per la ricerca e la società
Il primo rischio è l’inquinamento della letteratura scientifica. Se studi falsi vengono scambiati per fonti attendibili e successivamente citati, possono complicare il lavoro di chi deve ricostruire le evidenze disponibili. Il problema potrebbe diventare particolarmente delicato in ambiti sensibili come medicina, clima o intelligenza artificiale, dove la qualità delle fonti utilizzate può influenzare decisioni concrete.
Esiste poi un rischio reputazionale. Un nome inventato dall’AI può coincidere casualmente con quello di una persona reale oppure essere associato a un’identità plausibile. Questo può creare confusione tra ricercatori, istituzioni e autori, soprattutto quando un contenuto viene copiato o indicizzato senza verificare l’identità di chi risulta averlo scritto.
A livello sociale, la diffusione di contenuti scientifici falsi può indebolire ulteriormente la fiducia nelle istituzioni scientifiche. In un’epoca già segnata dalla disinformazione, la possibilità che documenti dall’aspetto accademico siano stati generati artificialmente alimenta il sospetto verso le fonti e rende più difficile distinguere tra una critica legittima alla scienza e una semplice informazione falsa.
Il caso degli scienziati fantasma
Uno dei casi più significativi è quello analizzato nel preprint “The Ghost Couple”, realizzato nel 2026 da Michał Brzozowski del Samsung AI Center di Varsavia e Neo Christopher Chung dell’Università di Varsavia. I ricercatori hanno studiato il comportamento di diversi modelli linguistici e hanno osservato che alcuni nomi inventati vengono generati ripetutamente, accompagnati da caratteristiche biografiche coerenti.
Elena Vasquez e Marcus Chen compaiono come esperti di vulcanologia, astronauti, autori di thriller e, soprattutto, come co-autori di numerosi documenti generati dall’AI. Il punto centrale non è che nessuna persona reale possa avere quei nomi, ma che le specifiche identità descritte dai modelli risultano inventate: le biografie, le carriere e le pubblicazioni associate a quei personaggi non corrispondono a ricercatori realmente identificabili.
Su Zenodo, i ricercatori hanno inoltre individuato 1.655 record associati a questi autori fantasma, collegati a riviste inesistenti e a date di pubblicazione falsificate. Il dato deriva dalla loro analisi e mostra come identità inventate dall’AI possano lasciare tracce concrete nell’ecosistema digitale della ricerca.
Altri nomi che i modelli producono con frequenza sono Amara Okafor, associata soprattutto a Claude, Aris Thorne e Lena Petrova, ricorrenti nelle risposte di Gemini, ed Elara Voss, associata a ChatGPT. Il fenomeno non sembra quindi limitarsi a una singola identità: i ricercatori hanno osservato vere e proprie preferenze statistiche dei modelli, che possono portare determinati sistemi a riproporre gli stessi nomi e gli stessi profili immaginari.
Questo caso si aggiunge a un problema già noto da anni: le allucinazioni bibliografiche dei sistemi di AI, che possono inventare titoli di articoli, DOI, riviste e autori inesistenti. La novità è la possibilità di osservare il fenomeno non soltanto all’interno delle risposte di un chatbot, ma anche nelle tracce lasciate dai contenuti generati negli ecosistemi digitali della ricerca.
Le risposte della comunità scientifica
Riviste e editori stanno rafforzando i protocolli di verifica dell’identità degli autori e della provenienza dei manoscritti. Tra gli strumenti utilizzati o discussi figurano identificativi persistenti come ORCID, controlli sulle affiliazioni e procedure per verificare meglio chi abbia effettivamente contribuito a un lavoro. Queste misure non eliminano le allucinazioni dell’AI, ma possono rendere più difficile attribuire lavori falsi a identità non verificabili.
Diverse università, editori e organizzazioni scientifiche stanno inoltre discutendo standard per la dichiarazione dell’uso dell’intelligenza artificiale. L’obiettivo è rendere più trasparente il processo di produzione di un articolo, distinguendo il contributo degli strumenti automatici da quello dei ricercatori e mantenendo una responsabilità umana riconoscibile per il contenuto pubblicato.
Anche il controllo successivo alla pubblicazione diventa importante. Quando emergono errori, manipolazioni o attribuzioni sospette, editori e piattaforme devono poter intervenire rapidamente attraverso segnalazioni, correzioni o retrazioni. La difficoltà è che la quantità di materiale prodotto e caricato online può crescere molto più rapidamente delle risorse disponibili per verificarlo.
Come riconoscere un lavoro sospetto
Esistono alcuni segnali che possono aiutare a individuare potenziali studi generati o alterati dall’AI. Nomi di autori difficili da verificare, affiliazioni vaghe o inesistenti, abstract estremamente generici e bibliografie con riferimenti che non risultano reperibili sono elementi da valutare con attenzione. Nessuno di questi indizi, preso singolarmente, dimostra però che un lavoro sia falso.
La mancanza di dati grezzi, codice o materiali supplementari può rappresentare un ulteriore elemento da approfondire, soprattutto quando questi materiali sarebbero necessari per replicare l’esperimento o verificare i risultati. Tuttavia, anche in questo caso l’assenza non costituisce una prova definitiva: le pratiche di condivisione dei dati cambiano molto tra discipline, riviste e gruppi di ricerca.
Un controllo rapido su Google Scholar o ResearchGate può aiutare a verificare se l’autore ha una presenza accademica coerente. È però importante ricordare che l’assenza di un profilo non dimostra che il ricercatore sia inventato. Quando possibile, è preferibile controllare anche il sito dell’università, il registro dell’istituzione, l’ORCID dell’autore e le pubblicazioni citate.
Il ruolo delle piattaforme e delle riviste
Le piattaforme di pubblicazione e i grandi database hanno una responsabilità centrale, ma con funzioni differenti. Le riviste scientifiche devono migliorare i controlli editoriali e la verifica degli autori; i repository devono rendere più chiaro il livello di controllo applicato ai materiali caricati; i database e gli aggregatori devono lavorare sulla qualità dei metadati e sulla possibilità di segnalare documenti problematici.
Alcune riviste stanno sperimentando dichiarazioni sull’uso dell’AI e processi di revisione supportati da strumenti automatici. Altre valutano controlli più stringenti sull’identità e sulle affiliazioni degli autori. L’obiettivo non dovrebbe però essere individuare semplicemente uno “stile AI”, perché i sistemi di detection possono commettere errori e non possono stabilire da soli se un contenuto scientifico sia corretto.
Il rischio è che misure troppo rigide penalizzino ricercatori di paesi o istituzioni meno strutturate. Richiedere strumenti, certificazioni o procedure complesse potrebbe infatti creare nuove disuguaglianze. Trovare un equilibrio tra apertura e tutela della qualità sarà una delle sfide dei prossimi anni e richiederà collaborazione internazionale.
Prospettive future e soluzioni possibili
Il fenomeno degli scienziati fantasma difficilmente scomparirà da solo. Con l’evoluzione dei modelli generativi, la capacità di produrre contenuti realistici aumenterà e diventerà ancora più importante verificare le informazioni prima di utilizzarle. Serve quindi un approccio sistemico che combini tecnologia, regole e cultura scientifica, coinvolgendo tutti gli attori della filiera della ricerca.
Tra le soluzioni più discusse ci sono sistemi per identificare i contenuti generati dall’AI, registri pubblici di autori verificati e strumenti capaci di documentare l’origine e le successive modifiche di un contenuto. Nessuna di queste tecnologie può però sostituire completamente la verifica umana. Anche un documento perfettamente tracciabile può contenere informazioni errate.
In parallelo, è possibile sviluppare AI specializzate nel controllo dei contenuti sintetici, utilizzandole come strumenti di supporto per editori e revisori. Il loro compito non dovrebbe essere quello di stabilire automaticamente se un articolo è vero o falso, ma di evidenziare anomalie, riferimenti non verificabili, identità sospette e altri elementi che meritano un controllo umano.
Gli scienziati fantasma rappresentano un campanello d’allarme e uno dei rischi dell’AI che non può essere ignorato. La questione più importante non riguarda però soltanto la capacità delle macchine di inventare, ma quella degli esseri umani e delle istituzioni di verificare ciò che le macchine producono prima che entri nel patrimonio della conoscenza.
