Nel mondo della ricerca scientifica, le immagini hanno un peso spesso determinante per illustrare dati e confermare ipotesi. Ma ora, con l’avanzare delle tecnologie basate sull’intelligenza artificiale, questa fiducia visiva sta affrontando una nuova e seria sfida. Le immagini microscopiche generate dall’AI, talmente realistiche da confondere anche occhi esperti, stanno sollevando preoccupazioni tra gli editori di riviste scientifiche e tra i ricercatori stessi.
Un recente studio condotto in Germania ha messo alla prova 816 studenti universitari sottoponendo loro immagini istologiche, metà autentiche e metà create artificialmente. I risultati hanno evidenziato una difficoltà significativa nel distinguere le une dalle altre. Solo il 55% di coloro che non avevano mai visto prima immagini di tessuti microscopici ha risposto correttamente. Anche tra gli studenti più esperti, il tasso di riconoscimento è salito solo al 70%. Dati che indicano chiaramente quanto possa essere difficile, persino per chi ha familiarità con queste immagini, riconoscere un falso creato da un algoritmo.
Il nefrologo Ralf Mrowka, co-autore dello studio, ha dichiarato di essere rimasto sorpreso dalla facilità con cui è possibile generare immagini credibili di tessuti. Una volta addestrato un modello AI in modo adeguato, è possibile produrre un numero potenzialmente infinito di immagini false, adattabili e modificabili a piacimento. Ed è proprio questo aspetto a destare maggiore preoccupazione: la scalabilità e la versatilità di tali strumenti.
Attualmente esistono già sistemi di analisi delle immagini capaci di rilevare manipolazioni classiche come duplicazioni, cancellazioni o assemblaggi. Tuttavia, questi strumenti si rivelano poco efficaci nel riconoscere contenuti generati completamente dall’AI, proprio perché non lasciano le tracce digitali tipiche dei ritocchi manuali. Alcune aziende stanno lavorando a soluzioni dedicate: ImageTwin, ad esempio, ha annunciato a marzo il test di una nuova funzione specifica per individuare immagini artificiali. Ma il problema, avvertono gli esperti, è che l’AI di generazione avanza troppo rapidamente per essere seguita in modo efficace dagli strumenti di rilevamento.
Anche l’integrità del processo di revisione scientifica viene messa in discussione. Chhavi Chauhan, direttrice della comunicazione scientifica della American Society for Investigative Pathology, ha sottolineato come lo scenario sperimentale dello studio tedesco sia stato poco rappresentativo della realtà. Ai partecipanti era stato detto che ci sarebbero state immagini false, mettendoli quindi in allerta. Nella revisione dei manoscritti scientifici, invece, i revisori spesso non analizzano le immagini microscopiche con tale attenzione, anche perché non sospettano l’uso di AI.
La proposta dei ricercatori è semplice ma significativa: le riviste dovrebbero richiedere ai ricercatori i dati grezzi originali relativi alle immagini, per aumentare la trasparenza e ridurre il rischio di manipolazioni. Una precauzione che potrebbe rappresentare un primo passo verso un sistema di pubblicazione scientifica più robusto di fronte alle nuove sfide introdotte dall’AI.
The Browser Company explains why it stopped developing Arc