Esplorando l’Intelligenza Artificiale in medicina di laboratorio e nella ricerca scientifica: tra sfide e nuove opportunità l’importanza di un approccio proattivo

AUTORI

ABSTRACT

L’intelligenza Artificiale (IA) ha inaugurato un’era di nuove possibilità nella medicina, promettendo significativi benefici socioeconomici e miglioramenti nella salute individuale e collettiva. Nonostante un avvio più lento rispetto ad altre specialità mediche, la medicina di laboratorio sta iniziando ad investire nell’IA, soprattutto nell’applicazione di tecniche di machine learning (ML) e deep learning (DL). Queste tecnologie promettono di trasformare la pratica medica migliorando l’efficienza e la precisione diagnostica, ma presentano anche sfide significative legate alla progettazione degli studi, alla dimensione dei campioni, all’eterogeneità degli algoritmi e delle metriche di efficacia, nonché a strategie di validazione non adeguatamente robuste (1).
L’IA in medicina presenta diversi ambiti di applicazione, tra cui l’analisi di immagini mediche, la previsione di malattie, la personalizzazione dei trattamenti e molto altro. Le reti neurali, in particolare, hanno mostrato promettenti capacità di apprendere direttamente dai dati per classificare e prevedere risultati con minore necessità di intervento umano rispetto al ML tradizionale (2), soprattutto in ambito della diagnostica per immagini.
La rassegna di Matteo Vidali, pubblicata in questo fascicolo di Biochimica Clinica, fornisce un’eccellente panoramica complessiva e ben equilibrata delle implicazioni dell’IA in medicina, con particolare attenzione alla medicina di laboratorio (3). Questa rassegna, meticolosamente dettagliata inizia con una breve storia dell’IA, delineando le sue origini e il progressivo sviluppo fino alle attuali applicazioni. Vidali esplora in dettaglio le diverse applicazioni dell’IA in medicina, evidenziando come tecnologie quali il ML e il DL stiano rivoluzionando vari settori. Queste tecnologie migliorano significativamente la diagnosi e il trattamento in ambiti come l’analisi di immagini mediche e la diagnostica medica, e si estendono persino alla chirurgia assistita da robot. Le immagini mediche, che includono radiografie, risonanze magnetiche (MRI), tomografie computerizzate (CT), ultrasuoni e immagini endoscopiche, sono essenziali per la valutazione accurata dello stato di salute del paziente, consentendo ai medici di visualizzare le strutture interne del corpo, identificare anomalie e guidare interventi medici e chirurgici, migliorando così le capacità diagnostiche e terapeutiche. Inoltre, l’analisi dettagliata delle applicazioni dell’IA in medicina evidenzia chiaramente l’importanza della medicina integrata come fondamento per il futuro del settore sanitario. L’integrazione di tecnologie avanzate come il ML e il DL non solo migliora le capacità diagnostiche e terapeutiche, ma sottolinea anche la necessità di un approccio olistico alla cura del paziente, in cui le discipline mediche tradizionali si uniscono alle moderne innovazioni tecnologiche per fornire un trattamento completo e personalizzato (4).
La rassegna di Vidali esplora anche il potenziale impatto rivoluzionario dell’IA generativa in medicina di laboratorio. Vidali analizza attentamente le sfide e i rischi associati all’IA, inclusi gli errori sistematici che possono derivare da algoritmi non sufficientemente controllati (3). Questo approccio bilanciato riconosce i significativi vantaggi che l’IA può offrire alla medicina di laboratorio, ma sottolinea anche l’importanza di affrontare tali sfide per mitigare i rischi.
Il dibattito sull’efficacia dell’IA in medicina di laboratorio è infatti ben articolato nell’opinione pubblica come si evince da un interessante contributo di recente pubblicazione (5). Nell’articolo gli autori mettono in discussione la visione di un’automazione completa offerta dall’IA, proponendo piuttosto un modello di assistenza al decisionale medico piuttosto che di sostituzione. I dubbi principali sottolineati dagli autori e condivisi da diverse evidenze scientifiche, riguardano la qualità dei dati, la trasparenza degli algoritmi, e le implicazioni etiche dell’utilizzo dell’IA, come la potenziale creazione di nuovi dati sintetici o la manipolazione di dati esistenti. È cruciale che tali tecnologie siano sviluppate e implementate con una chiara comprensione dei loro limiti e rischi, richiedendo una validazione rigorosa e un impegno continuo nella formazione degli operatori sanitari. Tale approccio multidisciplinare è fondamentale per integrare le competenze umane là dove l’IA mostra limiti, come nell’interpretazione di casi complessi o atipici, dove l’esperienza medica gioca un ruolo cruciale e insostituibile.
Da questa prospettiva, la regolamentazione si rivela fondamentale. Di recente il gruppo di studio sulla IA della IFCC (International Federation for Clinical Chemistry and Laboratory Medicine) ha pubblicato delle raccomandazioni per le applicazioni di ML con i dati di medicina di laboratorio (6). Le raccomandazioni dell’IFCC cercano di equilibrare l’innovazione con la sicurezza, evitando che le nuove tecnologie eccedano la nostra capacità di mitigarne i rischi. L’integrazione dell’IA nei processi di laboratorio comporta sfide non solo tecniche ma anche etiche e normative. L’IFCC sottolinea l’importanza di pratiche consapevoli e responsabili, promuovendo l’adozione di modelli di ML validati e riproducibili, con un’attenzione scrupolosa al mantenimento della qualità e dell’integrità dei dati. È essenziale che il quadro normativo sia dinamico e in grado di adattarsi rapidamente all’evoluzione delle tecnologie, senza trascurare la formazione continua degli operatori sanitari. Questa interazione tra innovazione tecnologica, competenza professionale e regolamentazione consapevole è cruciale per garantire che i benefici dell’IA in medicina di laboratorio si realizzino in modo etico e sostenibile.
Un importante aspetto da considerare riguarda le implicazioni etiche dell’uso dell’IA che sono profonde e toccano punti cruciali come la privacy dei dati, il consenso informato, e la trasparenza degli algoritmi decisionali (7). È essenziale affrontare queste questioni per mantenere la fiducia del pubblico e assicurare un uso responsabile ed etico dell’IA in contesti sanitari. È rilevante evidenziare come la trasparenza degli algoritmi decisionali sia strettamente collegata all’etica, che a sua volta implica la necessità di riproducibilità degli algoritmi, come messo in evidenza da Vidali (3). L’Autore sottolinea l’importanza della validazione esterna degli algoritmi sviluppati mediante ML. Tale considerazione è di reale importanza per garantire la riproducibilità degli algoritmi di IA, e la pianificazione degli studi clinici futuri dovrebbe includere la possibilità di validazione con dati esterni. Inoltre, la rassegna enfatizza la necessità di adottare un approccio multidisciplinare nella creazione degli strumenti di IA, coinvolgendo esperti di diverse aree per garantire sia l’efficacia che l’eticità delle soluzioni tecnologiche proposte.
Un altro aspetto affrontato da Vidali riguarda l’uso dell’IA nella ricerca, nella scrittura di progetti e articoli scientifici. Un questionario rivolto a 1600 ricercatori di recente pubblicazione su Nature ha evidenziato come molti scienziati prevedano che gli strumenti AI diventeranno centrali nella pratica della ricerca nel prossimo decennio (8). Più della metà dei partecipanti ha ritenuto che gli strumenti di IA saranno “molto importanti” o “essenziali” per i loro campi di studio. Le applicazioni dell’AI, in particolare i modelli di linguaggio di grande dimensione (LLM), stanno già influenzando significativamente la scienza, aiutando i ricercatori a sintetizzare e redigere lavori di ricerca, generare idee e “scrivere codice”. Quest’ultima espressione si riferisce al processo di creazione di programmi informatici o algoritmi che aiutino ad eseguire calcoli o analisi automatizzate, essenziali per trattare e interpretare grandi quantità di dati nella ricerca moderna. Tuttavia, nonostante l’entusiasmo, vi sono preoccupazioni diffuse riguardo agli effetti dell’IA sulla scienza. Ad esempio, il 69% dei ricercatori ha espresso preoccupazione per un’eccessiva dipendenza dal riconoscimento di pattern senza una reale comprensione, il 58% ha sottolineato come i risultati possano radicare bias o discriminazioni nei dati, e il 55% ha ritenuto che gli strumenti IA potrebbero facilitare frodi. Inoltre, il 53% ha notato come un utilizzo superficiale e non attentamente considerato degli strumenti di IA possa portare alla produzione di ricerche che non sono riproducibili, evidenziando il rischio che l’uso improprio di queste tecnologie possa compromettere l’affidabilità dei risultati e l’integrità scientifica.
Pur offrendo vantaggi significativi come la rapidità nell’elaborazione dei dati e il risparmio di tempo e denaro, gli strumenti di IA sollevano questioni critiche sulla qualità della ricerca e l’integrità scientifica. La comunità scientifica è chiamata a bilanciare questi benefici con i rischi associati, per assicurare un’adozione dell’IA etica e responsabile. Se da un lato l’IA accelera la scrittura di manoscritti e la revisione paritaria, dall’altro esiste il rischio che faciliti la produzione di lavori di bassa qualità o addirittura fraudolenti, impoverendo anche il dibattito scientifico.
La dicotomia tra potenziali benefici e rischi richiede norme chiare e un utilizzo consapevole dell’IA. Carobene et al. enfatizzano il crescente impatto dell’IA nella pubblicazione scientifica, considerando rischi, benefici e implicazioni etiche nella redazione e revisione degli articoli (9).
Un aspetto cruciale è il riconoscimento del contributo dei revisori umani. Con l’aumento del volume della letteratura scientifica, questi autori propongono l’introduzione di metriche tangibili e incentivi per i revisori, essenziali per mantenere un ambiente accademico equilibrato. La mancanza di riconoscimento e incentivi adeguati minaccia l’integrità del processo di peer review e della produzione della letteratura scientifica nel suo complesso. La persistenza di riviste predatorie, con processi di revisione e controllo del plagio spesso trascurati, è un’ulteriore preoccupazione. L’efficacia di questi strumenti di IA nella revisione degli articoli può paradossalmente indurre un bias di automazione, che consiste nella tendenza a favorire l’uso eccessivo di sistemi automatizzati rispetto alla valutazione umana, senza tener pienamente conto delle capacità e delle conoscenze umane. Questo comporta il rischio di dequalificare le competenze umane coinvolte nel processo di revisione (9).
L’introduzione degli strumenti di IA, come i LLM, nel processo di peer review solleva questioni etiche importanti. Coalition for Advancing Research Assessment (Coara), una iniziativa europea per una valutazione della ricerca più aperta e trasparente, suggerisce la necessità di un nuovo accordo per la valutazione della ricerca, affrontando problemi legati all’uso dell’IA, come il rischio di manipolazione e la perdita di integrità scientifica (https://coara.eu/).
Nel panorama della pubblicazione scientifica, l’impiego dell’IA e dei modelli di LLM suscita reazioni diverse tra gli editori, come evidenziato da Vidali (3). Le opinioni variano dal forte sostegno alla marcata opposizione. Ad esempio, l’editoriale del New England Journal of Medicine sull’IA, elogia apertamente l’uso dei LLM nelle proposte di pubblicazione, enfatizzando i vantaggi potenziali come la democratizzazione della creazione e della diffusione della conoscenza scientifica, oltre a migliorare la qualità del lavoro scientifico (10).
Al contrario, Nature presenta una visione più cauta e critica. In un articolo di Gemma Conroy su Nature, si evidenziano le preoccupazioni legate all’uso dei LLM, quali la produzione di lavori di bassa qualità e l’incremento dei rischi di integrità della ricerca (11). La pubblicazione sottolinea come gli strumenti di IA, pur offrendo vantaggi nell’assistenza alla scrittura e revisione, potrebbero anche facilitare la creazione di manoscritti ingannevolmente convincenti ma falsi, aggravando il fenomeno dei cosiddetti “paper mills”¹.
Ad esempio, il caso segnalato dall’articolo riguardante l’audit nazionale cinese evidenzia come un numero elevato di articoli ritirati, soprattutto legati a comportamenti scorretti come la manipolazione di immagini o l’uso improprio di dati, stia danneggiando la reputazione accademica del Paese (12). L’articolo riporta dati allarmanti: nel solo anno precedente, la casa editrice Hindawi ha ritirato più di 9600 articoli, di cui circa 8200 avevano almeno un coautore cinese. Complessivamente, nel 2023, sono stati emessi circa 14000 avvisi di ritiro a livello globale, con circa tre quarti di questi che coinvolgevano un coautore cinese. Questi numeri evidenziano notevoli problemi di integrità nella ricerca con un evidente impatto negativo sulla reputazione accademica del Paese a livello internazionale.
Questo divario nelle politiche editoriali riflette una tensione fondamentale nel bilanciare l’innovazione con la prudenza. Mentre alcune riviste vedono l’IA come uno strumento rivoluzionario che può trasformare positivamente la scienza, altre mettono in guardia contro i rischi che possono compromettere la fiducia e l’accuratezza del discorso scientifico. Questa divergenza di opinioni richiede un dibattito continuo e approfondito all’interno della comunità scientifica per affrontare efficacemente le sfide poste dall’integrazione dell’IA nella pubblicazione scientifica. Pertanto, mentre l’IA offre strumenti potenti per migliorare l’efficienza e l’efficacia della revisione scientifica, è cruciale mantenere un equilibrio tra l’automazione e il discernimento umano, garantendo che la revisione sia condotta in modo etico e responsabile. La valorizzazione e il sostegno ai revisori umani sono indispensabili per preservare l’autenticità e l’integrità della ricerca scientifica nell’era dell’IA (9).
In conclusione, l’avanzamento dell’IA nella medicina di laboratorio, nel campo della ricerca scientifica e più in generale nella pratica medica offre opportunità di miglioramento indiscutibili. Tuttavia, questa transizione deve essere gestita con una consapevolezza acuta delle sue limitazioni e delle responsabilità etiche coinvolte. Solo attraverso un approccio collaborativo tra accademia, professionisti, industria e organismi regolatori si potrà garantire che i vantaggi dell’IA superino i rischi, promuovendo un progresso che sia innovativo che sicuro.
È quindi essenziale che tutti noi, professionisti del laboratorio, ci impegniamo a rimanere aggiornati con le evoluzioni tecnologiche. È imperativo che lo specialista in Medicina di Laboratorio comprenda i concetti relativi al mondo dell’IA e inizi a sfruttarne le opportunità e potenzialità, al fine di governare questo importante cambiamento e di essere attore e non semplice spettatore di tale evoluzione. In questa ottica, il Gruppo di Studio “Big Data ed Intelligenza Artificiale” della SIBioC, per supportare ulteriormente l’educazione e lo sviluppo professionale nel nostro campo, ha inserito nella sua offerta formativa per il 2024 i corsi FAD “Introduzione alla Machine Learning in Medicina di Laboratorio” e “Comprendere l’Intelligenza Artificiale generativa e le sue applicazioni” (https://sibioc.it/wp-content/uploads/2024/03/Brochure_SPML_SIBioC_2024.pdf). Questi corsi, che saranno disponibili entro la fine del 2024, sono progettati per equipaggiare i professionisti con le conoscenze e le competenze necessarie per operare consapevolmente e influenzare positivamente il futuro della medicina di laboratorio nell’era dell’IA.
——————-
¹I “paper mills” sono entità o servizi che producono e vendono articoli accademici, spesso in modo fraudolento o non etico. Queste operazioni possono coinvolgere la creazione di articoli su richiesta, il riutilizzo di contenuti esistenti o la vendita di lavori accademici preconfezionati a studenti, ricercatori o professionisti che cercano di ottenere pubblicazioni per riconoscimenti accademici senza produrre il lavoro autonomamente. Questo comportamento è considerato scorretto e dannoso per l’integrità accademica, in quanto viola i principi di originalità, attribuzione e integrità intellettuale. In molte istituzioni accademiche e ambienti di ricerca, l’uso di paper mills è severamente vietato e può comportare sanzioni disciplinari o legali.
CONFLITTO DI INTERESSI
Nessuno

BIBLIOGRAFIA

1. Rajpurkar P, Chen E, Banerjee O, Topol EJ. AI in health and medicine. Nat Med 2022;28:31-38.
2. Herman DS, Rhoads DD, Schulz WL, Durant TJS. Artificial Intelligence and Mapping a New Direction in Laboratory Medicine: A Review. Clin Chem 2021;67:1466-82.
3. Vidali M, Intelligenza Artificiale in Medicina: implicazioni e applicazioni, sfide e opportunità. Biochim Clin 2024;48:XX-XX
4. Carobene A, Cabitza F, Bernardini S, Gopalan R, Lennerz JK, Weir C, et al. Where is laboratory medicine headed in the next decade? Partnership model for efficient integration and adoption of artificial intelligence into medical laboratories. Clin Chem Lab Med 2022;61:535-543. Erratum in: Clin Chem Lab Med 2023;61:1359.
5. Prassas I, Clarke B, Youssef T, Phlamon J, Dimitrakopoulos L, Rofaeil A, et al. Computational pathology: an evolving concept. Clin Chem Lab Med. 2024. doi: 10.1515/cclm-2023-1124.
6. Master SR, Badrick TC, Bietenbeck A, Haymond S. Machine Learning in Laboratory Medicine: Recommendations of the IFCC Working Group. Clin Chem 2023;69:690-8.
7. Pennestrì F, Banfi G. Artificial intelligence in laboratory medicine: fundamental ethical issues and normative key-points. Clin Chem Lab Med 2022;60:1867-74.
8. Van Noorden R, Perkel JM. AI and science: what 1,600 researchers think. Nature 2023;621:672-5.
9. Carobene A, Padoan A, Cabitza F, Banfi G, Plebani M. Rising adoption of artificial intelligence in scientific publishing: evaluating the role, risks, and ethical implications in paper drafting and review process. Clin Chem Lab Med 2023;62:835-43.
10. Koller D, Beam A, Manrai A, Ashley E, Liu X, Gichoya J, et al. Why We Support and Encourage the Use of Large Language Models in NEJM AI Submissions. NEJM AI 2023;1:1.
11. Conroy G. How ChatGPT and other AI tools could disrupt scientific publishing. Nature 2023;622:234-6.
12. Mallapaty S. China conducts first nationwide review of retractions and research misconduct. Nature 2024;626:700-1