Logo Dagospia
ia medicina milena gabanelli

“L’IA NON SOLO INVENTA DATI SCIENTIFICI, MA PUÒ ANCHE ESSERE ADDESTRATA PER RENDERLI IRRICONOSCIBILI DA QUELLI VERI” – MILENA GABANELLI: “L’UTILIZZO DELL’IA NEL SETTORE MEDICO È TRA I PIÙ AVANZATI. MA SE LA RICHIESTA È BEN INDIRIZZATA PUÒ ANCHE INVENTARSI RISPOSTE DI SANA PIANTA. ALLORA LA DOMANDA È: CHE COSA SUCCEDE SE L’UTILIZZATORE HA SCOPI FRAUDOLENTI, E DALLE RISPOSTE DI CHATGPT, GEMINI O CLAUDE DIPENDE LA NOSTRA SALUTE?” – “PIÙ O MENO TUTTI I CHATBOT SI PRESTANO A FABBRICARE DATI FALSI. VUOL DIRE CHE UN RICERCATORE, MAGARI SPONSORIZZATO DA UN’AZIENDA FARMACEUTICA, POTREBBE..." - VIDEO

 

 

CLICCA QUI PER IL VIDEO - https://www.corriere.it/dataroom-milena-gabanelli/cosi-l-intelligenza-artificiale-e-usata-per-imbrogliare-negli-studi-clinici/604a5764-22d4-4f7c-accb-dfbd2e914xlk.shtml

 

 

Estratto dell’articolo di Andrea Priante,Milena Gabanelli per www.corriere.it

 

ia usata per falsificare i dati degli studi clinici dataroom 1

Tu chiedi e l’intelligenza artificiale risponde. Sempre. Il suo utilizzo nel settore medico è tra i più avanzati per complessità e impatto tecnologico, soprattutto nella diagnostica per immagini e nella scoperta di farmaci. Ma anche se la chiamiamo «intelligente», è pur sempre un software senza alcuna capacità di discernimento, e se la richiesta è ben indirizzata può anche inventarsi risposte di sana pianta. Allora la domanda è: che cosa succede se l’utilizzatore ha scopi fraudolenti, e dalle risposte di ChatGpt, Gemini o Claude dipende la nostra salute?

 

LA FALSIFICAZIONE DEGLI STUDI

Radiology Case Reports è una rivista scientifica specializzata in casi clinici. L’8 marzo 2024 pubblica uno studio israeliano intitolato «Gestione efficace di una lesione iatrogena della vena porta e dell’arteria epatica», in cui si spiega come salvare la vita a un paziente con gravi danni vascolari.

 

ia usata per falsificare i dati degli studi clinici dataroom 5

Dall’articolo, i ricercatori dimenticano di togliere una frase: «Mi dispiace ma non ho accesso a informazioni in tempo reale o a dati specifici per pazienti, dato che sono un modello linguistico AI». Il 22 maggio la rivista lo ritira e si scusa coi lettori per non essersi accorta che «gli autori hanno usato l’AI generativa nel processo di scrittura dello studio». Questo non significa che quello studio fosse completamente falso, ma la sciatteria dei ricercatori che hanno messo insieme dei copia e incolla senza nemmeno controllare legittima il dubbio.

 

[…] Ci casca perfino il New England Journal of Medicine , considerata la «bibbia» della Medicina: il 29 aprile di quest’anno ritratta la foto che, per la prima volta, mostra come il fumo d’un incendio causi pericolosi calchi bronchiali. Gli autori sono costretti ad ammettere di averla manipolata con l’AI «per renderla più ordinata».

 

ia usata per falsificare i dati degli studi clinici dataroom 6

Quanto sia possibile generare prove scientifiche dal nulla lo dimostra la ricerca pubblicata quest’anno su Radiology. Gli studiosi chiedono a ChatGpt di realizzare false radiografie di fratture ossee, le mescolano insieme ad altre autentiche e le mostrano a 17 radiologi, che riescono a riconoscere le cartelle fake solo nel 41% dei casi.

 

PUBBLICA O PERISCI

L’intelligenza artificiale — si legge su Nature — «sta rendendo gli scienziati iperproduttivi», infatti il 30% dei ricercatori usa ChatGpt per scrivere articoli, il 15% per le domande di finanziamento. La rivista precisa che il tema si pone quando questi programmi non vengono utilizzati solo per tradurre, raccogliere, o elaborare dati. […]

 

La corsa a produrre il maggior numero di articoli possibile ha diverse ragioni: 1) è l’unico modo certo per attribuirsi la paternità di una scoperta; 2) finire sulle riviste scientifiche influenza la carriera; 3) incide sulle classifiche di atenei e centri di ricerca; 4) attrae finanziamenti. In ambito accademico la chiamano «la regola del pubblica o perisci».

 

ia usata per falsificare i dati degli studi clinici dataroom 7

Un meccanismo dove gli errori in buona fede o i tentativi di frode ci sono sempre stati, ma che oggi sono enormemente facilitati dall’utilizzo di chatbot sempre più evoluti e abili nel mescolare il vero con il verosimile. E questo complica il lavoro dei revisori.

 

FONTI FALSE, SCIENZIATI FANTASMA

Negli studi scientifici ogni affermazione deve rimandare a fonti verificabili, ma fino al 69% delle citazioni suggerite dall’AI in ambito biomedico sono inesistenti. The Lancet ha fatto i conti: se nel 2023 uno studio su 2.828 conteneva almeno un riferimento falso, nelle prime 7 settimane del 2026 siamo saliti a uno su 277.

 

Il timore è che stiano sorgendo vere e proprie «cartiere» pagate per fabbricare articoli scientifici. Alle riviste stanno arrivando sempre più frequentemente proposte firmate da autori inesistenti, e il sospetto è che siano gli stessi sviluppatori di chatbot a inviare articoli per testare la capacità dell’AI di beffare i controlli.

 

[…] I RISCHI PER I PAZIENTI

ia usata per falsificare i dati degli studi clinici dataroom 3

Un test finito su Nature dimostra che più o meno tutti i chatbot — da Claude a Grok, fino a ChatGpt — si prestano a fabbricare dati falsi. Vuol dire che un ricercatore, magari sponsorizzato da un’azienda farmaceutica, potrebbe far passare per vero un intero studio che dimostri, ad esempio, l’efficacia di un medicinale che in realtà efficace non è.

 

[…] Solo di fronte a evidenti anomalie, le riviste chiedono all’autore di mostrare il database, e in tal caso è impossibile che il bluff possa sfuggire ai controlli. E invece...

 

COME SI INVENTA UN TRIAL CLINICO

 Il professor Giuseppe Giannaccare dell’Università di Cagliari e primario di oculistica, e il ricercatore Andrea Taloni dell’Università di Ferrara hanno testato la capacità di inganno dell’AI su un trial clinico.

 

Hanno preso due farmaci equivalenti nella cura della maculopatia — una degenerazione della retina di cui soffre un milione di italiani — e hanno chiesto a ChatGpt di dimostrare che uno è nettamente migliore dell’altro. […]

ia usata per falsificare i dati degli studi clinici dataroom 4

 

Nella prima fase gli esperti rilevano delle anomalie nel database: pazienti maschi con nomi femminili, età sbagliate, visite fatte la domenica. Il team allora spiega a ChatGpt cosa non va nei dati che ha generato e gli chiede di auto-correggersi. Stavolta il nuovo database supera ogni verifica.

 

Per scoprire che si tratta di un fake, i revisori dovrebbero andare a cercarsi, uno per uno, i singoli pazienti. Lo studio dei due specialisti italiani è finito sulla prestigiosa rivista americana Jama Ophthalmology , a dimostrazione del fatto che l’intelligenza artificiale non solo inventa dati scientifici, ma può anche essere addestrata per renderli irriconoscibili da quelli veri.

 

ia usata per falsificare i dati degli studi clinici dataroom 2

«L’AI potrebbe addirittura generare un trial clinico in grado di “provare” che il fumo fa bene», spiegano Giannaccare e Taloni. Come se ne esce? «Prima di pubblicare, quando possibile, le riviste devono estendere i controlli anche all’analisi dell’intero database, ma soprattutto vanno verificati i curricula degli autori, poiché nel settore della ricerca uno non vale uno, e la fondatezza di qualunque studio passa per la credibilità, l’esperienza e l’affidabilità degli scienziati che l’hanno realizzato».

Ultimi Dagoreport

giorgia meloni ignazio la russa antonio tajani fabio rampelli roberto occhiuto marina berlusconi cirielli

DAGOREPORT – IN QUELLA POLVERIERA CHE E' DIVENTATA L'ARMATA BRANCA-MELONI, LA MICCIA E' COLLEGATA A DUE EVENTI: L’ELEZIONE SUPPLETTIVA IN CALABRIA E IL VOTO A SCRUTINIO SEGRETO ALLA CAMERA SULLA LEGGE ELETTORALE (SPUNTERANNO FRANCO-TIRATORI TRA COLORO CHE SANNO DI NON ESSERE RICANDIDATI NEL 2027? CHE DECIDERANNO LE DONNE DI FORZA ITALIA INVEPERITE PER LA MANCATA ALTERNANZA DI GENERE?) – IL CASO CALABRESE, CON IL CANDIDATO DI VANNACCI CHE RUBA VOTI A FORZA ITALIA E RISCHIA DI FAR VINCERE IL PD, PUO’ ESSERE L’OCCASIONE CHE TAJANI ASPETTAVA DA TEMPO: REGOLARE I CONTI CON IL GOVERNATORE OCCHIUTO, SUO NEMICO INTERNO, SU CUI RICADREBBE LA COLPA DELLA SCONFITTA DI FABIO ROSCIOLI, TESORIERE DI LADY BERLUSCONI – SE LA FAIDA TRA GLI AZZURRI È PALESE, IN FDI DEVONO GESTIRE I MALUMORI DEI “RAS” LOCALI. A MILANO LA RUSSA NON DIGERISCE LA PROPOSTA DI CANDIDARE A SINDACO L’AZZURRO PEREGO, NOME NON SGRADITO A VIA DELLA SCROFA - IN CAMPANIA C’È LA ROGNA DEL VISPO CIRIELLI, L'EX COLONNELLO DI GIORGIA CHE INVOCA DI IMBARCARE VANNACCI NELLA COALIZIONE - NEL LAZIO IL MENTORE DELLE SORELLE MELONI, FABIO RAMPELLI, NON SOLO SI E' AUTOCANDIDATO A SINDACO DI ROMA IN BARBA AL PARTITO, MA SCALPITA PER PIAZZARE I SUOI "GABBIANI" NELLE PROSSIME LISTE ELETTORALI - STENDIAMO UN "PELO PIETOSO" SUL'ALTRO ALLEATO, LA LEGA SPROFONDATA AL 4,5% CON SALVINI APPESO A CIO' CHE POTRA' SUCCEDERE DOMENICA PROSSIMA SUL PRATONE DI PONTIDA...
roberto vannacci elly schlein giorgia meloni legge elettorale ballottaggio

DAGOREPORT! LA NUOVA LEGGE ELETTORALE È INCOSTITUZIONALE? MONTA IL DIBATTITO CON 160 COSTITUZIONALISTI CHE ANDRANNO AVANTI CON I RICORSI ALLA CORTE COSTITUZIONALE - LA SCOMMESSA DELLA MELONI: UNA VOLTA APPROVATA LA LEGGE, ANDARE AL VOTO A MAGGIO PER EVITARE IL GIUDIZIO DI INCOSTITUZIONALITA' DELLA CONSULTA – LA PROTESTA DEL CIVICO ONORATO SULLE FIRME RICHIESTE PER PRESENTARE LE LISTE (6MILA PER OGNI COLLEGIO): UNA NORMA CHE IN REALTA’ FA COMODO A FORZA ITALIA E NOI MODERATI IN FUNZIONE ANTI-ONORATO MA ANCHE ALLA SINISTRA, CHE SI METTEREBBE AL RIPARO DALLE NUOVE CREATURE POLITICHE (TIPO GRILLO) – VANNACCI AL 99% NON DOVREBBE AVER BISOGNO DI RACCOGLIERE LE 6MILA FIRME - L’ABNORME PREMIO DI MAGGIORANZA PER CHI ARRIVA AL 42%: NON NE PARLA NESSUNO NEL PD PERCHE’ FA COMODO ANCHE A SCHLEIN…
elly schlein giuseppe conte dario franceschini

DAGOREPORT - CONTRORDINE, COMPAGNI, LE PRIMARIE SI FARANNO INDIPENDENTEMENTE DALLA LEGGE ELETTORALE! CONTE HA DATO UN AUT AUT AGLI ALLEATI DEL CAMPO LARGO METTENDO I GAZEBO COME “CONDICIO SINE QUA NON” PER ESSERE NELL'ALLEANZA CON IL PD – MA LE PRIMARIE, OLTRE A ESSERE DIVISIVE, SONO UN GRAN CASINO SUL FRONTE REGOLAMENTARE: SARANNO APERTE O CHIUSE? CI SARA’ IL VOTO ONLINE? E PREVEDERANNO UN BALLOTTAGGIO? - PER ELLY, CHE TREMA PERCHÉ CONTE CON LA POSIZIONE SULL’UCRAINA DRENA VOTI AL PD SCESO AL 20%, I GAZEBO SONO DIVENTATI UN PROBLEMA ANCHE ALL’INTERNO DEL PARTITO (AL PUNTO CHE NON HA POTUTO CONCEDERE L’ENDORSEMENT A MARIO CALABRESI, CANDIDATOSI A SINDACO DI MILANO, PERCHÉ HA PAURA DI PERDERE I VOTI DI PIERFRANCESCO MAJORINO). COSI’ PER BLINDARSI E’ COSTRETTA A STRINGERE ACCORDI CON RENZI, FRANCESCHINI E ALTRI CAPATAZ DEM. MA NON ERA LEI CHE DICEVA “NON VOGLIAMO PIÙ CAPIBASTONE E CACICCHI?”
giorgia meloni tommaso longobardi giovanbattista fazzolari gian marco chiocci filini

DAGOREPORT - COME MAI GIORGIA MELONI HA FATTO “ROTOLARE LA TESTA” DEL SUO STRATEGA SOCIAL, TOMMASO LONGOBARDI? A POCHI MESI DALLE ELEZIONI, CON I SONDAGGI CHE DANNO IL CAMPO LARGO IN VANTAGGIO E VANNACCI CHE SCIPPA CONSENSI A DESTRA, LA DUCETTA SI È ACCORTA CHE LA PROPAGANDA DI PALAZZO CHIGI NON FUNZIONA PIÙ – LONGOBARDI ERA GIÀ FINITO NEL MIRINO DEL “CERCHIO TRAGICO” DELLA SORA GIORGIA DOPO LA DISFATTA AL REFERENDUM SULLA GIUSTIZIA, DOVE ERANO STATI DECISIVI I VOTI DEGLI ELETTORI PIÙ GIOVANI PER IL “NO” – ORA LA DUCETTA VUOLE UNA SVOLTA NELLA COMUNICAZIONE DEL GOVERNO E RICICCIA L’IDEA DI ASSOLDARE COME PORTAVOCE IL DIRETTORE DEL TG1, GIAN MARCO CHIOCCI. PICCOLO PARTICOLARE: CHIOCCI, FIN TROPPO AUTONOMO ED ESPERTO, SAREBBE UN “ACQUISTO” INDIGESTO PER FAZZOLARI E FILINI, IL DUO CHE GESTISCE LA MACCHINA COMUNICATIVA DI FDI – SI VOCIFERA CHE PALAZZO CHIGI PENSI A GINO ZAVALANI, VOLTO DI ESPERIA, PER RILANCIARE I SOCIAL – LA PRECISAZIONE DI ZAVALANI
giorgia meloni antonio tajani maurizio lupi alessandro onorato giuseppe conte matteo renzi roberto vannacci ignazio la russa

DAGOREPORT! - GIORGIA MELONI HA PAURA DI TORNARE ALLE URNE E VUOLE UNA NUOVA LEGGE ELETTORALE CHE AZZOPPI GLI AVVERSARI, A PARTIRE DALL’EMENDAMENTO “AMMAZZA-CESPUGLI” SULLA RACCOLTA DELLE FIRME - IL BLITZ E' UTILE A TAJANI, CESA E LUPI PER FERMARE ONORATO CHE POTREBBE ROSICCHIARE VOTI A FORZA ITALIA, UDC E NOI MODERATI - L'APPOGGIO DI CONTE ALL'ASSESSORE DI ROMA SEMBRA UN "BACIO DELLA MORTE": "PROGETTO CIVICO" STA DIVENTANDO "PROGETTO PEPPINIELLO"? - GLI OCCHI DEGLI ADDETTI AI LAVORI SULLE ELEZIONI SUPPLETIVE DI REGGIO CALABRIA PER IL SEGGIO ALLA CAMERA: VUOI VEDERE CHE IL CANDIDATO DI VANNACCI TOGLIERA' VOTI AL CENTRODESTRA E FARA' VINCERE IL PD?
vecchione renzi ranucci sgrena mancini draghi conte gabrielli carlo parolisi

TRA LE PIEGHE DELL’AFFAIRE LAVITOLA-RANUCCI, RICICCIA UNO DEI TANTI MISTERI ALL’ITALIANA: IL FAMOSO SERVIZIO DI ‘’REPORT’’ DEL MAGGIO 2021 SULL’INCONTRO IN AUTOGRILL TRA MATTEO RENZI E MARCO MANCINI, UNO DELLE FIGURE PIÙ CONTROVERSE DELL’INTELLIGENCE ITALIANA - ALL’ORIGINE DEL RENDEZ-VOUS AUTOSTRADALE, FORSE C’ENTRA DI PIÙ IL FATTO CHE STAVA CADENDO IL SECONDO GOVERNO CONTE, A CAUSA DEL RITIRO DALL'ESECUTIVO DI ITALIA VIVA. QUALCUNO DEVE AVER SCOMMESSO SULLE DOTI AFFABULATORIE DI NEGOZIATORE DI MANCINI PER CONVINCERE RENZI A TROVARE UNA QUADRA PER MANTENERE IN PIEDI CONTE – UNA VOLTA CHE LA MISSIONE E' ANDATA A VUOTO, PERCHE' RANUCCI MANDO' IN ONDA IL SERVIZIO RENZI-MANCINI BEN CINQUE MESI DOPO LA SEPOLTURA DEL GOVERNO CONTE II? A CHI GIOVAVA? - BEN SAPENDO DI QUANTO MANCINI SIA DETESTATO DAI SUOI COLLEGHI, RENZI DEFINI' LO SCOOP UN "REGOLAMENTO DI CONTI INTERNO AI SERVIZI SEGRETI" – GLI ''ADDETTI AI LIVORI'' AGGIUNGONO ALTRE DUE IPOTESI: CHI PARTENDO DAL BURRASCOSO RAPPORTO TRA RENZI E RANUCCI, CHI CONSIDERANDO LA VOGLIA DI CONTE DI REGOLARE I CONTI CON COLUI CHE SI VANTA DI AVERLO SLOGGIATO DA PALAZZO CHIGI E DI AVER CONVINTO DRAGHI A PRENDERE IL SUO POSTO…