Ruolo dell’Intelligenza Ar2ﬁciale in Sanità...I radiologi saranno sos-tui- dall'IA? !La risposta semplice è: NO. white paper - European Society of Radiology 15 Ing. M. Grigioni

Ruolodell’IntelligenzaAr2ficialeinSanità

Ing.M.GrigioniCentroNazionaleTecnologieInnova2veperlaSalutePubblica–ISSRoma

SSNeruolodell’ISS Cos-tuzione,Ar-colo32.ü  La Repubblica tutela la salute come fondamentale diriDo dell'individuo e interesse

dellacolleFvità,egaran2scecuregratuiteagliindigen2.ü  Nessuno può essere obbligato a un determinato traDamento sanitario se non per

disposizionedilegge.ü  Laleggeinnessuncasopuòviolareilimi2impos2dalrispeDodellapersonaumana.

Legge23dic.1978n.833:Is-tuzionedelServizioSanitarioNazionale(SSN)Art.1legge833“laRepubblicatutelalasalutecomefondamentalediriDodell’individuoeinteressedellacolleFvitàmedianteilSSN”.KeyWords:UNIVERSALISMOeEQUITÀOBIETTIVIDELSSNUniformitàdelle condizioni di salute su tuDo il territorionazionale, garantendoa tuF ilivelliuniformidiassistenza.

Ing.M.Grigioni-CentroNazionaleTecnologieInnova6veperlaSalutePubblica-UniversitàPon6ficiaSalesiana,17maggio2019

Ondadelletecnologieemergen2

L’implementazionedellenuovetecnologievaoltrelepare-dell’ospedale

UnaNuovaIden-tàDigitaleanchesanitaria!!!Privacy

eHealth+Wellness+SocialNetwork+…..

DM+Farmaci BigData


IA:sitraUadialgoritmi•  LeDefinizionidialgoritmosonomolteplici,matuDetendonoalmedesimosignificatoopera2vo:•  "unasequenzaordinataefinitadipassi(operazionioistruzioni)elementaricheconduceaunben

determinatorisultatoinuntempofinito".•  LadefinizionericordalamacchinadiAlanTuring!!!•  Piùsemplicemente“metodoperrisolvereunproblema”(R.Sedgewick)

•  Ilterminealgoritmoderivadallatrascrizionela2nadelnomedelmatema2copersianoal-KhwarizmivissutonelIXsecolod.C.,Algorismusindicavainorigineilprocessopersvolgerecalcoliconinumeriindo-arabici(Somma).

•  IAèspessosinonimodi«Decisione»(USA:DecisionSupportSystem);Sarebbepiùprecisodirechemediantel’IAsipossonoClassificareleinformazioniposteiningresso

•  Dalpuntodivistadellaprogrammazionel’IAsidifferenziadaiprogrammi«tradizionali»:•  •Ilcomportamentodell’esecuzionedellerighedicodicedipendedaida2iningresso(DATASET)•  •L’informazioneestraDadall’elaborazionedeida2vieneacquisita,memorizzataerielaborata:ilcodiceè

ingradodi«imparare»daida2edallalorodinamica,possiamoanchedirechelareteneuralesiformasartorialmenteconida2iningresso

•  Mol2nehannopaura,lapubblicitàesageraleopportunità•  Unalgoritmopotràsos2tuirelarelazioneumanaMedico-Paziente?ParliamodiSUPPORTO!!!!!•  StephenHawking:«LenostreIAdevonofarequelchevogliamochefacciano».Almenoperl’aDualestato

dell’arte.•  L’AIèancoragiovane!!!!Vediamoneilimi2

5Ing.M.Grigioni-CentroNazionaleTecnologieInnova6veperlaSalutePubblica-UniversitàPon6ficiaSalesiana,17maggio2019

Generalizzabilitàdiunarete•  Unavoltachelareteèaddestrata(trained)questapuòessereu2lizzataovunque?Soloperquelclusterdi

pazien2?Ancheperaltrepatologie?•  Almomentosifannostudiu2lizzandovarietecniche,mailrisultatodesiderabilenonèdietrol’angolo,cioè

allenarelareteinunambiente(unapatologia)echiederglididarerispostecoeren6inunaltroambientemoltovicino,nonèancoraassicurato.

•  QualeConfidenzadipoteru2lizzareunarete(SWacquistato)suunsetdida2aDuali,differen2perlorocaraDeris2chedaquellidiaddestramento?

•  FareRete:Nelcasodipiùsi2nazionali?Thekeyresultfromtheseanalysesisthatgeneralizabilitycannotadequatelybeassessedusingdataorigina6ngfromasinglesitealone,andthatamul6-centerdatasetisneededtoquan6fythebroadergeneralizabilityofamachinelearningclassifier."

•  Diri[dalGDPR•  Inoltreilprocessodilearningedidecisionenonsononévisibili(BlackBox),néesplorabili,néspiegabili,in

sostanzaunaretepuònonessereTrasparente.•  QuestacaraUeris-caconfliggeconilGDPRcheaffermache«lepersonehannoildiriUodinonessere

soggeUeadecisionibasatesuesclusivamentesuprocessiautoma-zza-»diriUoaduna«spiegazioneesplicita»


E’unDisposi2voMedicosecondolDireFvaComunitaria93/42esuemodifiche(Soxware)


https://www.mathworks.com/videos/introduction-to-deep-learning-what-are-convolutional-neural-networks--1489512765771.html

ReLU: rectified linear unit LaretesicostruisceconilsuoDataset

DL:struDuradiuna2picaimplementazione(Convolu2onalNeuralNetwork)

Radiomica,Patomica,Genomicaetc…


AssicurazioneeControllodiQualitàdellefilierediproduzioneeimmagazzinamentodeldato(adesinDiagnos2ca):

•  Processi•  Seman2ca

•  Qualitàdeldato

DefinizionedelleBioBanche

(FSE,EHR,BigData)

Radiomica/Patomica:Flowchart

•  VFigure1:Flowchartshowstheprocessofradiomicsandtheuseofradiomicsindecisionsupport.Pa2entwork-uprequiresinforma2onfromdisparatesourcesto

•  becombinedintoacoherentmodeltodescribewherethelesionis,whatitis,andwhatitisdoing.Radiomicsbeginswithacquisi2onofhigh-qualityimages.From

•  theseimages,aregionofinterest(ROI)thatcontainseitherthewholetumororsubregions(ie,habitats)withinthetumorcanbeiden6fied.Thesearesegmentedwith

•  operatoreditsandareeventuallyrenderedinthreedimensions(3D).Quan6ta6vefeaturesareextractedfromtheserenderedvolumestogenerateareport,whichis

•  placedinadatabasealongwithotherdata,suchasclinicalandgenomicdata.Thesedataarethenminedtodevelopdiagnos2c,predic2ve,orprognos2cmodelsforoutcomesofinterest

Annotazione1

Annotazione2

CosaleggiamotuFigiorni


Bruxellescomunicalelineeguidanonvincolan-

Intelligenzaar-ficiale-(15Apr2019)

•  LaComunicazionedallaCommissionealParlamentoEuropeoealconsiglio“BuildingTrustinHuman-CentricAr2ficialIntelligence”,pubblicatal’8aprile,hal’obieFvo«dilanciareunafasepilotachecoinvolgaglistakeholdersuvastascala,alfineditestarel’implementazionepra2cadellelineeguidaperlosviluppoel’usodell’AI».

•  MaximisethebenefitsofAIsystemswhileatthesame6mepreven6ngandminimisingtheirrisks

•  TheEthicsGuidelinesforTrustworthyAr6ficialIntelligence(AI)isadocumentpreparedbytheAIHLEG.


IAaffidabile

•  Lelineeguidapostulanoche,alfinedioDenereuna“IAaffidabile”,sononecessarietrecomponen2:

•  (1)deverispeDarelalegge,•  (2)devesoddisfareiprincipie2cie•  (3)dovrebbeessererobusta.•  Sullabasediquestetrecomponen2,lelineeguida

«individuanoseUerequisi-chiave»cheleapplicazionidell’AIdevonorispeDare.Lelineeguidaincludonoancheunsetdivalutazioneperverificareseques2requisi2sonosoddisfaF.

•  Lelineeguidadell’Hleg,nonsonovincolan6(Noobbligolegale).


PropostediLineeGuidainSanità

•  Moltepropostediraccomandazioni(perlopiùdi2poE2co)sonostatefaDealivellointernazionale.

•  LamaggiorpartesonoraccomandazionichetentanodisoDolinearequantodiposi2voriportalaricercaeilGDPR(GeneralDataProtec2onRegula2on):

SpiegabilitàdiunareteTrasparenza

EquitàRobustezza


AcademyofRoyalMedicalColleges(UK)

«Ar-ficialintelligenceinHealthCare»-Raccomandazioni(luglio2018)•  Lasicurezzadelpazientedeverimanerediprimariaimportanzael'intelligenza

ar2ficialedeveesseresviluppatainmodoregolato,incollaborazionetraclinicieinforma2ci

•  Ripensaremol2aspeFdellaformazioneedellacarrieradeimedici•  Ida-dovrebberoessereresipiùfacilmenteaccessibiliatuFiseDoripriva2e

pubblici.Dovrebberoesserecer-fica-peraccuratezzaequalità.•  Unaregolamentazionecongiunta(Clinicieinforma2ci)èlachiavepergaran2re

chel'IAsiaintrodoDainmodosicuro(accountability,responsabilitàeimplicazionigiuridichepiùampie)

•  Lavalutazionecri-caesternaelatrasparenzadelleaziendetecnologicheènecessariaperimedici,perpotergaran2relasicurezzanell'usodeglistrumen2forni2aimedicistessi(licenzeesorveglianzapost-vendita)

•  L'intelligenzaar2ficialedovrebbeessereusataperridurre,nonaumentare,ledisuguaglianzedisalute,dalpuntodivistageografico,economicoesociale(CondivisodalMinistrodellaSaluteG.Grillo)


Whattheradiologistshouldknowaboutar-ficialintelligence(2019)hDps://doi.org/10.1186/s13244-019-0738-2L'intelligenzaar2ficiale(IA)hagranderilevanzaperlaradiologia.UnarecentericercasuPubMeddeltermine"IntelligenzaAr2ficiale"hares2tuito82.066pubblicazioni;combinandolaricercaconlaparola"Radiologia",sonosta2trova25.405ar-coli.Lamaggiorpartediques2ar2colièstatapubblicatadal2005.L'EuropeanSocietyofRadiology(ESR)èconsapevoledell'impaDochel'IAstaavendonelcampodellaRadiologia,siaperleprospeFvetecnico-scien2fichecheperquellee2co-professionaliedeconomiche.Rifiutandol’ipotesidell'imminentees2nzionedellaradiologia.AldifuoridelletradizionaliaFvitàdiradiologiadell'interpretazionedelleimmagini,sis2machel'IAabbiaunimpaDosullaradiomica,sullebiobanchediimaging,suisistemidisupportoalledecisionicliniche,sulrepor2ngstruDuratoesulflussodilavoro:•  inRadiomica,l’IApuòfavorirel'analisidellecaraDeris2cheeaiutarenellacorrelazioneconaltrida2omici.•  lebiobanchediimagingpotrebberodiventareun'infrastruUuranecessariaperorganizzareecondividereida2diimmaginidaiquali

possonoessereforma2imodellidiIA.•  l'AIpuòessereu2lizzatacomestrumentodioFmizzazioneperassistereiltecnologoeilradiologonellasceltadiprotocollipersonalizza-

sulsingolopaziente,monitorandoiparametrididosealpaziente,fornendounas2madeirischidaradiazioni.•  l’IApuòancheaiutareilflussodilavorodirepor2ngeilcollegamentotraparole,immaginieda2quan2ta2vi.•  l'IAaccoppiataconilClinicalDecisionSupportSystem(CDSS)puòmigliorareilprocessodecisionaleequindioFmizzareilflussodi

lavoroclinicoeradiologico.IlfaDorechiavedelleprestazioniIAèl’addestramentoconda2digrandedimensioneealtaqualitàperevitareilsovradaDamentoel'underfiFng.Letreleggidellarobo2capotrebberoessereapplicateallaradiologiaincuiil"robot"èil"soxwareIAdiimagingmedicale".Sel'intelligenzaar2ficialeèu2lizzatanellapra2caclinica,laprincipaleques2onemedicolegalechesiponeè"chièresponsabiledelladiagnosi".

Iradiologisarannosos-tui-dall'IA?!Larispostasempliceè:NO.

whitepaper-EuropeanSocietyofRadiology


La complessità delle architetture di DL, costituite da decine o anche centinaia di strati di “neuroni” (unità elementari di elaborazione), fa sì che le stesse si comportano come “scatole nere” BLACK BOX: in pratica è impossibile individuare il meccanismo esatto per cui il sistema fornisce certe risposte. Explainable AI (XAI): è importante poter individuare il percorso fatto da un sistema IA per arrivare a certe conclusioni ed essere sicuri che i “ragionamenti” eseguiti siano condivisibili. Questo è importante soprattutto nel campo del decision making clinico, in cui le conseguenze di un’errata valutazione dei dati sono potenzialmente letali. La IA “spiegabile” rappresenta quindi un paradigma necessario per l’introduzione di IA in molti ambiti critici, fra cui quello medico.

Criticità: explainability


Petsiuk et al, RISE: Randomized Input Sampling for Explanation of Black-box Models

Cri2cità:explainabilityesaliencymaps

Sonostatepropostesoluzionialproblemadellaopacitàdellere2DL.Per esempio, si possono generare “mappe di importanza” (saliency maps), che indicanoquanto ogni pixel determina la predizione del modello, senza alcuna conoscenzadell’architeDuradellarete.Lemappediimportanzasonocostruitesinte2zzandodelleopportunemaschere,chevengonopoiapplicateaida2diingressodellarete,pervalutareinfinel’outputcorrispondente.

Pixelsucuisibasaladecisione


AdversarialExamples(AE)–Cri2cità

Imperce[bileperturbazioneperl’occhioumano,stravolgelapredizione«AE’shavebecomeanindisputablethreattothesecurityofmodernAIsystemsbasedonDNN»arXiv:1807.01069La«piccola»perturbazionepuòproveniredaun’azioneintenzionale(minaccia)maanchedaunmalfunzionamentodellastrumentazione,potenzialmentenonrilevabileconiprotocollidicontrollodiqualitàaDualmenteapplica2.

From:XinLi,FluinLi,IEEEInterna2onalConferenceonComputerVision,2017


AE–nuoveopportunità

19

ClassificazionedilesionedellapelleFromM.Paschalietal,arXiv:1804.00504

GliAEsonou2lizza2comebenchmarkpertes6ngdellarobustezzaegeneralizzabilitàditoolML,rimpiazzandoinfuturolanecessitàdiampi(ecostosi)data-set


La curva blu mostra l'andamento dell'errore nel classificare i dati di training, all’aumentare della quantità di questi ultimi, mentre la curva rossa mostra l'errore nel classificare i dati di test o validazione. Una situazione in cui il secondo aumenta mentre il primo diminuisce è indice della possibile presenza di un caso di overfitting.

Criticità: overfitting

errore di training

errore di testing

Insta2s2caeininforma2ca,siparladioverfi`ng(initaliano:adaDamentoeccessivo,sovradaDamento) quando un modello sta2s2co molto complesso si adaDa ai da2osserva2 (il campione) perché ha un numero eccessivo di parametri rispeDo alnumerodiosservazioni.


IAedequitànelSSN•  Ladiffusionedeglistrumen2diIApotrebbe(paradossalmente)aumentare

lediscrepanzefraregioniprivilegiandoquellevirtuosecheposseggono–  Archiviinforma2ciefficien2,benstruDura2,ericchidiinformazioni–  Adeguaterisorsedielaborazione(anchetramiteservizidaterzi)

•  Equità ed universalità del supporto tecnologico in ambito diagnos2co-terapeu2coèunarichiestadelSSN

•  (Non appare acceDabile la frammentazione locale delle soluzioni di AInellefasiopera2ve;differenteilcasodellaricerca)

•  Si rendenecessariodefinire,unpianodi sviluppodi IA chepermeDa lafruizione delle conoscenze/risorse a tuF i contes2 nazionali, a par2redalleesperienzemigliori,conunaggiornamentodinamicoprogressivo.


Contributodell’ISSAssicurazionediQualitàdeida-edeiprocessiinradiologia•  L'imaging biomedico con2nua ad essere un pilastro del traDamento clinico,

sopraDuDoincampooncologico.QuestoimportantesviluppoimpaUafortementesulla compliance a programmi di garanzia di qualità in termini dipersonalizzazione dei traDamen2, riduzione del numero di esposizioni (ogniimmagine può essere sfruData al massimo del suo contenuto informa2voriducendo la necessità di immagini ripetute), riduzione del numero di aFvità dirou2ne e conseguente riduzione del carico di lavoro. L’ISS produce linee diindirizzo in questo seDore da oltre 20 anni, grazie all’aFvità di Assicurazione diQualitànellescienzeradiologiche.

•  Promozionedidiba[-eworkshopcondivisiconilMinisterodellaSalute(inpar2colareperleinfrastruDureelelineeguidaperiPDTAconAI[Agenas])

•  Hubpergruppidilavoro/coordinamentoepromuoveformazioneresidenziale•  Partecipareaglisforzidellaricercanazionale


Graziedell’aDenzione

Ing.M.GrigioniCentroNazionaleTecnologieInnova2veperlaSalutePubblica–ISSRoma

Documents

Ruolo dell’Intelligenza Ar2ﬁciale in Sanità...I radiologi saranno sos-tui- dall'IA? !La risposta semplice è: NO. white paper - European Society of Radiology 15 Ing. M. Grigioni