OMS: Etica e governance dell'intelligenza artificiale in campo sanitario
L’Organizzazione Mondiale della Sanità (OMS) ha pubblicato la guida : “Ethics and governance of artificial intelligence for health: Guidance on large multi-modal models”.
Le linee guida riguardano un tipo di Intelligenza Artificiale generativa, il multimodale di grandi dimensioni (LMM), in grado di accettare uno o più tipi di input di dati e generare output diversi che non si limitano al tipo di dati inseriti nell'algoritmo.
Con la pubblicazione di queste linee guida l'OMS intende aiutare gli Stati a mappare i benefici e le sfide associati all'uso degli LMM in campo sanitario e nello sviluppo di politiche e pratiche per lo sviluppo, la fornitura e l'uso appropriati. Le linee guida includono raccomandazioni per la governance, all'interno delle aziende, da parte dei governi e attraverso la collaborazione internazionale, in linea con i principi guida.
Alla base della guida sono i sei principi etici per l’utilizzo dell'IA generativa che l’OMS ha concordato dopo aver consultato gli esperti del settore.
I principi etici ai quali si dovrebbero ispirare le politiche e le pratiche dei governi, degli sviluppatori e dei fornitori che utilizzano l'IA sono:
1. Proteggere l'autonomia: gli esseri umani dovrebbero mantenere il controllo dei sistemi sanitari e delle decisioni mediche. I fornitori dispongono delle informazioni necessarie per utilizzare i sistemi di intelligenza artificiale in modo sicuro ed efficace. Le persone comprendono il ruolo che i sistemi di intelligenza artificiale svolgono nella loro cura. La privacy e la riservatezza dei dati sono protette da un valido consenso informato attraverso quadri giuridici adeguati per la protezione dei dati.
2. Promuovere il benessere umano, la sicurezza umana e l'interesse pubblico: i progettisti di IA soddisfano i requisiti normativi di sicurezza, accuratezza ed efficacia per usi o indicazioni ben definiti. Dovrebbero essere disponibili misure di controllo della qualità nella pratica e di miglioramento della qualità nell'uso dell'IA nel tempo. L'IA non viene utilizzata se provoca danni mentali o fisici che potrebbero essere evitati utilizzando una pratica o un approccio alternativo.
3. Garantire trasparenza, "spiegabilità" e intelligibilità: le tecnologie di IA dovrebbero essere intelligibili o comprensibili per gli sviluppatori, le professioni mediche, i pazienti, gli utenti e le autorità di regolamentazione. Prima della progettazione o della diffusione dell'IA siano pubblicate o documentate informazioni sufficienti e le informazioni facilitano una consultazione pubblica e un dibattito significativi su come l'IA è progettata e su come dovrebbe o non dovrebbe essere utilizzata. L'IA è spiegabile in base alle capacità di coloro a cui viene spiegata.
4. Promuovere la responsabilità e l'affidabilità: garantire che l'IA sia utilizzata in condizioni adeguate e da persone adeguatamente formate. Pazienti e medici valutano lo sviluppo e l'implementazione dell'intelligenza artificiale. I principi normativi vengono applicati a monte e a valle dell'algoritmo stabilendo punti di supervisione umana. Sono disponibili meccanismi adeguati per le domande e i mezzi di ricorso per gli individui e i gruppi che sono danneggiati dalle decisioni basate sull'IA.
5. Garantire l'inclusività e l'equità: l'IA è progettata e condivisa per incoraggiare l'uso e l'accesso più ampi, appropriati ed equi possibili, indipendentemente da età, sesso, identità di genere, reddito, razza, etnia, orientamento sessuale, abilità o altre caratteristiche. L'intelligenza artificiale è disponibile per l'uso non solo in contesti ad alto reddito, ma anche in paesi a basso e medio reddito. L'intelligenza artificiale non codifica i pregiudizi a svantaggio dei gruppi identificabili. L'intelligenza artificiale riduce al minimo le inevitabili disparità di potere. L'IA viene monitorata e valutata per identificare effetti sproporzionati su gruppi specifici di persone.
6. Promuovere un'IA reattiva e sostenibile: le tecnologie di IA sono coerenti con la più ampia promozione della sostenibilità dei sistemi sanitari, dell'ambiente e dei luoghi di lavoro.
Per maggiori informazioni:
Ethics and governance of artificial intelligence for health. Guidance on large multi-modal models
Fonte: www.who.int
Ugo Caroselli
farmacista, Redazione SifoWeb