Experts en IA debaten com integrar una IA robusta en l'atenció mèdica, per què la col·laboració interdisciplinària és fonamental i el potencial de la IA generativa en la recerca.
Feifei Li i Lloyd Minor van pronunciar els discursos inaugurals del Simposi inaugural de Salut RAISE a la Facultat de Medicina de la Universitat de Stanford el 14 de maig. Steve Fish
La majoria de les persones capturades per la intel·ligència artificial han tingut algun tipus de moment de reflexió, obrint les seves ments a un món de possibilitats. Al Simposi inaugural de Salut RAISE el 14 de maig, Lloyd Minor, MD, degà de la Facultat de Medicina de la Universitat de Stanford i vicepresident d'afers mèdics de la Universitat de Stanford, va compartir la seva perspectiva.
Quan li van demanar a un adolescent curiós que resumís les seves troballes sobre l'oïda interna, va recórrer a la intel·ligència artificial generativa. «Vaig preguntar: "Què és la síndrome de dehiscència del canal superior?", va dir Minor a gairebé 4.000 participants del simposi. En qüestió de segons, van aparèixer diversos paràgrafs.
«Són bons, molt bons», va dir. «Que aquesta informació s'hagi recopilat en una descripció concisa, generalment precisa i clarament prioritzada de la malaltia. Això és força remarcable».
Molts van compartir l'entusiasme de Minor per l'esdeveniment de mig dia, que va ser una conseqüència de la iniciativa RAISE Health, un projecte llançat per la Facultat de Medicina de la Universitat de Stanford i l'Institut Stanford per a la Intel·ligència Artificial Centrada en els Humans (HAI) per guiar l'ús responsable de la intel·ligència artificial en la recerca biomèdica, l'educació i l'atenció al pacient. Els ponents van examinar què significa implementar la intel·ligència artificial en medicina d'una manera que no només sigui útil per als metges i científics, sinó també transparent, justa i equitativa per als pacients.
«Creiem que aquesta és una tecnologia que millora les capacitats humanes», va dir Fei-Fei Li, professora d'informàtica a l'Escola d'Enginyeria de Stanford, directora del projecte RAISE Health with Minor i codirectora de HAI. Generació rere generació, poden sorgir noves tecnologies: des de noves seqüències moleculars d'antibiòtics fins al mapeig de la biodiversitat i la revelació de parts ocultes de la biologia fonamental, la IA està accelerant el descobriment científic. Però no tot això és beneficiós. «Totes aquestes aplicacions poden tenir conseqüències no desitjades, i necessitem informàtics que desenvolupin i implementin [la intel·ligència artificial] de manera responsable, treballant amb una varietat de parts interessades, des de metges i especialistes en ètica... fins a experts en seguretat i més enllà», diu. «Iniciatives com RAISE Health demostren el nostre compromís amb això».
La consolidació de tres divisions de Stanford Medicine —la Facultat de Medicina, Stanford Health Care i la Facultat de Medicina de Salut Infantil de la Universitat de Stanford— i les seves connexions amb altres parts de la Universitat de Stanford l'han situat en una posició on els experts s'enfronten al desenvolupament de la intel·ligència artificial, a problemes de gestió i integració en el camp de l'atenció mèdica i la medicina. Medicina, deia la cançó.
«Estem ben posicionats per ser pioners en el desenvolupament i la implementació responsable de la intel·ligència artificial, des de descobriments biològics fonamentals fins a la millora del desenvolupament de fàrmacs i la millora de l'eficiència dels processos d'assaigs clínics, passant per la prestació real de serveis sanitaris. L'atenció mèdica. La manera com està configurat el sistema sanitari», va dir.
Diversos ponents van emfatitzar un concepte simple: centrar-se en l'usuari (en aquest cas, el pacient o metge) i tot el demés vindrà després. "Això situa el pacient al centre de tot el que fem", va dir la Dra. Lisa Lehmann, directora de bioètica del Brigham and Women's Hospital. "Hem de tenir en compte les seves necessitats i prioritats".
D'esquerra a dreta: la presentadora de STAT News, Mohana Ravindranath; Jessica Peter Lee de Microsoft Research; Sylvia Plevritis, professora de ciència de dades biomèdiques, parla del paper de la intel·ligència artificial en la recerca mèdica. Steve Fish
Els ponents del panell, que incloïa Lehmann, la bioètica mèdica de la Universitat de Stanford Mildred Cho, MD, i el director clínic de Google Michael Howell, MD, van assenyalar la complexitat dels sistemes hospitalaris, i van emfatitzar la necessitat d'entendre el seu propòsit abans de qualsevol intervenció. Implementar-lo i garantir que tots els sistemes desenvolupats siguin inclusius i escoltin les persones a qui estan dissenyats per ajudar.
Una clau és la transparència: deixa clar d'on provenen les dades utilitzades per entrenar l'algoritme, quin és el propòsit original de l'algoritme i si les dades futures dels pacients continuaran ajudant l'algoritme a aprendre, entre altres factors.
«Intentar predir els problemes ètics abans que esdevinguin greus [significa] trobar el punt ideal perfecte on se sap prou sobre la tecnologia per tenir-hi certa confiança, però no abans que [el problema] s'estengui més i es resolgui abans», va dir Denton Char. Candidat a Ciències Mèdiques, professor associat del Departament d'Anestesiologia Pediàtrica, Medicina Perioperatòria i Medicina del Dolor. Un pas clau, diu, és identificar totes les parts interessades que podrien veure's afectades per la tecnologia i determinar com els agradaria respondre aquestes preguntes.
Jesse Ehrenfeld, doctor en medicina i president de l'Associació Mèdica Americana, analitza quatre factors que impulsen l'adopció de qualsevol eina de salut digital, incloses les que funcionen amb intel·ligència artificial. És eficaç? Funcionarà a la meva institució? Qui paga? Qui n'és el responsable?
Michael Pfeffer, MD, director d'informàtica de Stanford Health Care, va citar un exemple recent en què molts dels problemes es van provar entre infermeres dels hospitals de Stanford. Els clínics reben suport de grans models de llenguatge que proporcionen anotacions inicials per als missatges entrants dels pacients. Tot i que el projecte no és perfecte, els metges que van ajudar a desenvolupar la tecnologia informen que el model els alleuja la càrrega de treball.
«Sempre ens centrem en tres coses importants: seguretat, eficiència i inclusió. Som metges. Fem el jurament de "no fer mal", va dir Nina Vasan, MD, professora adjunta clínica de psiquiatria i ciències del comportament, que es va unir a Char i Pfeffer al grup. «Aquesta hauria de ser la primera manera d'avaluar aquestes eines».
Nigam Shah, MBBS, Ph.D., professor de Medicina i Ciència de Dades Biomèdiques, va començar el debat amb una estadística sorprenent tot i haver advertit el públic. «Parlo en termes generals i amb xifres, i de vegades tendeixen a ser molt directes», va dir.
Segons Shah, l'èxit de la IA depèn de la nostra capacitat d'escalar-la. "Fer una investigació científica adequada sobre un model triga uns 10 anys, i si cadascun dels 123 programes de beques i residències volgués provar i implementar el model amb aquest nivell de rigor, seria molt difícil fer la ciència correcta tal com organitzem actualment els nostres esforços i [provem]. Costaria 138.000 milions de dòlars assegurar-nos que tots els nostres llocs funcionin correctament", va dir Shah. "No ens ho podem permetre. Per tant, hem de trobar una manera d'expandir-nos, i hem d'expandir-nos i fer bona ciència. Les habilitats de rigor són en un lloc i les habilitats d'escalar són en un altre, així que necessitarem aquest tipus de col·laboració".
La vicedegana Yuan Ashley i la Mildred Cho (recepció) van assistir al taller de salut RAISE. Steve Fish
Alguns ponents del simposi van dir que això es podria aconseguir mitjançant col·laboracions público-privades, com ara la recent Ordre Executiva de la Casa Blanca sobre el Desenvolupament i Ús Segur, Protegit i Fiable de la Intel·ligència Artificial i el Consorci per a la Intel·ligència Artificial Sanitària (CHAI).
«La col·laboració público-privada amb més potencial és la que s'estableix entre el món acadèmic, el sector privat i el sector públic», va dir Laura Adams, assessora principal de l'Acadèmia Nacional de Medicina. Va assenyalar que el govern pot garantir la confiança pública, i els centres mèdics acadèmics poden proporcionar legitimitat, i el sector privat pot proporcionar coneixements tècnics i temps d'ordinador. «Tots som millors que qualsevol de nosaltres, i reconeixem que... no podem pregar per fer realitat el potencial de [la intel·ligència artificial] si no entenguem com interactuar entre nosaltres».
Diversos ponents van dir que la IA també està tenint un impacte en la recerca, ja sigui per explorar els dogmes biològics, predir noves seqüències i estructures de molècules sintètiques per donar suport a nous tractaments o fins i tot ajudar-los a resumir o escriure articles científics.
«Aquesta és una oportunitat per veure el desconegut», va dir Jessica Mega, MD, cardióloga de la Facultat de Medicina de la Universitat de Stanford i cofundadora de Verily d'Alphabet. Mega va esmentar les imatges hiperespectrals, que captura característiques d'imatge invisibles a l'ull humà. La idea és utilitzar la intel·ligència artificial per detectar patrons en diapositives de patologia que els humans no veuen i que indiquen malalties. «Animo a la gent a abraçar el desconegut. Crec que tothom aquí coneix algú amb algun tipus de condició mèdica que necessita alguna cosa més enllà del que podem proporcionar avui dia», va dir Mejia.
Els panelistes també van coincidir que els sistemes d'intel·ligència artificial proporcionaran noves maneres d'identificar i combatre la presa de decisions esbiaixades, ja siguin preses per humans o per intel·ligència artificial, amb la capacitat d'identificar la font del biaix.
«La salut és més que només atenció mèdica», van coincidir diversos panelistes. Els ponents van emfatitzar que els investigadors sovint passen per alt els determinants socials de la salut, com ara l'estatus socioeconòmic, el codi postal, el nivell d'educació i la raça i l'origen ètnic, a l'hora de recopilar dades inclusives i reclutar participants per a estudis. «La IA només és tan efectiva com les dades en què s'entrena el model», va dir Michelle Williams, professora d'epidemiologia a la Universitat de Harvard i professora associada d'epidemiologia i salut de la població a la Facultat de Medicina de la Universitat de Stanford. «Si fem el que ens esforcem per fer, millorar els resultats de salut i eliminar les desigualtats, hem d'assegurar-nos que recopilem dades d'alta qualitat sobre el comportament humà i l'entorn social i natural».
Natalie Pageler, MD, professora clínica de pediatria i medicina, va dir que les dades agregades sobre el càncer sovint exclouen les dades sobre les dones embarassades, cosa que crea biaixos inevitables en els models i exacerba les disparitats existents en l'atenció sanitària.
El Dr. David Magnus, professor de pediatria i medicina, va dir que, com qualsevol tecnologia nova, la intel·ligència artificial pot millorar les coses de moltes maneres o empitjorar-les. El risc, va dir Magnus, és que els sistemes d'intel·ligència artificial aprenguin sobre resultats de salut desiguals impulsats pels determinants socials de la salut i reforcin aquests resultats a través dels seus resultats. "La intel·ligència artificial és un mirall que reflecteix la societat en què vivim", va dir. "Espero que cada vegada que tinguem l'oportunitat de posar llum sobre un problema (de mostrar-nos un mirall) servirà de motivació per millorar la situació".
Si no vau poder assistir al taller de RAISE Health, podeu trobar una gravació de la sessió aquí.
La Facultat de Medicina de la Universitat de Stanford és un sistema integrat d'atenció mèdica acadèmica que consta de la Facultat de Medicina de la Universitat de Stanford i els sistemes de prestació d'atenció mèdica per a adults i pediàtrics. Junts, aconsegueixen aprofitar tot el potencial de la biomedicina a través de la recerca col·laborativa, l'educació i l'atenció clínica al pacient. Per a més informació, visiteu med.stanford.edu.
Un nou model d'intel·ligència artificial ajuda els metges i les infermeres de l'Hospital de Stanford a treballar junts per millorar l'atenció als pacients.
Data de publicació: 19 de juliol de 2024