Panoramica dei modelli MedLM

Contesto

MedLM è una famiglia di modelli di base perfezionati per il settore sanitario. Med-PaLM 2 è uno dei modelli basati su testo sviluppati da Google Research a supporto di MedLM ed è stato il primo sistema di AI a raggiungere il livello di esperti umani nel rispondere a domande in stile USMLE (Health Medical Licensing Examination). Lo sviluppo di questi modelli è basato sulle esigenze specifiche del cliente, come la risposta a domande mediche e la stesura di riassunti.

Scheda del modello MedLM

La scheda del modello MedLM delinea i dettagli del modello, ad esempio l'uso previsto, la panoramica dei dati e le informazioni sulla sicurezza da parte di MedLM. Fai clic sul seguente link per scaricare una versione PDF della scheda del modello MedLM:

Scarica la scheda del modello MedLM

Informazioni sulle normative

Uso previsto da MedLM

MedLM si basa sul modello linguistico di grandi dimensioni ottimizzato a livello medico di Google Research, Med-PaLM 2. È destinato a essere utilizzato per rispondere alle domande e creare riassunti di bozze sulla base di documenti esistenti per essere esaminati, modificati e approvati dall'utente prima dell'uso. MedLM viene utilizzato anche a scopo didattico per consentire agli operatori sanitari (HCP) di partecipare a domande e risposte in ambito medico per supportare l'HCP.

Condizioni di utilizzo e applicazioni fuori ambito

  • I clienti e gli utenti di MedLM devono rispettare le Norme relative all'uso vietato dell'IA generativa, i Termini specifici dei servizi di Google Cloud Platform, i Termini di servizio, le Norme di utilizzo accettabile, la Guida dell'utente e altra documentazione del prodotto.
  • Nell'ambito dei Termini specifici dei servizi, i clienti non possono utilizzare MedLM per scopi clinici (per chiarezza, ricerca non clinica, pianificazione e altre attività amministrative non sono limitate), per fornire consulenza medica o in qualsiasi modo sotto la supervisione di o che richieda l'autorizzazione o l'approvazione da parte di un ente di regolamentazione dei dispositivi medici.
    • È vietato l'uso diretto dei pazienti. Il prodotto funge da strumento di assistenza per medico, HCP o lavoratore della conoscenza con un elevato livello di competenza, formazione o esperienza nel settore della sanità e delle scienze biologiche.
    • È vietato l'utilizzo di MedLM come software come dispositivo medico.
  • L'utilizzo previsto di MedLM è la bozza di documenti e risposte che verrebbero esaminati da un "human-in-the-loop" prima dell'utilizzo.
  • In questa fase consigliamo di utilizzare MedLM esclusivamente per i casi d'uso di domande e risposte e riassunto in ambito medico:
    • Domande e risposte nel formato lungo
    • Domande e risposte a scelta multipla
    • Riassunti, come la creazione di Riepiloghi dopo la visita o Cronologia e note sugli esami fisici
  • Esempi di utilizzi non consentiti di dispositivi medici includono (a titolo esemplificativo):
    • Analisi delle cartelle dei pazienti, dei modelli di prescrizione, dei dati geografici e così via per identificare i pazienti con una possibile diagnosi di dipendenza da oppioidi.
    • Analisi di informazioni mediche specifiche del paziente per rilevare una condizione pericolosa per la vita, come ictus o sepsi, e generare una sveglia o un avviso per notificare un HCP.
    • Analisi delle informazioni mediche specifiche del paziente presenti nelle cartelle cliniche, compresi i risultati delle segnalazioni mammografiche più recenti, per fornire un elenco delle azioni di follow-up o delle opzioni di trattamento.
    • Analisi dell'elenco prioritario di opzioni di trattamento della depressione autorizzate dalla FDA a un HCP in base a un'analisi dei risultati segnalati in un database di studi clinici utilizzando informazioni mediche (ad esempio diagnosi e dati demografici) provenienti dalla cartella clinica del paziente.

MedLM è attualmente disponibile solo per i clienti inclusi nella lista consentita negli Stati Uniti.

MedLM non è destinato a essere utilizzato come dispositivo medico. I casi d'uso del Cliente devono essere coerenti con l'uso previsto e le condizioni d'uso. La funzionalità Domande e risposte deve essere utilizzata solo a scopo didattico e i risultati di riassunto devono sempre essere esaminati e verificati in modo indipendente dall'utente in base al giudizio clinico.

MedLM e PaLM

L'utilizzo di MedLM è simile a quello di PaLM. Tuttavia, a differenza di PaLM, MedLM è stato ottimizzato per attività mediche specifiche, come determinate forme di riepilogo e la risposta a domande mediche.

Come per la maggior parte delle nuove applicazioni degli LLM, tuttavia, incoraggiamo l'esecuzione di un'attenta convalida e/o l'ottimizzazione dell'utilizzo di MedLM per garantire buone prestazioni in queste attività. Per le attività che non richiedono competenze mediche specialistiche (ad esempio attività generali di NLP o attività che operano su dati medici ma non richiedono esperienza), ci aspettiamo che MedLM possa svolgere modelli simili a quelli più generici come PaLM e incoraggiare la sperimentazione di entrambi sul caso d'uso specifico. Consulta anche il documento di Med-PaLM per ulteriori dettagli sulle attività di domande e risposte per le quali è stato addestrato e convalidato MedLM. Funzionalità come il supporto delle risposte nelle fonti mediche autorevoli o la presa in considerazione della natura variabile del consenso medico non sono integrate nel modello, come indicato nella pubblicazione.

In base ai nostri Termini specifici dei servizi per l'IA generativa, i clienti non possono utilizzare MedLM per scopi clinici (per chiarezza, ricerca non clinica, pianificazione o altre attività amministrative non sono limitate), per fornire consulenza medica o in qualsiasi modo che sia controverso o richieda l'autorizzazione o l'approvazione di un ente normativo per dispositivi medici.

Modelli MedLM

Nella versione attuale di MedLM, sono stati resi disponibili due modelli:

  • MedLM, carnagione media
  • MedLM-large

MedLM-medium e MedLM-large hanno endpoint separati e offrono ai clienti una maggiore flessibilità per i loro casi d'uso. MedLM-medium fornisce ai clienti velocità effettiva migliori e include dati più recenti. MedLM-large è lo stesso modello della fase di anteprima. Entrambi i modelli continueranno a essere aggiornati nel corso del ciclo di vita. In questa pagina, "MedLM" si riferisce a entrambi i modelli.

Responsabilità del cliente

MedLM è stato sviluppato pensando a utenti medici addestrati e autorizzati. I clienti e gli utenti finali di Google Cloud devono comprendere che gli LLM e l'IA generativa sono intrinsecamente probabilistici e potrebbero non essere sempre accurati. Senza un'adeguata considerazione o controlli da parte dei clienti, l'uso di modelli di IA generativa in ambito sanitario può costituire un pericolo per i pazienti a causa di contenuti imprecisi, contenuti mancanti o contenuti fuorvianti e distorti.

  • I clienti devono implementare adeguate mitigazioni dei rischi per tutti gli utilizzi di MedLM, come ad esempio formazione, formazione, valutazione dell'equità e controlli tecnici appropriati per i professionisti.
  • I clienti devono anche eseguire le proprie valutazioni delle prestazioni e della sicurezza per garantire la prevenzione di danni per i loro casi d'uso.

MedLM può produrre risultati meno precisi per alcuni gruppi rispetto ad altri, a seconda della domanda e della posizione. I clienti devono essere consapevoli del fatto che prestazioni diverse degli output del modello nei vari gruppi demografici potrebbero esacerbare le disuguaglianze sanitarie e perpetuare bias dannosi. Queste inesattezze dei risultati non sono specifiche di MedLM e spesso derivano da più fattori, come disuguaglianze sociali e strutturali esistenti, errate concezioni mediche, stereotipi negativi e mancanza di diversità nei dati di addestramento.

  • I clienti dovrebbero prendere in considerazione l'implementazione di valutazioni e mitigazioni incentrate sull'equità. Ciò include la valutazione delle prestazioni e del comportamento del modello per i casi d'uso previsti all'interno di varie popolazioni (ad esempio, gruppo etnico, stato socioeconomico (SES), area geografica, identità di genere, orientamento sessuale, età, preferenza della lingua, casta e così via), acquisizione di feedback sulle prestazioni, coinvolgimento di esperti interdisciplinari e partner esterni specializzati nella definizione e risoluzione di problemi strutturali e sociali per il monitoraggio e il monitoraggio continuo.

Richiedi l'accesso

L'accesso ai modelli MedLM è limitato. Per richiedere l'accesso, contatta il team dedicato al tuo account Google Cloud.

Invia il tuo feedback

Il tuo feedback ci aiuterà a migliorare le versioni future dei modelli e a garantirci di continuare a offrire la migliore esperienza possibile ai nostri utenti. Contatta medlm-feedback@google.com e copia il team dedicato al tuo account Google Cloud e il Customer Engineer (CE) di Google Cloud. Questo indirizzo email non è destinato a ricevere assistenza immediata. Per richiedere assistenza immediata, contatta il team dedicato al tuo account Google Cloud o il tuo Customer Engineer (CE) Google Cloud.

Le risposte via email verranno utilizzate come Feedback ai sensi dei termini del Contratto dell'utente per i servizi Google Cloud e verranno raccolte in conformità con l'Informativa sulla privacy di Google Cloud. Non includere informazioni personali (nomi, indirizzi email) in questo modulo di feedback o altri dati sensibili o riservati. Tieni presente che i dati possono essere esaminati utilizzando sia la revisione da parte di persone fisiche sia l'elaborazione automatica.

Segnalare un abuso

Puoi segnalare i sospetti abusi dell'API MedLM, qualsiasi output generato contenente materiale inappropriato o informazioni imprecise in Segnalare presunti abusi su Google Cloud. Nell'elenco Servizio della piattaforma Google Cloud, seleziona AI Cloud.

Prezzi

L'accesso ai prezzi di MedLM è limitato. Per richiedere l'accesso, contatta il team dedicato al tuo account Google Cloud. Se disponi dell'accesso, consulta la pagina relativa ai prezzi di MedLM.

Passaggi successivi