Présentation des modèles MedLM

Contexte

MedLM est une famille de modèles de fondation affinés pour le secteur de la santé. Med-PaLM 2 est l'un des modèles textuels développés par Google Research qui alimente MedLM. Il s'agit du premier système d'IA à atteindre un niveau d'expertise humain pour répondre aux questions types de l'US Medical Licensing Examination (USMLE). Le développement de ces modèles a été influencé par les besoins spécifiques des clients, tels que des réponses à des questions médicales et la rédaction de synthèses.

Fiche du modèle MedLM

La fiche du modèle MedLM décrit les détails du modèle, tels que l'utilisation prévue, la présentation des données et les informations de sécurité. Cliquez sur le lien suivant pour télécharger une version PDF de la fiche de modèle MedLM :

Télécharger la fiche de modèle MedLM

Informations réglementaires

Utilisation prévue de MedLM

MedLM est basé sur le grand modèle de langage Med-PaLM 2 de Google Research, réglé à des fins médicales. Il est destiné à être utilisé pour répondre aux questions et créer des brouillons de résumés à partir de la documentation existante. Il doit être examiné, modifié et approuvé par l'utilisateur avant toute utilisation. MedLM est également utilisé à des fins pédagogiques pour permettre à un professionnel de santé (HCP) poser des questions médicales et d'y répondre.

Conditions d'utilisation et applications non couvertes

  • Les clients et les utilisateurs de MedLM doivent respecter les Règles d'utilisation interdite de l'IA générative, les Conditions d'utilisation spécifiques des services Google Cloud Platform, ainsi que les Conditions d'utilisation, les Règles d'utilisation autorisée, le Guide de l'utilisateur et les autres documentations produit.
  • Dans le cadre des Conditions d'utilisation spécifiques du service, les clients ne peuvent pas utiliser MedLM à des fins cliniques (par souci de clarté, la recherche non clinique, la planification ou les autres tâches administratives ne font pas l'objet de restrictions), pour fournir des conseils médicaux ou de quelque manière que ce soit qui fait l'objet d'une supervision par un organisme de réglementation, ou qui nécessite une autorisation ou une approbation de sa part.
    • L'utilisation directe par les patients est interdite. Le produit fonctionne comme un outil d'assistance pour un clinicien, un HCP ou un travailleur du savoir disposant d'un haut niveau d'expertise, d'éducation ou d'expérience dans le secteur de la santé et des sciences de la vie.
    • L'utilisation de MedLM en tant que logiciel d'appareil médical est interdite.
  • L'utilisation prévue pour MedLM consiste à rédiger des documents et des réponses qui seront examinés avec intervention humaine avant de les utiliser.
  • À ce stade, nous vous recommandons d'utiliser l'utilisation de MedLM uniquement pour les cas d'utilisation de questions-réponses et de résumés médicaux :
    • Questions/réponses longues
    • Questions/Réponses à choix multiples
    • Résumés (par exemple, création de résumés après la visite ou de notes d'historique et d'examen physique)
  • Voici quelques exemples, mais sans s'y limiter, d'utilisations non autorisées d'appareils médicaux :
    • Analyse des dossiers des patients, des schémas d'ordonnance, des données géographiques, etc., pour identifier les patients susceptibles de présenter des diagnostics d'addiction aux opioïdes.
    • Analyse d'informations médicales spécifiques au patient pour détecter une condition vitale, telle qu'un accident vasculaire cérébral ou une septicémie, et générer une alarme ou une alerte pour avertir un HCP.
    • L'analyse des informations médicales spécifiques aux patients trouvées dans les dossiers médicaux, y compris les résultats les plus récents du rapport de mammographie, pour fournir une liste des actions de suivi ou des options de traitement.
    • Analyse d'une liste prioritaire d'options de traitement pour la dépression autorisées par la FDA à un HCP selon une analyse des résultats signalés dans une base de données d'études cliniques utilisant des informations médicales (par exemple, des diagnostics et des données démographiques) issues du dossier médical du patient.

MedLM n'est actuellement disponible que pour les clients figurant sur la liste d'autorisation aux États-Unis.

MedLM n'est pas destiné à être utilisé comme appareil médical. Les cas d'utilisation client doivent être conformes à l'utilisation prévue et aux conditions d'utilisation. Les questions/réponses ne doivent être utilisées qu'à des fins pédagogiques, et les résultats des résumés doivent toujours être examinés et validés de manière indépendante par l'utilisateur sur la base de son jugement clinique.

MedLM et PaLM

L'utilisation de MedLM est semblable à celle de PaLM. Cependant, contrairement à PaLM, MedLM a été spécialement adapté à des tâches médicales spécifiques, telles que certaines formes de résumés et de réponses aux questions médicales.

Toutefois, comme pour la plupart des nouvelles applications de LLM, nous vous encourageons à effectuer une validation et/ou à ajuster votre utilisation de MedLM avec soin pour garantir de bonnes performances sur ces tâches. Pour les tâches qui ne nécessitent pas d'expertise médicale spécialisée (par exemple, des tâches TLN générales ou exécutées sur des données médicales, mais qui ne nécessitent pas d'expertise), nous pensons que MedLM peut fonctionner comme des modèles plus génériques tels que PaLM et nous encourageons l'expérimentation des deux sur le cas d'utilisation spécifique. Consultez également l'article Med-PaLM pour plus de détails sur les tâches de questions/réponses sur lesquelles MedLM a été entraîné et validé. Des fonctionnalités telles que l'ancrage des réponses dans des sources médicales faisant autorité ou la prise en compte de la nature variable du consensus médical ne sont pas intégrées au modèle, comme indiqué dans la publication.

Conformément à nos Conditions spécifiques du service d'IA générative, les clients ne peuvent pas utiliser MedLM à des fins cliniques (par souci de clarté, la recherche non clinique, la planification ou les autres tâches administratives ne font pas l'objet de restrictions) pour fournir des conseils médicaux ou ou de quelque manière que ce soit qui fait l'objet d'une supervision par un organisme de réglementation, ou qui nécessite une autorisation ou une approbation de sa part.

Modèles MedLM

Deux modèles sont disponibles dans cette version de MedLM actuelle :

  • MedLM-medium
  • MedLM-large

MedLM-medium et MedLM-large ont des points de terminaison distincts et offrent aux clients une flexibilité supplémentaire pour leurs cas d'utilisation. MedLM-medium offre aux clients de meilleurs débits et inclut des données plus récentes. MedLM-large est le même modèle que celui de la phase preview. Les deux modèles continueront d'être actualisés tout au long du cycle de vie du produit. Sur cette page, "MedLM" fait référence aux deux modèles.

Responsabilités du client

MedLM a été conçu pour les utilisateurs qui sont des professionnels de santé formés et agréés. Les clients et les utilisateurs finaux de Google Cloud doivent comprendre que les LLM et l'IA générative sont intrinsèquement probabilistes et peuvent ne pas toujours être précis. Sans une prise en compte ou un contrôle appropriés par les clients, l'utilisation de modèles d'IA générative dans le domaine de la santé peut présenter un risque pour les patients en raison de contenus inexacts, de contenus manquants ou de contenus trompeurs et biaisés.

  • Les clients doivent mettre en œuvre les mesures d'atténuation des risques appropriées pour toutes les utilisations de MedLM, telles que l'éducation et la formation appropriées des professionnels, l'évaluation de l'équité et les contrôles techniques appropriés.
  • Les clients doivent également effectuer leurs propres évaluations en termes de performances et de sécurité afin de garantir la prévention de préjudices pour leurs cas d'utilisation.

MedLM peut produire des résultats moins précis pour certains groupes que d'autres en fonction de la question et de la manière dont elle est posée. Les clients doivent être conscients que des performances différentes des résultats du modèle sur les différents groupes démographiques peuvent exacerber les inégalités en matière de santé et perpétuer des biais dangereux. Ces inexactitudes dans les résultats ne sont pas propres à MedLM et résultent souvent de plusieurs facteurs, tels que des inégalités sociales et structurelles existantes, des idées reçues sur le plan médical, des stéréotypes négatifs et un manque de diversité dans les données d'entraînement.

  • Les clients doivent envisager de mettre en œuvre des évaluations basées sur l'équité, et des mesures d'atténuation. Cela comprend l'évaluation des performances et du comportement des modèles pour des cas d'utilisation prévus dans différentes populations (par exemple, l'origine ethnique, le statut socio-économique (SES), la géographie, l'identité de genre, l'orientation sexuelle, l'âge, la préférence linguistique, caste, etc.) ; obtenir des commentaires sur les performances ; faire intervenir des experts interdisciplinaires et des partenaires externes spécialisés dans la définition et le traitement des aspects sociaux et structurels de la santé ; et la surveillance continue pour évaluer et résoudre les problèmes de biais.

Demande d'accès

L'accès aux modèles MedLM est limité. Pour demander l'accès, contactez l'équipe chargée de votre compte Google Cloud.

Envoyer des commentaires

Vos commentaires tout au long de votre expérience nous aideront à améliorer les futures versions de modèle et à nous assurer de continuer à offrir la meilleure expérience possible à nos utilisateurs. Contactez medlm-feedback@google.com et copiez l'équipe chargée de votre compte Google Cloud et l'ingénieur client Google Cloud. Cette adresse e-mail n'est pas destinée à vous fournir une assistance immédiate. Pour demander une assistance immédiate, contactez l'équipe chargée de votre compte Google Cloud ou l'ingénieur client Google Cloud.

Les réponses par e-mail seront utilisées comme commentaires conformément aux conditions de votre contrat pour les services Google Cloud et seront collectées conformément à l'Avis de confidentialité de Google Cloud. N'incluez aucune information personnelle (nom, adresse e-mail) dans ce formulaire de commentaires ni aucune autre donnée sensible ou confidentielle. Notez que les données peuvent être examinées à la fois par des réviseurs humains et des processus automatisés.

Signaler un abus

Vous pouvez signaler un abus présumé de l'API MedLM et tout résultat généré contenant du contenu inapproprié ou des informations inexactes dans la section Signaler un abus présumé sur Google Cloud. Dans la liste Services Google Cloud Platform, sélectionnez Cloud AI.

Tarifs

Étapes suivantes