Descripción general de los modelos de MedLM

Antecedentes

MedLM es una familia de modelos de base que se ajustan para el sector de la atención médica. Med-PaLM 2 es uno de los modelos basados en texto que desarrolló Google Research y que impulsa MedLM, y fue el primer sistema de IA en llegar a los niveles de expertos humanos para responder a preguntas del estilo del examen de licencias médicas (USMLE) de EE.UU. El desarrollo de estos modelos se pensó en base a las necesidades específicas de los clientes, como tener que responder preguntas médicas y redactar resúmenes.

Tarjeta del modelo de MedLM

La tarjeta del modelo MedLM describe los detalles del modelo, como el uso previsto para MedLM, el resumen de datos y la información de seguridad. Haz clic en el siguiente vínculo para descargar una versión de la tarjeta del modelo de MedLM en formato PDF:

Descarga la tarjeta del modelo de MedLM

Información regulatoria

Uso previsto de MedLM

MedLM se basa en el modelo grande de lenguaje ajustado de forma médica de Google Research, Med-PaLM 2. Está diseñado para usarse para responder preguntas y crear borradores de resúmenes a partir de documentación existente, para que el usuario los revise, edite y apruebe antes de su uso. MedLM también se usa con fines educativos para que un profesional de la salud (HCP) realice preguntas médicas y responda para ayudar al HCP.

Condiciones de uso y aplicaciones fuera del alcance

  • Los clientes y usuarios de MedLM deben cumplir con la Política de Uso Prohibido de la IA generativa, las Condiciones específicas del Servicio de Google Cloud Platform y las Condiciones del Servicio, Política de uso aceptable, Guía del usuario y otra documentación del producto.
  • Como parte deCondiciones específicas del servicio, los clientes no pueden usar MedLM con fines clínicos (para mayor claridad, investigación no clínica, programación y otras tareas administrativas no están restringidas), para proporcionar asesoramiento médico o de cualquier manera que se supervise o requiere la aprobación o aprobación de un organismo regulador de dispositivos médicos.
    • Se prohíbe el uso directo por parte de pacientes. El producto funciona como una herramienta de asistencia para un profesional clínico, un HCP o un trabajador del conocimiento con un alto grado de experiencia, educación o experiencia en la industria de la salud y las ciencias biológicas.
    • Se prohíbe el uso de MedLM como software como dispositivo médico.
  • El uso previsto para MedLM es crear borradores de documentos y respuestas que un “bucle con interacción humana” revisará antes de su uso.
  • Recomendamos el uso de MedLM solo para casos de uso de preguntas y respuestas médicas y de resúmenes en esta etapa:
    • Preguntas y respuestas de formato largo
    • Preguntas y respuestas de opción múltiple
    • Resúmenes, como la creación de resúmenes después de la visita o historia, y notas de la examinación física
  • Estos son algunos ejemplos de usos de dispositivos médicos que no están permitidos:
    • Análisis de registros de pacientes, patrones de receta, datos geográficos, etcétera, para identificar a los pacientes con posibles diagnósticos de adicción a opioides
    • Análisis de la información médica específica de los pacientes para detectar una afección peligrosa la vida, como un accidente grave o sepsis, y generar una alarma o una alerta para notificar a un HCP.
    • Análisis de la información médica específica de los pacientes en las historias clínicas, incluidos los resultados más recientes del informe de mamografías, con el fin de proporcionar una lista de acciones de seguimiento o de opciones de tratamiento.
    • Analizar una lista priorizada de opciones de tratamiento de depresión autorizadas por la FDA para un HCP basado en un análisis de los resultados informados en una base de datos de estudios clínicos que usan información médica (por ejemplo, diagnósticos y datos demográficos) de la historia clínica de los pacientes.

Por el momento, MedLM solo está disponible para los clientes incluidos en la lista de entidades permitidas en EE.UU.

MedLM no está diseñado para usarse como dispositivo médico. Los casos de uso de los clientes deben ser coherentes con el uso y las condiciones de uso previstos. Las preguntas y respuestas solo se deben usar con fines educativos y los resultados de resumen siempre deben revisar y verificar de forma independiente según su criterio clínico.

MedLM frente a PaLM

El uso de MedLM es similar al de PaLM. Sin embargo, a diferencia de PaLM, MedLM se ajusta para tareas médicas específicas, como formas seleccionadas de resumen y respuesta a preguntas médicas.

Sin embargo, al igual que con la mayoría de las aplicaciones nuevas de LLM, recomendamos realizar validaciones cuidadosas o ajustar tu uso de MedLM para garantizar un buen rendimiento en estas tareas. En el caso de las tareas que no requieren experiencia médica especializada (por ejemplo, tareas generales de PLN o tareas que operan sobre datos médicos, pero no requieren experiencia), esperamos que MedLM pueda tener un rendimiento similar a modelos más genérico modelos como PaLM, y fomenta la experimentación con ambos en el caso de uso específico. Consulta también el informe de Med-PaLM para obtener más detalles sobre las tareas de preguntas y respuestas en las que MedLM se entrenó y se validó. Funciones como basar las respuestas en fuentes médicas autorizadas o tener en cuenta la naturaleza cambiante a lo largo del tiempo del consenso médico no están incorporadas en el modelo, como se indica en la publicación.

De acuerdo con nuestras Condiciones específicas del servicio de IA generativa, los clientes no pueden usar MedLM con fines clínicos (para mayor claridad, investigación no clínica, programación o cualquier otra tarea administrativa es no restringido) para proporcionar asesoramiento médico, o de cualquier manera que se supervise o requiera de una aprobación o aprobación de una agencia reguladora de dispositivos médicos.

Modelos de MedLM

En la versión actual de MedLM, están disponibles dos modelos:

  • MedLM-medium
  • MedLM-large

MedLM-medium y MedLM-large tienen extremos independientes y proporcionan a los clientes flexibilidad adicional para sus casos de uso. MedLM-medium proporciona a los clientes mejores capacidades de procesamiento y, además, incluye datos más recientes. MedLM-large es el mismo modelo de la fase de vista previa. Ambos modelos se seguirán actualizando durante el ciclo de vida del producto. En esta página, “MedLM” hace referencia a ambos modelos.

Responsabilidades de los clientes

MedLM se desarrolló teniendo en cuenta a los usuarios profesionales con certificaciones de salud. Los clientes y los usuarios finales de Google Cloud deben comprender que los LLMs y la IA generativa son intrínsecamente probabilísticos y es posible que no siempre sean precisos. Sin la consideración ni los controles adecuados por parte de los clientes, el uso de modelos de IA generativa en el cuidado de la salud puede constituir un peligro para los pacientes debido a contenido impreciso, falta de contenido o contenido sesgado o engañoso.

  • Los clientes deben implementar las mitigaciones de riesgos adecuadas para todos los usos de MedLM, como la educación adecuada de los profesionales, la capacitación, la evaluación de equidad y los controles técnicos adecuados.
  • Los clientes también deben realizar sus propias evaluaciones para valorar el rendimiento y la seguridad a fin de garantizar el daño a sus casos de uso.

MedLM puede producir resultados menos precisos para algunos grupos en comparación con otros según la pregunta y cómo se plantea. Los clientes deben tener en cuenta que el rendimiento diferente de los resultados del modelo en los grupos demográficos tiene el potencial de empeorar las desigualdades en la salud y perpetuar sesgos dañinos. Esas inexactitudes no son exclusivas de MedLM y, a menudo, derivan de varios factores, como las desigualdades sociales y estructurales, los conceptos erróneos médicos, los estereotipos negativos y la falta de diversidad en el entrenamiento de los datos.

  • Los clientes deben considerar implementar evaluaciones y mitigaciones centradas en la equidad. Esto incluye la evaluación del rendimiento y el comportamiento del modelo para casos de uso previstos dentro de varias poblaciones (por ejemplo, origen étnico, origen socioeconómico (SES), geografía, identidad de género, orientación sexual, edad, preferencia de idioma, casta, etc.) para obtener comentarios sobre el rendimiento; interactuar con expertos interdisciplinarios y socios externos que se especializan en definir y abordar aspectos sociales y estructurales de la salud; y realizar esfuerzos de supervisión continuos para evaluar y abordar los problemas de sesgo.

Solicitar acceso

El acceso a los modelos de MedLM está restringido. Para solicitar acceso, comunícate con el equipo de cuentas de Google Cloud.

Enviar comentarios

Tus comentarios a lo largo de tu experiencia nos ayudarán a mejorar las versiones futuras del modelo y garantizaremos que sigamos brindando la mejor experiencia posible para nuestros usuarios. Comunícate con medlm-feedback@google.com y copia el equipo de cuentas de Google Cloud y el Ingeniero de Atención al cliente (CE) de Google Cloud. No se ofrece asistencia inmediata a esta dirección de correo electrónico. Para solicitar asistencia inmediata, comunícate con el equipo de cuentas de Google Cloud o el Ingeniero de Atención al cliente (CE) de Google Cloud.

Las respuestas por correo electrónico se usarán como Comentarios según las condiciones de tu Acuerdo de los Servicios de Google Cloud y se recopilarán de acuerdo con el Aviso de Privacidad de Google Cloud. No incluyas información personal (nombres, direcciones de correo electrónico) en este formulario de comentarios ni otros datos sensibles o confidenciales. Ten en cuenta que los datos se pueden revisar mediante procesamiento revisado por personas y con procesamiento automatizado.

Denunciar abuso

Puedes informar el posible abuso de la API de MedLM, cualquier resultado generado que contenga material inapropiado o información imprecisa en Denunciar sospechas de abuso en Google Cloud. En la lista Google Cloud Platform Service, selecciona Cloud AI.

Precios

El acceso a los precios de MedLM está restringido. Para solicitar acceso, comunícate con el equipo de cuentas de Google Cloud. Si tienes acceso, consulta los precios de MEDL.

¿Qué sigue?