MedLM-Modelle – Übersicht

Hintergrund

MedLM ist eine Familie von Foundation Models, die für die Gesundheitsbranche optimiert wurden. Med-PaLM 2 ist eines der von Google Research entwickelten textbasierten Modelle, die MedLM unterstützen. Es war das erste KI-System, das den Level menschlicher Experten in Sachen Antworten auf USMLE (US Medical Licensing Examination)-Fragen erreichte. Die Entwicklung dieser Modelle wurde durch bestimmte Kundenanforderungen bestimmt, darunter die Beantwortung medizinischer Fragen und das Erstellen von Zusammenfassungen.

MedLM-Modellkarte

Die MedLM-Modellkarte enthält die Modelldetails, z. B. die vorgesehene Verwendung von MedLM, eine Datenübersicht und Sicherheitsinformationen. Klicken Sie auf den folgenden Link, um eine PDF-Version der MedLM-Modellkarte herunterzuladen:

MedLM-Modellkarte herunterladen

Rechtliche Hinweise

MedLM: Beabsichtigte Verwendung

MedLM basiert auf dem für den Medizinbereich optimierten großen Sprachmodell von Google Research, Med-PaLM 2. Es ist für die Beantwortung von Fragen und zum Erstellen von Entwurfszusammenfassungen aus vorhandenen Dokumentationen vorgesehen. Die Ergebnisse müssen vom Nutzer vor der Verwendung geprüft, bearbeitet und genehmigt werden. MedLM wird auch für Bildungszwecke für Healthcare-Experten (HCPs, Health Care Professionals) verwendet. Es kann medizinische Fragen stellen und beantworten, um den HCP zu unterstützen.

Nutzungsbedingungen und nicht in den Geltungsbereich fallende Anwendungen

  • MedLM-Kunden und -Nutzer müssen sich an die Richtlinien zur verbotenen Nutzung von Generative AI und die dienstspezifischen Nutzungsbedingungen der Google Cloud Platform, Nutzungsbedingungen, Richtlinien zur zulässigen Verwendung, Nutzerhandbuch und andere Produktdokumentationen halten.
  • Im Rahmen der dienstspezifischen Nutzungsbedingungen dürfen Kunden MedLM nicht für klinische Zwecke verwenden (zur Klarstellung: Nicht klinische Forschung, Planung und andere Verwaltungsaufgaben fallen nicht unter diese Zwecke), zur medizinischen Beratung oder für andere Zwecke verwenden, für die eine Zulassung oder Genehmigung von einer Regulierungsbehörde für Medizinprodukte erforderlich ist.
    • Die direkte Nutzung durch Patienten ist verboten. Das Produkt dient als Hilfsmittel für Ärzte, Gesundheitsdienstleister oder Wissensarbeiter mit einem hohen Grad an Fachwissen, Bildung oder Erfahrung im Gesundheitswesen und in der Biowissenschaft.
    • Die Verwendung von MedLM als Software als medizinisches Hilfsmittel ist verboten.
  • Der Zweck von MedLM besteht darin, Dokumente und Antworten zu entwerfen, die vor der Verwendung von einem „Human in the Loop“ geprüft werden.
  • Wir empfehlen die Verwendung von MedLM aktuell ausschließlich für medizinische Abfragen und Zusammenfassungen:
    • Ausführliche Fragen und Antworten
    • Multiple-Choice-Fragen und -Antworten
    • Zusammenfassungen, z. B. das Erstellen von Zusammenfassungen von Gesprächsergebnissen oder von Krankengeschichten und Untersuchungsnotizen
  • (Unvollständige) Liste an verbotenen medizinischen Nutzungen:
    • Analyse von Patientenakten, Verschreibemustern, geografischen Daten usw. zur Identifizierung von Patienten mit möglicher Diagnose von Opioidabhängigkeit.
    • Analyse patientenspezifischer medizinischer Informationen zur Erkennung einer lebensbedrohenden Erkrankung, wie z. B. Schlaganfall oder Sepsis, und Generieren eines Alarms oder einer Benachrichtigung, um einen HCP zu benachrichtigen.
    • Analyse patientenspezifischer medizinischer Informationen aus den Krankenakten, einschließlich der neuesten Ergebnisse der Mammografieberichte, um eine Liste an Folgeaktionen oder Behandlungsoptionen bereitzustellen.
    • Analyse der priorisierten Liste von FDA-autorisierten behandlungsoptionen bei Depressionen für einen HCP basierend auf einer Analyse der gemeldeten Ergebnisse in einer Datenbank klinischer Studien unter Nutzung medizinischer Informationen (z. B. Diagnose und demografische Merkmale) aus dem medizinischen Datensatz des Patienten.

MedLM ist nicht zur Verwendung als Medizinprodukt gedacht. Kundenanwendungsfälle müssen der beabsichtigten Verwendung und den Nutzungsbedingungen entsprechen. Die Fragen und Antworten sollten nur für Bildungszwecke verwendet werden und Zusammenfassungen-Ausgaben müssen immer vom Nutzer auf der Grundlage seines klinischen Urteils geprüft und verifiziert werden.

MedLM-Standorte

MedLM ist für eine begrenzte Gruppe von Kunden allgemein verfügbar (GA) in den USA, Brasilien und Singapur und für eine begrenzte Gruppe von Kunden außerhalb der USA in der Vorabversion.

MedLM im Vergleich zu PaLM

Die Nutzung von MedLM ähnelt der von PaLM. Anders als bei PaLM wurde MedLM jedoch auf bestimmte medizinische Aufgaben zugeschnitten, wie z. B. ausgewählte Formen der Zusammenfassung oder die Beantwortung von medizinischen Fragen.

Wie bei den meisten neuen Anwendungen von LLMs empfehlen wir jedoch eine sorgfältige Validierung und/oder Feinabstimmung Ihrer Nutzung von MedLM, um eine gute Leistung bei diesen Aufgaben zu gewährleisten. Für Aufgaben, die kein spezielles medizinisches Fachwissen erfordern, z. B. allgemeine NLP-Aufgaben oder Aufgaben, die mit medizinischen Daten arbeiten, aber keine Fachkenntnis erfordern, gehen wir davon aus, dass MedLM eine ähnliche Leistung bietet wie allgemeine Modelle wie z. B. PaLM und ermuntern Sie, beide Modelle für die spezifischen Anwendungsfälle zu testen. Weitere Informationen zu Aufgaben im Bereich medizinischer Fragen und Antworten, für die MedLM trainiert und validiert wurde, finden Sie im Med-PaLM-Artikel. Funktionen wie das Erstellen von Antworten auf Basis autoritativer medizinischer Quellen oder die Berücksichtigung der zeitabhängigen Natur des medizinischen Konsens sind nicht in das Modell eingebunden, wie in der Publikation erwähnt.

Gemäß unseren Nutzungsbedingungen für Generativ AI-Dienste dürfen Kunden MedLM nicht für klinische Zwecke (zur Klarstellung: nicht klinische Forschung, Planung oder andere Verwaltungsaufgaben fallen nicht unter diese Zwecke), zur medizinischen Beratung oder für andere Zwecke verwenden, für die eine Zulassung oder Genehmigung von einer Regulierungsbehörde für Medizinprodukte erforderlich ist.

MedLM-Modelle

In der aktuellen MedLM-Release werden zwei Modelle verfügbar gemacht:

  • MedLM-medium
  • MedLM-large

MedLM-medium und MedLM-large haben separate Endpunkte und bieten Kunden zusätzliche Flexibilität für ihre Anwendungsfälle. MedLM-medium bietet Kunden bessere Durchsätze und enthält neuere Daten. MedLM-large ist das gleiche Modell aus der Vorschauphase. Beide Modelle werden über den gesamten Produktlebenszyklus aktualisiert. Auf dieser Seite bezieht sich "MedLM" auf beide Modelle.

Pflichten der Kunden

MedLM wurde für speziell für ausgebildete und lizenzierte Nutzer im Gesundheitswesen entwickelt. Google Cloud-Kunden und -Endnutzer sollten verstehen, dass LLMs und generative KI von Natur aus probabilistisch und möglicherweise nicht immer genau sind. Ohne eine angemessene Berücksichtigung oder angemessene Kontrolle durch die Kunden kann die Verwendung generativer KI-Modelle im Gesundheitswesen ein Risiko für Patienten bedingen, da sie falsche, fehlende oder irreführende, verzerrte Inhalte ausgeben können.

  • Kunden sollten angemessene Risikominderungen für alle Verwendungsmöglichkeiten von MedLM implementieren, z. B. angemessene Bildung, Schulung, Equity-Bewertung und angemessene technische Kontrollen.
  • Kunden müssen auch eigene Bewertungen zu Leistung und Sicherheit durchführen, um Schäden bei ihren Anwendungsfällen zu vermeiden.

Je nach Frage und Fragestellung kann MedLM für einige Gruppen im Vergleich zu anderen Gruppen weniger genaue Ergebnisse liefern. Kunden sollten sich darüber im Klaren sein, dass eventuelle unterschiedliche Leistung der Modellausgaben für demografischen Gruppen das Potential birgt, das Ungleichbehandlungen im Gesundheitsbereich schlimmer werden und schädliche Vorurteile verbreitet werden könnten. Derartige Ungenauigkeiten in Ausgaben gibt es nicht nur in MedLM und beruhen oft auf mehreren Faktoren, z. B. vorhandenen sozialen und strukturellen Ungleichheiten, medizinischen Missverständnissen, negativen Stereotypen und fehlender Vielfalt in den Trainingsdaten.

  • Kunden sollten die Implementierung von gleichstellungsorientierten Bewertungen und Praktiken zur Risikominderung in Betracht ziehen. Dies beinhaltet die Bewertung der Modellleistung und des Modellvverhalten für beabsichtigte Anwendungsfälle in verschiedenen Gruppen, z. B. ethnische herkunft, sozioökonomischer Status (SES, SocioEconomic Status)), Wohnort, Geschlechtsidentität, sexuelle Orientierung, Alter, Sprachvorlieben, Gesellschaftsklasse; das Feedback zur Leistung; die Arbeit mit interdisziplinären Experten und externen Partnern, die auf die Definition und Beantwortung von sozialen und strukturellen Aspekten des Gesundheitswesens spezialisiert sind; und ein kontinuierliches Monitoring, um auf Voreingenommenheit basierende Probleme zu bewerten und zu beheben.

Zugriff anfordern

Der Zugriff auf die MedLM-Modelle ist eingeschränkt. Wenden Sie sich an Ihr Google Cloud-Account-Management-Team, um Zugriff zu erhalten.

Feedback geben

Ihr Feedback hilft uns, zukünftige Modellversionen zu verbessern und dafür zu sorgen, dass wir unseren Nutzern weiterhin die bestmögliche Nutzung bieten. Wenden Sie sich an medlm-feedback@google.com und setzen Sie Ihr Google Cloud-Account-Management-Team und Ihren Google Cloud Customer Engineer auf CC. Diese E-Mail-Adresse bietet keinen umgehenden Kundenservice. Wenn Sie sofortige Unterstützung benötigen, wenden Sie sich an Ihr Google Cloud-Kontoteam oder Ihren Google Cloud-Customer Engineer (CE).

E-Mail-Antworten werden gemäß den Nutzungsbedingungen Ihrer Vereinbarung für Google Cloud-Dienste als Feedback verwendet und gemäß der Datenschutzerklärung für Google Cloud erhoben. Geben Sie in diesem Feedbackformular keine personenbezogenen Daten (Namen, E-Mail-Adressen) oder andere vertrauliche oder sensitive Daten an. Die Daten können sowohl manuell als auch automatisch geprüft werden.

Missbrauch melden

Sie können mutmaßlichen Missbrauch der MedLM API, generierte Ausgaben, die unangemessenes Material enthalten, und ungenaue Informationen über Verdächtigen Missbrauch in Google Cloud melden melden. Wählen Sie in der Liste Google Cloud Platform-Dienst die Option Cloud AI aus.

Preise

Nächste Schritte