MedLM-Modelle – Übersicht

Haftungsausschluss: MedLM in Vertex AI steht Kunden auf der Zulassungsliste zur Verfügung. Auf dieser Zulassungsliste für GA-Versionen (nur für die USA verfügbar) liegt der Schwerpunkt auf der Verwendung medizinischer Fragen und Antworten und medizinischer Zusammenfassungen. Wenn Sie die MedLM API verwenden, stimmen Sie der Generative AI Richtlinie für verbotene Nutzung und den dienstspezifischen Nutzungsbedingungen der Google Cloud Platform zu. Sie erklären sich damit einverstanden, Google nach Treu und Glauben zu benachrichtigen und mit Google zusammen zu arbeiten, wenn es um rechtliche Fragen in Sachen Verwendung von MedLM geht. Für dieses Produkt können personenbezogene Daten gemäß den Bedingungen zur Datenverarbeitung und Sicherheit verarbeitet werden, vorbehaltlich der in den Nutzungsbedingungen der Google Cloud Platform beschriebenen Einschränkungen. Weitere Informationen finden Sie unter den Beschreibungen der Startphase. Wenn Sie eine Geschäftspartner-Vereinbarung mit Google abgeschlossen haben, die Ihre Nutzung der Google Cloud Platform-Dienste abdeckt, kann die MedLM API verwendet werden, um geschützte Gesundheitsdaten gemäß dem Health Insurance Portability and Accountability Act (HIPAA) von 1996 und/oder Änderungen oder Vorschriften gemäß HIPAA zu verarbeiten.

Achtung:

• Bevor die Produktionsnutzung für MedLM aktiviert wird, müssen sich Kunden an das Google-Produktteam wenden, um die Nutzung zu besprechen.
• MedLM ist nicht zur Verwendung als Medizinprodukt gedacht. Jede Ausgabe sollte von einem Healthcare Professional (HCP) verifiziert werden und es dürfen nie direkte Diagnosen ausgesprochen werden.
• Die generierte Ausgabe ist möglicherweise nicht immer zuverlässig. Aufgrund der Natur der LLMs und der generativen KI beinhalten Ausgaben möglicherweise falsche oder verzerrte Informationen (z. B. Stereotypen oder andere schädliche Inhalte). Sie sollten daher überprüft werden. Alle Zusammenfassungen oder Antworten sollten als Entwürfe betrachtet werden.
• Wenn Vertex AI Inhalte erkennt, die gegen unsere Richtlinien verstoßen, einschließlich der Richtlinie zur fairen Nutzung der Google Cloud Platform und der Generative AI Richtlinie für verbotene Nutzung, wird keine Antwort zurückgegeben.
• Wenn MedLM von Gesundheitsdienstleister für Fragen und Antworten verwendet wird, ist es nur als Bildungstool für medizinisches Training oder zur Verstärkung des vorherigen Trainings des Gesundheitsdienstleister vorgesehen.
• Die LLM-Ausgabe entspricht möglicherweise nicht genau dem Format, das im Prompt angegeben wird. Beim Prompt-Design zum Extrahieren von Informationen aus den einzelnen Felder sollte berücksichtigt werden, dass das Format vom Original abweichen kann (z. B. Bindestriche in Feldnamen, genaue Großschreibung).

Hintergrund

MedLM ist eine Familie von Foundation Models, die für die Gesundheitsbranche optimiert wurden. Med-PaLM 2 ist eines der von Google Research entwickelten textbasierten Modelle, die MedLM unterstützen. Es war das erste KI-System, das den Level menschlicher Experten in Sachen Antworten auf USMLE (US Medical Licensing Examination)-Fragen erreichte. Die Entwicklung dieser Modelle wurde durch bestimmte Kundenanforderungen bestimmt, darunter die Beantwortung medizinischer Fragen und das Erstellen von Zusammenfassungen.

MedLM-Modellkarte

Die MedLM-Modellkarte enthält die Modelldetails, z. B. die vorgesehene Verwendung von MedLM, eine Datenübersicht und Sicherheitsinformationen. Klicken Sie auf den folgenden Link, um eine PDF-Version der MedLM-Modellkarte herunterzuladen:

MedLM-Modellkarte herunterladen

Rechtliche Hinweise

Verwendungszweck von MedLM

MedLM basiert auf dem für den Medizinbereich optimierten großen Sprachmodell von Google Research, Med-PaLM 2. Es ist für die Beantwortung von Fragen und zum Erstellen von Entwurfszusammenfassungen aus vorhandenen Dokumentationen vorgesehen. Die Ergebnisse müssen vom Nutzer vor der Verwendung geprüft, bearbeitet und genehmigt werden. MedLM wird auch für Bildungszwecke für Healthcare-Experten (HCPs, Health Care Professionals) verwendet. Es kann medizinische Fragen stellen und beantworten, um den HCP zu unterstützen.

Achtung: Die Ausgabe des Modells darf nicht als endgültig betrachtet werden und gibt nur eine vorläufige Antwort aus, die der HCP überprüfen muss. MedLM darf weder für Diagnosen oder therapeutische Zwecke verwendet noch direkt für Patienten genutzt werden.

Bedingungen für die Verwendung und Anwendungen außerhalb des Geltungsbereichs

• MedLM-Kunden und -Nutzer müssen sich an die Richtlinien zur verbotenen Nutzung von Generative AI und die dienstspezifischen Nutzungsbedingungen der Google Cloud Platform, Nutzungsbedingungen, Richtlinien zur fairen Nutzung, Nutzerhandbuch und andere Produktdokumentationen halten.
• Im Rahmen der dienstspezifischen Nutzungsbedingungen dürfen Kunden MedLM nicht für klinische Zwecke verwenden (zur Klarstellung: Nicht klinische Forschung, Planung und andere Verwaltungsaufgaben fallen nicht unter diese Zwecke), zur medizinischen Beratung oder für andere Zwecke verwenden, für die eine Zulassung oder Genehmigung von einer Regulierungsbehörde für Medizinprodukte erforderlich ist.
  • Die direkte Nutzung durch Patienten ist verboten. Das Produkt dient als Hilfsmittel für Ärzte, Gesundheitsdienstleister oder Wissensarbeiter mit einem hohen Grad an Fachwissen, Bildung oder Erfahrung im Gesundheitswesen und in der Biowissenschaft.
  • Die Verwendung von MedLM als Software als medizinisches Hilfsmittel ist verboten.
• Der Zweck von MedLM besteht darin, Dokumente und Antworten zu entwerfen, die vor der Verwendung von einem „Human in the Loop“ geprüft werden.
• Wir empfehlen die Verwendung von MedLM aktuell ausschließlich für medizinische Abfragen und Zusammenfassungen:
  • Ausführliche Fragen und Antworten
  • Multiple-Choice-Fragen und Antworten
  • Zusammenfassungen, z. B. das Erstellen von Zusammenfassungen von Gesprächsergebnissen oder von Krankengeschichten und Untersuchungsnotizen
• (Unvollständige) Liste an verbotenen medizinischen Nutzungen:
  • Analyse von Patientenakten, Verschreibemustern, geografischen Daten usw. zur Identifizierung von Patienten mit möglicher Diagnose von Opioidabhängigkeit.
  • Analyse patientenspezifischer medizinischer Informationen zur Erkennung einer lebensbedrohenden Erkrankung, wie z. B. Schlaganfall oder Sepsis, und Generieren eines Alarms oder einer Benachrichtigung, um einen HCP zu benachrichtigen.
  • Analyse patientenspezifischer medizinischer Informationen aus den Krankenakten, einschließlich der neuesten Ergebnisse der Mammografieberichte, um eine Liste an Folgeaktionen oder Behandlungsoptionen bereitzustellen.
  • Analyse der priorisierten Liste von FDA-autorisierten behandlungsoptionen bei Depressionen für einen HCP basierend auf einer Analyse der gemeldeten Ergebnisse in einer Datenbank klinischer Studien unter Nutzung medizinischer Informationen (z. B. Diagnose und demografische Merkmale) aus dem medizinischen Datensatz des Patienten.

MedLM ist derzeit nur für Kunden in den USA auf der Zulassungsliste verfügbar.

MedLM ist nicht als Medizinprodukt gedacht. Kundenanwendungsfälle müssen dem Verwendungszweck und den Nutzungsbedingungen entsprechen. Die Fragen und Antworten sollten nur für Bildungszwecke verwendet werden und Zusammenfassungen-Ausgaben müssen immer vom Nutzer auf der Grundlage seines klinischen Urteils geprüft und verifiziert werden.

MedLM und PaLM im Vergleich

Die Nutzung von MedLM ähnelt der von PaLM. Anders als bei PaLM wurde MedLM jedoch auf bestimmte medizinische Aufgaben zugeschnitten, wie z. B. ausgewählte Formen der Zusammenfassung oder die Beantwortung von medizinischen Fragen.

Wie bei den meisten neuen Anwendungen von LLMs empfehlen wir jedoch eine sorgfältige Validierung und/oder Feinabstimmung Ihrer Nutzung von MedLM, um eine gute Leistung bei diesen Aufgaben zu gewährleisten. Für Aufgaben, die kein spezielles medizinisches Fachwissen erfordern, z. B. allgemeine NLP-Aufgaben oder Aufgaben, die mit medizinischen Daten arbeiten, aber keine Fachkenntnis erfordern, gehen wir davon aus, dass MedLM eine ähnliche Leistung bietet wie allgemeine Modelle wie z. B. PaLM und ermuntern Sie, beide Modelle für die spezifischen Anwendungsfälle zu testen. Weitere Informationen zu Aufgaben im Bereich medizinischer Fragen und Antworten, für die MedLM trainiert und validiert wurde, finden Sie im Med-PaLM-Artikel. Funktionen wie das Erstellen von Antworten auf Basis autoritativer medizinischer Quellen oder die Berücksichtigung der zeitabhängigen Natur des medizinischen Konsens sind nicht in das Modell eingebunden, wie in der Publikation erwähnt.

Gemäß unseren Nutzungsbedingungen für Generativ AI-Dienste dürfen Kunden MedLM nicht für klinische Zwecke (zur Klarstellung: nicht klinische Forschung, Planung oder andere Verwaltungsaufgaben fallen nicht unter diese Zwecke), zur medizinischen Beratung oder für andere Zwecke verwenden, für die eine Zulassung oder Genehmigung von einer Regulierungsbehörde für Medizinprodukte erforderlich ist.

MedLM-Modelle

In der aktuellen MedLM-Release werden zwei Modelle verfügbar gemacht:

• MedLM-medium
• MedLM-large

MedLM-medium und MedLM-large haben separate Endpunkte und bieten Kunden zusätzliche Flexibilität für ihre Anwendungsfälle. MedLM-medium bietet Kunden bessere Durchsätze und enthält neuere Daten. MedLM-large ist das gleiche Modell aus der Vorschauphase. Beide Modelle werden über den gesamten Produktlebenszyklus aktualisiert. Auf dieser Seite bezieht sich "MedLM" auf beide Modelle.

Pflichten der Kunden

MedLM wurde für speziell für ausgebildete und lizenzierte Nutzer im Gesundheitswesen entwickelt. Google Cloud-Kunden und -Endnutzer sollten verstehen, dass LLMs und generative KI von Natur aus probabilistisch und möglicherweise nicht immer genau sind. Ohne eine angemessene Berücksichtigung oder angemessene Kontrolle durch die Kunden kann die Verwendung generativer KI-Modelle im Gesundheitswesen ein Risiko für Patienten bedingen, da sie falsche, fehlende oder irreführende, verzerrte Inhalte ausgeben können.

• Kunden sollten angemessene Risikominderungen für alle Verwendungsmöglichkeiten von MedLM implementieren, z. B. angemessene Bildung, Schulung, Equity-Bewertung und angemessene technische Kontrollen.
• Kunden müssen auch eigene Bewertungen zu Leistung und Sicherheit durchführen, um Schäden bei ihren Anwendungsfällen zu vermeiden.

Je nach Frage und Fragestellung kann MedLM für einige Gruppen im Vergleich zu anderen Gruppen weniger genaue Ergebnisse liefern. Kunden sollten sich darüber im Klaren sein, dass eventuelle unterschiedliche Leistung der Modellausgaben für demografischen Gruppen das Potential birgt, das Ungleichbehandlungen im Gesundheitsbereich schlimmer werden und schädliche Vorurteile verbreitet werden könnten. Derartige Ungenauigkeiten in Ausgaben gibt es nicht nur in MedLM und beruhen oft auf mehreren Faktoren, z. B. vorhandenen sozialen und strukturellen Ungleichheiten, medizinischen Missverständnissen, negativen Stereotypen und fehlender Vielfalt in den Trainingsdaten.

• Kunden sollten die Implementierung von gerechtigkeitsorientierten Bewertungen und Risikominderungen in Betracht ziehen. Dies beinhaltet die Bewertung der Modellleistung und des Modellvverhalten für beabsichtigte Anwendungsfälle in verschiedenen Gruppen, z. B. ethnische herkunft, sozioökonomischer Status (SES, SocioEconomic Status)), Wohnort, Geschlechtsidentität, sexuelle Orientierung, Alter, Sprachvorlieben, Gesellschaftsklasse; das Feedback zur Leistung; die Arbeit mit interdisziplinären Experten und externen Partnern, die auf die Definition und Beantwortung von sozialen und strukturellen Aspekten des Gesundheitswesens spezialisiert sind; und ein kontinuierliches Monitoring, um auf Voreingenommenheit basierende Probleme zu bewerten und zu beheben.

Zugriff anfordern

Der Zugriff auf die MedLM-Modelle ist eingeschränkt. Wenden Sie sich an Ihr Google Cloud-Account-Management-Team, um Zugriff zu erhalten.

Feedback geben

Ihr Feedback hilft uns, zukünftige Modellversionen zu verbessern und unseren Nutzern den bestmöglichen Service zu bieten. Wenden Sie sich an [e-mail] und setzen Ihr Google Cloud-Account-Management-Team und Google Cloud Customer Engineer (CE) auf CC. Diese E-Mail-Adresse bietet keinen umgehenden Kundenservice. Wenn Sie sofort Support anfordern möchten, wenden Sie sich an Ihr Google Cloud-Account-Management-Team oder an den Google Cloud Customer Engineer (CE).

E-Mail-Antworten werden gemäß den Bedingungen Ihrer Vereinbarung für Google Cloud-Dienste als Feedback verwendet und gemäß den Datenschutzhinweisen für Google Cloud erfasst. Geben Sie in diesem Feedbackformular keine personenbezogenen Daten (Namen, E-Mail-Adressen) oder andere Daten an, die vertraulich oder vertraulich sind. Die Daten können sowohl manuell als auch automatisch geprüft werden.

Verstöße melden

Sie können mutmaßlichen Missbrauch der MedLM API, generierte Ausgaben, die unangemessenes Material enthalten, und ungenaue Informationen über Verdächtigen Missbrauch in Google Cloud melden melden. Wählen Sie in der Liste Google Cloud Platform-Dienst die Option Cloud AI aus.

Preise

Der Zugriff auf die MedLM-Preise ist eingeschränkt. Wenden Sie sich an Ihr Google Cloud-Account-Management-Team, um Zugriff zu erhalten. Wenn Sie Zugriff haben, finden Sie weitere Informationen unter MedLM-Preise.

Nächste Schritte

• Beispiele für das Erstellen von MedLM-Prompts.