MedLM 모델 개요

면책 조항: Vertex AI 기반 MedLM은 허용 목록 고객들에게 제공됩니다. 이번 허용 목록 GA 출시 버전(미국 전용 GA)은 의료용 Q&A와 의료 요약 용도에 중점을 둡니다. MedLM API를 사용하면 생성형 AI 금지 사용 정책 및 Google Cloud Platform 서비스별 약관에 동의하고 MedLM 사용과 관련해서 모든 규제 문의에 대해 공개적으로 소통하고 Google과 협력하는 데 동의하는 것으로 간주됩니다. 이 제품에서는 Google Cloud Platform 서비스 약관에 설명된 제한사항에 따라 데이터 처리 보안 약관에 설명된 대로 개인 데이터를 처리할 수 있습니다. 자세한 내용은 출시 단계 설명을 참조하세요. Google Cloud Platform 서비스 사용에 관해 Google과 비즈니스 제휴 계약을 체결한 경우 MedLM API를 사용해서 1996년 건강 보험 이동성 및 책임법(HIPAA) 또는 HIPAA 이하의 모든 개정 사항 또는 규정의 영향을 받는 보호 건강 정보를 처리할 수 있습니다.

주의사항:

MedLM에 대한 프로덕션 사용을 활성화하려면 고객이 먼저 Google 제품팀에 연락해서 사용을 논의해야 합니다.
MedLM은 의료 기기 용도로 설계되거나 개발되지 않았습니다. 항상 의료 전문가(HCP)를 통해 생성된 출력 정보를 확인해야 하며 이 정보만을 바탕으로 한 직접 진단을 피해야 합니다.
생성된 출력 정보는 항상 완전히 신뢰하지 못할 수 있습니다. LLM 및 생성형 AI의 특성으로 인해 출력 정보에는 잘못되었거나 편향적인(예를 들어, 고정 관념적이거나 기타 유해한 콘텐츠) 정보가 포함될 수 있으며, 검토가 필요합니다. 모든 요약 또는 답변 내용은 최종본이 아닌 초안으로 간주되어야 합니다.
Vertex AI가 Google Cloud Platform 서비스이용 정책 및 생성형 AI 금지 사용 정책을 포함하여 Google 정책을 위반하는 콘텐츠를 감지하면 응답이 반환되지 않습니다.
Q&A 목적으로 HCP가 사용할 때 MedLM은 의료 훈련을 위한 교육적 지원이나 HCP의 기존 지식을 보완하기 위한 목적으로만 사용됩니다.
LLM 출력 정보는 프롬프트에 제시된 정확한 형식을 따르지 않을 수 있습니다. 각 필드에서 정보를 추출하기 위한 프롬프트 설계 시에는 해당 형식이 원본으로부터 벗어날 수 있다는 점을 고려해야 합니다(예: 필드 이름에 사용된 대시, 정확한 대소문자 표현 등).

배경

MedLM은 의료 산업에 맞게 미세 조정된 기반 모델의 제품군입니다. Med-PaLM 2는 MedLM을 기반으로 Google 연구팀에서 개발된 텍스트 기반 모델 중 하나이며, 미국 의사 면허 시험(USMLE) 양식의 질문에 답할 수 있는 전문 응시자 수준에 도달한 최초의 AI 시스템이었습니다. 이러한 모델의 개발은 의학적 질문에 대한 답변과 요약본 작성과 같은 특정 고객 요구에 따라 이뤄졌습니다.

MedLM 모델 카드

MedLM 모델 카드에는 MedLM의 사용 목적, 데이터 개요, 안전 정보와 같은 모델 세부정보가 요약되어 있습니다. 다음 링크를 클릭하여 MedLM 모델 카드의 PDF 버전을 다운로드합니다.

MedLM 모델 카드 다운로드

규제 정보

MedLM 용도

MedLM은 Google 연구팀의 의학적으로 조정된 대규모 언어 모델인 Med-PaLM 2를 기반으로 합니다. 질문에 대답하고 기존 문서에서 요약 초안을 생성하기 위한 것이지만 사용하기 전에 내용을 검토 및 수정하고 올바른지 승인하는 과정을 거쳐야 합니다. MedLM은 HCP를 지원하는 데 도움이 되는 의료 질문과 답변에 참여할 수 있도록 의료 전문가(HCP)를 위한 교육용 목적으로도 사용됩니다.

사용 조건 및 범위 밖 애플리케이션

MedLM 고객 및 사용자는 생성형 AI 금지 사용 정책, Google Cloud Platform 서비스별 약관, 서비스 약관, 서비스이용 정책, 사용자 가이드 및 기타 제품 문서를 준수해야 합니다.
서비스별 약관에 따라, 고객은 의료적 자문을 제공하거나 의료 기기 규제 기관의 감독을 받거나 승인이 필요한 방식으로 의료 목적으로 MedLM을 사용할 수 없습니다. 그러나 비임상 연구, 일정 관리 및 기타 관리 태스크는 사용이 제한되지 않습니다.
- 직접 환자에 대한 사용은 금지됩니다. 이 제품은 의료 및 생명과학 업계에서 높은 수준의 전문 지식, 교육, 경험을 갖춘 임상의, HCP, 지식 노동자를 위한 보조 도구입니다.
- 소프트웨어형 의료 기기로서의 MedLM 사용은 금지됩니다.
MedLM의 의도된 용도는 사용 전 ;인간 참여형(Human In The Loop)' 방식의 검토가 필요한 문서 및 응답 초안 작성을 위한 것입니다.
이 단계에서는 의료용 Q&A 및 요약 사용 사례에만 MedLM을 사용하는 것이 좋습니다.
- 긴 형식의 Q&A
- 객관식 Q&A
- 방문 후 요약이나 기록 및 신체 검사 노트 생성과 같은 요약
허용되지 않는 의료 기기 사용 예시에는 다음이 포함됩니다(이에 국한되지 않음).
- 아편 중독 진단 가능성이 있는 환자를 식별하기 위한 목적의 환자 기록, 처방 패턴, 지리적 데이터 등의 분석
- 뇌졸중 또는 패혈증과 같은 중대 위협 상태를 감지하고 HCP에 통지하기 위해 경보 또는 알림을 생성하기 위한 환자별 의료 정보 분석
- 후속 조치 또는 치료 옵션 목록을 제공하기 위한 최근의 유방 촬영 보고서 소견을 포함하여 의료 기록에서 발견된 환자별 의료 정보에 대한 분석
- 환자의 의료 기록에서 얻은 의료 정보(예: 진단 및 인구통계)를 사용하여 임상 연구 데이터베이스에서 보고된 결과 분석을 기반으로 HCP가 선택할 수 있는 FDA 승인 우울증 치료 옵션에 대한 선별 목록 분석

MedLM은 현재 미국의 허용 목록에 포함된 고객에게만 제공됩니다.

MedLM은 의료 기기로 사용하기 위한 것이 아닙니다. 고객 사용 사례는 사용 목적 및 사용 조건에 부합해야 합니다. Q&A는 교육 목적으로만 사용되어야 하며, 요약 결과는 사용자의 임상 판단에 따라 항상 독립적으로 검토되고 확인되어야 합니다.

MedLM과 PaLM 비교

MedLM의 용도는 PaLM과 비슷합니다. 하지만 PaLM과 달리 MedLM은 특정 형식의 요약 및 의료 질문-답변과 같은 특정 의료 태스크에 맞게 조정되어 있습니다.

하지만 대부분의 새로운 LLM 애플리케이션과 마찬가지로 이러한 태스크에 대해 적합한 성능을 보장하기 위해서는 MedLM 사용을 신중하게 검증하고 조정하는 것이 좋습니다. 특별한 의료 전문 지식이 필요하지 않은 태스크의 경우(예: 일반적인 NLP 태스크 또는 의료 데이터를 기반으로 운영되지만 전문 지식을 필요로 하지 않는 태스크) MedLM이 PaLM과 같은 일반적인 모델과 유사한 성능을 발휘할 것으로 기대하며 특정 사용 사례에 대해 두 가지를 모두 실험해볼 것을 권장합니다. 또한 MedLM이 학습 및 검증된 Q&A 태스크에 대한 자세한 내용은 Med-PaLM 보고서를 참조하세요. 권위 있는 의료 소스의 응답을 기반으로 하거나 시간에 따라 달라지는 의료적 합의를 고려하는 등의 기능은 공개 자료에 언급된 것처럼 이 모델에 포함되지 않았습니다.

Google의 생성형 AI 서비스별 약관에 따라, 고객은 의료적 자문을 제공하거나 의료 기기 규제 기관의 감독을 받거나 승인이 필요한 방식으로 의료 목적으로 MedLM을 사용할 수 없습니다. 그러나 비임상 연구, 일정 관리 및 기타 관리 태스크는 사용이 제한되지 않습니다.

MedLM 모델

현재 MedLM 출시 버전에서는 두 가지 모델을 사용할 수 있습니다.

MedLM-medium
MedLM-large

MedLM-medium 및 MedLM-large는 엔드포인트가 구분되어 있으며 사용 사례에 있어서 추가적인 유연성을 고객들에게 제공합니다. MedLM-medium은 고객들에게 더 나은 처리량을 제공하며 보다 최신 데이터를 포함합니다. MedLM-large는 이전 단계의 모델과 동일합니다. 두 모델 모두 제품 수명 주기에 따라 계속 업데이트될 예정입니다. 이 페이지에서 "MedLM"은 두 모델을 모두 의미합니다.

고객의 책임

MedLM은 훈련을 받고 라이선스를 얻은 의료 종사 사용자를 염두에 두고 개발되었습니다. Google Cloud 고객과 최종 사용자는 LLM 및 생성형 AI가 기본적으로 문제를 내포할 수 있으며 항상 정확하지 않을 수 있다는 것을 이해해야 합니다. 고객의 적절한 고려 또는 제어 없이 의료 부문에서 생성형 AI 모델을 사용하면 부정확한 콘텐츠, 누락된 콘텐츠, 오해를 일으키거나 편향된 콘텐츠로 인해 환자에게 해를 입힐 수 있습니다.

고객은 모든 MedLM 사용에 대해 적절한 실무자 교육, 학습, 형평성 평가, 적절한 기술 통제 등, 적절한 위험 완화 조치를 시행해야 합니다.
또한 고객은 사용 사례에 대한 위험 방지를 위해 성능 및 안전에 대한 자체 평가를 수행해야 합니다.

MedLM은 질문 및 상황에 따라 그룹별로 정확도가 낮은 결과를 생성할 수 있습니다. 고객은 인구통계 그룹 간 모델 출력의 성능 차이가 건강 불평등을 악화시키고 유해한 편향을 지속시킬 가능성이 있다는 점을 알고 있어야 합니다. 이러한 부정확성은 MedLM에만 있는 것이 아니며 기존의 사회적, 구조적 불평등, 의료적 오해, 부정적인 고정관념, 학습 데이터의 다양성 부족 등 여러 요인에서 비롯되는 경우가 많습니다.

고객은 형평성에 중점을 둔 평가 및 완화 수단을 구현할 것을 고려해야 합니다. 여기에는 다양한 모집단(예: 인종/민족, 사회경제적 지위(SES), 지역, 성 정체성, 성적 지향, 연령, 언어 선호도, 카스트 등) 내에서 의도된 사용 사례에 대한 모델 성능 및 행동 평가, 성과에 대한 피드백 획득, 건강의 사회적, 구조적 특성을 정의하고 다루는 학제 간 전문가 및 외부 파트너의 참여, 편향 문제를 평가하고 해결하기 위한 지속적인 모니터링 노력 수행 등이 포함됩니다.

액세스 요청

MedLM 모델은 액세스가 제한적입니다. 액세스를 요청하려면 해당 Google Cloud 계정팀에 문의하세요.

의견 보내기

제공해 주신 의견은 향후 모델 버전을 개선하고 Google이 사용자에게 최상의 환경을 계속 제공하는 데 도움이 됩니다. medlm-feedback@google.com으로 연락할 때 Google Cloud 계정팀과 Google Cloud 고객 엔지니어(CE)를 전달합니다. 이 이메일 주소는 즉각적인 지원을 얻기 위한 주소가 아닙니다. 즉각적인 지원을 요청하려면 Google Cloud 계정팀 또는 Google Cloud 고객 엔지니어(CE)에게 문의하세요.

이메일 응답은 Google Cloud 서비스 계약 약관에 따라 피드백으로 사용되며 Google Cloud 개인정보처리방침에 따라 수집됩니다. 이 의견 제출 양식 또는 기타 민감하거나 기밀인 데이터에 개인 정보(이름, 이메일 주소)를 포함하지 마세요. 데이터는 사람의 검토와 자동 처리를 모두 사용하여 검토될 수 있습니다.

Google Cloud에서 의심스러운 악용 사례 신고 양식을 사용하여 악용이 의심되는 MedLM API 사용 사례 또는 부적절한 자료나 부정확한 정보가 포함된 생성된 출력 정보를 신고할 수 있습니다. Google Cloud Platform 서비스 목록에서 Cloud AI를 선택합니다.

가격 책정

다음 단계

MedLM 프롬프트 만들기 방법 예시 보기