The Prompt: 최근 AI 관련 사건에 대한 논의

* 본 아티클의 원문은 2023년 6월 3일 Google Cloud 블로그(영문)에 게재되었습니다.

비즈니스 리더들 사이에서 생성형 AI가 큰 관심을 모으고 있습니다. 매주 'The Prompt'는 빠르게 변화하는 이 주제에 대한 최신 정보를 놓치지 않도록 고객 및 파트너와의 협업을 통해 얻은 시각과 Google의 최신 AI 트렌드를 전해드립니다. 이번 호에서는 최근 보고된 AI 관련 사건과 관련하여 Google Cloud의 AI 및 비즈니스 솔루션 부문 글로벌 부사장인 필립 모이어의 논평을 소개합니다.

최근 생성형 AI 어시스턴트가 꾸며낸 거짓 판례를 인용한 문건을 법원에 제출했다가 곤란에 처하게 된 뉴욕의 한 변호사에 관한 뉴스가 보도되었습니다. AI 솔루션을 비판하려는 것도 아니고, 제재를 받을 처지에 놓였지만 실은 너무 흔한 실수를 저지른 이 변호사를 비난하려는 것도 아닙니다. 오히려 너무 흔한 실수이기 때문에 이 문제에 대해 논의하고자 합니다.

이미 많은 분이 '할루시네이션(hallucinations)'에 대해 들어본 적이 있을 것입니다. 생성형 AI 모델이 프롬프트에 대해 말이 안 되는 답변이나 허위 정보를 제공하는 것을 말합니다. 또한 모델과의 상호작용이 모델을 추가로 학습시키는 데 사용되지 않는지를 먼저 확인하지 않아 실수로 독점 정보를 AI 어시스턴트에 노출해 버린 회사에 대해 들어본 적이 있으실 겁니다. 이러한 실수를 하면 어시스턴트를 사용하는 전 세계 모든 사람에게 개인 정보가 노출될 수 있습니다. 'The Prompt'의 이전 호에서 논의한 바와 같이 이러한 위험을 우려한 일부 회사는 전 직원의 소비자 AI 앱 사용을 금지했습니다. 

할루시네이션과 불충분한 데이터 보안은 생성형 AI 도입에 걸림돌이 되는 가장 큰 두 가지 요인입니다. 이 뉴욕 변호사의 경우 질책하는 판사에게 AI 어시스턴트의 출력이 허위 정보일 수 있다는 점을 인식하지 못했다고 말했다는 점에서 첫 번째 걸림돌에 발목을 잡혔음을 알 수 있습니다. 만약 변호사의 프롬프트에 고객 정보가 포함되어 있었다면 두 번째 걸림돌에도 걸린 셈이 됩니다. 이러한 실수를 피하고 생성형 AI를 성공적으로 도입하는 데 도움이 되는 몇 가지 중요한 교훈을 얻을 수 있습니다.

인간 참여형(Human In The Loop) 중심 설계

분명히 생성형 AI 앱은 불과 몇 달 전과 비교하더라도 할루시네이션을 처리할 역량이 한층 강화되었습니다. Google I/O에서도 논의한 바와 같이 모든 생성 모델이 이러한 문제에 직면하고 있으며, 따라서 성능이 더 뛰어난 모델을 배포하기에 앞서 보다 강력한 안전망을 구축하는 것이 중요합니다. 모델 및 생성형 AI 앱의 모델 활용 방식은 계속해서 개선될 것이며, 조직에서는 할루시네이션을 줄이기 위한 다양한 방법을 사용할 수 있습니다. 이에 대해서는 잠시 후에 설명하겠습니다. 하지만 대부분의 사용 사례에서 범용 생성형 AI 어시스턴트 및 앱은 시간을 절약하거나 아이디어를 얻기 위해 사용하는 공동작업 도구이지, 걱정 없이 믿고 맡길 수 있는 완전한 자동화를 보장하는 도구는 아닙니다. 

AI 사용자는 AI 단독으로 또는 인간의 힘으로만 낸 성과를 능가하는 경우가 많습니다. 그러므로 새로운 생성형 AI 기반 사용 사례에서는 AI 출력 결과를 조정, 해석, 개선, 거부할 수 있도록 '인간 참여형(Human In The Loop)'을 기본 전제로 삼아야 합니다. AI의 부정확한 출력 결과가 그대로 최종 작업 결과물로 나온다면 이는 AI 도구의 한계 때문이기도 하지만 한 명 이상의 사람이 AI를 부적절하게 사용했기 때문이기도 합니다. 

특화된 솔루션이 요구되는 전문 업종

전문 분야, 특히 정확성이 중요한 분야에서는 인간의 감독과 작업에 적합한 AI 도구를 선택하는 일의 중요성이 모두 커지고 있습니다. 범용 생성형 AI 앱은 다양한 작업을 수행하는 데 도움이 되지만 특정 업종의 요구에 맞게 설계되지는 않았습니다.  

그렇다고 해서 이러한 앱이 변호사, 의사와 같은 전문가에게 쓸모가 없다는 의미는 아닙니다. 사용자가 생성형 AI의 출력 결과를 적용하기 전에 먼저 확인 절차를 거치면 아무런 준비 없이 시작하는 것보다 올바른 방향을 향해 발을 디딜 가능성이 더 높을 수 있습니다. 또한 법원 판례와 같은 전문 분야 데이터를 입력하고 유용한 정보를 요청했을 때 AI 어시스턴트가 기발한 아이디어를 출력하리라고 상상하는 게 이상한 일이 아닙니다. 

하지만 이러한 이점과는 별개로, 소비자 중심 앱은 엔터프라이즈급 SLA를 제공하지 않을 것입니다. 물론 지금도 제공하지 않고 있고요. 또한 까다로운 업종일수록 전문화된 앱과 모델의 필요성이 더 높아질 것입니다. 

범용 모델의 출력 결과는 학습 세트의 모든 데이터에 크게 영향을 받습니다. 코퍼스에 법이나 의학 참고 문헌뿐 아니라 대중문화, 문학, 스포츠, 세계사를 비롯해 수십억 가지의 다양한 주제가 포함되어 있으면 모델 내에서 이상한 확률 조합이 유발되어 할루시네이션이 발생할 수 있습니다. 범용 기반 모델을 학습시키고 조정하는 기법은 계속 발전하고 있으며 문제가 있는 할루시네이션이 발생할 가능성은 줄어들고 있지만 그럼에도 불구하고 모든 사용 사례에 적용할 수 있는 하나의 완벽한 모델은 앞으로도 존재하지 않을 것입니다.

바로 이 때문에 Google Cloud는 의료 및 생명과학용 Med-PaLM 2와 같이 전문성이 높고 민감한 분야에 맞게 미세 조정된 모델에 투자해 오고 있습니다. 범용 공동작업 도구로서 Bard가 지속적으로 개선되고 있지만 Google은 특정 상황에서 모델을 더 쉽게 사용할 수 있도록 여러 제품에도 생성형 AI를 통합했습니다. 예를 들어 Google Workspace에서 사용자가 문서의 텍스트를 강조 표시하면 '단축', '격식체로 변경', '자세히 설명', '다르게 표현' 옵션이 자동으로 표시되어 더 쉽게 효과적으로 프롬프트를 작성할 수 있습니다. 개발자와 혁신가가 기반 모델과 AI 지원 인프라에 더욱 쉽게 액세스할 수 있게 됨에 따라 커스텀 모델과 작업 중심 설계로 구동되는 수많은 업종별 생성형 AI 앱이 등장할 것으로 보입니다. 

기업 사용을 위한 기반 모델 조정

많은 조직에서 더 높은 정확도를 요구하는 민감한 정보나 사용 사례를 처리할 때 커스텀 앱을 사용하는 것이 가장 좋은 방법일 수 있습니다. 커스텀 앱 사용에는 다양한 접근 방법이 있는데, 할루시네이션을 제한하고 관련 정보에 초점을 맞춘 대답을 제공하도록 생성형 AI 앱의 기반을 특정 데이터로 한정하는 한 가지 방법이 있습니다. 현재 생성형 AI 앱 빌더의 엔터프라이즈 검색을 사용하는 Google 고객은 이러한 방법을 사용할 수 있습니다. 또는 Vertex AI의 생성형 AI 지원을 사용하는 Google 고객처럼 기반 모델을 미세 조정하거나 직접 기반 모델을 만드는 방법이 있습니다. 물론 데이터 주권, 보안, 거버넌스가 기본으로 제공됩니다. 이러한 노력을 통해 생성형 AI 앱을 배포한다고 해서 인간 참여형(Human In The Loop) 설계의 필요성이 없어지는 것은 아니지만, 보다 정확하고 개인화되고 관련성이 높은 경험(빠른 검증을 위한 인용 포함)을 제공함으로써 인간의 삶을 한층 편하게 만들 수 있습니다. 

조직이 채택해야 할 새로운 권장사항 

생성형 AI는 급부상하고 있는 기술로서, 이에 대한 최선의 접근 방식은 여전히 발전하고 있으며 뉴욕 변호사의 사례에서처럼 사람들은 이 기술을 사용하는 방법을 계속 배우고 있습니다. 이러한 기술 채택에 따르는 위험과 피해야 할 패턴에 대한 인식이 제고되고 문제가 해결됨에 따라 대기업은 생성형 AI에 대한 투자를 늘리기 시작했습니다. 이 블로그에서는 Google Cloud가 Adore Me, Canva, Character.AI, Deutsche Bank, Instacart, Orange, Replit, Uber, Wendy’s와 같은 기업과 협력하여 다양한 사용 사례에서 거둔 생성형 AI의 혁신적인 성과를 소개하고 있습니다. 이 시리즈에서 지금까지 논의한 바와 같이 성공적인 도입은 올바른 사용 사례를 타겟팅하고 적절한 플랫폼 기능에 투자하는 데 달려있습니다. 또한 오늘의 논평에서 암시한 바와 같이 직원 교육도 필수적입니다. 이런 점을 염두에 두고 Google Cloud가 최근에 출시한 다양한 생성형 AI 교육 리소스도 확인해 보세요.