먼저 정해진 순서로만 정보를 찾아가던 ALF의 지식 검색 구조를 AI가 필요한 도구와 지식을 스스로 판단해 찾아가는 에이전틱 지식 검색 구조로 전환했습니다. 이러한 방식을 구현하기 위해서는 긴 컨텍스트를 손실 없이 처리할 수 있는 모델이 필수 조건이었습니다. 다양한 AI 모델을 용도에 맞게 병행해 오던 AI팀은 여러 LLM과의 비교 검증을 거쳐 Gemini 모델을 지식 기반 답변 생성의 핵심 엔진으로 선택했습니다.

AI팀이 Gemini를 선택한 결정적 이유는 바로 롱 컨텍스트(long context) 처리 역량입니다. 상품 스펙을 비롯해 수십 페이지에 달하는 교환·환불 매뉴얼, 과거 상담 이력이 동시에 인입되더라도, Gemini는 방대한 양의 정보를 맥락 끊김 없이 한 번에 이해하고 처리합니다.

예를 들어 고객이 정확한 상품명을 지정하지 않고 ‘빨간 옷’에 대해 질문할 경우, 판매 중인 수십여 개의 상품 정보가 LLM에 인풋으로 입력됩니다. 롱 컨텍스트를 잘 처리한다는 것은 고객의 질문 의도를 정확히 파악해, 수많은 정보 속에서 가장 연관성 높은 지식을 정확히 포착해 내는 것을 의미합니다.

ALF는 이러한 탐색 과정을 거쳐 확보한 정보가 충분한지 판단한 후 이를 기반으로 답변을 생성합니다. 특히 Gemini가 질문을 분석하고 지식을 탐색하는 과정에서 긴 맥락을 끝까지 유지한 덕분에, ALF는 환각 현상을 최소화하고 답변 정확도를 극대화할 수 있었습니다.

텍스트와 이미지를 동시에 처리하는 Gemini의 강력한 멀티모달 역량과 다국어 능력 역시 ALF의 성능을 강화하는 데 큰 역할을 했습니다. Gemini는 고객이 텍스트와 함께 첨부한 구매 스크린샷이나 영수증 이미지를 정확히 이해해 문제 해결에 활용하고, 채널톡의 주요 거점인 한국과 일본을 비롯한 다양한 언어 환경에서도 완성도 높은 대화 품질을 보여주었습니다.

ALF가 고객 접점에서 상담을 통해 데이터를 축적하고 나면, 이를 운영 데이터와 엮어 최적의 비즈니스 실행을 이끌어내는 것이 CoS의 역할입니다.

그동안 전문 데이터 인력이 부족한 중소사업자의 가장 큰 병목은 데이터의 단절이었습니다. 상담 내용, 결제 내역, 고객 정보 등이 서로 다른 시스템에 파편화돼 있어 문제의 원인을 입체적으로 파악하기 어려웠고, 필요한 수치를 모아 분석해 인사이트로 전환하는 것은 또 다른 차원의 장벽이었습니다.

채널코퍼레이션은 이 문제를 해결하기 위해 CoS의 데이터 아키텍처를 구글 클라우드 기반으로 구축했습니다. 사내 여러 플랫폼에 흩어져 있던 상담 및 운영 데이터를 구글 클라우드의 자율형 AI 분석 플랫폼 BigQuery로 통합하고, Gemini 모델과 바로 연결되는 데이터 클라우드를 완성한 것입니다.

BigQuery에 적재된 상담 및 운영 데이터를 조회하면, Gemini는 그 결과를 분석해 비즈니스 실행 및 의사결정을 위한 인텔리전스를 제공합니다. 이 모든 과정이 구글 클라우드 안에서 이뤄지기 때문에, 기업은 데이터를 외부로 이전할 필요 없이 안전한 환경에서 데이터 검색-분석-실행의 에이전틱 루프를 반복하며 CoS를 계속해서 고도화할 수 있습니다.

SQL이나 파이썬을 전혀 모르는 실무자도 자연어 질문을 통해 단순한 수치 확인을 넘어 무엇이 문제고, 어떻게 해결할 수 있는지 인사이트를 얻을 수 있습니다. 예를 들어 CoS에게 “오늘 오후부터 전환율이 떨어지고 있는데 원인이 뭐야?"라고 물으면, Gemini가 질문의 의도를 파악해 BigQuery 안에서 시간대별 전환율 데이터와 상담 내역, 결제 시스템 로그를 교차 분석하는 쿼리를 알아서 작성합니다. BigQuery가 필요한 정보를 빠르게 추출해 내면, Gemini는 “14시부터 결제 실패 문의가 평소의 8배로 급증했으므로 특정 PG사 점검이 필요하다”는 진단을 제공합니다.

CoS가 놀라운 점은 여기서 한 발 더 나아가 영향을 받은 고객군 대상 안내 메시지 발송 및 CRM 마케팅 캠페인 세팅 등 비즈니스 회복을 위한 다음 액션까지 능동적으로 제안하고 실행한다는 점입니다. 쓰면 쓸수록 유능해지는 에이전틱 루프를 통해 고객과 데이터를 매출로 연결하는 CoS는 지금 이 순간에도 열일 중입니다.

채널코퍼레이션은 구글 클라우드의 강력한 인프라 위에서 주 20만 건 이상의 대규모 실시간 상담 트래픽을 흔들림 없이 처리하고 있습니다. 인프라, 플랫폼, 모델이 서로 유기적으로 연동되는 구글 클라우드의 풀스택 AI를 바탕으로 ALF와 CoS의 아키텍처를 성공적으로 재설계할 수 있었습니다. 두 에이전트는 단절된 데이터를 잇고, 스스로 판단하며, 비즈니스 실행으로 연결합니다.

이러한 에이전틱 아키텍처로의 전환은 현장에서 분명한 성과를 입증했습니다. ALF가 직접 처리한 상담 건수는 2026년 2월 약 57만 건에서 7월 107만 건으로, Gemini 도입 5개월 만에 2배 가까이 늘어났습니다.

현재 ALF를 사용 중인 기업들의 평균 상담 해결률은 80%로, ALF는 단순 응대를 넘어 복잡한 CS 문제를 처리하며 실제 상담사 업무 수준에 근접해 가고 있습니다. 특히 Gemini 도입 이후 모든 고객사에서 평균 상담 해결률은 기존 대비 3%p 이상 상승했습니다. 서로 다른 데이터 환경과 매뉴얼을 운영하는 기업들의 해결률이 전반적으로 개선됐다는 것은 에이전틱 구조 전환을 통해 근본적인 체질 개선이 이뤄졌음을 의미합니다.

데이터 전담 인력이 부족한 중소사업자들도 이제 CoS와 함께 사내에 축적된 운영 데이터에서 즉각적인 인사이트를 도출하고 비즈니스 의사결정에 실시간 반영할 수 있습니다. 과거에는 2주 가까이 걸리던 데이터 분석을 CoS에게 자연어로 요청하면 단 3분 만에 받아볼 수 있습니다. 데이터 분석, VoC 연결, 마케팅 실행까지 해결하는 든든한 AI 비서실장이 중소사업자의 성장을 함께 합니다.