카카오모빌리티

카카오모빌리티, Gemini Flash로 3초의 벽을 허물고 완성한 AI 드라이빙 파트너

Google Cloud 도입 효과
  • 평균 3초 이내 초저지연 답변으로 응답 속도 혁신

  • Grounding with Google Search로 POI 검색 품질 향상

  • 월간 사용자 리텐션 및 서비스 인게이지먼트 증대

카카오모빌리티는 구글 클라우드의 Gemini Flash와 Grounding with Google Search 기술을 활용해 '카카오내비 대화형 AI Agent'를 구축했습니다. 운전 환경 고유의 레이턴시 한계를 극복하고 POI 검색 경험을 개선해, 3초 이내에 정확한 목적지를 알려주는 스마트한 AI 드라이빙 파트너를 완성했습니다. 카카오내비 대화형 AI Agent는 월간 사용자 리텐션과 방문 일수를 끌어올리며 AI 기술의 비즈니스 가치를 입증하고 있습니다.

우리는 매 순간 이동하며 살아갑니다. 그 과정에서 발생하는 수많은 데이터와 그 데이터가 모여 만드는 새로운 인사이트는 더 나은 모빌리티 세상으로 향해 가는 핵심 엔진으로 작동합니다. 여기에 AI 기술이 플랫폼에 무한한 가능성을 더하며, 모빌리티 업계는 도전적인 시도와 데이터 흐름이 집중되는 기술 혁신의 무대가 되었습니다.

이러한 중심에서 카카오모빌리티는 '카카오 T'와 ‘카카오내비’를 기반으로 사람과 사물의 이동을 연결하며 한국 모빌리티 생태계의 성장을 이끌어 왔고, 이제는 축적된 데이터와 AI 기술을 바탕으로 미래 이동을 혁신하는 피지컬 AI 기술 기업으로 영역을 확장하고 있습니다.

이동의 모든 순간을 연결하며 삶을 더 나은 곳으로 움직이는 카카오모빌리티는 제한된 환경에서 운전자의 안전을 지키면서, 기존 내비게이션이 제공하지 못했던 새로운 차원의 편리함과 사용자 경험(UX)을 선사하기 위해 차세대 AI 기술을 결합한 ‘카카오내비 대화형 AI Agent’ 개발에 착수했습니다.

카카오내비 대화형 AI Agent

카카오내비 대화형 AI Agent

Gemini에서 발견한 새로운 사용자 경험의 가능성

카카오모빌리티는 이전부터 구글의 생성형 AI 기술을 서비스 전반에 적극 도입해 왔습니다. 카카오 T 퀵·배송 서비스에 Gemini Flash 모델을 적용해 'AI 주소 자동 붙여넣기' 기능을 개시한 이후 1개월 만에 소요 시간을 평균 24% 단축했고, 'AI 사진 접수' 베타 기능을 출시해 입력 절차를 대폭 단순화하며 실질적인 사용성 개선을 이어오고 있습니다.

AI 기반 자동 주소 붙여넣기
카카오 T 퀵·배송에 적용된 Gemini 모델 기반 ‘AI 주소 자동 붙여넣기’ 기능과 ‘AI 사진 접수’ 기능
AI 사진 제출

이러한 성공 경험은 AI가 단순한 기술적 실험을 넘어 실질적인 비즈니스 성과로 연결될 수 있다는 강력한 확신을 주었고, 카카오모빌리티는 대국민 서비스인 카카오내비에서도 새로운 차원의 UX를 제공하기 위해 대화형 AI Agent를 기획하기 시작했습니다.

손과 눈이 자유롭지 못한 주행 환경에서는 음성이 가장 자연스럽고 유용한 멀티모달 인터페이스로 작동합니다. 카카오모빌리티는 빠른 처리 속도와 높은 효율성을 동시에 갖춘 Gemini Flash 모델이 내비게이션 환경의 니즈를 충족하고, 이에 필요한 멀티 에이전트 구조를 구현할 수 있는 최적의 솔루션이라 판단했습니다.

정형화된 음성봇의 한계와 ‘3초’의 벽

기존 내비게이션의 음성 인식 서비스는 정해진 규칙이나 정형화된 질의응답 패턴(Rule-based) 안에서만 작동한다는 한계가 있었습니다. 사용자가 정확한 명령어나 특정 단어를 말해야만 원하는 답을 얻을 수 있었고, 조금만 다르게 질문하면 인식하지 못하는 경우가 빈번했습니다.

이러한 한계를 극복하고 자연어 기반의 대화형 에이전트를 구축하는 과정에서, 내비게이션 환경 특유의 기술적 난관에 부딪쳤습니다. 바로 ‘레이턴시(latency, 지연 시간)’입니다. 일반적인 환경에서는 AI 서비스가 충분한 추론 시간을 가져도 사용자가 기다려줄 여유가 있지만, 도로 위 운전자는 다릅니다. 적절한 답변 시점을 잠깐만 놓쳐도 복잡한 갈림길이나 분기점을 그대로 지나쳐 버릴 수 있기 때문입니다. 

카카오모빌리티는 복잡한 연산을 수행할 수 있는 멀티 에이전트 구조를 구현하면서도 최대 3초 이내에 정확한 답변을 생성하는 것을 이번 프로젝트의 핵심 목표로 삼았습니다. 모호한 표현 속에서도 정확한 POI(Point of Interest, 장소)를 찾아낼 수 있는 검색 품질 확보 역시 기술적으로 풀어야 할 과제였습니다.

초저지연 아키텍처와 그라운딩 검색의 결합

카카오내비 대화형 AI Agent의 시스템 처리 과정

카카오내비 대화형 AI Agent의 시스템 처리 과정

카카오내비 대화형 AI Agent 동작 모습 (주행전)

카카오내비 대화형 AI Agent 동작 모습 (주행전)

카카오모빌리티는 운전자의 발화를 실시간으로 처리하고 맥락에 맞는 정확한 안내를 제공하기 위해, 사용자의 스마트폰 앱(클라이언트)과 구글 클라우드 솔루션이 유기적으로 연동되는 시스템 아키텍처를 구축했습니다.

사용자 음성이 입력되면 안드로이드 및 iOS 앱 내 로컬 STT가 1차적으로 음성을 텍스트로 변환합니다. 변환된 텍스트가 카카오 T 서버로 전달되면, 구글 클라우드의 에이전트 개발 도구(ADK)로 구성한 서버에서 Gemini 3 Flash API를 호출합니다. Gemini 모델은 클라이언트에서 실행할 화면 제어 액션과 사용자 안내용 음성 텍스트를 동시에 생성하고, 이 텍스트는 Cloud TTS API를 거쳐 고품질 음성 파일로 변환돼 디스플레이 전환과 함께 사용자에게 전달됩니다. 개발 초창기에는 Gemini 2.5 Flash를 사용하다가 모델 출시 일정에 맞춰 최신 버전인 3 Flash 모델로 전환하면서 서비스의 완성도를 더욱 높였습니다. 

내비게이션 서비스의 첫 사용자 경험은 운전자가 주행 전 목적지나 경유지를 찾을 때 결정됩니다. 카카오모빌리티는 POI 검색 경험과 정확도를 잡기 위한 기술적 노력에 집중하며 다층적인 구조로 기술을 적용했습니다. 먼저 차량 소음이나 부정확한 발음으로 음성이 잘못 인식되는 현상을 방지하기 위해 시스템에 도로명 패턴 등을 프롬프트 엔지니어링으로 학습시켰습니다. 또한 LLM이 장소 검색 API와 같은 외부 도구를 호출할 때 복수의 장소 후보 리스트를 함께 전달해 최종 검색 결과를 보정하는 알고리즘을 적용했습니다. 여기에 사용자의 최근 검색 기록 등 내부 컨텍스트 데이터를 사전 분석해 LLM에 공유함으로써 검색 히트율을 극대화했습니다.

이러한 보정 후에도 장소가 검색되지 않는 경우에는, Grounding with Google Search를 활용합니다. 예를 들어 사용자가 'ABC 떡볶이'를 검색했으나 내부 DB 업데이트 지연으로 싱크가 맞지 않을 때, 대화형 AI Agent는 구글 검색 그라운딩으로 실시간 웹 검색과 최신 블로그 데이터 등을 파악해 해당 매장이 최근 'BCD 떡볶이'로 상호가 변경되었다는 사실을 자동으로 인지하고 올바른 목적지로 바꿔 안내합니다.

카카오내비 대화형 AI Agent 동작 모습 (주행중)
카카오내비 대화형 AI Agent 동작 모습 (주행중)
카카오내비 대화형 AI Agent에서 가장 중요한 시나리오는 장소 검색입니다. 도로명 패턴 학습과 컨텍스트 데이터 분석으로 LLM의 추론을 강화했고, 마지막에 Grounding with Google Search를 활용해 최신 웹 맥락을 파악합니다. 내부 DB에 없는 장소나 상호가 변경된 곳까지 에이전트가 구글 검색으로 답을 찾는 과정을 보며 그라운딩의 강력함을 체감했습니다.

박찬식(제롬)

카카오모빌리티 AI 연구개발팀 AI 엔지니어

AI 생태계와 One-team 시너지로 3초의 벽을 허물다

카카오모빌리티가 차세대 대화형 AI Agent 구축 이전부터 오랜 혁신 파트너로 구글 클라우드를 선택한 이유의 중심에는 인프라, 플랫폼, 모델 등 모든 계층의 제품과 기술이 안전하고 유기적으로 연결된 구글 클라우드만의 AI 생태계가 있습니다. 카카오모빌리티는 LLM, STT, TTS 등 개별 솔루션마다 여러 기업의 제품을 다각도로 비교 검토한 결과, 구글 클라우드의 제품 간 연동성이 가장 매끄럽고 뛰어나다고 평가했습니다.

약 10개월간 진행된 프로젝트가 처음부터 순탄하기만 했던 것은 아닙니다. 음성 에이전트 기술과 LLM 모델의 변화 속도가 워낙 빠르다 보니, ADK를 활용해 이슈를 해결하는 과정에서도 최신 모델이 출시될 때마다 빠르게 버전을 전환하고 서비스를 최적화하는 기민함이 요구됐습니다.

가장 어려운 순간은 개발 초기 응답 속도 검증 단계였습니다. 멀티 에이전트 구조 특성상 복수의 추론과 멀티 턴을 거치면서 레이턴시가 7초에서 최대 13초까지 발생했습니다. 초 단위로 도로 상황이 바뀌는 운전 환경에서 7초 이상의 지연은 서비스 출시 자체가 불가능함을 의미했습니다. 

유위석(케빈) 카카오모빌리티 클라이언트개발 실장은 구글 클라우드 엔지니어링 팀의 밀착 지원 덕분에 돌파구를 찾을 수 있었다고 설명합니다. 프로젝트 포기까지 고민했던 상황에서 구글 클라우드 팀과 카카오모빌리티 팀은 다시 처음부터 프로젝트의 방향성과 기술 요건을 정립하며 해결책을 함께 모색했습니다. 그렇게 양사의 전문가들이 한 달간 집중적인 튜닝과 모델 및 파이프라인 최적화에 몰두한 결과, 평균 3.3초의 응답 속도를 극적으로 달성할 수 있었습니다.

최신 기술 트렌드 적용과 신속한 모델 전환부터 얼리 액세스 프로그램까지, 구글 클라우드는 카카오모빌리티가 과감한 시도와 기술적인 도전을 펼칠 수 있도록 적극적으로 함께 해 준 최고의 파트너입니다. 구글 클라우드 팀의 진정성 있는 지원이 없었다면 지금의 성과는 불가능했을 것입니다.

유위석(케빈)

카카오모빌리티 클라이언트개발 실장

내비게이션, 스마트한 AI 드라이빙 파트너로 진화하다

카카오모빌리티는 카카오내비 대화형 AI Agent를 카카오 T 앱 내 구독 서비스 가입 회원을 대상으로 클로즈드 베타(CBT) 형태로 선보이며 서비스 안정성과 유저 경험을 검증해 나가고 있습니다. 카카오내비 대화형 AI Agent 도입 이후 가장 큰 변화는 내비게이션이 수동적으로 대답만 하던 비서에서, 운전자가 필요로 하는 순간을 먼저 파악해 도와주는 스마트한 ‘AI 드라이빙 파트너’로 서비스 체질이 근본적으로 진화했다는 점입니다. 

이러한 정성적 사용자 경험의 변화는 데이터 기반의 기술적∙비즈니스 성과로도 입증되고 있습니다. 대화형 AI Agent는 멀티 에이전트라는 무거운 처리 구조 속에서도 평균 3.3초 이내에 답변을 생성하고 전달하며 초저지연 성능을 안정적으로 유지하고 있습니다. 

에이전트 이용자의 월간 리텐션(retention)은 미사용 유저 대비 13.9% 높게 나타났으며, 월간 활동 일수 역시 미사용자 대비 1.8배 높은 수치를 기록했습니다. 도입 전후를 비교했을 때 유저의 방문 일수가 6.9% 증가하는 등, 대화형 AI Agent는 사용자를 카카오내비로 더 자주, 꾸준히 불러들이며 서비스 인게이지먼트를 끌어올리는 확실한 효과를 검증해낸 셈입니다.

에이전트 빌더로 AI-Native 모빌리티 생태계를 향해

이번 프로젝트를 통해 카카오모빌리티가 얻은 가장 큰 자산은 사내에 확장 가능한 음성 기반 에이전트 빌더(Agent Builder)를 완성했다는 점입니다. 이제 별도의 복잡한 추가 개발 공수 없이도 정교한 평가와 검증 프로세스를 거쳐 새로운 전문 에이전트를 손쉽게 추가하고 연동할 수 있는 시스템 기반을 갖추게 되었습니다.

카카오모빌리티는 에이전트 빌더를 활용해 카카오내비의 전면적 서비스 확대와 기능 고도화는 물론, 카카오 T를 비롯한 모빌리티 플랫폼 내 다양한 영역으로 음성 에이전트 경험을 지속적으로 확장해 나갈 계획입니다.

이제 카카오모빌리티는 AI 기술 도입을 통한 생산성 혁신을 넘어, AI 에이전트가 생성한 결과물을 엄격히 검증하고 평가하는 새로운 지표들을 개발하는 데 집중하고 있습니다. 운전자와 승객의 안전과 편리함을 최우선 가치에 두고, 모든 업무 방식과 서비스 과정을 진정한 AI-native 환경으로 전환하며 모빌리티 생태계를 키워 나가는 것이 카카오모빌리티의 최종 지향점입니다. 구글 클라우드는 다양한 영역과 플랫폼을 넘나드는 독보적인 Cross-Google 시너지를 제공하며 카카오모빌리티의 여정을 든든히 함께 해 나가겠습니다.

카카오모빌리티

카카오모빌리티는 대표 서비스인 ‘카카오 T’와 ‘카카오내비’를 기반으로 택시, 대리운전, 주차, 기차·항공 예약, 라스트마일 등 사람과 사물의 이동을 아우르는 종합 모빌리티 서비스를 제공하고 있습니다. 독보적인 플랫폼 운영 노하우와 축적된 데이터, AI 기술을 바탕으로 미래 이동을 혁신하는 피지컬 AI 기술 기업으로 영역을 확장해 나가고 있습니다. 

산업 분야: 모빌리티, 물류, IT 및 플랫폼 서비스

위치: 대한민국 

사용된 제품: Gemini, Gemini 3 Flash, Agent Development Kit, Cloud TTS, Grounding with Google Search



Google Cloud
콘솔
Google Cloud