미디어 산업은 오랫동안 인공지능을 어떻게 활용할지에 대해 고민해 왔습니다. 지금도 기사를 쓰는 '인공지능 기자'를 먼저 떠올리곤 하지만 당장 기계가 기자를 대신하기는 어렵습니다. 오히려 그 외의 부분에서 가치를 찾으려는 노력들이 더 현실성을 보인다는 것이 중앙일보의 고민이었습니다.

인공지능은 새로운 기술이고, 지금도 빠르게 발전하고 있습니다. 단번에 답을 찾기에 인공지능의 발전 속도와 활용 영역은 너무 넓었습니다. 확실한 것을 기다리며 미루기 보다 인공지능 기술에 익숙해지면서 서서히 과정을 만들어가는 것이 옳다는 답을 내고 구글 클라우드와 함께 인공지능에 대한 고민을 본격적으로 시작했습니다.

"지난 구글I/O 2024에서 공개된 구글 AI Overview는 매우 인상적이었습니다. AI Overview는 주제어에 대해서 다양한 정보를 실시간으로 검색하고 이를 바탕으로 완성된 정보를 보여주는 다음 세대의 검색 서비스입니다. 언론사의 웹사이트에서 이용자들이 원하는 것 역시 정보를 검색하고, 이를 통해 적절한 견해와 통찰력을 갖게 되는 것입니다. AI Overview는 중요한 영감을 제공했습니다."

한용수 백엔드개발팀 팀장은 AI Overview의 검색 결과가 상당히 인상적이었다고 말합니다. 흩어져 있는 정보들을 하나로 모으는 통찰력은 기사를 검색하는 독자들이 궁극적으로 원하는 목표라고 봤기 때문입니다.

"AI Overview는 범용 검색 서비스이다 보니 특정 주제에 대해서는 다소 조심스러운 반응을 보이기도 했습니다. 언론사 입장에서는 직접적이고 명확한 답이 필요했는데 검색 범위를 중앙일보가 기존에 만들어 낸 기사로 좁히면 정확하면서도 적극적인 답을 꺼낼 수 있을 것이라는 생각으로 이어졌습니다. 중앙일보의 'AI 검색' 서비스는 이렇게 '뉴스에 대해서는 우리가 더 좋은 통찰력을 제공할 수 있지 않을까?'라는 생각에서 출발했습니다."

인공지능은 뛰어나지만 그 자체로 완전한 결과물을 만들어주지는 않습니다. 새로운 정보 습득의 한계나 엉뚱한 답을 만들어내는 환각까지 불완전한 모습들을 일반 이용자들을 대상으로 하는 서비스에 꺼내 놓을 수는 없었습니다. 먼저 내부적으로 활용하면서 능숙하게 다루는 방법을 익히기로 했습니다.

그 과정에서 인공지능의 환각에 대응하는 방법도 답을 찾을 수 있었습니다. 중앙일보의 뉴스를 학습시키고, 해당 도메인의 데이터에 대해서만 검색과 생성이 이뤄지도록 한정하는 방법으로 정확도를 크게 높일 수 있었습니다. 일종의 검색 증강 생성(RAG, Retrieval-Augmented Generation)의 출발점인 셈입니다.

AI 검색은 Vertex AI의 Vertex Search를 중심으로 설계했습니다. 먼저 자연어로 입력된 질문에 대해서 Function Calling을 통해 Gemini를 불러 의도를 파악하는 과정이 이뤄집니다. Gemini는 정확한 내용을 바탕으로 Vertex Search에서 관련성이 높은 기사들을 검색합니다.

검색 결과를 문장으로 생성하는 과정에서 가장 어려웠던 것은 '시점'이었다고 합니다. 중앙일보는 지난 60년 분량의 기사를 모두 구글 클라우드에 학습시켰습니다. 사실상 우리나라의 모든 순간이 압축되어 있기 때문에 그 사이에 비슷한 키워드로 해석되는 일들이 함께 검색될 수 있습니다. 또한 모든 기사는 그 순간, 현재 상태를 기록하기 때문에 대규모 언어 모델이라고 해도 문장만 보면 모든 글이 '오늘'처럼 같은 시점으로 읽을 수밖에 없습니다.

중앙일보는 이를 해결하기 위해서 시점을 해석하는 에이전트를 만들어서 각 기사가 작성된 날짜, 그리고 그 내부 문장들이 가리키는 시점에 대해서 적절하게 파악할 수 있도록 했습니다. 이를 통해서 정확한 시점의 기사들을 추려낼 수 있기 때문에 의도에 맞는 정보 추출의 정확도가 크게 높아집니다. 이렇게 모인 기사들을 다시 Gemini를 통해 요약, 정리하도록 해서 결과적으로 자연어 대화 형태의 매끄러운 정보를 제공할 수 있게 됐습니다.

기사 생산에 대한 부분도 다시 가다듬었습니다. 으레 미디어와 생성형 AI의 결합을 '인공지능 기자'로 떠올릴 수 있지만 여전히 기사는 기자들의 현장 취재를 통해 만들어지고, 그 과정에서 가치가 생깁니다. 중앙일보는 직접 기사를 만드는 것보다 인공지능을 통해 기사를 더 돋보이게 하는 방법을 고민했습니다. 그 중 한 가지는 제목입니다.

"Vertex AI와 Gemini를 통해 기사의 내용을 효과적으로 담아내는 제목을 지을 수 있도록 구성했습니다. Gemini는 여느 대규모 언어 모델들과 비교했을 때 한글에 대한 이해도가 높아서 왜곡 없이 매끄러운 결과를 만들어 주었습니다. 적절한 길이와 톤을 잡도록 설계해서 단숨에 기사를 설명하는 제목을 제안하도록 설계했고, 이를 기사 편집 시스템에 붙이는 과정까지 매끄럽게 이뤄졌습니다."

기사 편집 시스템에서 버튼을 누르면 Vertex AI는 기사 내용을 읽어들이고 Gemini를 통해 적절한 제목 몇 가지를 제안합니다. 물론 Gemini가 만든 제목이 그대로 기사와 함께 나가는 것은 아니고 편집국에서 검토와 수정을 거쳐서 출고되는 시스템입니다.

정수민 서비스기획팀 차장은 제목이 기사를 한 줄로 표현해서 독자의 눈길을 끌고, 긴 글을 편하게 읽을 수 있도록 이끌어주는 역할을 한다는 원칙에 충실해야 한다는 관점에서 Gemini를 활용하기 시작했습니다. 쉽게 읽어 넘기는 것이 제목이지만 사실 이를 만드는 과정은 생각보다 많은 고민이 필요합니다. 정수민 차장은 Vertex AI와 Gemini에 적절한 프롬프트를 통해 큰 틀을 잡아주면서 제목을 결정할 수 있도록 설계했습니다.

"실제 편집국에서 Vertex AI를 이용한 기사의 최종 제목은 Vertex AI가 만든 제목과 70% 이상의 유사도를 보였습니다. 중요한 단어와 문구들이 제안되고 있고 그 안에서 적절한 문장 길이와 톤을 손 보는 정도로도 적절한 제목이 만들어지고 있다고 볼 수 있습니다."

중앙일보는 현재 Vertex AI의 언어 모델로 Gemini 1.5 Pro를 주로 이용하고 있습니다. 있습니다. 아무래도 단어를 기반으로 데이터베이스를 찾는 키워드 검색과 달리 AI 검색은 여러 머신러닝 모델을 복합적으로 활용하기 때문에 어느 정도의 처리 시간이 필요합니다. 조금 더 빠른 Gemini 1.5 Flash 모델을 쓸 수도 있었지만 최신 모델인 Gemini 1.5 Pro를 통해 원하는 수준의 결과물을 좀 더 쉽게 만들어낼 수 있었고, 세세한 프롬프트를 통해서 더 나은 결과물들이 얻어졌습니다.

전체적으로 Gemini의 언어적 능력은 탁월했습니다. 특히 요약 결과물은 다른 언어 모델과 비교가 의미 없을 정도였습니다. 요약이 매끄럽게 이뤄지면서 뉴스레터도 인공지능을 통해 제작하고 있습니다. 뉴스레터는 Gemini 1.5 Pro를 이용해 신문의 1면부터 5면까지의 주요 기사를 한 눈에 들어오게 요약하는 것으로 시작합니다. 미리 설계한 프롬프트에 따라서 적절한 톤과 분량의 결과물을 만들어 줍니다.

물론 그 결과물이 그대로 외부에 나가지는 않습니다. 반드시 검수를 통해 내용에 왜곡이 없는지, 부적절한 단어가 쓰이지 않았는지 확인하는 과정을 거쳐 뉴스레터가 완성됩니다. 하지만 대부분의 경우 기사의 의도를 잘 파악한 요약글이 지어지기 때문에 뉴스레터를 만드는 과정이 간소화되었습니다. 

60년 동안 쌓여 온 수많은 기사를 모두 스토리지에 적재해야 했습니다. 클라우드 스토리지와 BigQuery는 모든 데이터를 안정적으로 저장하면서도 인공지능을 위한 워크로드가 매끄럽게 연결되어 있습니다. 특히 데이터 분석과 학습을 잘 하려면 전처리가 매우 중요하다는 것이 한용수 팀장의 설명입니다.

"AI 검색을 준비하는 과정에서 데이터의 전처리가 중요하다는 것을 알게 됐습니다. 머신러닝 모델이 효과적으로 받아들이고, 정확한 검색 결과를 얻을 수 있도록 하는 필수 과정입니다. 데이터 전처리가 잘 이뤄진 이후로는 Vertex AI의 모든 과정이 순조로웠습니다."

언론사가 만들어내는 뉴스는 시의성과 속도가 중요합니다. 그러다 보니 공들여 만든 기사들이 관심을 받는 시간은 몇 시간에 그칠 정도로 짧습니다. 하지만 기사들은 언론사의 가장 큰 자산이고, 이 기사들이 모여서 만들어내는 지식은 큰 가치를 갖고 있습니다. 그 가치를 만들어내는 것이 미디어의 온라인 서비스입니다. Vertex AI를 통해 인공지능을 접목하면서 과거의 기사들이 다시 읽히게 되고, Gemini를 통해 새로운 지식 정보로 재가공되고 있습니다.

다른 한편으로는 인공지능의 뛰어난 언어 능력 때문에 콘텐츠 제작 역할을 대체하는 것에 대한 걱정과 고민이 많습니다. 언어 모델을 갖고 있는 기업들이 더 좋은 기사를 만들어낼 수 있다는 이야기까지 나오고 있으니 말입니다. 하지만 정진환 본부장은 실제로 Vertex AI를 통해 언어 모델과 인공지능 기술을 접하면서 인공지능의 역할과 역량에 대해서 이해도가 높아졌다고 말합니다.

"언론사의 근본적인 역할은 올바른 정보를 수집하고, 가치 판단을 통해 적절한 정보를 전달하는 것이라고 봅니다. 인공지능은 업무의 간소화가 아니라 제작을 더 잘 할 수 있도록 부가적인 가치를 만드는 데에 있습니다. 사람에게 관심을 기울이고, 이야기를 귀담아 듣는 것에서 기사는 시작됩니다. 여기에 현재의 사건들과 과거의 기록을 더하는 것으로 더 큰 가치를 만들어내는 것에 주목하고 있습니다."

결국 인공지능이 특정 업무나 직군을 대체한다는 우려보다는 인공지능 기술을 잘 다루는 기업과 사람들이 가치를 더 높여가는 것이라는 확신을 갖게 됐습니다. 정진환 본부장은 인공지능 기술을 직접 다뤄보지 않았다면 지금도 사내에서는 인공지능에 대한 불안감부터 대규모 언어 모델을 직접 만들어야 할 지에 대한 고민까지 생각만 맴돌고 있었을 것이라고 말합니다.

중요한 것은 인공지능을 활용할 아이디어와 실제 다루는 경험에 있다는 이야기입니다. 구글의 AI에 대한 목표 역시 인공지능 기술 그 자체가 아니라 누구나 인공지능 기술로 새로운 영감을 떠올리고 역량을 강화해 각자의 분야에서 문제를 해결하고 새로운 기회를 만드는 데에 있습니다. 'AI+중앙일보'와 Vertex AI의 만남은 인공지능이 가야 할 방향성을 잘 보여주고 있습니다.