리더가 통제 대신 신뢰를 통해 AI를 확장하는 방법 (Q&A)

*이 콘텐츠는 AI 번역 도구를 사용하여 번역되었습니다. 정확성을 기하기 위해 노력하고 있으나, 자동 번역에는 오류나 누락이 포함될 수 있습니다. 정확한 정보는 영문 원본을 참고해 주시기 바랍니다.

지금 엔터프라이즈 기술 분야에서는 조용한 대립이 일어나고 있습니다. 한쪽에는 놀라운 성능을 자랑하는 인공지능 모델이 있습니다. 반면 조직은 AI를 대규모로 배포하는 것을 주저하고 있습니다. 수년 동안 기술 업계에서는 더 스마트한 모델을 빌드하는 것이 진정한 AI 자동화를 달성하는 유일한 방법이라고 가정했습니다. 하지만 오늘날의 현실은 다릅니다. 인텔리전스는 이미 존재 하지만 조직은 이를 자신 있게 프로덕션에 적용하는 데 어려움을 겪고 있습니다.

이러한 망설임은 당연합니다. 신뢰는 단계적으로 구축되며, 에이전트에게 책임을 전환하는 것은 믿음의 도약이 아닙니다. 다음 단계의 클라우드 규모에 도달하려면 리더는 신뢰와 범위를 정의하기 위한 새로운 프레임워크가 필요합니다.

AI의 미래가 안전한 경계를 정의하는 데 달려 있는 이유에 대해 Gemini Enterprise 제품 관리 부문 부사장인 마이클 거스텐하버를 만나 이야기를 나눴습니다. 다음은 두 사람의 대화 내용을 정리한 것입니다.

Q: 업계에서는 항상 다음 주요 모델 업데이트를 기다리는 것 같습니다. 원시 인텔리전스가 여전히 엔터프라이즈 AI의 주요 장애물인가요?

마이클 거스텐하버: 사실 인텔리전스는 더 이상 경계 조건이 아닙니다. 기술은 이미 작업을 수행할 수 있는 수준에 도달했지만, 아직 프로덕션에 적용하기에는 안전하지 않다고 느끼는 사람들이 많습니다. AI 도입은 작동하거나 작동하지 않는 이분법적 스위치로 생각하는 경향이 있습니다. 하지만 실제로는 신뢰에 관한 것입니다. 아직은 인간이 지켜보지 않아도 중요한 작업을 수행할 수 있는 비인간 에이전트의 자격을 부여하지 않았습니다. 인텔리전스는 존재하지만 신뢰의 '범위'는 여전히 매우 작습니다. 기술은 자동화를 수행할 수 있지만 사람들은 이를 프로덕션에 적용하는 것을 안전하게 느끼지 못합니다. 클라우드를 대규모로 사용할 수 있는 기능을 활용하고 싶습니다.

Q: 소프트웨어 엔지니어링과 같은 특정 분야에서 다른 분야보다 훨씬 빠르게 AI를 도입하는 이유는 무엇인가요?

마이클 거스텐하버: 결국 패턴을 찾고 위험을 관리하는 것이 핵심입니다. AI가 기존 수명 주기에 잘 맞기 때문에 소프트웨어 엔지니어링은 매우 빠르게 발전했습니다. 다른 업계에서는 이러한 패턴을 프로덕션에 적용하는 데 시간이 걸립니다. 엔지니어는 특정 도메인에서 위험하지 않은 범위가 무엇인지 파악해야 합니다. 즉, 모든 단계를 제어하는 대신 AI의 작업을 감사할 의향이 있는 경계를 찾아야 합니다. 이렇게 하면 표준 소프트웨어 문제가 됩니다.

Q: AI가 대규모로 작동하기를 바라는 세상에서 감독은 어떤 모습일까요?

마이클 거스텐하버: 두 가지 옵션이 있습니다. 하나는 사람이 계속 관여하는 것이고, 다른 하나는 에이전트를 완전히 신뢰할 수 있는 범위를 정의하는 것입니다. 우리는 이미 기술의 다른 영역에서 이러한 종류의 신뢰를 받아들이고 있습니다. 예를 들어 컴퓨터에 로그인하는 것은 비밀번호를 입력할 때마다 수동으로 감독할 필요가 없는 일반적인 패턴입니다. AI 에이전트와도 동일한 수준의 신뢰를 구축해야 합니다.

저는 신뢰와 범위라는 개념에 푹 빠져 있습니다. 이 기술은 컴퓨터에서 수행되는 모든 작업을 자동화할 수 있는 뛰어난 기능을 갖추고 있지만 아직은 프로덕션에 적용하는 것이 안전하다고 느끼지 못하는 사람들이 많습니다. 현재 에이전트는 사용자와 채팅하고 응답을 기다리는 방식으로 작동합니다. 이러한 작업을 분리하고 사람들이 AI를 충분히 신뢰하여 루프에서 완전히 제외할 수 있도록 지원하고 싶습니다. 그러면 무한한 대규모 규모로 클라우드를 사용할 수 있는 기능이 잠금 해제됩니다.

Q: 이러한 변화는 코딩에만 국한되나요, 아니면 다른 산업에도 적용될까요?

마이클 거스텐하버: 모든 곳에 적용할 수 있지만 범위를 정의하려면 해당 분야의 전문성이 필요합니다.

예를 들어 제약 회사의 과학자는 코딩을 할 수 없지만 에이전트를 사용하여 화합물 발견을 위한 통계 분석을 실행할 수 있습니다. Thomson Reuters의 CoCounsel2.0 (전문가급 생성형 AI 어시스턴트)를 사용하는 변호사는 계약서 분석을 위임할 수 있습니다. 이러한 모든 경우에 인간은 여전히 전문가입니다. 에이전트가 작업을 잘 수행했는지 알기 위해서는 전문가가 되어야 합니다. 하지만 힘든 작업을 직접 수행하는 대신 범위를 정의하고 결과를 확인합니다.

이런 현상이 어디에서나 나타나고 있습니다. Estee Lauder와 Jo Malone은 Gemini Enterprise Agent Platform을 활용하여 자연어 응답을 해석하고 이를 Jo Malone London의 후각 데이터 속성에 매핑하여 맞춤형 전문가 추천 향수를 생성하는 AI Scent Advisor를 도입했습니다. Honeywell은 Gemini Enterprise Agent Platform을 사용하여 Smart Shopping Platform을 구동합니다. 이 플랫폼은 쇼핑객이 원하는 제품을 쉽게 찾고, 유사한 제품을 비교하고, 제품이 품절된 경우 관련 대체품을 빠르게 찾을 수 있도록 도와주어 매장 쇼핑을 더욱 효율적이고 즐겁게 만들어 줍니다.

Agent Platform의 최신 소식을 자세히 알아보려면 최신 요약을 확인하세요.

Q: 이를 실현하기 위해 어떤 역할을 맡고 있나요?

마이클 거스텐하버: 인텔리전스는 이미 우리 곁에 있습니다. 제 역할은 전 세계적으로 기술을 잘 관리하고, 사람들이 이러한 새로운 패턴에 액세스하도록 돕고, 그 밖의 모든 복잡한 엔터프라이즈 문제를 해결하는 것입니다. 즉, 조직이 신뢰를 평가하고 위임하는 방법, 거버넌스를 관리하는 방법, 컨텍스트 인식을 유지하는 방법을 파악하도록 도와야 합니다. 결국 범위와 신뢰의 문제입니다.

Q: 이 범위와 신뢰 방정식이 올바르면 어떤 이점이 있나요?

마이클 거스텐하버: 무한한 확장성. 에이전트를 신뢰할 수 있는 범위를 찾을 수 있다면 클라우드에서 무한대로 확장할 수 있습니다. 이때 클라우드의 경제성이 진정으로 달라집니다. 한 사람이 하나의 문제를 해결하는 것에서 벗어나 수천 개의 문제를 동시에 해결하기 위해 인텔리전스를 분산합니다.

Q: 통제권을 놓는 것을 주저하는 리더에게 해주고 싶은 조언이 있나요?

마이클 거스텐하버: 절대 실수하지 않는 모델을 기다리지 마세요. 소프트웨어는 그렇게 작동하지 않으며 인간도 마찬가지입니다. 대신 경계를 정의하는 데 집중하세요. 스스로에게 질문해 보세요. 오늘 에이전트에게 넘길 수 있는 내 비즈니스 내의 위험하지 않은 범위는 무엇인가요? 작은 규모로 시작하여 결과를 감사하고, 자신감이 생기면 범위를 넓히세요. 이것이 바로 조직이 에이전트형 미래를 준비하는 방법입니다.