IA generativa preparada para el ámbito empresarial con Apigee

La función principal de la pasarela de APIs de Apigee incluye funciones nativas para gestionar el tráfico de las aplicaciones de IA, lo que proporciona un contrato de API coherente para el consumo de servicios.  

Entre las funciones se incluyen las siguientes:

• Abstracción del modelo
• Enrutamiento de modelos multinube
• Enriquecimiento de solicitudes y respuestas
• Integraciones de RAG
• Conectividad de Agent con sistemas de terceros (mediante la plataforma Application Integration de Google Cloud) 
• Patrón de interruptor automático de LLMs para la alta disponibilidad 
• Almacenamiento en caché semántico

Los agentes de IA usan las funciones de los LLMs para completar tareas en nombre de los usuarios finales. Estos agentes se pueden crear con una gran variedad de herramientas, desde plataformas sin código o con poco código, como Agentspace, hasta frameworks con código completo, como LangChain o LlamaIndex. Apigee actúa como intermediario entre tu aplicación de IA y sus agentes.

Ahora que Gemini Code Assist está disponible de forma general en Apigee, puedes crear especificaciones de APIs rápidamente usando lenguaje natural en las interfaces de Cloud Code y Gemini Chat. Aprovechar el ecosistema de APIs de tu organización a través de API Hub proporciona contexto empresarial para APIs coherentes y seguras con compatibilidad con objetos anidados y detección proactiva de APIs duplicadas.

Entre las funciones se incluyen las siguientes:

• Apigee API Hub, para catalogar APIs y flujos de trabajo propios y de terceros
• Aplicación de límites de tokens para controles de costes
• Orquestación multiagente
• Autenticación y autorización
• Caché semántico para optimizar el rendimiento
• Generación de especificaciones de APIs con Enterprise Context (mediante Gemini Code Assist)

Las políticas nativas y las funciones de distribución de Apigee permiten a los equipos de las plataformas de IA generativa gestionar de forma eficiente las aplicaciones de IA y el uso de LLMs. 

Entre las funciones se incluyen las siguientes:

• Portal de desarrolladores integrado para acceder a los modelos mediante autoservicio
• Controles pormenorizados basados en políticas para el acceso a modelos y los límites de uso
• Monitorización y generación de informes sobre los límites de uso de tokens 
• Auditoria y registro de LLMs

Apigee ofrece una monitorización exhaustiva de las aplicaciones de IA para ayudarte a gestionar y optimizar los costes de la IA generativa y a controlar de forma eficiente el uso de la IA en tu empresa.

Entre las funciones se incluyen las siguientes:

• Visibilidad sobre el uso de modelos y el consumo de tokens de aplicación
• Informes y optimización de costes internos
• Paneles de control personalizados para monitorizar el uso en función de los recuentos de tokens reales (mediante la integración con Looker Studio) 
• Registros para aplicaciones de IA

Apigee actúa como una pasarela segura para las APIs de LLM, lo que te permite controlar el acceso con claves de API, OAuth 2.0 y la validación de JWT, y evitar el abuso y la sobrecarga aplicando límites de frecuencia y cuotas. Apigee Advanced API Security puede ofrecer una protección aún más avanzada.

Funciones:

• Integración de Model Armor y aplicación de políticas para la desinfección de solicitudes y respuestas
• Autenticación y autorización 
• Detección de abusos y anomalías
• Mitigación de los diez riesgos principales según la OWASP para APIs y LLMs
• Detección de configuraciones erróneas de seguridad de APIs mediante LLM
• Integración de Google SecOps e SIEM de terceros