IA generativa lista para empresas con Apigee

La funcionalidad de la puerta de enlace de API principal de Apigee incluye capacidades nativas para administrar el tráfico de las aplicaciones de IA, lo que proporciona un contrato de API coherente para el consumo de servicios.  

Se incluyen las siguientes capacidades:

• Abstracción de modelos
• Enrutamiento de modelos de múltiples nubes
• Enriquecimiento de la solicitud o la respuesta
• Integraciones de RAG
• Conectividad del agente a sistemas de terceros (con la plataforma de integración de aplicaciones de Google Cloud) 
• Patrón de disyuntor LLM para alta disponibilidad 
• Almacenamiento en caché semántica

Los agentes de IA usan las capacidades de los LLM para realizar tareas para los usuarios finales. Estos agentes se pueden crear con una variedad de herramientas, desde plataformas sin código y de poco código, como Agentspace, hasta frameworks de código completo, como LangChain o LlamaIndex. Apigee actúa como intermediario entre tu aplicación de IA y sus agentes.

Ahora que Gemini Code Assist se encuentra en disponibilidad general en Apigee, puedes crear especificaciones de APIs rápidamente con lenguaje natural en las interfaces de Cloud Code y chat de Gemini. Aprovechar el ecosistema de APIs de tu organización a través del centro de APIs proporciona Enterprise Context para APIs coherentes y seguras con compatibilidad de objetos anidados y detección proactiva de APIs duplicadas.

Se incluyen las siguientes capacidades:

• El centro de APIs de Apigee, para catalogar APIs y flujos de trabajo propios y de terceros
• Aplicación de límite de tokens para controles de costos
• Organización de varios agentes
• Autenticación y autorización
• Almacenamiento en caché semántico para un rendimiento optimizado
• Generación de especificaciones de APIs con Enterprise Context (con Gemini Code Assist)

Las políticas nativas y las capacidades de distribución de Apigee permiten que los equipos de la plataforma de IA de próxima generación administren de forma eficiente las aplicaciones de IA y el uso de LLM. 

Se incluyen las siguientes capacidades:

• Portal integrado para desarrolladores para acceder de forma independiente a los modelos
• Controles detallados y basados en políticas para los límites de uso y acceso al modelo
• Supervisión y generación de informes sobre los límites de uso de tokens 
• Auditoría y registro de LLM

Apigee proporciona una observabilidad profunda de las aplicaciones de IA para ayudarte a administrar y optimizar los costos de la IA generativa y administrar de forma eficiente el uso de IA de tu organización.

Se incluyen las siguientes capacidades:

• Visibilidad del uso del modelo y el consumo del token de la aplicación
• Informes y optimización de costos internos
• Paneles personalizados para supervisar el uso en función de los recuentos de tokens reales (a través de la integración con Looker Studio) 
• Registro de aplicaciones de IA

Apigee actúa como una puerta de enlace segura para las APIs de LLM, lo que te permite controlar el acceso con claves de API, OAuth 2.0 y validación de JWT, y evitar el abuso y la sobrecarga mediante la aplicación de límites de frecuencia y cuotas. Advanced API Security de Apigee puede ofrecer una protección aún más avanzada.

Capacidades:

• Integración de Model Armor y aplicación de políticas para la limpieza de instrucciones y respuestas
• Autenticación y autorización 
• Detección de abusos y anomalías
• Mitigación contra los 10 riesgos de seguridad principales de OWASP para APIs y LLM
• Detección de errores de configuración de seguridad de la API de LLM
• Integración de Google SecOps y SIEM de terceros