IA générative adaptée aux entreprises avec Apigee

La fonctionnalité de passerelle API principale d'Apigee inclut des fonctionnalités natives pour gérer le trafic des applications d'IA, offrant ainsi un contrat d'API cohérent pour la consommation de services.  

Les fonctionnalités incluent :

• Abstraction du modèle
• Routage de modèle multicloud
• Enrichissement des requêtes/réponses
• Intégrations RAG
• Connectivité des agents aux systèmes tiers (à l'aide de la plate-forme Application Integration de Google Cloud)
• Modèle de circuit breaker LLM pour la haute disponibilité
• Mise en cache sémantique

Les agents d'IA utilisent les fonctionnalités des LLM pour effectuer des tâches à la place des utilisateurs finaux. Ces agents peuvent être créés à l'aide de divers outils, des plates-formes sans code ou nécessitant peu de code comme Agentspace aux frameworks full code comme LangChain ou LlamaIndex. Apigee agit comme un intermédiaire entre votre application d'IA et ses agents.

Désormais disponible en disponibilité générale dans Apigee, Gemini Code Assist vous permet de créer rapidement des spécifications d'API en langage naturel dans les interfaces Cloud Code et Gemini Chat. Exploiter l'écosystème d'API de votre organisation via le hub d'API fournit un contexte d'entreprise pour des API cohérentes et sécurisées, avec prise en charge des objets imbriqués et détection proactive des doublons d'API.

Les fonctionnalités incluent :

• Hub d'API Apigee pour cataloguer les API et les workflows propriétaires et tiers
• Application de la limite de jetons pour les contrôles de coûts
• Orchestration multi-agent
• Authentification et autorisation
• Mise en cache sémantique pour des performances optimisées
• Génération de spécifications d'API avec le contexte d'enterprise (à l'aide de Gemini Code Assist)

Les règles natives et les fonctionnalités de distribution d'Apigee permettent aux équipes de plates-formes d'IA générative de gérer efficacement les applications d'IA et l'utilisation des LLM.

Les fonctionnalités incluent :

• Portail de développeur intégré pour un accès en libre-service aux modèles
• Contrôles précis basés sur des règles pour limiter l'accès et l'utilisation des modèles
• Surveillance et création de rapports sur les limites d'utilisation des jetons
• Audit et journalisation de LLM

Apigee offre une observabilité approfondie des applications d'IA, ce qui vous permet de gérer et d'optimiser les coûts de l'IA générative, et de contrôler efficacement l'utilisation de l'IA dans votre organisation.

Les fonctionnalités incluent :

• Visibilité sur l'utilisation du modèle et la consommation de jetons d'application
• Optimisation et reporting interne des coûts
• Tableaux de bord personnalisés pour surveiller l'utilisation en fonction du nombre de jetons réel (via l'intégration avec Looker Studio)
• Journalisation pour les applications d'IA

Apigee agit comme une passerelle sécurisée pour les API LLM, ce qui vous permet de contrôler l'accès à l'aide de clés d'API, d'OAuth 2.0 et de la validation JWT, et d'empêcher les abus et les surcharges en appliquant des limites de débit et des quotas. Apigee Advanced API Security peut offrir une protection encore plus avancée.

Fonctionnalités :

• Intégration de Model Armor et application de règles pour la désinfection des requêtes et des réponses
• Authentification et autorisation
• Détection d'abus et d'anomalies
• Atténuation des 10 principales menaces de sécurité des API selon l’OWASP
• Détection des erreurs de configuration de sécurité de l'API LLM
• Intégration de Google SecOps et d'un SIEM tiers