Ce document décrit la conception de Gemini, compte tenu des fonctionnalités, des limites et des risques associés à l'IA générative.
Fonctionnalités et risques des grands modèles de langage
Les grands modèles de langage (LLM) peuvent effectuer de nombreuses tâches utiles, par exemple:
- Langue cible.
- Résumer le texte
- Générer le code et la rédaction créative.
- Alimentez les chatbots et les assistants virtuels.
- Complétez les moteurs de recherche et les systèmes de recommandation.
Dans le même temps, l'évolution des capacités techniques des LLM peut engendrer un mauvais usage et un usage abusif, et des conséquences inattendues ou imprévues.
Les LLM peuvent générer des résultats inattendus, y compris du texte choquant, insensible ou factuellement incorrect. Les LLM sont extrêmement polyvalents. Il peut donc être difficile de prédire exactement les types de sorties imprévues ou imprévues qu'ils pourraient produire.
Compte tenu de ces risques et de ces complexités, Gemini pour Google Cloud est conçu en tenant compte des principes de Google concernant l'IA. Cependant, il est important que les utilisateurs comprennent certaines des limites de Geniori pour permettre à Google Cloud de travailler de manière sécurisée et responsable.
Limites de Gemini pour Google Cloud
Voici quelques-unes des limites que vous pouvez rencontrer lors de l'utilisation de Gemini pour Google Cloud:
Cas limites : Les cas limites font référence à des situations inhabituelles, rares ou exceptionnelles qui ne sont pas bien représentées dans les données d'entraînement. Ces cas peuvent entraîner des limites dans la sortie de Gemini, comme une surconfiance du modèle, une mauvaise interprétation du contexte ou des sorties inappropriées.
hallucinations, ancrage et factualité du modèle ; Gemini pour Google Cloud peut manquer d'ancrage et de factualité en termes de connaissances réelles, de propriétés physiques ou de compréhension précise. Cette limitation peut entraîner des hallucinations du modèle, où Gemini peut générer des sorties qui sont plausibles, mais factuellement incorrectes, non pertinentes, inappropriées ou absurdes. Les hallucinations peuvent également inclure la fabrication de liens vers des pages Web qui n'existent pas et qui n'ont jamais existé. Pour en savoir plus, consultez Rédiger de meilleures requêtes pour Gemini pour Google Cloud.
Qualité des données et réglages : La qualité, l'exactitude et le biais des données de requête saisies dans Gemini peuvent avoir un impact significatif sur ses performances. Si les utilisateurs saisissent des requêtes inexactes ou incorrectes, Gemini peut renvoyer des réponses non optimales ou fausses.
Amplification des biais Les modèles de langage peuvent amplifier par inadvertance les biais existants dans leurs données d'entraînement, ce qui peut entraîner des résultats susceptibles de renforcer les préjugés sociétaux et le traitement inégal de certains groupes.
Qualité de la langue : Bien que Gemini offre des capacités multilingues impressionnantes pour les benchmarks par rapport auxquels nous avons évalué la majorité, la majorité de nos benchmarks (y compris toutes les évaluations d'équité) sont en anglais américain.
Les modèles de langage peuvent fournir une qualité de service incohérente à différents utilisateurs. Par exemple, la génération de texte peut ne pas être aussi efficace pour certains dialectes ou variétés de langues, car ils sont sous-représentés dans les données d'entraînement. Les performances peuvent être moins bonnes pour les langues autres que l'anglais ou pour les variantes en anglais, avec une représentation moins importante.
Benchmarks et sous-groupes d'équité. Les analyses d'équité de Genomics réalisées par Google Research ne fournissent pas un compte exhaustif des différents risques potentiels. Par exemple, nous nous concentrons sur les biais liés au genre, à l'origine ethnique et à la religion, mais nous n'effectuons l'analyse que sur les données et les sorties du modèle en anglais américain.
Expertise limitée dans le domaine. Gemini a été formé sur la technologie Google Cloud, mais il est possible qu'il ne dispose pas des connaissances approfondies nécessaires pour fournir des réponses précises et détaillées sur des sujets très techniques ou très spécialisés, conduisant à des informations superficielles ou incorrectes.
Lorsque vous utilisez le volet Gemini de la console Google Cloud, Gemini n'est pas conscient du contexte de votre environnement spécifique et ne peut donc pas répondre à des questions telles que "Quand j'ai créé une VM pour la dernière fois ?".
Dans certains cas, Gemini envoie un segment spécifique de votre contexte au modèle pour recevoir une réponse contextuelle (par exemple, lorsque vous cliquez sur le bouton Suggestions de dépannage sur la page du service Error Reporting).
Filtrage de la sécurité et de la toxicité dans Gemini
Les requêtes et les réponses Gemini pour Google Cloud sont vérifiées par rapport à une liste complète d'attributs de sécurité, le cas échéant, pour chaque cas d'utilisation. Ces attributs de sécurité visent à filtrer les contenus qui ne respectent pas nos Règles d'utilisation autorisée. Si une sortie est considérée comme dangereuse, la réponse sera bloquée.