Como oferecer uma IA segura e confiável usando o Google Cloud
Agosto de 2025
Autor do teste DOME
Introdução
No momento, as empresas enfrentam um desafio crítico: fornecer a IA na produção e garantir precisão, segurança e proteção de dados. A abordagem do Google Cloud para a IA generativa prioriza a prontidão empresarial com mecanismos integrados de governança de dados avançada, controles de privacidade, indenização de propriedade intelectual e práticas de IA responsável. Fornecemos as ferramentas e os serviços necessários para proteger a IA e oferecemos opções de soberania de dados para que os clientes tenham confiança ao implantar modelos em grande escala nas empresas.
No momento, as empresas enfrentam um desafio crítico: fornecer a IA na produção e garantir precisão, segurança e proteção de dados. A abordagem do Google Cloud para a IA generativa prioriza a prontidão empresarial com mecanismos integrados de governança de dados avançada, controles de privacidade, indenização de propriedade intelectual e práticas de IA responsável. Fornecemos as ferramentas e os serviços necessários para proteger a IA e oferecemos opções de soberania de dados para que os clientes tenham confiança ao implantar modelos em grande escala nas empresas.
Neste artigo, mostramos como as empresas podem usar o Google Cloud para aproveitar esses benefícios. Ele explica como criamos uma IA generativa para empresas de maneira responsável e como lidamos com questões como governança, privacidade, segurança e compliance de dados ao desenvolver a IA generativa na plataforma Vertex AI. No contexto deste artigo, IA generativa se refere ao uso da inteligência artificial para criar conteúdo, como textos, imagens, músicas, áudios, vídeos ou variações desses itens, com a ajuda da IA generativa multimodal.
Inovação Responsável
Com tantos avanços rápidos da IA, como é possível encontrar o equilíbrio certo entre inovação, confiabilidade e redução de riscos? Neste capítulo, você vai aprender como o Google Cloud incorpora uma abordagem responsável para criar tecnologias de IA, considerando cuidadosamente tópicos como avaliações de risco, governança de dados, privacidade, segurança, compliance, portabilidade e redução de emissões.
Capítulo 1

Como acontece com qualquer nova tecnologia transformadora, a IA generativa tem complexidades e riscos que precisam ser gerenciados como parte de um framework para o gerenciamento de riscos e de uma estrutura de governança que sejam abrangentes. A IA apresenta questões críticas, e nós trabalhamos para criá-la de maneira responsável com o objetivo de beneficiar nossos clientes e as sociedades onde atuamos. O desafio é fazer isso de uma maneira que reduza riscos, promova o uso confiável e relevante da IA e possibilite a inovação e os benefícios sociais prometidos por essa tecnologia.
A IA responsável é a base do nosso trabalho. Como parte da nossa abordagem baseada em princípios para a criação de tecnologias de IA, o Google se compromete a desenvolver e aplicar práticas de segurança e proteção rigorosas e incorporar nossos princípios de privacidade ao desenvolvimento e ao uso da IA. Como avaliações rigorosas são essenciais para criar uma IA de sucesso, contamos com equipes especializadas em análises e avaliações de risco para os produtos de IA que desenvolvemos e para descobrir oportunidades de codesenvolvimento com clientes em estágio inicial. Assim, todos podem aproveitar os benefícios.
As práticas de desenvolvimento de produtos responsáveis abrangem várias dimensões. Algumas são técnicas e envolvem avaliações de conjuntos de dados e modelos para detectar vieses. Outras se referem a experiências de produtos. Há também aquelas relacionadas a políticas, que informam o que vamos oferecer ou não em termos de produtos. Desenvolvemos um processo de quatro fases (com pesquisa, design, governança e compartilhamento) para analisar os projetos de acordo com os princípios de IA e trabalhamos com especialistas em privacidade, segurança e compliance, entre outros. As fases iniciais de pesquisa e design promovem a inovação, enquanto o foco das fases de governança e compartilhamento são a avaliação dos riscos, os testes, o monitoramento e a transparência.
Nossa pesquisa se baseia nos profissionais do Google, incluindo cientistas da computação, cientistas sociais e pesquisadores de experiência do usuário. Também fazemos publicações regulares sobre os progressos do Google para que haja transparência sobre nosso trabalho, viabilizar produtos mais seguros e responsáveis, conquistar e manter a confiança dos clientes e promover uma cultura de inovação responsável.
A abordagem de criação responsável da IA é guiada pelos nossos princípios de IA e tem base na experiência do Google em manter os usuários protegidos nas nossas plataformas. Ao criarmos serviços de IA generativa, adotamos abordagens técnicas para aplicar políticas de acordo com a necessidade, que incluem técnicas como ajuste fino e aprendizado por reforço com feedback humano (RLHF). Outras proteções em camadas são invocadas quando uma pessoa insere um comando e quando o modelo fornece uma saída. Fazemos melhorias nas políticas com base no monitoramento e no feedback dos usuários. Focar na responsabilidade desde a concepção também envolve adicionar segurança aos nossos produtos desde o início. Essa abordagem foi estruturada no nosso framework de IA segura (SAIF). Ao aplicar o SAIF, fazemos desenvolvimentos com base no nosso conhecimento de segurança e ajustamos as reduções de risco relacionadas a novas ameaças, como discutido abaixo.
Avaliações de riscos
Para cada organização, a decisão de utilizar o poder da IA generativa depende de uma infinidade de questões. Uma das mais importantes é entender como ajudar sua organização a aproveitar o poder da IA minimizando os riscos. O Google Cloud ajuda os clientes a responder a essa pergunta de várias maneiras.
01. Avaliações abrangentes durante o desenvolvimento de produtos de IA
Identificamos e avaliamos os riscos em potencial no nível do modelo e no ponto de integração com um produto ou serviço. Nossa abordagem é tanto social quanto técnica e considera como a IA vai interagir com o mundo e os sistemas sociais atuais, além de avaliar os impactos e riscos possíveis no lançamento inicial e ao longo do tempo. Os avaliadores entendem que os riscos e impactos possíveis podem ser diferentes no nível do modelo e do aplicativo, e consideram as reduções de risco adequadas com base nisso. Usamos várias fontes, incluindo materiais acadêmicos, especialistas externos e internos e nossa pesquisa interna sobre ética e segurança.
02. Lançamentos particulares de modelos
Com eles, nossas equipes de produtos podem coletar feedbacks valiosos antes da disponibilidade geral dos recursos. Depois que o feedback é incorporado, atualizamos a documentação do produto para incluir as mudanças feitas. Em geral, essa documentação apresenta as limitações conhecidas do modelo e pode incluir termos específicos do serviço para orientar os clientes sobre o uso adequado dos produtos. O Google Cloud continua investindo em ferramentas para ajudar nossos clientes, incluindo a Explainable AI, a imparcialidade, a avaliação, o monitoramento e o registro de modelos da Vertex AI para ajudar na governança de dados e de modelos.
03. Estratégias de redução para lidar com possíveis riscos
Elas se aplicam a qualquer risco identificado antes do lançamento do produto com disponibilidade geral (GA) e podem ter várias formas. Por exemplo, para os produtos de IA generativa, as reduções de risco podem fazer uso de abordagens técnicas para avaliar e melhorar modelos durante o desenvolvimento e estabelecer limites de segurança baseados em políticas ou podem ser ativadas por ferramentas que os clientes podem usar nos próprios projetos para aumentar os esforços de segurança. Em geral, as restrições de política são guiadas pela Política de Uso Aceitável, pelos Termos de Serviço e pelas restrições de privacidade relevantes, conforme discutido na seção Governança de dados de IA e privacidade abaixo.
As empresas podem reduzir ainda mais os riscos da adoção da IA usando:
Controles técnicos personalizáveis, como filtros de segurança, que podem bloquear respostas do modelo que violam diretrizes da política, como aquelas relacionadas à segurança infantil. Um cliente pode criar filtros de segurança usando atributos de segurança, que incluem categorias nocivas e temas que podem ser considerados sensíveis, como drogas ou conteúdos depreciativos.
O kit de ferramentas de IA generativa responsável do Google, que oferece orientações e ferramentas para criar aplicativos de IA mais seguros com novos modelos abertos, incluindo como definir políticas e metodologias de segurança para criar classificadores avançados de segurança.
Ferramentas e frameworks de Explainable AI para ajudar a entender e interpretar previsões feitas por modelos de machine learning, integrados nativamente a vários produtos e serviços do Google Cloud.
Além disso, a documentação sobre nossos modelos de API, modelos abertos e modelos de fundação de linguagem grandes está disponível no hub de cards de modelo e explica as vantagens e limitações dos deles.
Limites adaptáveis para respostas bloqueadas com o objetivo de ajudar as empresas a controlar o conteúdo com base nas próprias políticas e necessidades de negócios. Por exemplo, as configurações de segurança podem ser definidas com base em pontuações de probabilidade e gravidade.
Ferramentas para entender e controlar melhor os modelos de IA. Por exemplo, com modelos semelhantes aos dos nossos filtros de segurança, os clientes podem usar nosso serviço de moderação de texto para verificar todo o corpus de dados de treinamento em busca de termos que se enquadram em categorias nocivas predefinidas e temas que podem ser considerados sensíveis. Isso garante um compliance contínuo.
Avaliação de modelos na Vertex AI, que inclui métricas para entender o desempenho dos modelos e avaliar possíveis vieses usando dados comuns e métricas de viés do modelo. Essas ferramentas podem promover a imparcialidade avaliando os dados e as respostas do modelo durante o treinamento e ao longo do tempo, destacando áreas de preocupação e fornecendo sugestões de correção.