A API Reasoning Engine oferece o ambiente de execução gerenciado para fluxos de trabalho agentes personalizados em aplicativos de IA generativa. É possível criar um aplicativo usando frameworks de orquestração, como LangChain, e implantá-lo com o Reasoning Engine. Esse serviço tem todos os benefícios de segurança, privacidade, observabilidade e escalonabilidade da integração da Vertex AI.
Para mais informações conceituais sobre o Reasoning Engine, consulte Implantar o aplicativo.
Limitações
- A API Reasoning Engine oferece suporte apenas a frameworks de orquestração em Python.
- A API Reasoning Engine só tem suporte na região
us-central1
.
Exemplo de sintaxe
Sintaxe para criar e registrar um recurso de mecanismo de raciocínio.
class SimpleAdditionApp: def query() -> str: """ ... """ return ... reasoning_engine = reasoning_engines.ReasoningEngine.create( SimpleAdditionApp(), display_name="", description="", requirements=[...], extra_packages=[...], )
Lista de parâmetros
Parâmetros | |
---|---|
display_name |
Obrigatório:
|
description |
Opcional: A descrição do |
spec |
Obrigatório: Configurações do |
package_spec |
Obrigatório: Uma especificação do pacote fornecida pelo usuário, como objetos em conserva e requisitos de pacote. |
class_methods |
Opcional: Declarações para métodos de classe de objeto. |
PackageSpec
PackageSpec contém a referência ao URI do Cloud Storage que armazena o arquivo YAML da OpenAPI.
Parâmetros | |
---|---|
pickle_object_gcs_uri |
Opcional: O URI do Cloud Storage do objeto Python armazenado. |
dependency_files_gcs_uri |
Opcional: O URI do Cloud Storage dos arquivos de dependência com a extensão |
requirements_gcs_uri |
Opcional: O URI do Cloud Storage do arquivo |
python_version |
Opcional: A versão do Python. As versões com suporte incluem Python |
QueryReasoningEngine
Parâmetros | |
---|---|
input |
Os argumentos dentro de |
Exemplos
Implantar uma configuração básica de app
O exemplo a seguir usa um aplicativo que adiciona dois números inteiros e um aplicativo remoto com o Reasoning Engine:
Para saber como instalar o SDK da Vertex AI para Python, consulte Instalar o SDK da Vertex AI para Python. Saiba mais na documentação de referência da API SDK da Vertex AI para Python.
Implantar uma configuração avançada de app
Este é um exemplo avançado que usa a cadeia de LangChain, modelos de prompt e a API Gemini:
Para saber como instalar o SDK da Vertex AI para Python, consulte Instalar o SDK da Vertex AI para Python. Saiba mais na documentação de referência da API SDK da Vertex AI para Python.
Mecanismo de raciocínio de consulta
Consultar um mecanismo de raciocínio
Neste exemplo, usamos a classe SimpleAdditionApp
do exemplo de configuração básica de app.
Antes de usar os dados da solicitação abaixo, faça as substituições a seguir:
PROJECT_ID : o ID do projeto.LOCATION : a região para processar a solicitação. Precisa serus-central1
.REASONING_ENGINE_ID : o ID do mecanismo de raciocínio.INPUT :protobuf.struct:
os argumentos dentro deinput
precisam corresponder aos argumentos dentro do métododef query(self, question: str)
definido em Implantar uma configuração básica de app.
Método HTTP e URL:
POST https://LOCATION -aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID /locations/LOCATION /reasoningEngines/REASONING_ENGINE_ID :query
Corpo JSON da solicitação:
{ "input": {INPUT } }
Para enviar a solicitação, escolha uma destas opções:
Salve o corpo da solicitação em um arquivo com o nome request.json
e execute o comando a seguir:
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
-d @request.json \
"https://LOCATION -aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID /locations/LOCATION /reasoningEngines/REASONING_ENGINE_ID :query"
Salve o corpo da solicitação em um arquivo com o nome request.json
e execute o comando a seguir:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method POST `
-Headers $headers `
-ContentType: "application/json; charset=utf-8" `
-InFile request.json `
-Uri "https://LOCATION -aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID /locations/LOCATION /reasoningEngines/REASONING_ENGINE_ID :query" | Select-Object -Expand Content
Para saber como instalar o SDK da Vertex AI para Python, consulte Instalar o SDK da Vertex AI para Python. Saiba mais na documentação de referência da API SDK da Vertex AI para Python.
Listar mecanismos de raciocínio
Listar os mecanismos de raciocínio em um projeto.
Antes de usar os dados da solicitação abaixo, faça as substituições a seguir:
PROJECT_ID : o ID do projeto.PROJECT_ID : o ID do projeto.LOCATION : a região para processar a solicitação. Precisa serus-central1
.
Método HTTP e URL:
GET https://LOCATION -aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID /locations/LOCATION /reasoningEngines
Para enviar a solicitação, escolha uma destas opções:
execute o seguinte comando:
curl -X GET \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://LOCATION -aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID /locations/LOCATION /reasoningEngines"
Execute o seguinte comando:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method GET `
-Headers $headers `
-Uri "https://LOCATION -aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID /locations/LOCATION /reasoningEngines" | Select-Object -Expand Content
Para saber como instalar o SDK da Vertex AI para Python, consulte Instalar o SDK da Vertex AI para Python. Saiba mais na documentação de referência da API SDK da Vertex AI para Python.
Acessar mecanismo de raciocínio
Conseguir detalhes de um mecanismo de raciocínio.
Antes de usar os dados da solicitação abaixo, faça as substituições a seguir:
PROJECT_ID : o ID do projeto.PROJECT_ID : o ID do projeto.LOCATION : a região para processar a solicitação. Precisa serus-central1
.REASONING_ENGINE_ID : o ID do mecanismo de raciocínio.
Método HTTP e URL:
GET https://LOCATION -aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID /locations/LOCATION /reasoningEngines/REASONING_ENGINE_ID
Para enviar a solicitação, escolha uma destas opções:
execute o seguinte comando:
curl -X GET \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://LOCATION -aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID /locations/LOCATION /reasoningEngines/REASONING_ENGINE_ID "
Execute o seguinte comando:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method GET `
-Headers $headers `
-Uri "https://LOCATION -aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID /locations/LOCATION /reasoningEngines/REASONING_ENGINE_ID " | Select-Object -Expand Content
Para saber como instalar o SDK da Vertex AI para Python, consulte Instalar o SDK da Vertex AI para Python. Saiba mais na documentação de referência da API SDK da Vertex AI para Python.
Excluir mecanismo de raciocínio
Excluir um mecanismo de raciocínio.
Antes de usar os dados da solicitação abaixo, faça as substituições a seguir:
PROJECT_ID : o ID do projeto.LOCATION : a região para processar a solicitação. Precisa serus-central1
.REASONING_ENGINE_ID : o ID do mecanismo de raciocínio.
Método HTTP e URL:
DELETE https://LOCATION -aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID /locations/LOCATION /reasoningEngines/REASONING_ENGINE_ID
Para enviar a solicitação, escolha uma destas opções:
execute o seguinte comando:
curl -X DELETE \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://LOCATION -aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID /locations/LOCATION /reasoningEngines/REASONING_ENGINE_ID "
Execute o seguinte comando:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method DELETE `
-Headers $headers `
-Uri "https://LOCATION -aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID /locations/LOCATION /reasoningEngines/REASONING_ENGINE_ID " | Select-Object -Expand Content
Para saber como instalar o SDK da Vertex AI para Python, consulte Instalar o SDK da Vertex AI para Python. Saiba mais na documentação de referência da API SDK da Vertex AI para Python.
A seguir
- Saiba mais sobre como usar as bibliotecas de cliente da Vertex AI.