A API Reasoning Engine oferece o ambiente de execução gerenciado para fluxos de trabalho agentes personalizados em aplicativos de IA generativa. É possível criar um aplicativo usando frameworks de orquestração, como LangChain, e implantá-lo com o Reasoning Engine. Esse serviço tem todos os benefícios de segurança, privacidade, observabilidade e escalonabilidade da integração da Vertex AI.
Para mais informações conceituais sobre o Reasoning Engine, consulte Implantar o aplicativo.
Limitações
- A API Reasoning Engine oferece suporte apenas a frameworks de orquestração em Python.
- A API Reasoning Engine só tem suporte na região
us-central1
.
Exemplo de sintaxe
Sintaxe para criar e registrar um recurso de mecanismo de raciocínio.
Python
class SimpleAdditionApp: def query() -> str: """ ... """ return ... reasoning_engine = reasoning_engines.ReasoningEngine.create( SimpleAdditionApp(), display_name="", description="", requirements=[...], extra_packages=[...], )
Lista de parâmetros
Parâmetros | |
---|---|
display_name |
Obrigatório:
|
description |
Opcional: A descrição do |
spec |
Obrigatório: Configurações do |
package_spec |
Obrigatório: Uma especificação do pacote fornecida pelo usuário, como objetos em conserva e requisitos de pacote. |
class_methods |
Opcional: Declarações para métodos de classe de objeto. |
PackageSpec
PackageSpec contém a referência ao URI do Cloud Storage que armazena o arquivo YAML da OpenAPI.
Parâmetros | |
---|---|
pickle_object_gcs_uri |
Opcional: O URI do Cloud Storage do objeto Python armazenado. |
dependency_files_gcs_uri |
Opcional: O URI do Cloud Storage dos arquivos de dependência com a extensão |
requirements_gcs_uri |
Opcional: O URI do Cloud Storage do arquivo |
python_version |
Opcional: A versão do Python. As versões com suporte incluem Python |
QueryReasoningEngine
Parâmetros | |
---|---|
input |
Os argumentos dentro de |
Exemplos
Implantar uma configuração básica de app
O exemplo a seguir usa um aplicativo que adiciona dois números inteiros e um aplicativo remoto com o Reasoning Engine:
SDK da Vertex AI para Python
Para saber como instalar o SDK da Vertex AI para Python, consulte Instalar o SDK da Vertex AI para Python. Saiba mais na documentação de referência da API SDK da Vertex AI para Python.
Implantar uma configuração avançada de app
Este é um exemplo avançado que usa a cadeia de LangChain, modelos de prompt e a API Gemini:
SDK da Vertex AI para Python
Para saber como instalar o SDK da Vertex AI para Python, consulte Instalar o SDK da Vertex AI para Python. Saiba mais na documentação de referência da API SDK da Vertex AI para Python.
Mecanismo de raciocínio de consulta
Consultar um mecanismo de raciocínio
Neste exemplo, usamos a classe SimpleAdditionApp
do exemplo de configuração básica de app.
REST
Antes de usar os dados da solicitação abaixo, faça as substituições a seguir:
- PROJECT_ID: o ID do projeto.
- LOCATION: a região para processar a solicitação. Precisa ser
us-central1
. - REASONING_ENGINE_ID: o ID do mecanismo de raciocínio.
- INPUT:
protobuf.struct:
os argumentos dentro deinput
precisam corresponder aos argumentos dentro do métododef query(self, question: str)
definido em Implantar uma configuração básica de app.
Método HTTP e URL:
POST https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/REASONING_ENGINE_ID:query
Corpo JSON da solicitação:
{ "input": { INPUT } }
Para enviar a solicitação, escolha uma destas opções:
curl
Salve o corpo da solicitação em um arquivo com o nome request.json
e execute o comando a seguir:
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
-d @request.json \
"https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/REASONING_ENGINE_ID:query"
PowerShell
Salve o corpo da solicitação em um arquivo com o nome request.json
e execute o comando a seguir:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method POST `
-Headers $headers `
-ContentType: "application/json; charset=utf-8" `
-InFile request.json `
-Uri "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/REASONING_ENGINE_ID:query" | Select-Object -Expand Content
SDK da Vertex AI para Python
Para saber como instalar o SDK da Vertex AI para Python, consulte Instalar o SDK da Vertex AI para Python. Saiba mais na documentação de referência da API SDK da Vertex AI para Python.
Listar mecanismos de raciocínio
Listar os mecanismos de raciocínio em um projeto.
REST
Antes de usar os dados da solicitação abaixo, faça as substituições a seguir:
- PROJECT_ID: o ID do projeto.
- PROJECT_ID: o ID do projeto.
- LOCATION: a região para processar a solicitação. Precisa ser
us-central1
.
Método HTTP e URL:
GET https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines
Para enviar a solicitação, escolha uma destas opções:
curl
execute o seguinte comando:
curl -X GET \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines"
PowerShell
Execute o seguinte comando:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method GET `
-Headers $headers `
-Uri "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines" | Select-Object -Expand Content
SDK da Vertex AI para Python
Para saber como instalar o SDK da Vertex AI para Python, consulte Instalar o SDK da Vertex AI para Python. Saiba mais na documentação de referência da API SDK da Vertex AI para Python.
Acessar mecanismo de raciocínio
Conseguir detalhes de um mecanismo de raciocínio.
REST
Antes de usar os dados da solicitação abaixo, faça as substituições a seguir:
- PROJECT_ID: o ID do projeto.
- PROJECT_ID: o ID do projeto.
- LOCATION: a região para processar a solicitação. Precisa ser
us-central1
. - REASONING_ENGINE_ID: o ID do mecanismo de raciocínio.
Método HTTP e URL:
GET https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/REASONING_ENGINE_ID
Para enviar a solicitação, escolha uma destas opções:
curl
execute o seguinte comando:
curl -X GET \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/REASONING_ENGINE_ID"
PowerShell
Execute o seguinte comando:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method GET `
-Headers $headers `
-Uri "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/REASONING_ENGINE_ID" | Select-Object -Expand Content
SDK da Vertex AI para Python
Para saber como instalar o SDK da Vertex AI para Python, consulte Instalar o SDK da Vertex AI para Python. Saiba mais na documentação de referência da API SDK da Vertex AI para Python.
Excluir mecanismo de raciocínio
Excluir um mecanismo de raciocínio.
REST
Antes de usar os dados da solicitação abaixo, faça as substituições a seguir:
- PROJECT_ID: o ID do projeto.
- LOCATION: a região para processar a solicitação. Precisa ser
us-central1
. - REASONING_ENGINE_ID: o ID do mecanismo de raciocínio.
Método HTTP e URL:
DELETE https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/REASONING_ENGINE_ID
Para enviar a solicitação, escolha uma destas opções:
curl
execute o seguinte comando:
curl -X DELETE \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/REASONING_ENGINE_ID"
PowerShell
Execute o seguinte comando:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method DELETE `
-Headers $headers `
-Uri "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/REASONING_ENGINE_ID" | Select-Object -Expand Content
SDK da Vertex AI para Python
Para saber como instalar o SDK da Vertex AI para Python, consulte Instalar o SDK da Vertex AI para Python. Saiba mais na documentação de referência da API SDK da Vertex AI para Python.
A seguir
- Saiba mais sobre como usar as bibliotecas de cliente da Vertex AI.