Fuente por lotes de ODP de SAP

En esta página, se proporciona orientación para configurar el complemento SAP ODP en Cloud Data Fusion.

El ODP de SAP permite la integración masiva de datos de aplicaciones de SAP con BigQuery o cualquier otro sistema de destino compatible que use Cloud Data Fusion El complemento tiene las siguientes funciones clave:

Versiones de software compatibles

Software Versiones
SAP S4/HANA SAP S4/HANA 1909 y versiones posteriores
SAP ECC SAP ERP6 NW 7.31 SP16 y versiones posteriores
SAP JCo SAP JCo versión 3.0.20 y posteriores
Cloud Data Fusion 6.3 y posteriores

Para obtener más información sobre SAP en Google Cloud, consulta la descripción general de SAP en Google Cloud.

Antes de comenzar

Configura los siguientes sistemas y servicios que usa el complemento de ODP de SAP:

  1. Configura el sistema SAP ERP. Este proceso incluye los siguientes pasos:
    • Instala los archivos de transporte de SAP.
    • Configura las autorizaciones y funciones de SAP necesarias.
    • Configura SAP Java Connector.

  2. Implementa el complemento de ODP en Cloud Data Fusion.

    • Importante: Elige una versión de complemento que sea compatible con la Versión de Cloud Data Fusion.
    • Si actualizas la versión de Cloud Data Fusion de servicio o complemento, evalúa el impacto de los cambios en la el alcance funcional y el rendimiento de la canalización.

  3. Establece conectividad de RFC entre Cloud Data Fusion y SAP.

    • Asegúrate de que esté habilitada la comunicación entre una instancia de Cloud Data Fusion y el servidor SAP.
    • Para las instancias privadas, configura el intercambio de tráfico entre redes de VPC.
    • Tanto el sistema SAP como la instancia de Cloud Data Fusion deben estar en el mismo proyecto.

Configura el complemento

  1. Ve a la interfaz web de Cloud Data Fusion y haz clic en Studio.
  2. Comprueba que la opción Canalización de datos - Por lotes esté seleccionada (no En tiempo real).
  3. En el menú Source, haz clic en SapODP. El nodo de SAP ODP aparecerá en tu canalización.
  4. Para configurar la fuente, ve al nodo SAP ODP y haz clic en Properties.

  5. Ingresa las siguientes propiedades. Para obtener una lista completa, consulta Propiedades.

    1. Ingresa una Etiqueta para el nodo de ODP de SAP, por ejemplo, SAP ODP tables.

    2. Ingresa los detalles de la conexión. Puedes configurar una nueva conexión única o una conexión existente y reutilizable.

      Nueva conexión

      Para agregar una conexión única a SAP, sigue estos pasos: pasos:

      1. Mantén la opción Usar conexión desactivada.

      2. En la sección Conexión, ingresa la siguiente información. de la cuenta de SAP en estos campos:

        1. En el campo Nombre de referencia, ingresa el nombre del que identifica esta fuente para el linaje.
        2. En el campo Cliente de SAP, ingresa el nombre del cliente de una instancia o un entorno específicos dentro de SAP. Un administrador de SAP puede proporcionar el nombre del cliente.
        3. En el campo Idioma de SAP, ingresa el idioma de inicio de sesión de SAP. La configuración predeterminada es EN (inglés).

        4. Selecciona uno de los siguientes tipos de conexión.

          • Directa (a través del servidor de aplicaciones de SAP) Si eliges este tipo predeterminado, ingresa información en los siguientes campos: Host del servidor de aplicaciones de SAP, Número de sistema de SAP y Router de SAP.
          • Carga balanceada (a través de SAP Message Server). Si eliges este tipo, ingresa información en los siguientes campos: Host del servidor de mensajes de SAP, Número de puerto o servicio del servidor de mensajes de SAP, ID del sistema SAP (SID) y Nombre del grupo de acceso de SAP.

        5. En el campo Contexto, selecciona el tipo de fuente de datos que usas.

        6. En el campo Nombre de la fuente de la ODP de SAP, ingresa el nombre de la fuente de datos que usas.

        7. En el campo Tipo de extracción, selecciona el tipo de extracción de datos. El valor predeterminado es Completa (todos los datos).

        8. Proporciona las credenciales de SAP: pídele al administrador de SAP que Nombre de usuario de inicio de sesión de SAP y Contraseña.

        9. En el campo JCo Library Cloud Storage path, ingresa el código de SAP. Java Connector (SAP JCo) en Cloud Storage que contiene los archivos de la biblioteca SAP JCo que subiste.

        10. Para generar un esquema basado en los metadatos de SAP que asigne los tipos de datos de SAP a los tipos de datos de Cloud Data Fusion correspondientes, haz clic en Obtener esquema. Para obtener más información, consulta Asignaciones de tipos de datos.

        11. Opcional: Para optimizar la carga de transferencia de SAP, ingresa información en los siguientes campos:

          1. En el campo Nombre del suscriptor de SAP ODP, identifica al suscriptor para la extracción de datos de una DataSource válida.
          2. Con las Opciones de filtro, puedes extraer registros según según las condiciones de selección.
          3. En el campo Cantidad de divisiones, puedes crear particiones para extraer registros de datos en paralelo, lo que mejora el rendimiento. La cantidad de divisiones puede afectar el SAP procesos de trabajo y deben seleccionarse con cuidado.
          4. En el campo Package size, especifica la cantidad de para extraerlos en una llamada de red de SAP única. El tamaño del paquete afecta el rendimiento y los recursos disponibles, por lo que se debe seleccionar con cuidado.

      Conexión reutilizable

      Para volver a usar una conexión existente, sigue estos pasos:

      1. Activa Usar conexión.
      2. Haz clic en Browse connections.

      3. Haz clic en el nombre de la conexión.

      Si una conexión no existe, sigue estos pasos para crear una conexión reutilizable estos pasos:

      1. Haz clic en Add connection > SapOdp.
      2. En la página Create a SapOdp connection que se abre, ingresa un nombre y una descripción para la conexión.
      3. En el campo Cliente de SAP, ingresa el nombre de cliente de un una instancia o un entorno específico en SAP. Un administrador de SAP puede proporcionar el nombre del cliente.
      4. En el campo Idioma de SAP, ingresa el idioma de inicio de sesión de SAP. La configuración predeterminada es EN (inglés).

      5. Selecciona uno de los siguientes Tipos de conexión.

        • Directa (a través del servidor de aplicaciones de SAP) Si eliges este tipo predeterminado, ingresa información en los siguientes campos: Host del servidor de aplicaciones de SAP, Número de sistema SAP y Router de SAP.
        • Balanceo de cargas (a través del servidor de mensajes de SAP) Si eliges este tipo, ingresa información en los siguientes campos: Host del servidor de mensajes de SAP, Número de puerto o servicio del servidor de mensajes de SAP, ID del sistema SAP (SID) y Nombre del grupo de inicio de sesión de SAP.

      6. En el nombre de la fuente de ODP de SAP, ingresa el nombre de DataSource de ODP de SAP

      7. Proporciona las credenciales de SAP: pídele al administrador de SAP que los valores de nombre de usuario de inicio de sesión de SAP y contraseña.

      8. En el campo JCo Library Cloud Storage path, ingresa el código de SAP. Java Connector (SAP JCo) en Cloud Storage que contiene los archivos de la biblioteca SAP JCo que subiste.

      9. En el campo Tiempo de espera, ingresa el tiempo de espera (en segundos). antes del próximo reintento, por ejemplo, 60.

      10. En el campo Reintentar recuento, ingresa la cantidad máxima de veces que reintentos, por ejemplo, 3.

      11. Opcional: en Propiedades adicionales de conexión de SAP ingresa los pares clave-valor que deben anular el valor de SAP JCo los valores predeterminados.

      12. Haz clic en Crear.

Propiedades

Propiedad Macro habilitada Propiedad obligatoria Descripción
Etiqueta No Sí El nombre del nodo en tu canalización de datos.
Usar conexión No No Usa una conexión reutilizable. Si se utiliza una conexión, no es necesario proporcionan las credenciales. Para obtener más información, consulta Administra conexiones.
Nombre No Sí Es el nombre de la conexión reutilizable.
Cliente de SAP Sí Sí La instancia o el entorno específicos en un sistema SAP.
Lenguaje de SAP Sí Sí Es el idioma en el que se muestran y procesan los datos y la interfaz de usuario de SAP.
Tipo de conexión No Sí El tipo de conexión de SAP: Directa o Carga equilibradas.
Host del servidor de aplicaciones de SAP Sí No Solo para el tipo de conexión Direct, este nombre de host proviene del servidor de aplicaciones de SAP, que funciona como una capa de middleware entre los clientes de SAP (como la interfaz web de SAP, los navegadores web o las apps para dispositivos móviles) y la base de datos subyacente.
Número de sistema SAP Sí No Solo para el tipo de conexión Directa, este número es el es un identificador único asignado a cada sistema SAP. Por ejemplo, 00.
Router de SAP Sí No Solo para el tipo de conexión directa, este es el router para el servidor proxy, que proporciona un canal seguro para y la comunicación entre sistemas SAP y clientes o socios externos.
Host de SAP Message Server Sí No Solo para el tipo de conexión Balanced load, este es el nombre del host, que facilita el balanceo de cargas en varios servidores de aplicaciones en SAP.
Número de puerto o servicio del servidor de mensajes de SAP Sí No Solo para el tipo de conexión Balanceada de cargas, este es el puerto de red en el que el servidor de mensajes de SAP escucha las conexiones entrantes de los clientes y los servidores de aplicaciones de SAP.
ID del sistema SAP (SID) Sí No Solo para el tipo de conexión Balanceo de cargas, este ID es que se asigna a cada sistema SAP.
Nombre del grupo de inicio de sesión de SAP Sí No Es el nombre de la agrupación lógica o la configuración de varios servidores de aplicaciones de SAP. El valor predeterminado es PUBLIC.
Tipo de objeto N/A N/A Los tipos de objetos admitidos: DataSources/Extractors o ABAP Core Data Services.
Nombre de origen de ODP de SAP Sí Sí El nombre de la DataSource o la vista de CDS de SAP (por ejemplo, 2LIS_02_ITM).
Tipo de extracción Sí Sí El complemento admite los dos tipos siguientes de extracción de datos:
  • Completa (todos los datos): Extrae todos los datos disponibles.
  • Sync (selección automática basada en la ejecución anterior): Determina si se debe ejecutar el modo completo, delta (incremental) o de recuperación (recuperar datos de la última ejecución) en función del tipo y el estado de la ejecución anterior disponibles en SAP. Extrae datos completos en la ejecución de canalización inicial (modo F de ODP) y los cambios en ejecuciones de canalizaciones posteriores (modos de ODP D y R).
Nombre de usuario de inicio de sesión de SAP Sí Sí Nombre de usuario para SAP
Recomendación: Si el nombre de usuario cambia de manera periódica, usa una macro.
Contraseña de inicio de sesión de SAP Sí Sí Contraseña de SAP.
Recomendación: Usa macros seguras.
ID del proyecto de GCP Sí Sí ID del proyecto de Google Cloud.
Ruta de acceso de GCS de la biblioteca de SAP JCo Sí Sí Es la ruta de acceso a Cloud Storage a la que subiste los archivos de la biblioteca de SAP JCo.
Obtener esquema N/A N/A El complemento genera un esquema basado en los metadatos de SAP, que asigna los tipos de datos de SAP a los datos correspondientes de Cloud Data Fusion. de tipos de datos. Consulta Asignación de tipos de datos.
Nombre del suscriptor de SAP ODP Sí Sí El suscriptor de ODP para la extracción de datos desde una SAP DataSource válida o CDS. Debe incluir lo siguiente:
  • Un máximo de 32 caracteres, sin espacios
  • Contiene solo a a z, A a Z, 0 a 9, _ o /
  • Único para diferentes canalizaciones que extraen datos desde el mismo SAP DataSource
Si el campo se deja en blanco, Cloud Data Fusion genera un ID con una combinación del ID del proyecto, el espacio de nombres y los nombres de las canalizaciones. Puedes volver a usar una suscripción anterior, como una creada por una herramienta de terceros.
Tiempo de espera Sí No Esta propiedad permite que los ingenieros de datos seleccionen un tiempo de espera adecuado después de cada llamada de red de Cloud Data Fusion a SAP.
Recuento de reintentos Sí No Es la cantidad de intentos de reintento mientras se espera que se complete la llamada a la red.
Opciones de filtro (igual a) Sí No Es el valor que debe tener un campo para que se pueda leer.
Las opciones de filtro son listas de nombres de campos de metadatos y sus pares de valores. Define la condición del filtro que se debe aplicar cuando se leen datos desde un SAP. DataSource. Solo se extraen los registros que satisfacen las condiciones.
La clave de filtro corresponde a un campo del esquema. Debe ser de un tipo simple (no ARRAY, RECORD ni UNION). Ejemplo de uso:
Nombre del campo: MTART
Valor: FERT
Opciones de filtro (rango) Sí No Los límites bajo y alto son el valor que debe leer un campo.
Las opciones de filtro son listas de nombres de campos de metadatos y sus pares de valores. Define la condición del filtro que se debe aplicar cuando se leen datos desde un SAP. DataSource. Solo se extraen los registros que satisfacen las condiciones.
La clave de filtro corresponde a un campo del esquema. Tiene el formato bajo Y alto. Ejemplo de uso:
Nombre del campo: ERDAT
Valor bajo: 2023-11-01
Valor alto: 2023-11-30
Opciones de filtro (menos igual) Sí No El valor que un campo debe ser menor o igual que.
Las opciones de filtro son listas de nombres de campos de metadatos y sus pares de valores. Definen la condición del filtro que se aplicará cuando se lean datos de una fuente de datos de SAP. Solo se extraen los registros que satisfacen las condiciones.
La clave de filtro corresponde a un campo en el esquema. Debe ser de un tipo simple (no ARRAY, RECORD ni UNION). Ejemplo de uso:
Nombre del campo: MATNR
Valor: 10008
Opciones de filtro (mayor o igual que) Sí No Es el valor que un campo debe ser mayor para poder leerlo.
Las opciones de filtro son listas de nombres de campos de metadatos y sus pares de valores. Define la condición del filtro que se debe aplicar cuando se leen datos desde un SAP. DataSource. Solo se extraen los registros que satisfacen las condiciones.
La clave de filtro corresponde a un campo del esquema. Debe ser de un tipo simple (no ARRAY, RECORD ni UNION). Ejemplo de uso:
Nombre del campo: MATNR
Valor: 10008
Opciones de filtro (no es igual) Sí No Define el valor que un campo no debe ser igual para que se lea.
Las opciones de filtro son listas de nombres de campos de metadatos y sus pares de valores. Definen la condición del filtro que se aplicará cuando se lean datos de una fuente de datos de SAP. Solo se extraen los registros que satisfacen las condiciones.
La clave de filtro corresponde a un campo en el esquema. Debe ser de un tipo simple (no ARRAY, RECORD ni UNION). Ejemplo de uso:
Nombre del campo: MTART
Valor: FERT
Cantidad de divisiones que se generarán Sí No Crea particiones para extraer registros en paralelo.
El motor de tiempo de ejecución crea la cantidad especificada de particiones (y conexiones de SAP) mientras extrae los registros.
Ten cuidado cuando aumentes este valor, ya que aumenta las conexiones simultáneas con SAP.
Recomendado: plan para conexiones SAP para cada de las canalizaciones y la cantidad total de canalizaciones que se ejecutan simultáneamente.
Si el valor es 0 o se deja en blanco, Cloud Data Fusion elige una el valor adecuado, según el número de ejecutores disponibles, el registros para extraer y el tamaño del paquete.
Tamaño del paquete (en KB) Sí No Es la cantidad de registros que se deben extraer en una sola llamada de red de SAP. Es la cantidad de registros que SAP almacena en búfer en la memoria durante cada llamada de extracción de red.
Ten cuidado cuando configures esta propiedad. Varias canalizaciones de datos que extraen datos pueden aumentar el uso de la memoria, lo que provoca fallas debido a errores de Out of memory.
  • Ingrese un número entero positivo.
  • Si es 0 o se deja en blanco, el complemento usa un valor estándar de 70000 o un valor calculado de forma adecuada.
  • Si la canalización de datos falla debido a errores Out of memory, disminuye el tamaño del paquete o aumenta la memoria disponible para tus procesos de trabajo de SAP.
Propiedades adicionales de conexión de SAP Sí No Configura propiedades adicionales de SAP JCo para anular los valores predeterminados de SAP JCo. Por ejemplo, configurar jco.destination.pool_capacity = 10 anula la capacidad predeterminada del grupo de conexiones.

Asignaciones de tipos de datos

La siguiente tabla es una lista de los tipos de datos de SAP con los de Cloud Data Fusion.

Tipo de datos SAP Tipo de ABAP SAP description Tipo de datos de Cloud Data Fusion
INT1 (numérico) b Número entero de 1 byte int
INT2 (numérico) s Número entero de 2 bytes int
INT4 (numérico) i Número entero de 4 bytes int
INT8 (numérico) 8 Número entero de 8 bytes long
DEC (numérico) p Número empaquetado en formato BCD (DEC) decimal
DF16_DEC, DF16_RAW (numérico) a Punto flotante decimal de 8 bytes IEEE 754r double
DF34_DEC, DF34_RAW (numéricos) e Punto flotante decimal de 16 bytes, IEEE 754r double
FLTP (numérico) f Número de punto flotante binario double
CHAR, LCHR (carácter) c Cadena de caracteres string
SSTRING, GEOM_EWKB (carácter) string String de caracteres string
STRING (carácter) string CLOB de string de caracteres bytes
NUMC, ACCP (carácter) n Texto numérico string
RAW, LRAW (bytes) x Datos binarios bytes
RAWSTRING (byte) cadena internacional BLOB de cadena de bytes bytes
DATS (fecha y hora) d Fecha date
TIMS (fecha y hora) t Hora hora
TIMS (fecha y hora) utcl Utclong), TimeStamp timestamp

Limitaciones

Para asegurarte de que las canalizaciones se definan y ejecuten correctamente, revisa lo siguiente Limitaciones del complemento:

  • No se admiten tamaños de paquetes superiores a 50,000.
  • Las fuentes de datos que no admiten la extracción delta fallan en el modo de sincronización.
  • En una fuente de datos personalizada, si no se controla el tamaño del paquete, la canalización falla en extracciones de datos grandes.

Casos de uso

Se admiten dos contextos de extracción:

  • DataSources o extractores (SAPI)
  • CDS de ABAP del contexto de ODP (ABAP_CDS)

El complemento de ODP admite las siguientes fuentes de datos estándar y personalizadas para ambos contextos:

Fuente de datos de ODP Contexto Extracción completa Extracción delta
SAP Standard preproducido SAPI Admitido Admitido
Personalizada (Z*) SAPI Admitido Admitido
SAP Standard pre entregado ABAP_CDS Admitido Admitido
Personalizado (Z*) ABAP_CDS Admitido Admitido

¿Qué sigue?