Questa guida illustra gli amministratori di SAP LT Replication Server, i data engineer SAP, o altri strumenti, su come eseguire attività operative, ad esempio l'ottimizzazione delle prestazioni e aggiornamenti della versione, per la versione 2.7 (più recente) di BigQuery Connector per SAP.
Ottimizzazione delle prestazioni della replica
Le prestazioni della replica possono essere influenzate da più fattori. I fattori specifici che si applicano possono variare da un'installazione all'altra e possono cambiare nel tempo.
Le sezioni seguenti forniscono indicazioni su come ottimizzare alcuni degli altri più comuni che possono influire sulle prestazioni.
Per ulteriori informazioni sulle prestazioni di replica con BigQuery Connector per SAP, consulta Pianificazione del rendimento.
Impostare le opzioni di rendimento per le tabelle
In SAP LT Replication Server puoi specificare opzioni di replica per ogni tabella che influiscono sul rendimento.
In particolare, le prestazioni di replica per le tabelle di grandi dimensioni, che richiedono più tempo e risorse per la replica, possono trarre vantaggio dalla specifica degli intervalli e dall'aumento del numero massimo di job di replica parallela che possono essere utilizzati per la tabella.
Alcuni esempi di tabelle che in genere diventano di grandi dimensioni sono MSEG
, ACDOCA
e MATDOC
.
Quando specifichi job di replica parallela per tabelle di grandi dimensioni, devi bilanciare il numero di job paralleli consentiti per una determinata tabella con il numero totale di job paralleli consentiti nella configurazione del trasferimento collettivo. La tua organizzazione potrebbe inoltre limita il numero di job di replica parallela che puoi specificare per un o server web.
Per impostare le opzioni di rendimento per una tabella:
Nella GUI di SAP, inserisci la transazione SAP
LTRS
.Nella schermata Impostazioni di replica avanzate, specifica l'ID del impostazioni del trasferimento di massa per la tabella.
Nella gerarchia delle cartelle Impostazioni di replica avanzate, fai clic sulla cartella Opzioni di rendimento per visualizzare le tabelle in cui sono definite le opzioni di rendimento.
Se la tabella che ti serve non è in elenco, fai clic con il tasto destro del mouse Cartella Performance Options (Opzioni prestazioni), quindi seleziona Add table (Aggiungi tabella).
Specifica un nome per la tabella.
Specifica le seguenti opzioni in base alle tue esigenze:
- In Opzioni di rendimento generali:
- Numero di job in parallelo, per impostare il numero massimo di job di replica in parallelo che possono essere utilizzati per la tabella.
- Numero di sequenza, per assegnare la priorità alla replica di questa tabella rispetto ad altre repliche di tabelle.
- Nella sezione Initial Load Options (Opzioni di caricamento iniziale):
- In Reading Type (Tipo di lettura), seleziona Reading Type 1 Range Calculation (Calcolo dell'intervallo di tipo 1 di lettura), se la tabella non è troppo grande. Per ulteriori informazioni, vedi Prestazioni e impostazioni di replica avanzata LTRS.
- Per Dimensioni pacchetto, specifica le dimensioni in byte delle parti di record inviate a SAP LT Replication Server.
- Se selezioni un tipo di lettura che utilizza intervalli, definisci gli intervalli appropriati.
- In Opzione di replica:
- In Intervalli per la tabella di logging, specifica Nessun intervallo per il parametro l'opzione più affidabile.
- Se selezioni Specifica intervalli per manualmente, definisci gli intervalli appropriati.
- In Opzioni di rendimento generali:
Fai clic su Salva.
Benchmark del rendimento di riferimento
Per aiutarti a valutare le prestazioni della replica, questa sezione contiene i valori di riferimento delle prestazioni rilevati nei sistemi di test di Google Cloud.
A causa di molti diversi fattori che influiscono sulle prestazioni, i dati sul rendimento possono variare.
Ad esempio, se i tuoi sistemi SAP non sono in esecuzione su Google Cloud, la velocità di carico e replica potrebbe essere inferiore alla base di riferimento grazie a fattori quali la latenza di rete e l'overhead associato per i token di accesso. Se la tabella di origine ha meno colonne o se installi SAP LT Replication Server su un proprio server in un'architettura autonoma, le tariffe potrebbero essere più elevate perché SAP LT Replication Server non deve competere con il sistema di origine per le risorse.
Valori del rendimento della base di riferimento osservati
I seguenti dati relativi alle prestazioni rappresentano le prestazioni di riferimento osservato da Google Cloud per ogni tipo di sistema di origine durante il test. In ogni sistema di test, SAP LT Replication Server è stato installato sul sistema di origine SAP in un'architettura incorporata sulle VM Compute Engine. Il sistema di origine SAP era in esecuzione nella stessa regione Google Cloud il set di dati BigQuery di destinazione.
Per informazioni sulla configurazione dei sistemi di test, consulta Configurazione del sistema di test delle prestazioni di riferimento.
Per visualizzare i numeri sul rendimento, fai clic sul tipo di sistema di origine:
S/4HANA
- Tabella: ACDOCA
- 343 milioni di record
- 477 colonne
- Caricamento iniziale
- Velocità di caricamento:350 milioni di record all'ora in media
- Durata del caricamento: in media 59 minuti
- Replica
- Tasso di variazione della tabella di origine: in media 50 milioni di record all'ora
- Frequenza di replica massima: 50 milioni di record all'ora in media
ECC
- Tabella: MSEG
- 203 milioni di record
- 188 colonne
- Caricamento iniziale
- Frequenza di caricamento: in media 385 milioni di record all'ora
- Durata di caricamento:32 minuti in media
- Replica
- Tasso di variazione della tabella di origine: in media 50 milioni di record all'ora
- Frequenza di replica massima: 69 milioni di record all'ora in media
Le cifre precedenti relative alle prestazioni sono le basi di riferimento a cui Tester di Google Cloud osservati.
Le prestazioni osservate sono state migliori nei sistemi di test che aveva i seguenti attributi:
- SAP LT Replication Server è stato installato su una propria VM in un'architettura autonoma.
- Per i sistemi S/4HANA, è stato osservato che un'architettura autonoma ha un tasso di caricamento iniziale approssimativamente del 42% più veloce rispetto a un'architettura incorporata a causa del ridimensionamento indipendente dei processi di SAP LT Replication Server.
- Per i sistemi ECC, è stata osservata un’architettura autonoma che ha una velocità di caricamento iniziale più rapida di circa il 10% rispetto a un grazie alla scalabilità indipendente di SAP LT Replication Server i processi di machine learning.
- La tabella di origine aveva meno colonne.
- La dimensione totale in byte dei record era inferiore.
Per informazioni sugli attributi di sistema che puoi modificare per migliorare il rendimento, consulta:
Configurazione del sistema per i test delle prestazioni di base
I sistemi di test descritti in questa sezione hanno prodotto riportati nella sezione precedente, Dati osservati numeri relativi alle prestazioni di riferimento.
I sistemi di test, tra cui il sistema di origine SAP, il SAP LT Replication Server, e il set di dati BigQuery, erano tutti in esecuzione VM di Compute Engine nella stessa regione Google Cloud.
In ogni sistema, i server e il carico di lavoro sono stati progettati per simulare un carico di lavoro più elevato e un volume di replica maggiore di quelli che potresti trovare in molte installazioni reali.
Per visualizzare gli attributi di sistema di test, fai clic sul tipo di sistema di origine:
S/4HANA
- Architettura di installazione di SAP LT Replication Server:
- Architettura incorporata
- Server di sistema di origine:
- Due server delle applicazioni, ognuno su un server Compute Engine basato su N2
tipo di macchina personalizzata con le seguenti specifiche:
- vCPU: 60
- Memoria: 324 GB
- Piattaforma CPU: Intel Cascade Lake
- Un server SAP HANA su una VM
m1-ultramem-80
Compute Engine con le seguenti specifiche:- vCPU: 80
- Memoria: 1900 GB
- Piattaforma CPU: Intel Broadwell
- Due server delle applicazioni, ognuno su un server Compute Engine basato su N2
tipo di macchina personalizzata con le seguenti specifiche:
- Versioni software:
- S/4HANA 1909
- SAP LT Replication Server: S/4CORE 104 SP00
- Dimensioni tabella:
- Nome tabella: ACDOCA, dati degli elementi pubblicitari della registrazione di giornale del libro mastro generale
- Numero di record: 343 milioni
- Numero di colonne: 477
- Processi di lavoro su ciascun server delle applicazioni:
- 60 procedure di dialogo
- 220 processi in background
- Carica le impostazioni in SAP LT Replication Server:
- Job: 99
- Tipo di lettura: 1 intervallo
- Calcolo: intervalli automatici
- Impostazioni di replica:
- Offerte di lavoro: 99
- Utilizzare i campi chiave per calcolare gli intervalli per la tabella di registrazione
- 128 intervalli
ECC
- Architettura di installazione di SAP LT Replication Server:
- Architettura incorporata
- Server di sistema di origine:
- Due server applicazioni, ciascuno su una VM
n2-highmem-48
Compute Engine con le seguenti specifiche:- vCPU: 60
- Memoria: 348 GB
- Piattaforma CPU: Intel Cascade Lake
- Due server applicazioni, ciascuno su una VM
- Versioni software:
- SAP NetWeaver: 7.0 EHP2
- SAP LT Replication Server: DMIS 2011_1_700 SP17
- Dimensioni della tabella:
- Tabella: MSEG, documenti di gestione dell'inventario dei materiali
- Numero di record: 203 milioni
- Numero di colonne: 188
- Processi di lavoro su ciascun server delle applicazioni:
- Processi di 60 Dialog
- 100 processi in background
- Carica le impostazioni in SAP LT Replication Server:
- Offerte di lavoro: 99
- Tipo di lettura: 5 Mittente
- Coda: intervalli manuali
- Impostazioni di replica:
- Offerte di lavoro: 99
- Intervalli per la tabella di log: utilizza i campi chiave per calcolare gli intervalli
- Numero di intervalli: 128
Dimensione del chunk dinamica
Se riscontri errori perché la dimensione in byte dei chunk supera la per le richieste HTTP accettate da BigQuery, devi ridurre manualmente la dimensione in byte riducendo la dimensione del chunk. La funzionalità di dimensione del chunk dinamico consente di ridurre automaticamente la dimensione del chunk e di riprovare la replica in BigQuery quando la dimensione in byte di un chunk supera la dimensione in byte massima per le richieste HTTP accettate da BigQuery. La dimensione dinamica del chunk consente di prevenire la maggior parte degli errori di replica dovuti al superamento la dimensione in byte di una richiesta. Potresti ricevere un errore solo se la dimensione del blocco raggiunge 1, ma la dimensione in byte rimane superiore a il limite BigQuery sul numero di byte in ogni richiesta HTTP.
Attiva la dimensione del chunk dinamico nella configurazione del trasferimento collettivo per una tabella utilizzando la transazione /GOOG/SLT_SETTINGS
.
La dimensione dinamica del blocco è un'impostazione facoltativa. Per informazioni su come attivare le dimensioni dei chunk dinamici, consulta:
- Se SAP LT Replication Server è in esecuzione su una VM di Compute Engine, consulta Specifica la creazione delle tabelle e altri attributi generali.
- Se SAP LT Replication Server è in esecuzione su un host esterno a Google Cloud, consulta Specificare la creazione di tabelle e altri attributi generali.
Se è abilitata la dimensione dinamica del chunk, viene indicata la dimensione massima del chunking consentito da BigQuery Connector per SAP, rimane all'interno Limiti di quota di BigQuery, ovvero 50.000 record.
Per ulteriori informazioni sulle dimensioni dei chunk, vedi Dimensioni delle porzioni e dei chunk.
Come funziona la dimensione dinamica del chunk
Con la dimensione del chunk dinamica, se la richiesta HTTP con la dimensione del chunk iniziale supera il limite di BigQuery per le dimensioni in byte, il connettore BigQuery per SAP riduce la dimensione del chunk e riprova a inviare i dati. BigQuery Connector per SAP continua a ridurre la dimensione del chunk a inviare i dati a BigQuery, finché i dati viene trasferito correttamente per un determinato blocco o fino a quando la dimensione del blocco non raggiunge 1.
La dimensione del chunk finale ridotta, per la quale il trasferimento dei dati è andato a buon fine, viene poi utilizzata come dimensione del chunk per tutti i chunk rimanenti di quella porzione. Puoi trovare la dimensione del chunk ridotta finale che è andata a buon fine per ogni parte nei log dell'applicazione SAP LT Replication Server come messaggio informativo:
Dynamic chunking triggered. Chunk size reduced from
INITIAL_CHUNK_SIZE_VALUE to FINAL_REDUCED_CHUNK_SIZE_VALUE
.
Per le parti successive e qualsiasi
repliche successive, BigQuery Connector per SAP inizia a inviare dati
BigQuery con la dimensione del blocco configurata nella transazione
/GOOG/SLT_SETTINGS
e continua a ridurre la dimensione del chunking in caso di chunking dinamico
viene attivato.
Per impostazione predefinita, la dimensione del chunk viene ridotta del 50% dopo ogni nuovo tentativo. Se vuoi ridurre la dimensione del chunk di una percentuale inferiore o superiore, modifica i parametri delle impostazioni avanzate.
Comprendiamo con un esempio come viene determinata la dimensione del chunk nel processo di replica quando la dimensione del chunk dinamico è attivata per una tabella.
Per questo esempio, la dimensione della porzione di SAP LT Replication Server è maggiore della dimensione del chunk di BigQuery Connector per SAP e la dimensione del chunk di 10.000 record è definita nella transazione/GOOG/SLT_SETTINGS
. BigQuery Connector per SAP replica una parte
BigQuery nel seguente modo:
Quando la replica viene avviata per una parte che contiene 20.000 record, la dimensione del primo blocco è di 10.000 record, ma se la dimensione in byte Se la richiesta HTTP è superiore a 10 MB, BigQuery Connector per SAP riduce la dimensione del blocco del 50% e la nuova dimensione diventa 5000 record.
BigQuery Connector per SAP riprova a inviare la dimensione del blocco di 5000 record, ma se la dimensione in byte per la richiesta HTTP è ancora superiore a 10 MB, BigQuery Connector per SAP riduce ulteriormente la dimensione del blocco del 50%, e la nuova dimensione del blocco diventa 2500 record.
BigQuery Connector per SAP tenta di nuovo di inviare il chunk di dimensioni pari a 2500 record. Ora, se le dimensioni in byte della richiesta HTTP per questo chunk sono inferiori a 10 MB, la replica va a buon fine e i dati vengono inseriti in BigQuery.
La dimensione del chunk per tutti i blocchi successivi diventa di 2500 record,purché la dimensione in byte per ogni richiesta HTTP è inferiore a 10 MB. Se la dimensione in byte della richiesta HTTP per qualsiasi chunk successivo supera i 10 MB, BigQuery Connector per SAP riduce di nuovo la dimensione del chunk e riprova a inviare i dati a BigQuery, finché i dati non vengono trasferiti correttamente per un determinato chunk. La dimensione del chunk ridotta viene utilizzata solo per la parte corrente della replica corrente.
Rendimento con dimensione del chunk dinamica
La dimensione dinamica del blocco può influire sulle prestazioni della replica in BigQuery. Per ogni blocco, BigQuery Connector per SAP calcola il numero di record contenuti in un blocco e controlla la dimensione in byte di richieste HTTP. Se la dimensione in byte è superiore a 10 MB, allora BigQuery Connector per SAP riduce la dimensione del chunk e riprova a inviare i dati che aumenta il tempo di replica complessivo.
Usa la dimensione dinamica del chunk solo in situazioni specifiche, dove anche dopo configurando una dimensione del chunk ideale per alcuni record di dati, la dimensione della richiesta potrebbe superare il limite delle richieste HTTP in BigQuery e non vuoi ricevere un errore relativo alla dimensione del blocco. Ad esempio:
- Tabelle di origine che contengono una grande varianza della sparsità dei dati nei campi, ovvero per alcuni record vengono mantenuti meno campi mentre per alcuni record vengono mantenuti molti campi.
- Tabelle di origine che contengono campi di testo lunghi come
EDID4-SDATA
,VARI-CLUSTID
eREPOSRC-DATA
.
Puoi anche utilizzare la dimensione del chunk dinamico durante la fase di test per identificare una dimensione del chunk ideale per una tabella che puoi definire nel sistema SAP di produzione.
Per ulteriori informazioni sulla configurazione della dimensione del chunk, consulta:
- Se SAP LT Replication Server è in esecuzione su una VM di Compute Engine, consulta Specifica gli attributi della tabella.
- Se SAP LT Replication Server è in esecuzione su un host esterno a Google Cloud, consulta Specificare gli attributi della tabella.
Trasferisci le impostazioni di trasferimento di massa in produzione
Per trasferire le impostazioni di trasferimento collettivo in produzione, devi prima esportarle da un sistema di sviluppo e poi importarle nel sistema di produzione.
Facoltativamente, puoi importare tre parti separate delle impostazioni di un trasferimento di massa in produzione:
- Le impostazioni di replica avanzate, a cui è possibile accedere utilizzando la transazione
LTRS
. - Le impostazioni della chiave client dalla tabella
/GOOG/CLIENT_KEY
, che possono essere a cui si accede utilizzando la transazioneSM30
. - BigQuery Connector for SAP le impostazioni del trasferimento di massa,
a cui si accede utilizzando la transazione
/GOOG/SLT_SETTINGS
.
Esportare le impostazioni del trasferimento di massa da un sistema di sviluppo
Nel sistema di sviluppo SAP LT Replication Server, esporta ogni parte delle impostazioni del trasferimento collettivo:
Esporta le impostazioni di replica avanzate:
- Esegui la transazione
LTRS
. - Seleziona i record del trasferimento di massa che stai trasferendo in produzione.
- Dal menu a discesa File, seleziona Esporta tutte le impostazioni.
- Nella finestra di dialogo Impostazioni di esportazione, seleziona una destinazione e fai clic su Salva. Le impostazioni vengono salvate in un file compresso in formato CSV sul tuo workstation locale.
- Esegui la transazione
Esporta le impostazioni di mass Transfer di BigQuery Connector per SAP:
Esegui la transazione
/GOOG/SLT_SETTINGS
:/n/GOOG/SLT_SETTINGS
Nel campo Settings Table (Tabella delle impostazioni), seleziona Mass Transfer (Trasferimento collettivo).
Seleziona i record di trasferimento collettivo da trasportare in produzione.
Fai clic su Trasferimento di massa del trasporto.
In Richiesta di richiesta di Workbench, inserisci il numero della richiesta di trasporto e fai clic sull'icona Continua. Per ogni record di trasferimento collettivo selezionato, le impostazioni delle seguenti tabelle di configurazione personalizzata sono incluse nel trasporto:
/GOOG/BQ_MASTR
/GOOG/BQ_TABLE
/GOOG/BQ_FIELD
Le impostazioni di trasferimento collettivo vengono salvate in una richiesta di trasporto.
Esporta le impostazioni della chiave client includendo manualmente i contenuti di tabella
/GOOG/CLIENT_KEY
nella richiesta di trasporto.Salva i file nella tua workstation locale.
Importa le impostazioni del trasferimento di massa in un sistema di produzione
Nel sistema di produzione SAP LT Replication Server, importa ogni parte delle impostazioni del trasferimento collettivo:
Crea una configurazione di replica di SAP LT Replication Server per il impostazioni del trasferimento di massa.
Importa le impostazioni di replica avanzate:
- Esegui la transazione
LTRS
. - Seleziona il trasferimento di massa che hai creato nel primo passaggio.
- Dal menu a discesa File, seleziona Importa tutte le impostazioni.
- Nella finestra di dialogo Scegli file, seleziona il file compresso dal tuo workstation locale e fai clic su Apri. Le impostazioni vengono importate come impostazioni per il trasferimento di massa.
- Esegui la transazione
Importa la richiesta di trasporto che contiene le impostazioni del trasferimento di massa.
Esegui la transazione
SM30
.Aggiorna le impostazioni della chiave client in base alle esigenze dell'ambiente di produzione.
Esegui la transazione
/GOOG/SLT_SETTINGS
:/n/GOOG/SLT_SETTINGS
Verificare che nella schermata Massa siano visualizzati i trasferimenti di massa corretti Trasferimenti.
Nella colonna ID trasferimento collettivo, sostituisci l'ID trasferimento collettivo del sistema di sviluppo con l'ID trasferimento collettivo della configurazione di replica che hai creato nel primo passaggio.
Nelle schermate delle impostazioni Tabelle e Campi successive, aggiorna altri valori per la tabella e la mappatura dei campi in base alle esigenze completamente gestito di Google Cloud.
Testa la configurazione avviando un caricamento iniziale o una replica. Per informazioni sull'avvio di un caricamento iniziale o di una replica, consulta:
- Se il server di replica SAP LT è in esecuzione su una VM di Compute Engine, Testa la replica.
- Se SAP LT Replication Server è in esecuzione su un host esterno a Google Cloud, esegui il test di replica.
Aggiorna BigQuery Connector per SAP
Google Cloud offre le nuove release BigQuery Connector per SAP per i trasporti SAP.
Gli amministratori SAP possono aggiornare BigQuery Connector per SAP seguendo questi passaggi:
- Se hai applicato i hotfix per la replica delle tabelle del cluster o per la configurazione del pubblico predefinito per l'autenticazione basata su JWT, prima di aggiornare il connettore BigQuery per SAP alla versione 2.6 devi eliminare il hotfix. Per ulteriori informazioni sull'eliminazione di un aggiornamento rapido consulta la pagina SAP Creazione, modifica ed eliminazione delle implementazioni di miglioramento.
- Disattiva la configurazione in SAP LT Replication Server.
- Importa la nuova richiesta di trasporto SAP.
- Dopo aver convalidato l'importazione e l'attivazione degli oggetti riuscita, attiva il la configurazione in SAP LT Replication Server.
Aggiorna gcloud CLI
Devi mantenere aggiornata Google Cloud CLI sul server di replica SAP LT .
Per saperne di più sulla gestione dell'interfaccia a riga di comando gcloud, consulta Gestire i componenti dell'interfaccia a riga di comando gcloud.
Monitoraggio
Puoi monitorare diversi punti lungo il percorso dei dati dall'origine dati SAP alla tabella BigQuery di destinazione, tra cui:
- Infrastruttura: rete, hardware e sistema operativo
- Livello di database SAP
- Il livello di applicazione SAP
- BigQuery Connector per SAP
- BigQuery
Le opzioni per il monitoraggio in ognuno di questi punti sono presentate nel che seguono.
Monitoraggio dell'infrastruttura
Su Google Cloud, puoi installare Ops Agent sulle VM host per monitoraggio e logging avanzati. Ops Agent invia i dati a Cloud Monitoring nella console Google Cloud.
Per ulteriori informazioni, vedi:
Per i sistemi non in esecuzione su Google Cloud, puoi anche ottenere informazioni sul server eseguendo transazioni SAP, ad esempio la transazione ST06
.
Monitoraggio del livello del database
Utilizza i codici transazioni SAP standard per monitorare l'integrità del database.
Il codice transazione DBACOCKPIT
è la transazione più comune per
monitorando il database. Questa transazione fornisce inoltre dettagli
log utilizzabili per la risoluzione degli errori.
Per SAP HANA, puoi utilizzare SAP HANA Studio per le operazioni SAP HANA. Puoi installare SAP HANA Studio su qualsiasi macchina frontend.
Durante la risoluzione dei problemi di prestazioni o di altro tipo, controlla quanto segue nel database di origine:
- Istruzioni SQL costose
- Serrature
- Cronologia caricamenti
- Indici
- Processi
Monitoraggio del livello dell'applicazione
Puoi utilizzare gli strumenti di monitoraggio e risoluzione dei problemi delle applicazioni SAP per monitorare e risolvere i problemi di BigQuery Connector per SAP, poiché viene eseguito nel livello dell'applicazione.
Il monitoraggio e la risoluzione dei problemi delle applicazioni SAP possono essere ulteriormente classificati le seguenti:
- Monitoraggio e risoluzione dei problemi SAP standard
- Monitoraggio e risoluzione dei problemi di BigQuery Connector per SAP
Per ambienti più ampi, puoi utilizzare SAP Solution Manager come strumento di monitoraggio centrale.
Puoi utilizzare i codici transazioni SAP nel seguente elenco per monitorare e diagnosticare i problemi nei singoli sistemi di applicazioni SAP:
- Stato della configurazione SLT:
LTRC
- Errori e log SLT:
LTRO
eSLG1
- Internet Communication Manager (chiamate HTTP e HTTPS):
SMICM
- Sicurezza e certificati:
STRUST
- Trasporti SAP:
STMS
- Connessioni RFC:
SM59
- Comando del sistema operativo:
SM69
- Controllo del pacchetto:
SE80
- Controlli dell'autorizzazione:
SU53
- Job in background:
SM37
- Log di sistema:
SM21
Monitoraggio di BigQuery
Utilizza Cloud Monitoring per visualizzare le metriche di BigQuery e creare grafici e avvisi. Ogni metrica ha un tipo di risorsa, bigquery_dataset
, bigquery_project
o global
, nonché un insieme di etichette.
Utilizza i tipi di risorse e le etichette per creare query in Monitoring Query Language (MQL).
Puoi raggruppare o filtrare ogni metrica utilizzando le etichette.
Per ulteriori informazioni sul monitoraggio, consulta la documentazione di Cloud Monitoring.
Visualizzare le impostazioni del connettore BigQuery per SAP
Per visualizzare le impostazioni di trasferimento collettivo di BigQuery Connector per SAP, in SAP GUI,
esegui la transazione /GOOG/SLT_SETT_DISP
.
Strumento Crea tabella
Per le tabelle di origine vuote in SAP, SLT SAP impedisce di creare tabelle di destinazione in BigQuery. Se devi creare le tabelle di destinazione nel set di dati BigQuery per tabelle di origine vuote, puoi utilizzare lo strumento Crea tabella.
Per eseguire lo strumento Crea tabella:
In SAP GUI, esegui la transazione
/GOOG/CREATE_BQ_TAB
preceduta da/n
:/n/GOOG/CREATE_BQ_TAB
Nella schermata Crea tabelle di destinazione dalle impostazioni BQ, fornisci i valori per nei seguenti campi:
- Chiave di trasferimento massiccio: la chiave di trasferimento massiccio contenente le tabelle SAP.
- Nome tabella SAP: i nomi delle tabelle SAP che devi creare.
Fai clic sull'icona Esegui. Le tabelle di destinazione vengono create nel set di dati BigQuery.
Se vuoi, verifica nel set di dati BigQuery se la tabella è stata creata con lo schema corretto.
Strumento di conversione collettiva dei campi
Sebbene BigQuery Connector per SAP suggerisca automaticamente i tipi di dati BigQuery per la maggior parte dei campi, potrebbe essere necessario mappare i campi manualmente. Anziché assegnare manualmente il tipo di dati a ciascun
puoi utilizzare lo strumento Conversione campi di massa per mappare i dati
digita l'assegnazione per tutti i campi nella schermata di mappatura dei campi di /GOOG/SLT_SETTINGS
transazione. Lo strumento di conversione collettiva dei campi converte tutte le mappature dei campi
per una tabella nel tipo STRING
in BigQuery.
Se una tabella è già in fase di replica o viene aggiunta per il caricamento iniziale
nella transazione LTRC
, non utilizzare lo strumento di conversione collettiva dei campi
per queste tabelle, in quanto potrebbero verificarsi problemi di mancata corrispondenza dello schema.
Puoi utilizzare questo strumento solo per le tabelle SAP per le quali non è stato avviato il caricamento iniziale o la replica.
Per eseguire lo strumento Conversione di campi di massa:
In SAP GUI, esegui la transazione
/GOOG/MASS_CNVT_FMAP
preceduta da/n
:/n/GOOG/MASS_CNVT_FMAP
Nella schermata Conversione in blocco dei campi, fornisci i valori per nei seguenti campi:
- Chiave di trasferimento massiccio: la chiave di trasferimento massiccio contenente le tabelle SAP.
- Nome della tabella SAP: i nomi delle tabelle SAP per i quali è necessario convertire tutti i mappaggi dei campi nel tipo
STRING
.
Fai clic sull'icona Esegui. Per le tabelle selezionate, tutte le le mappature dei campi vengono convertite nel tipo
STRING
.
Carica strumento di simulazione
Questa sezione fornisce una panoramica dello strumento di simulazione del carico e delle sue funzionalità.
Lo strumento di simulazione di caricamento è uno strumento di supporto per BigQuery Connector per SAP che ti consente di simulare la replica dei dati SAP in BigQuery. Lo strumento fa parte del trasporto fornito da Google Cloud per BigQuery Connector per SAP. Puoi utilizzare lo strumento di simulazione di caricamento per replicare i dati SAP di origine in BigQuery richiamando direttamente il componente aggiuntivo aziendale (BAdI) di BigQuery Connector per SAP. Poiché lo strumento di simulazione di caricamento non utilizza framework SLT sottostante, i trigger SLT non sono interessati. Non utilizzare Carica lo strumento di simulazione per la replica dei dati negli ambienti di produzione.
Lo strumento di simulazione del caricamento fornisce un report che puoi analizzare per valutare le prestazioni della replica, identificare potenziali problemi, comprendere la causa principale dei problemi e risolverli prima della replica effettiva dei dati SAP in BigQuery utilizzando BigQuery Connector per SAP.
Di seguito sono riportati alcuni casi d'uso comuni in cui puoi utilizzare lo strumento di simulazione del carico:
- Riproduci e risolvi eventuali problemi di connettività di rete, autorizzazione o autenticazione.
- Genera log avanzati delle chiamate all'API BigQuery per risolvere i problemi.
- Per ricevere assistenza per la risoluzione dei problemi dall'assistenza clienti Google Cloud, esegui lo strumento di simulazione del carico e fornisci i log al team dell'assistenza clienti.
- Misura le metriche sul rendimento indicando il tempo impiegato per ogni passaggio durante il processo di replica.
- Per SAP LT Replication Server in un'architettura incorporata, determina una del blocco note per le tabelle SAP.
Utilizza una configurazione di trasferimento collettivo di esempio con lo strumento di simulazione del caricamento che crei utilizzando la transazione personalizzata /GOOG/SLT_SETTINGS
.
Non utilizzare il set di dati di produzione e BigQuery
per l'esecuzione dello strumento di simulazione di caricamento.
Quando SAP LT Replication Server si trova in un'architettura incorporata, esegui lo strumento di simulazione del caricamento con le tabelle SAP standard come MARA
e T001
.
Quando il server di replica SAP LT si trova in un'architettura autonoma, viene eseguito
Carica simulazione
con la tabella di esempio /GOOG/TEST_REPL
fornita da Google Cloud
con BigQuery Connector per SAP. Lo strumento di simulazione del caricamento non supporta la lettura delle tabelle di origine da un sistema remoto.
Per ulteriori informazioni sulle architetture per le origini dati SAP su Google Cloud, consulta Architettura di installazione.
Prerequisiti
Prima di eseguire lo strumento di simulazione di caricamento, assicurati che: siano soddisfatti i seguenti prerequisiti:
BigQuery Connector per SAP è installato e configurato. Per informazioni sui passaggi di installazione e configurazione, consulta:
- Se SAP LT Replication Server è in esecuzione su una VM di Compute Engine, consulta Installa e configura BigQuery Connector per SAP su un VM di Compute Engine.
- Se SAP LT Replication Server è in esecuzione su un host esterno a Google Cloud, consulta Installare e configurare BigQuery Connector per SAP su un host esterno a Google Cloud.
Gli utenti previsti hanno accesso alla transazione personalizzata
/GOOG/LOAD_SIMULATE
che è fornito da Google Cloud. Per ulteriori informazioni, vedi:- Se SAP LT Replication Server è in esecuzione su una VM di Compute Engine, consulta Crea ruoli e autorizzazioni SAP per BigQuery Connector for SAP.
- Se SAP LT Replication Server è in esecuzione su un host esterno a Google Cloud, consulta Creare ruoli e autorizzazioni SAP per BigQuery Connector per SAP.
Come eseguire lo strumento di simulazione del carico
Per eseguire lo strumento di simulazione di caricamento, segui questi passaggi:
Nella GUI di SAP, inserisci la transazione
/GOOG/LOAD_SIMULATE
preceduta da/n
:/n/GOOG/LOAD_SIMULATE
Fai clic sull'icona Esegui. Viene visualizzata la schermata Simulazione di caricamento SLT.
In Elaborazione delle opzioni, assicurati che sia selezionata l'opzione Esegui simulazione. è selezionata.
Nella sezione Opzioni di selezione, inserisci le seguenti specifiche:
- Dal menu a discesa nel campo Partner Google Cloud, Seleziona BigQuery.
Nel campo Mass Transfer Key, inserisci il trasferimento di massa. chiave per la configurazione del trasferimento di massa.
Utilizza una configurazione di trasferimento collettivo di esempio con lo strumento di simulazione del carico. Non utilizzare il set di dati di produzione e le tabelle BigQuery.
Nel campo Nome tabella, inserisci il nome della tabella SAP di origine fornito nella configurazione del trasferimento collettivo di esempio.
Facoltativamente, nel campo Condizione WHERE, inserisci una condizione per la selezione dei dati dalla tabella di origine.
Puoi inserire fino a 255 caratteri. Ad esempio, se esegui lo strumento di simulazione del caricamento per la tabella SAP
MARA
e devi selezionare il numero di materiale da un intervallo specifico, per Condizione WHERE specifica un valore comeMATNR GE '000000000400000001' AND MATNR LE '000000000600000001'
.Nel campo Conteggio cicli, inserisci il numero di cicli di elaborazione eseguiti dallo strumento di simulazione del carico.
Questa operazione è utile quando devi confrontare la modalità di generazione del report di simulazione in più cicli. Il valore deve essere maggiore di 1.
Nel campo Conteggio record per ciclo, inserisci il numero di record che vuoi inviare a BigQuery in ogni ciclo di elaborazione. Il valore deve essere maggiore di 1.
Nel campo Dimensione della porzione, inserisci il numero di record Conteggio dei record per ciclo inviato dal server di replica SAP LT al connettore BAdI di BigQuery Connector per SAP in ogni parte.
Seleziona uno o più flag appropriati:
Numero esatto di record: indica che è esattamente lo stesso numero di i record forniti nel campo Conteggio record per ciclo vengono inviati BigQuery in ogni ciclo di elaborazione. Se la tabella non dispone di un numero sufficiente di record, viene utilizzata la funzione duplicati di strumenti i record esistenti per raggiungere il conteggio richiesto. I record vengono duplicati solo per inserire i dati in BigQuery e non per inserirli nella tabella di origine.
Utilizza la struttura di destinazione SLT: utilizza la struttura della tabella di registrazione SLT per ottenere i campi della tabella di origine. Se questo flag non è impostato, i campi vengono letti direttamente dalla tabella di origine per generare la struttura di destinazione. Per ulteriori informazioni il flusso di dati di SAP LT Replication Server, consulta Visualizzazione architetturale dettagliata del flusso di dati.
Log dettagliato: indica che i record di log vengono creati per tutti i metodi definiti in BigQuery Connector per SAP. Se questo flag non è impostato, è importante solo vengono registrati.
Cancella risultati precedenti: cancella i record di log creati in precedenza per la stessa tabella SAP e trasferimento mass. Se il flag non è impostato, i log vengono aggiunti ai risultati precedenti.
Per eseguire lo strumento Carica simulazione, fai clic sull'icona Esegui.
Al termine della simulazione del carico, nella sezione Opzioni di elaborazione, seleziona il pulsante di opzione Mostra report.
Nella sezione Opzioni di selezione, inserisci le seguenti specifiche:
- Dal menu a discesa nel campo Partner Google Cloud, seleziona BigQuery.
- Nel campo Mass Transfer Key (Chiave di trasferimento collettivo), inserisci la chiave di trasferimento collettivo per la configurazione di trasferimento collettivo di esempio.
- Nel campo Nome tabella, inserisci il nome della tabella SAP di origine.
- Se vuoi, per visualizzare il report in base alla data di esecuzione della simulazione di carico, specifica un intervallo di date nel campo Data report.
- Se vuoi, per visualizzare l'ultimo report eseguito insieme a quello corrente, seleziona il flag Solo ultima esecuzione.
Per visualizzare il report, fai clic sull'icona Esegui.
Nella tabella seguente vengono descritte le colonne visualizzate nel report di simulazione:
Nome | Descrizione |
---|---|
Chiave di trasferimento | La chiave di trasferimento collettivo per la configurazione del trasferimento collettivo. |
Tabella SAP | Il nome della tabella SAP di cui viene eseguita la replica in BigQuery. |
Timestamp inizio esecuzione | L'ora di inizio dell'esecuzione per un metodo di BigQuery Connector per SAP. |
Timestamp completamento | La data e l'ora in cui è stata completata l'esecuzione di un BigQuery Connector per SAP . |
Numero job | Numero di job univoco per ogni esecuzione completata che viene generate ogni volta che viene eseguito lo strumento di simulazione di caricamento. |
N. ciclo | Il numero di sequenza del ciclo di elaborazione in cui viene generato il report. Il Conteggio record per ciclo fornito nell'input della simulazione viene trasferito a BigQuery per ogni ciclo. |
Numero porzione | Il numero di sequenza della parte. Il conteggio record per ciclo fornito nell'input della simulazione viene suddiviso in parti in base al delle porzioni. Il BAdI di BigQuery Connector per SAP è per ogni parte. |
Nome corso | Il nome della classe del metodo BigQuery Connector per SAP. |
Nome metodo | Il nome del connettore BigQuery per SAP. I metodi che vengono richiamate da BigQuery Connector per SAP e vengono registrate in sequenza. Se nell'input della simulazione è selezionato il flag Log dettagliato, tutti i metodi vengono registrati oppure vengono registrati solo i metodi importanti. |
Richiamato per metodo | L'ultimo metodo che ha chiamato il metodo corrente di BigQuery Connector per SAP. |
Durata | Il tempo totale necessario per l'esecuzione di un metodo BigQuery Connector per SAP. |
Numero di ric | Il numero di record passati a un metodo di BigQuery Connector per SAP. Viene mostrato solo per i metodi a cui vengono passati i record. |
Metodo URI | Il nome del metodo HTTP, nel caso in cui il metodo ABAP effettui una Chiamata API BigQuery. |
Stringa URI | L'URL HTTP, nel caso in cui il metodo ABAP effettui una Chiamata API BigQuery. |
Origine token | L'origine del token di autenticazione utilizzato dallo strumento di simulazione del carico. Questo vale solo se la memorizzazione nella cache dei token è attivata nella tabella /GOOG/CLIENT_KEY . I valori possibili sono:
|
Data di scadenza | La data e l'ora di scadenza del token di autenticazione. È applicabile solo quando la memorizzazione nella cache dei token è attivata la tabella /GOOG/CLIENT_KEY . |
Valore token | Valore del token di autenticazione utilizzato dallo strumento di simulazione del caricamento per accedere a BigQuery. |
Codice di ritorno | Il codice di ritorno dell'esecuzione del metodo. I valori possibili sono:
|
Testo errore | Il titolo dell'errore, se presente. |
Descrizione errore | Informazioni dettagliate sull'errore. |
Dimensioni payload | Le dimensioni del payload HTTP per l'API BigQuery Insert. Se si verifica un errore nell'esecuzione del metodo e la dimensione del payload è maggiore non superi i 10 MB, puoi regolare la dimensione del chunk per la dimensione del payload. |
Testo delle informazioni | Qualsiasi messaggio di informazioni pertinente generato dal BAdI del
BigQuery Connector per SAP. Ad esempio, quando il chunking dinamico
, viene visualizzato il seguente messaggio informativo:
Dynamic chunking triggered. Chunk size reduced from
INITIAL_CHUNK_SIZE_VALUE to FINAL_REDUCED_CHUNK_SIZE_VALUE . |
Stato | Stato dell'esecuzione del metodo. Se l'esecuzione di un metodo non va a buon fine, consulta la guida alla risoluzione dei problemi di BigQuery Connector per SAP per risolvere il problema. |
Strumento di pianificazione della simulazione di caricamento
Puoi pianificare l'esecuzione automatica dello strumento di simulazione
di un job in background su SAP LT Replication Server utilizzando
nome del programma /GOOG/R_LOAD_SIMULATION
.
Per ulteriori informazioni da SAP sulla pianificazione dei job in background,
consulta la sezione Pianificazione di job in background.
Convalida della replica
Se selezioni il Flag campi aggiuntivi quando crei la destinazione
Tabella BigQuery con transazione /GOOG/SLT_SETTINGS
,
le colonne vengono aggiunte allo schema della tabella
per archiviare il tipo di modifica a ciascun record che ha attivato la replica
e per un timestamp che rifletta l'ora in cui SAP LT Replication Server ha ricevuto la parte che conteneva il record.
Puoi utilizzare i tipi di modifica e il timestamp per eseguire query sui seguenti tipi di conteggi dei record:
- Il numero di record caricati in una tabella BigQuery durante un caricamento iniziale.
- Il numero di record replicati in un giorno specificato in un Tabella BigQuery.
- Il numero totale di record univoci in una tabella BigQuery.
Per ottenere questi conteggi, puoi eseguire una query sulla tabella BigQuery direttamente inviando query SQL nella console Google Cloud; oppure puoi eseguire lo strumento Replication Validation, che genera report Confronta il numero di record BigQuery con SAP LT Replication Server le statistiche o i conteggi di record dalla tabella di origine.
Per una panoramica dell'indicatore di campi aggiuntivi, consulta Campi aggiuntivi per le modifiche dei record e le query di conteggio.
Per informazioni su come specificare l'indicatore di campi aggiuntivi, consulta:
- Se SAP LT Replication Server è in esecuzione su una VM di Compute Engine, consulta Specifica la creazione delle tabelle e altri attributi generali.
- Se SAP LT Replication Server è in esecuzione su un host esterno al per Google Cloud, consulta Specifica la creazione delle tabelle e altri attributi generali.
Query SQL per i conteggi dei record
Nella pagina Editor SQL di BigQuery della console Google Cloud, puoi eseguire query SQL per controllare i conteggi dei record nelle tabelle BigQuery.
Puoi quindi confrontare i conteggi dei record BigQuery con i conteggi nella tabella di origine o nelle statistiche di SAP LT Replication Server.
Esegui una query sul conteggio dei record inseriti in modalità di caricamento iniziale
Quando lo schema di una tabella BigQuery include il campo facoltativo
colonna operation_flag
, record inseriti nella tabella
in modalità di caricamento iniziale includono il flag dell'operazione L
.
Per ottenere il conteggio dei record ricevuti da BigQuery durante un caricamento iniziale, esegui la seguente query:
SELECT COUNT(*) FROM `PROJECT.DATASET.TABLE` WHERE operation_flag = 'L'
Query sul numero di record inseriti in modalità di replica
Quando lo schema di una tabella BigQuery include il campo facoltativo
colonna operation_flag
, record inseriti nella tabella
in modalità di replica includono uno dei seguenti flag delle operazioni:
I
: il record è stato inserito nella tabella di origine.D
: il record è stato eliminato dalla tabella di origine.U
: il record è stato aggiornato nella tabella di origine.
Per ottenere il conteggio dei record ricevuti da BigQuery in modalità di replica, esegui questa query:
SELECT COUNT(*) FROM `PROJECT.DATASET.TABLE` WHERE operation_flag = 'I' | 'D' | 'U'
Query sul conteggio totale dei record in una tabella BigQuery
Quando lo schema di una tabella BigQuery include il campo facoltativo
Colonna recordstamp
, il campo recordstamp
corrispondente di ogni record
inserito nella tabella contiene un timestamp che indica quando
il record è stato inviato da SAP LT Replication Server a BigQuery.
per ottenere un conteggio totale dei record in una tabella BigQuery.
che puoi confrontare con il conteggio totale dei record in una tabella di origine,
puoi usare i campi recordstamp
e is_deleted
per contare i dati univoci
record della tabella BigQuery che non sono stati eliminati
dalla tabella di origine.
Se la tabella di origine viene aggiornata attivamente o se la replica è attiva quando esegui query sui record, il conteggio dei record nelle tabelle di origine e di destinazione potrebbe non corrispondere esattamente.
Per ottenere il conteggio attuale dei record univoci in BigQuery di destinazione, esegui questa query:
SELECT COUNT(*) FROM ( SELECT *, ROW_NUMBER() OVER (PARTITION BY KEY_FIELD_1, ..., KEY_FIELD_N ORDER BY recordstamp DESC) row_num FROM `PROJECT.DATASET.TABLE` ) WHERE row_num = 1 AND is_deleted = false
Strumento di convalida della replica
Questa sezione fornisce una panoramica dello strumento Replication Validation che cosa puoi fare.
Lo strumento Replication Validation genera report che mettono a confronto il record conteggi nella tabella BigQuery con SAP LT Replication Server statistiche e i conteggi dei record nella tabella di origine. Se i conteggi non corrispondono una corrispondenza esatta, lo strumento segnala il report con un cerchio rosso.
Per conteggiare i record in BigQuery, lo strumento utilizza le query SQL riportate nella sezione precedente Query SQL per il conteggio dei record.
Esegui periodicamente lo strumento Replication Validation per verificare SAP LT Replication Server e BigQuery Connector per SAP stanno replicando i record in BigQuery come previsto.
Per eseguire lo strumento di convalida della replica, inserisci la transazione personalizzata/GOOG/REPLIC_VALID
preceduta da /n
in SAP GUI. Per
istruzioni passo passo, consulta:
- Se il server di replica SAP LT è in esecuzione su una VM di Compute Engine, Esegui lo strumento Replication Validation.
- Se SAP LT Replication Server è in esecuzione su un host esterno a Google Cloud, esegui lo strumento di convalida della replica.
Report di convalida della replica
Puoi generare i seguenti report di convalida con il modulo Strumento di convalida:
- Conteggi caricamenti iniziali: un confronto tra il numero di record inviati da SAP LT Replication Server in modalità di caricamento e il numero di record caricati in BigQuery.
- Numero di repliche: un confronto del numero di record. inviati da SAP LT Replication Server in modalità di replica e il numero di record inseriti in BigQuery su una giorno specificato.
- Conteggi attuali: un confronto in un determinato momento del numero di record presenti nella tabella di origine e del numero di record unici in BigQuery. Impossibile visualizzare il conteggio attuale nella tabella di origine un numero maggiore del limite di numeri interi a 32 bit (da -2.147.483.648 a 2.147.483.647).
Puoi generare ciascun report singolarmente o selezionando Tutti i controlli quando esegui lo strumento, puoi generare tutti e tre i report in un singola esecuzione. Con il campo Nomi tabella, puoi generare la replica report di convalida per tabelle specifiche nella configurazione del trasferimento di massa.
Visualizzazione dei report di Replication Validation
Dopo aver generato un report, puoi visualizzarlo selezionando il pulsante di opzione Mostra report nella sezione Opzioni di elaborazione dell'interfaccia dello strumento di convalida della replica.
Le informazioni visualizzate dallo strumento di convalida della replica in ogni report variano leggermente a seconda del tipo di report.
Tutti i report includono i seguenti tipi di informazioni:
- Conteggi dei record di origine dalle statistiche di SAP LT Replication Server e dalla tabella di origine.
- Conteggi dei record di destinazione dal BigQuery di destinazione tabella.
- Qualsiasi differenza tra i due conteggi. La differenza viene calcolata sottraendo i conteggi di BigQuery dai conteggi dei record di origine. Un valore positivo indica un probabile problema, perché suggerisce che non tutti i record di origine vengono inseriti in BigQuery.
- La differenza nei conteggi visualizzata come percentuale del conteggio dei record di origine.
- Un indicatore visivo che indica se i conteggi di origine e di destinazione sono uguali o diversi.
Conteggi di record non uguali
Lo strumento Replication Validation include un campo di stato per ogni report visualizzato.
Un quadrato verde nel campo dello stato indica che il conteggio dei record di origine equivale al conteggio dei record target in BigQuery.
Un cerchio rosso nel campo dello stato indica che i conteggi dei record non sono uguali.
Un conteggio dei record non uguale non indica sempre un problema. Le seguenti indicatori suggeriscono un possibile problema:
- Per un report Conteggi correnti, un valore non uguale indica sempre un problema.
Per un report Conteggi caricamenti iniziali o Conteggi replica, un valore positivo indica un probabile problema.
Un valore negativo relativamente basso non costituisce un problema. Il conteggio in una tabella BigQuery di destinazione a volte può essere un po' più alto del conteggio dei record di origine a causa di eventi come interruzioni temporanee della connettività che causano il rieseguimento dei dati da parte di SAP LT Replication Server.
Se visualizzi un conteggio non uguale, esegui nuovamente il report per assicurarti che non sia stato causato da un problema transitorio. Un conteggio non uniforme dei record può verificarsi a causa dell'elaborazione della replica al momento in cui lo strumento ha generato il report.
Per una tabella di origine molto grande o una tabella con filtri impostati in SAP LT Replication Server per il caricamento iniziale o la replica, lo strumento di convalida della replica potrebbe non essere in grado di conteggiare tutti i record necessari per un conteggio uguale.
Pianificazione dei controlli di convalida
Puoi pianificare l'esecuzione automatica dello strumento Replication Validation a intervalli usando la funzionalità del job in background SAP.
Modificare la mappa dei campi BigQuery in un file CSV
Le sezioni seguenti descrivono come esportare la mappatura dei campi predefinita in modo che i data engineer o gli amministratori di BigQuery possano modificare i valori dei campi target senza richiedere l'accesso a SAP LT Replication Server.
Crea un foglio di lavoro o un file di testo delle mappature dei campi predefinite
Per creare un file CSV da modificare all'esterno di SAP LT Replication Server:
Esegui la transazione
/GOOG/SLT_SETTINGS
.Nella schermata Manutenzione impostazioni SLT, specifica i seguenti valori:
- Nel campo Settings Table (Tabella delle impostazioni), specifica Fields (Campi).
- Nel campo Mass Transfer Key (Chiave trasferimento collettivo), specifica l'ID del trasferimento collettivo che stai aggiornando.
- Nel campo Nome tabella, lascia vuoto il campo per lavorare con tutti i campi di tutte le tabelle o specifica il nome di una tabella da utilizzare tabella specifica.
- Lascia vuoti tutti gli altri campi.
Fai clic sull'icona Esegui. Viene visualizzata la schermata BigQuery Settings Maintenance - Fields (Manutenzione impostazioni BigQuery - Campi).
Nella schermata Manutenzione impostazioni BigQuery - Campi, nascondi tutto tranne quelle del seguente elenco facendo clic con il tasto destro del mouse le intestazioni delle colonne e selezionando Nascondi dal menu a discesa:
- Nome tabella SAP
- Nome campo SAP
- Elemento dati esterni
- Nome campo esterno
- Descrizione campo
Con le cinque colonne rimanenti visualizzate, fai clic sull'icona Esporta.
Dal menu Esporta, seleziona una delle seguenti opzioni:
- Foglio di lavoro
- File locale. Per facilitare la conversione dei contenuti del file in formato CSV, consigliamo di salvarlo nel formato Testo con tabulazioni.
Salva le mappature dei campi predefinite facendo clic sull'icona Spunta.
Converti il foglio di lavoro o il file di testo in formato CSV
Per caricare le mappature dei campi modificate utilizzando la transazione personalizzata
/GOOG/SLT_SETTINGS
, le mappature dei campi
deve essere in formato CSV.
Se utilizzi un foglio di lavoro, salvalo come file CSV. prima di caricare il file.
Se utilizzi un file locale in un formato separato da tabulazioni o qualsiasi altro formato, devi modificare il file per renderlo conforme al formato CSV.
Ad esempio:
SAP Table,SAP Field Name,External Data Element,External Field Name,Field Description SAP_TABLE_NAME,SAP_FIELD_NAME1,BIGQUERY_DATA_TYPE,BIGQUERY_FIELD_NAME1,BIGQUERY_FIELD_DESCRIPTION1 SAP_TABLE_NAME,SAP_FIELD_NAME2,BIGQUERY_DATA_TYPE,BIGQUERY_FIELD_NAME2,BIGQUERY_FIELD_DESCRIPTION2 SAP_TABLE_NAME,SAP_FIELD_NAME3,BIGQUERY_DATA_TYPE,BIGQUERY_FIELD_NAME3,BIGQUERY_FIELD_DESCRIPTION3
Carica il file CSV
Per caricare un file CSV modificato:
Esegui la transazione
/GOOG/SLT_SETTINGS
.Nella schermata Manutenzione impostazioni SLT, specifica i seguenti valori:
- Nel campo Settings Table (Tabella delle impostazioni), specifica Fields (Campi).
- Nel campo Mass Transfer Key (Chiave trasferimento collettivo), specifica l'ID del trasferimento collettivo che stai aggiornando.
- Seleziona la casella di controllo Carica da file.
Fai clic sull'icona Esegui. L'opzione Seleziona file da caricare si apre la finestra di dialogo.
Nella finestra di dialogo Seleziona file da caricare, seleziona il file CSV che contiene i valori dei campi modificati.
Fai clic su Apri.
Se ricevi un avviso di sicurezza, fai clic su Consenti. Il file viene caricato e i valori modificati nel file vengono visualizzati nelle righe applicabili nella schermata BigQuery Settings Maintenance - Fields.
Fai clic sull'icona Salva.
Per confermare che i valori sono stati applicati, confronta i valori del file CSV con i valori visualizzati da SAP LT Replication Server.
Gestione degli errori nei dati di origine
Al ricevimento di un blocco di record dal connettore BigQuery per SAP, l'API BigQuery Streaming controlla la presenza di errori nei dati prima di inserire i record nella tabella BigQuery.
Puoi controllare la modalità di risposta dell'API BigQuery e del connettore BigQuery per SAP quando vengono rilevati errori nei dati specificando i seguenti flag nelle impostazioni del trasferimento collettivo:
- Il flag
Skip Invalid Records
(SKIP
) - Il flag
Break at First Error Flag
(BREAK
)
Il flag SKIP
Se specifichi il flag SKIP
, quando l'API BigQuery riceve un chunk di record e ne trova uno con un errore nei dati, lo ignora o lo salta e continua a inserire tutti gli altri record del chunk nella tabella BigQuery.
Se non specifichi il flag SKIP
, quando BigQuery
trova un record con un errore nei dati, BigQuery elimina l'intero
un blocco note senza inserire alcun record a BigQuery
tabella. Questo è il comportamento standard.
Specificare il flag SKIP
è la scelta migliore per gli ambienti di sviluppo e QA,
e non è consigliato per gli ambienti di produzione.
Puoi specificare il flag SKIP
nella transazione /GOOG/SLT_SETTINGS
quando
configuri la replica. La specifica è archiviata nella tabella di configurazione /GOOG/BQ_MASTR
.
Per vedere in che modo le specifiche SKIP
interagiscono con le specifiche BREAK
,
consulta la tabella a matrice per le interazioni SKIP
e BREAK
.
Il flag BREAK
Se specifichi il flag BREAK
, quando
L'API BigQuery informa BigQuery Connector per SAP che
è stato rilevato un errore nei dati in un record, BigQuery Connector per SAP si arresta
l'invio di record a BigQuery e termina
un job di replica. Questo è il comportamento standard.
Se non specifichi il flag BREAK
, quando
BigQuery Connector per SAP comunica a BigQuery che
è stato rilevato un errore nei dati in un record, BigQuery Connector per SAP continua
invio di record a BigQuery inviando il blocco successivo
e il job di replica continua.
È consigliabile specificare il flag BREAK
negli ambienti di produzione.
Puoi specificare il flag BREAK
nella transazione /GOOG/SLT_SETTINGS
quando configuri la replica.
Quando crei una nuova chiave di trasferimento di massa, il flag BREAK
è abilitato per impostazione predefinita.
La specifica viene archiviata nella tabella di configurazione /GOOG/BQ_MASTR
.
Per sapere in che modo le specifiche BREAK
interagiscono con le specifiche SKIP
, consulta la tabella della matrice per le interazioni SKIP
e BREAK
.
Tabella a matrice per le interazioni SKIP
e BREAK
Puoi configurare BigQuery Connector per SAP in modo da gestire gli errori nei dati nei seguenti modi:
SKIP flag |
BREAK flag |
Comportamento |
---|---|---|
FALSE | VERO |
BigQuery ignora il chunk corrente di record senza inserire alcun record del chunk corrente nella tabella BigQuery. BigQuery Connector per SAP non invia altri blocchi di record parte corrente e indica a SAP LT Replication Server di terminare il job di replica. Impostazione predefinita e consigliata. |
FALSE | FALSE |
BigQuery elimina il blocco di record corrente senza inserendo qualsiasi record del blocco corrente Tabella BigQuery. BigQuery Connector per SAP invia eventuali blocchi di record rimanenti dalla parte corrente e recupera la parte successiva. BigQuery Connector per SAP non indica il server di replica SAP LT per terminare il job di replica. |
VERO | VERO |
BigQuery ignora solo il record contenente l'errore e inserisce il resto dei record nel chunk corrente nella tabella BigQuery. BigQuery Connector per SAP non invia più chunk di record dalla parte corrente e indica a SAP LT Replication Server di terminare il job di replica. |
VERO | FALSE |
BigQuery ignora solo il record contenente l'errore e inserisce il resto dei record nel chunk corrente nella tabella BigQuery. BigQuery Connector per SAP invia eventuali blocchi rimanenti di record dalla parte corrente e recupera la parte successiva. BigQuery Connector per SAP non comunica a SAP LT Replication Server di e terminare il job di replica. |
Modifiche alla struttura della tabella
Questa sezione spiega come modificare la struttura della tabella di origine SAP, per cui
è in corso una replica LTRC
esistente.
Aggiungere una colonna a una tabella di origine
Per aggiungere una nuova colonna a una tabella di origine:
Aggiungi una nuova colonna alla tabella di origine. Come risultato di questo passaggio, lo stato della replica diventa
Load/Replication blocked
.Nel sistema SLT, reimposta lo stato di replica utilizzando la transazione
LTRC
. Per ulteriori informazioni da SAP su come reimpostare lo stato della replica, vedi Nota SAP 2204955: le tabelle SLT sono in stato "Caricamento /Replica bloccata".Aggiungi, aggiorna o elimina una voce nella tabella di origine.
Convalida il risultato della replica in BigQuery.
Eliminare una colonna da una tabella di origine
Per eliminare una colonna esistente da una tabella di origine:
Nel sistema SLT, sospendi la replica utilizzando la transazione
LTRC
.Elimina una colonna dalla tabella di origine. A seguito di questo passaggio, gli attivatori SLT esistenti vengono eliminati o impostati su uno stato incoerente.
In BigQuery, elimina la colonna dalla destinazione Tabella BigQuery. Per ulteriori informazioni sulla procedura per eliminare una colonna da una tabella esistente, consulta la documentazione di BigQuery.
Nel sistema SLT, riprendi la replica utilizzando la transazione
LTRC
.Nel sistema SLT, ricrea gli attivatori SLT. Per ulteriori informazioni di SAP su come ricreare gli attivatori SLT, consulta la Nota SAP 2254376 - Attivatori SLT in uno stato incoerente.
Se lo stato della replica è
Load /Replication blocked
, reimposta lo stato di replica utilizzando la transazioneLTRC
. Per ulteriori informazioni di SAP su come reimpostare lo stato della replica, consulta la nota SAP 2204955 - Le tabelle SLT sono nello stato "Caricamento/Replica bloccata".Cancella eventuali log.
Aggiungi, aggiorna o elimina una voce nella tabella di origine.
Convalida il risultato della replica in BigQuery.
Modificare il tipo di dati di una colonna esistente
Quando modifichi il tipo di dati di una colonna esistente nella tabella di origine SAP, dover seguire passaggi specifici a seconda che tu stia modificando a un tipo di dati compatibile o non compatibile con la tabella BigQuery di destinazione.
Un tipo di dati è compatibile con il tipo di dati nel target
nella tabella BigQuery quando il tipo di dati esistente
e il nuovo tipo di dati di una colonna esistente è mappato allo stesso tipo di dati nel target
Tabella BigQuery. Ad esempio, se il tipo di dati
di una colonna viene modificato da INT1
a INT2
in una tabella di origine, sia il valore
i tipi di dati siano compatibili con il tipo di dati INTEGER
nella destinazione
Tabella BigQuery.
Per ulteriori informazioni sulla mappatura dei tipi di dati in BigQuery Connector per SAP, consulta Mappatura dei tipi di dati.
Modificare il tipo di dati in un tipo di dati compatibile
Per modificare il tipo di dati di una colonna esistente in un tipo di dati compatibile: segui questi passaggi:
Modifica il tipo di dati impostandone uno compatibile nel sistema di origine. A seguito di questo passaggio, gli attivatori SLT esistenti vengono eliminati o impostati su uno stato incoerente.
Nel sistema SLT, ricrea gli attivatori SLT. Per ulteriori informazioni da SAP su come ricreare i trigger SLT, consulta la Nota SAP 2254376 - Trigger SLT in uno stato incoerente.
Se lo stato della replica è
Load /Replication blocked
, reimpostalo utilizzando la transazioneLTRC
. Per ulteriori informazioni di SAP su come reimpostare lo stato della replica, consulta la nota SAP 2204955 - Le tabelle SLT sono nello stato "Caricamento/Replica bloccata".Cancella eventuali log.
Aggiungi, aggiorna o elimina una voce nella tabella di origine.
Convalida il risultato della replica in BigQuery.
Modificare il tipo di dati in un tipo di dati non compatibile
Per modificare il tipo di dati di una colonna esistente in un tipo di dati non compatibile: segui questi passaggi:
- Nel sistema SLT, interrompi la replica utilizzando la transazione
LTRC
. - In BigQuery, elimina la tabella di destinazione.
- Modifica il tipo di dati nel sistema di origine.
- Nel tuo sistema SLT, avvia la replica utilizzando la transazione
LTRC
.
Per saperne di più sulle modifiche alla struttura delle tabelle, vedi Connettore BigQuery per SAP: gestire le modifiche alla struttura delle tabelle in modo professionale.
Uscite del miglioramento
BigQuery Connector per SAP offre diversi punti di miglioramento nel codice in cui uno sviluppatore ABAP può inserire codice per aggiungere funzionalità personalizzate.
La tabella seguente elenca le funzioni supportate dai punti di miglioramento, i metodi e la classe che contiene il punto di miglioramento.
Funzione | Classe | Metodo | Spot | Opzione |
---|---|---|---|---|
Aggiorna la mappatura per un campo, ad esempio il campo esterno nome, tipo di dati e così via. | /GOOG/CL_IUUC_REPL_RUNTIME |
CREATE_FLD_MAPPINGS |
/GOOG/ES_IUUC_REPL_RUNTIME |
/GOOG/UPDATE_FIELD_MAPPING |
Aggiorna il mapping per la tabella dei campi aggiungendo o rimuovendo campi. | /GOOG/CL_IUUC_REPL_RUNTIME |
CREATE_FLD_MAPPINGS |
/GOOG/ES_IUUC_REPL_RUNTIME |
/GOOG/UPDATE_FIELD_MAPPINGS |
Modificare il valore di un campo di origine prima che il campo venga convertito in un campo di destinazione. | /GOOG/CL_IUUC_REPL_RUNTIME_BQ |
FILL_TARGET_RECORDS |
/GOOG/ES_IUUC_REPL_RUNTIME_BQ |
/GOOG/CHANGE_SOURCE_FIELD |
Dopo che un campo di origine viene convertito in un campo di destinazione nella tabella target, modifica il valore del campo target. | /GOOG/CL_IUUC_REPL_RUNTIME_BQ |
FILL_TARGET_RECORDS |
/GOOG/ES_IUUC_REPL_RUNTIME_BQ |
/GOOG/FILL_TARGET_FIELD |
Aggiungi alla tabella di destinazione un campo che non esiste nella tabella di origine durante la conversione della tabella di origine in quella di destinazione. | /GOOG/CL_IUUC_REPL_RUNTIME_BQ |
FILL_TARGET_RECORDS |
/GOOG/ES_IUUC_REPL_RUNTIME_BQ |
/GOOG/FILL_EXTRA_FIELD |
Prepara un campo dello schema BigQuery prima della creazione della tabella BigQuery. | /GOOG/CL_GCP_CLIENT_BQ |
PREP_BQ_TABLE_SCHEMA |
/GOOG/ES_GCP_CLIENT_BQ |
/GOOG/PREPARE_SCHEMA_FIELD |
In caso di errori HTTP, raccogli i dati di logging dopo il prompt HTTP all'API BigQuery per risolvere il problema. | /GOOG/CL_GCP_CLIENT_BQ_SLT |
INSERT_TABLEDATA |
/GOOG/ES_GCP_CLIENT_BQ_SLT |
/GOOG/LOG_INSERT_ERROR |
Impostazioni avanzate
Facoltativamente, puoi modificare le impostazioni avanzate per BigQuery Connector per SAP. Google Cloud consiglia di modificare i parametri delle impostazioni avanzate solo dopo un'analisi completa e l'impatto dei nuovi valori sul rendimento. È tua responsabilità assicurarti che le nuove impostazioni avanzate di BigQuery Connector per SAP non causino errori e problemi di prestazioni.
Le impostazioni avanzate per BigQuery Connector per SAP vengono applicate a livello di sistema e sono comuni per tutte le chiavi di trasferimento collettivo. Se i parametri delle impostazioni avanzate non vengono modificati, BigQuery Connector for SAP utilizza le impostazioni predefinite.
Per modificare i parametri delle impostazioni avanzate:
Nella GUI di SAP, inserisci la transazione
/GOOG/SLT_SETTINGS
preceduta da/n
:/n/GOOG/SLT_SETTINGS
Nel menu a discesa Tabella delle impostazioni nella schermata di lancio della transazione
/GOOG/SLT_SETTINGS
, seleziona Parametri.Fai clic sull'icona Esegui. La sezione relativa alla Manutenzione delle impostazioni di BigQuery - Parametri.
Fai clic sull'icona Inserisci riga.
Nella riga visualizzata, specifica le seguenti impostazioni:
- Nel campo Nome parametro, inserisci il nome del parametro. La descrizione del parametro viene compilata automaticamente.
Nel campo Valore parametro, inserisci un valore.
Per conoscere i parametri delle impostazioni avanzate, consulta Parametri delle impostazioni avanzate.
Fai clic su Salva.
Le tue impostazioni avanzate vengono memorizzate come record nell'
/GOOG/BQ_PARAM
di configurazione automatica e Modificato da, Modificato in data e I campi Modificati alle vengono compilati automaticamente.
Parametri delle impostazioni avanzate
La tabella seguente mostra i parametri delle impostazioni avanzate per BigQuery Connector per SAP.
Nome parametro | Descrizione | Valore predefinito | Valore valido |
---|---|---|---|
CHUNK_SIZE_DEF |
Questa è la dimensione predefinita del blocco di dati di BigQuery Connector per SAP
Google Cloud. Se nelle impostazioni non viene mantenuta una dimensione del chunk, viene utilizzata la dimensione predefinita. |
10.000 | Il valore deve rientrare nei limiti di quota di BigQuery. |
PERC_REDUC_DEF |
La percentuale di riduzione delle dimensioni dei chunk. Se la dimensione dinamica del blocco è abilitata, la dimensione del blocco sarà ridotta di questa percentuale fino al raggiungimento di una dimensione ideale del chunk e i dati nel blocco vengono trasferiti BigQuery correttamente. |
50 | Il valore deve essere compreso tra 1 e 99. |
CMD_EXEC_TRIES |
Per i sistemi SAP non in esecuzione su Google Cloud, se il
comando del sistema operativo
che hai creato nella transazione SM69
non riesce a recuperare un token di accesso da Google Cloud, questo
è il numero di volte che il connettore BigQuery per SAP riprova il recupero del token.
|
5 | Il valore minimo che puoi assegnare a questo parametro è
1 . Per facilitare almeno un nuovo tentativo, imposta il valore
2 . Il valore massimo per questo parametro deve essere impostato dopo
aver analizzato l'impatto che i tentativi di recupero dei token possono avere sul
rendimento della replica.
|
CMD_SECS_DEFLT |
Se hai abilitato la memorizzazione nella cache dei token, questa è la durata secondi dopo i quali scade il token memorizzato nella cache. | 3500 | Il valore deve essere compreso tra 1 e 3599. |