Daten übertragen

Transfer Appliance unterstützt die folgenden Methoden zum Kopieren von Daten in die Appliance:

• SCP oder SFTP: für Microsoft Windows, Linux und macOS
• NFS-Freigabe für Linux und macOS
• SMB-Freigabe für Microsoft Windows und Linux.
• Auf der Appliance bereitstellen für NFS und CIFS.

Nachdem Sie Daten in die Transfer Appliance kopiert haben, prüfen Sie, ob die Datenübertragung in den Cloud Storage-Bucket abgeschlossen ist, bevor Sie die Quelldaten löschen.

Anforderungen an Dateigröße und Benennung

Dateien, die auf die Appliance hochgeladen werden, müssen die Dateigrößenbeschränkungen und Benennungsrichtlinien von Cloud Storage einhalten:

• Limits für die Dateigröße sind auf der Seite Kontingente und Limits für Cloud Storage dokumentiert.
• Richtlinien für Dateinamen finden Sie auf der Seite Benennungsrichtlinien für Objekte.

Die Dateigröße oder die Dateinamen werden von Transfer Appliance nicht überprüft. Wenn das Gerät beim Zurücksenden an Google Dateien enthält, die gegen diese Regeln verstoßen, können wir diese Dateien möglicherweise nicht übertragen.

Daten über SCP oder SFTP kopieren

So kopieren Sie Daten mit SCP oder SFTP in die Appliance:

Microsoft Windows

1. Laden Sie einen SCP- oder SFTP-Client herunter, der UTF-8-Dateinamen wie WinSCP unterstützt.

2. Stellen Sie mit dem SCP-Tool eine Verbindung zur Appliance mithilfe der folgenden Einstellungen her:

   • Dateiprotokoll: SFTP
   • Hostname: Die IP-Adresse für die Appliance.
   • Portnummer: 22
   • Nutzername: Der Appliance-Nutzername, der vom Transfer Appliance-Team bereitgestellt wurde.
   • Passwort: Das vom Transfer Appliance-Team bereitgestellte Passwort für die Appliance.

   Das Zielverzeichnis auf der Transfer Appliance muss /mnt/ta_data sein.

Linux

1. Führen Sie dazu diesen Befehl aus:

   scp PATH_TO_FILES USERNAME@IP_ADDRESS:/mnt/ta_data
   

   Dabei gilt:

   • PATH_TO_FILES: Der Pfad zu den Dateien, die Sie kopieren.
   • USERNAME: Der vom Transfer Appliance-Team bereitgestellte Nutzername für die Appliance.
   • IP_ADDRESS: Die IP-Adresse für die Appliance.

2. Geben Sie bei entsprechender Aufforderung das vom Transfer Appliance-Team bereitgestellte Appliance-Passwort ein.

Apple macOS

1. Führen Sie dazu diesen Befehl aus:

   scp PATH_TO_FILES USERNAME@IP_ADDRESS:/mnt/ta_data
   

   Dabei gilt:

   • PATH_TO_FILES: Der Pfad zu den Dateien, die Sie kopieren.
   • USERNAME: Der vom Transfer Appliance-Team bereitgestellte Nutzername für die Appliance.
   • IP_ADDRESS: Die IP-Adresse für die Appliance.

2. Geben Sie bei entsprechender Aufforderung das vom Transfer Appliance-Team bereitgestellte Appliance-Passwort ein.

Daten über NFS-Freigabe kopieren

Führen Sie die folgenden Schritte aus, um Daten mithilfe der NFS-Freigabe in die Appliance zu kopieren:

1. Führen Sie die folgenden Befehle für Ihre Datenquelle aus, um Transfer Appliance bereitzustellen:

   Linux

   1. sudo mkdir /mnt/data
      

   2. sudo mount -o vers=4 IP_ADDRESS:/mnt/ta_data /mnt/data
      

      Ersetzen Sie IP_ADDRESS durch die IP-Adresse für die Appliance.

   Apple macOS

   1. cd ~
      

   2. mkdir ta_data
      

   3. sudo mount -t nfs -o vers=4,resvport IP_ADDRESS:/mnt/ta_data ~/ta_data
      

      Ersetzen Sie IP_ADDRESS durch die IP-Adresse für die Appliance.

2. Verwenden Sie ein Kopierprogramm Ihrer Wahl, um Daten in die Appliance zu kopieren.

   Das Kopieren von Daten ist ein lang andauernder Vorgang. Unter Apple macOS oder Linux empfehlen wir die Verwendung von tmux oder screen, damit der Kopiervorgang eine Abmeldung oder Trennung vom Netzwerk übersteht.

SSH-Schlüssel speichern

Speichern Sie Ihren SSH-Schlüssel, um sich schneller in Ihrer Transfer Appliance anzumelden. Durch das Speichern Ihres SSH-Schlüssels können auch die Übertragungsgeschwindigkeiten verbessert werden.

1. Generieren Sie auf Ihrer Workstation mit dem folgenden Befehl ein Schlüsselpaar:

   posix-terminal
   ssh-keygen -t rsa
   

2. Erstellen Sie auf dem Gerät eine /tmp/ssh_key-Datei.

3. Kopieren Sie den Inhalt der öffentlichen Schlüsseldatei von Ihrer Workstation in /tmp/ssh_key auf der Appliance. Die öffentliche Schlüsseldatei befindet sich an folgendem Speicherort auf Ihrer Workstation:

   • Linux: ~/.ssh/id_rsa.pub
   • Windows: C:Users/USERNAME/.ssh

   Wenn Sie mehrere Schlüssel autorisieren möchten, fügen Sie jeden Schlüssel in /tmp/ssh_key in einer neuen Zeile hinzu.

4. Führen Sie den folgenden Befehl auf der Appliance aus. Vorhandene Schlüssel werden überschrieben.

   ta copy_ssh_keys
   

5. Melden Sie sich auf dem Gerät an.

   • Wenn sich der private Schlüssel am Standardspeicherort auf Ihrer Workstation befindet, verwenden Sie den folgenden Befehl, um sich an der Appliance anzumelden:

     ssh ta_customer@IP_ADDRESS
     

   • Wenn sich der private Schlüssel nicht am Standardspeicherort befindet, verwenden Sie den folgenden Befehl, um sich auf der Appliance anzumelden:

     ssh -i PRIVATE_KEY_PATH ta_customer@IP_ADDRESS
     

SMB für die Datenübertragung verwenden

So aktivieren Sie die SMB-Dateifreigabe:

1. Konfigurieren Sie die Appliance mit dem folgenden Flag für das Dateifreigabeprotokoll für die Verwendung von SMB:

    ta config --data_port=PORT --ip=IP_ADDRESS --fileshare=smb
   

   Das Verzeichnis ta_data wird freigegeben und der folgende Nutzer wird erstellt:

   • Nutzername: ta_customer
   • Passwort: ta_customer

2. Stellen Sie je nach Hosttyp eine Verbindung zur SMB-Dateifreigabe her:

   Microsoft Windows

   Dateimanager

   1. Öffnen Sie den Dateimanager und bearbeiten Sie den Dateipfad zu \\IP_ADDRESS\ta_data.

   2. Geben Sie Ihren Nutzernamen und Ihr Passwort ein, wenn Sie dazu aufgefordert werden.

   Befehlszeile

   1. Geben Sie in der Windows-Eingabeaufforderung Folgendes ein: net use X: \\IP_ADDRESS\ta_data

   2. Geben Sie Ihren Nutzernamen und Ihr Passwort ein, wenn Sie dazu aufgefordert werden.

   Linux

   Dateimanager

   1. Öffnen Sie den Standarddateimanager und klicken Sie auf Mit Server verbinden.

   2. Geben Sie smb://IP_ADDRESS/ta_data ein.

   3. Geben Sie Ihren Nutzernamen und Ihr Passwort ein, wenn Sie dazu aufgefordert werden.

   Befehlszeile

   1. SMB-Client installieren: sudo apt-get install smbclient.

   2. Verbindung zur SMB-Dateifreigabe herstellen: smbclient //IP_ADDRESS/ta_data -U USERNAME

      Die Eingabeaufforderung smb:\> wird angezeigt.

Eigene Dateifreigaben auf dem Gerät verwenden

Die Appliance verwendet einen verpackten Linux-Bereitstellungsbefehl, um Freigaben auf der Appliance bereitzustellen:

1. Führen Sie folgende Befehle aus:

   NFS

   1. Aktualisieren Sie die Datei „/etc/exports“ auf dem Gerät, das den NFS-Server hostet, und gewähren Sie IP_ADDRESS Zugriff auf den Server.

   2. Führen Sie die folgenden Befehle auf der Appliance aus:

      mkdir /mnt/ta_data_base/ta_mounts/MOUNT_POINT
      

      ta mount --types=nfs --source=NFS_SERVER_IP:/NFS_DIRECTORY
      --target=/mnt/ta_data_base/ta_mounts/MOUNT_POINT
      --options=OPTIONS
      

      Ersetzen Sie Folgendes:

      • IP_ADDRESS: Die IP-Adresse der Appliance.
      • MOUNT_POINT: Der Name des Bereitstellungspunkts für diese Freigabe.
      • NFS_SERVER_IP: Die IP-Adresse des Geräts, auf dem der NFS-Server gehostet wird
      • NFS_DIRECTORY: Der Pfad zur NFS-Freigabe.
      • OPTIONS: Eine durch Kommas getrennte Liste von Optionen. Diese Optionen sind vom Linux-Bereitstellungsbefehl zulässig.

   CIFS

   1. Führen Sie die folgenden Befehle auf der Appliance aus:

      mkdir /mnt/ta_data_base/ta_mounts/MOUNT_POINT
      

      ta mount --types=cifs --source=//CIFS_SERVER_IP/CIFS_NAME
      --target=/mnt/ta_data_base/ta_mounts/MOUNT_POINT
      --options=OPTIONS
      

      Ersetzen Sie Folgendes:

      • MOUNT_POINT: Der Name des Bereitstellungspunkts für diese Freigabe.
      • CIFS_SERVER_IP: Die IP-Adresse des Geräts, auf dem der CIFS-Server gehostet wird.
      • CIFS_NAME: Der Name der CIFS-Freigabe.
      • OPTIONS: Die durch Kommas getrennte Liste der Optionen, einschließlich Passwort und Nutzername der CIFS-Freigabe. Diese Optionen sind vom Linux-Bereitstellungsbefehl zulässig.

   Sofern in den Bereitstellungsoptionen nicht anders angegeben, wird der Bereitstellungspunkt nach dem Neustart wieder bereitgestellt, bis Sie ihn mit dem Befehl „ta unmount“ entfernen.

2. Führen Sie Folgendes aus, um alle Bereitstellungen auf dem Gerät zu trennen:

    ta unmount --target=/mnt/ta_data_base/ta_mounts/MOUNT_POINT

3. Verwenden Sie ein Kopierprogramm Ihrer Wahl, um Daten in die Appliance zu kopieren.

   RClone

   1. Führen Sie zum Ausführen eines Kopierbefehls mit RClone auf der Appliance Folgendes aus:

      rclone copy /mnt/ta_data_base/ta_mounts/MOUNT_POINT /mnt/ta_data

      Ersetzen Sie Folgendes:

      • MOUNT_POINT: Das Verzeichnis mit den zu übertragenden Daten.

   Archiv-Pull

   1. Wenn Sie Ihre Daten während der Übertragung in Tar-Dateien archivieren möchten, führen Sie Folgendes aus:

      ta pull --target=/mnt/ta_data_base/ta_mounts/MOUNT_POINT --size=ARCHIVE_SIZE_BYTES
      --destination=/mnt/ta_data --count=THREAD_COUNT

      Ersetzen Sie Folgendes:

      • MOUNT_POINT: Das Verzeichnis mit den zu übertragenden Daten.
      • ARCHIVE_SIZE_BYTES: Die Zielgröße der Tar-Balls, die am Ziel generiert werden sollen. Standardmäßig 1 GB, sollte zwischen 5 MB und 20 GB liegen.
      • THREAD_COUNT: Die Anzahl der Threads, die gleichzeitig ausgeführt werden, um Archive zu erstellen. Standardmäßig 20, sollte zwischen 1 und 10.000 liegen.

      Der Archivabruf wird im Hintergrund ausgeführt. Sie können das Terminal also schließen. Beim Pull-Vorgang werden die Daten zuerst aufgelistet, bevor die Übertragung beginnen kann.

   2. Wenn Sie einen Abruf starten, wird eine ID zurückgegeben. Mit diesem Wert können Sie mit dem Abruf interagieren:

      Führen Sie folgenden Befehl aus, um den Status eines Pulls zu prüfen:

      ta pull --id=ID --status

      So pausieren Sie einen Pull-Vorgang:

      ta pull --id=ID --pause

      So setzen Sie einen angehaltenen oder unterbrochenen Abruf fort:

      ta pull --id=ID --resume

      Ersetzen Sie Folgendes:

      • ID: Die Pull-ID.

   3. Nach Abschluss des Pull-Vorgangs finden Sie die Tarballs im Verzeichnis /mnt/ta_data/TA_ARCHIVE_ID/. Eine Manifestdatei wird generiert und unter /mnt/ta_data/manifest_ID.tsv gespeichert. Diese Datei enthält Informationen zu den übertragenen Dateien, einschließlich der Angabe, welche Dateien sich in welcher Tarball-Datei befinden. Unter /mnt/ta_data/manifest_ID_ERROR.tsv wird ebenfalls eine Fehlermanifestdatei gespeichert, in der alle Fehler aufgeführt sind, die beim Abrufen aufgetreten sind.

   Es wird empfohlen, jeweils nur einen Pull-Befehl auszuführen.

   Hinweis:Pull ist nicht für die Verarbeitung von Datensätzen mit Verzeichnissen mit mehr als 50.000 Unterverzeichnissen konzipiert. Um lange Wartezeiten zu vermeiden, sollten Sie andere Kopiermethoden verwenden.

   Die Geschwindigkeitstests wurden mit einem Datensatz von 100 GB auf einem TA7 durchgeführt. Diese Werte sollen Ihnen bei der Entscheidung zwischen den beiden angebotenen Kopiertools helfen. Die Übertragungsgeschwindigkeit kann von der Art der Appliance und der Netzwerkverbindung beeinflusst werden.

   Methode	Dateigröße	Archivgröße in Byte (nur Archivabruf)	Preis (NFS)	Preis (KMU)
   RClone	100 MB	–	600 MB/s*	620 MB/s
   Archiv-Pull	100 MB	10 GB	750 MB/s	850 MB/s
   RClone	1 MB	–	280 MB/s	270 MB/s
   Archiv-Pull	1 MB	500 MB	630 MB/s	380 MB/s
   RClone	100 KB	–	150 MB/s	150 MB/s
   Archiv-Pull	100 KB	5 MB	270 MB/s	90 MB/s