In Pub/Sub Lite aus Spark lesen (Streaming)
Mit Sammlungen den Überblick behalten
Sie können Inhalte basierend auf Ihren Einstellungen speichern und kategorisieren.
Nachrichten aus einem Pub/Sub Lite-Abo aus einem Spark-Cluster im Streaming-Modus lesen.
Weitere Informationen
Eine ausführliche Dokumentation, die dieses Codebeispiel enthält, finden Sie hier:
Codebeispiel
Nächste Schritte
Informationen zum Suchen und Filtern von Codebeispielen für andere Google Cloud -Produkte finden Sie im Google Cloud Beispielbrowser.
Sofern nicht anders angegeben, sind die Inhalte dieser Seite unter der Creative Commons Attribution 4.0 License und Codebeispiele unter der Apache 2.0 License lizenziert. Weitere Informationen finden Sie in den Websiterichtlinien von Google Developers. Java ist eine eingetragene Marke von Oracle und/oder seinen Partnern.
[[["Leicht verständlich","easyToUnderstand","thumb-up"],["Mein Problem wurde gelöst","solvedMyProblem","thumb-up"],["Sonstiges","otherUp","thumb-up"]],[["Schwer verständlich","hardToUnderstand","thumb-down"],["Informationen oder Beispielcode falsch","incorrectInformationOrSampleCode","thumb-down"],["Benötigte Informationen/Beispiele nicht gefunden","missingTheInformationSamplesINeed","thumb-down"],["Problem mit der Übersetzung","translationIssue","thumb-down"],["Sonstiges","otherDown","thumb-down"]],[],[],[],null,["# Read from Pub/Sub Lite from Spark (streaming)\n\nRead messages from a Pub/Sub Lite subscription from a Spark cluster in the streaming mode.\n\nExplore further\n---------------\n\n\nFor detailed documentation that includes this code sample, see the following:\n\n- [Write Pub/Sub Lite messages by using Apache Spark](/pubsub/lite/docs/write-messages-apache-spark)\n\nCode sample\n-----------\n\n### Python\n\n\nTo authenticate to Pub/Sub Lite, set up Application Default Credentials.\nFor more information, see\n\n[Set up authentication for a local development environment](/docs/authentication/set-up-adc-local-dev-environment).\n\n from pyspark.sql import SparkSession\n from pyspark.sql.types import StringType\n\n # TODO(developer):\n # project_number = 11223344556677\n # location = \"us-central1-a\"\n # subscription_id = \"your-subscription-id\"\n\n spark = SparkSession.builder.appName(\"read-app\").master(\"yarn\").getOrCreate()\n\n sdf = (\n spark.readStream.format(\"pubsublite\")\n .option(\n \"pubsublite.subscription\",\n f\"projects/{project_number}/locations/{location}/subscriptions/{subscription_id}\",\n )\n .load()\n )\n\n sdf = sdf.withColumn(\"data\", sdf.data.cast(StringType()))\n\n query = (\n sdf.writeStream.format(\"console\")\n .outputMode(\"append\")\n .trigger(processingTime=\"1 second\")\n .start()\n )\n\n # Wait 120 seconds (must be \u003e= 60 seconds) to start receiving messages.\n query.awaitTermination(120)\n query.stop()\n\nWhat's next\n-----------\n\n\nTo search and filter code samples for other Google Cloud products, see the\n[Google Cloud sample browser](/docs/samples?product=pubsublite)."]]