Spark Engine 2.4
| Composant | 2.4-dataproc-16 | 2.4-dataproc-15 | 2.4-dataproc-14 | 2.4-dataproc-13 |
|---|---|---|---|---|
| Apache Spark | 2.4.8 | 2.4.8 | 2.4.8 | 2.4.8 |
| Bibliothèques Hadoop | 2.10.2 | 2.10.2 | 2.10.2 | 2.10.2 |
| Connecteur Cloud Storage | hadoop2-2.1.9 | hadoop2-2.1.9 | hadoop2-2.1.9 | hadoop2-2.1.9 |
| Java | 8 | 8 | 8 | 8 |
| Python | 3.7.4 | 3.7.4 | 3.7.4 | 3.7.4 |
| Conda | 4.7.12 | 22.11.1 | 22.11.1 | 22.1.0 |
| R | 3.6.3 | 3.6.3 | 3.6.3 | 3.6.3 |
Spark Engine 3.1
| Composant | 3.1-dataproc-16 | 3.1-dataproc-15 | 3.1-dataproc-14 | 3.1-dataproc-13 |
|---|---|---|---|---|
| Apache Spark | 3.1.3 | 3.1.3 | 3.1.3 | 3.1.3 |
| Bibliothèques Hadoop | 3.2.3 | 3.2.3 | 3.2.3 | 3.2.3 |
| Connecteur Cloud Storage | hadoop3-2.2.13 | hadoop3-2.2.13 | hadoop3-2.2.11 | hadoop3-2.2.11 |
| Java | 8 | 8 | 8 | 8 |
| Python | 3.8.5 | 3.8.5 | 3.8.5 | 3.8.5 |
| Conda | 4.9.2 | 23.5.0 | 4.9.2 | 4.9.2 |
| R | 4.3.0 | 4.3.0 | 4.2.3 | 4.2.3 |
Une version complète du moteur Spark est exprimée sous la forme 2.4-dataproc-[NUMBER] ou 3.1-dataproc-[NUMBER]. Par exemple, 2.4-dataproc-3 ou 3.1-dataproc-3.
Les formats des versions de Spark peuvent également être exprimés sous forme d'alias, comme illustré dans les exemples suivants:
2: version la plus récente du moteur Spark avec la version majeure 2 de Spark2.4: version la plus récente du moteur Spark avec la version Spark majeure.minor 2.4.3: version la plus récente du moteur Spark avec la version majeure 3 de Spark.3.1: version la plus récente du moteur Spark avec une version Spark majeure.minor de la version 3.1.dataproc-1.5: dernière version de Spark Engine qui correspond globalement à celle des images1.5de Dataproc sur Compute Engine.dataproc-2.0: dernière version de Spark Engine qui correspond globalement à celle des images2.0de Dataproc sur Compute Engine.latest: version la plus récente du moteur Spark.