transmissão

Marca um DataFrame como sendo pequeno o suficiente para ser usado em uma junção de transmissão (broadcast join). Compatível com Spark Connect.

Sintaxe

Python

from pyspark.databricks.sql import functions as dbf

dbf.broadcast(df=<df>)

Parâmetros

Parâmetro	Tipo	Descrição
df	pyspark.sql.DataFrame	DataFrame a ser marcado como pronto para join de transmissão.

Devoluções

pyspark.sql.DataFrame: DataFrame marcado como pronto para join por transmissão.

Exemplos

Python

from pyspark.databricks.sql import functions as dbf
df = spark.createDataFrame([1, 2, 3, 3, 4], "int")
df_small = spark.range(3)
df_b = dbf.broadcast(df_small)
df.join(df_b, df.value == df_small.id).show()

Output

+-----+---+
|value| id|
+-----+---+
|    1|  1|
|    2|  2|
+-----+---+