Aller au contenu principal

refreshByPath

Invalide et refresh toutes les données mises en cache (et les métadonnées associées) pour tout DataFrame qui contient le chemin de source de données donné.

Syntaxe

refreshByPath(path: str)

parameter

parameter

Type

Description

path

str

Le chemin pour refresh le cache.

parameter

Type

Description

path

str

Le chemin pour refresh le cache.

Exemples

Python
# The example below caches a table, and then removes the data.
import tempfile
with tempfile.TemporaryDirectory(prefix="refreshByPath") as d:
_ = spark.sql("DROP TABLE IF EXISTS tbl1")
_ = spark.sql(
"CREATE TABLE tbl1 (col STRING) USING TEXT LOCATION '{}'".format(d))
_ = spark.sql("INSERT INTO tbl1 SELECT 'abc'")
spark.catalog.cacheTable("tbl1")
spark.table("tbl1").show()
# +---+
# |col|
# +---+
# |abc|
# +---+

# Because the table is cached, it computes from the cached data as below.
spark.table("tbl1").count()
# 1

# After refreshing the table by path, it shows 0 because the data does not exist anymore.
spark.catalog.refreshByPath(d)
spark.table("tbl1").count()
# 0

_ = spark.sql("DROP TABLE tbl1")