Classe de colonne
Une colonne dans un DataFrame.
Prend en charge Spark Connect
Syntaxe
Voir Créer des instances de colonne.
Méthodes
Méthode | Description |
|---|---|
Renvoie cette colonne avec un nouveau nom ou de nouveaux noms en tant qu'alias (dans le cas d'expressions qui renvoient plus d'une colonne, tel que explode). | |
Renvoie une expression de tri basée sur l'ordre croissant de la colonne. | |
Renvoie une expression de tri basée sur l'ordre croissant de la colonne, et les valeurs nulles sont renvoyées avant les valeurs non nulles. | |
Retourne une expression de tri basée sur l'ordre croissant de la colonne, et les valeurs nulles apparaissent après les valeurs non nulles. | |
Alias de | |
Vérifiez si les valeurs de la colonne actuelle se situent entre les bornes inférieure et supérieure spécifiées, incluses. | |
Calculer l'opération ET binaire de cette expression avec une autre expression. | |
Compute l'OR binaire de cette expression avec une autre expression. | |
Compute le XOR bit à bit de cette expression avec une autre expression. | |
Convertit la colonne en type | |
Contient l'autre élément. | |
Renvoie une expression de tri basée sur l'ordre décroissant de la colonne. | |
Retourne une expression de tri basée sur l'ordre décroissant de la colonne, et les valeurs nulles apparaissent avant les valeurs non nulles. | |
Renvoie une expression de tri basée sur l'ordre décroissant de la colonne, et les valeurs nulles apparaissent après les valeurs non nulles. | |
Une expression qui supprime les champs de type StructType par nom. | |
Chaîne se termine par. | |
Test d'égalité sécurisé pour les valeurs nulles. | |
Une expression qui obtient un champ par nom dans un StructType. | |
Une expression qui obtient un élément à la position ordinale d'une liste, ou qui obtient un élément par clé d'un dictionnaire. | |
Expression SQL ILIKE (LIKE non sensible à la casse). | |
Vrai si l'expression actuelle est NaN. | |
Vrai si l'expression actuelle n'est PAS nulle. | |
Vrai si l'expression actuelle est nulle. | |
Une expression booléenne qui est évaluée à vrai si la valeur de cette expression est contenue dans les valeurs évaluées des arguments. | |
Expression de type SQL. | |
Alias de | |
Évalue une liste de conditions et renvoie l'une des multiples expressions de résultat possibles. | |
Définissez une colonne de fenêtrage. | |
Expression SQL RLIKE (LIKE avec Regex). | |
Chaîne start par. | |
Retourne une colonne qui est une sous-chaîne de la colonne. | |
Il s'agit d'une version spéciale de | |
Évalue une liste de conditions et renvoie l'une des multiples expressions de résultat possibles. | |
Une expression qui ajoute/remplace un champ dans StructType par son nom. |
Opérateurs
La classe Column prend en charge les opérateurs Python standard pour les Opérations arithmétiques, de comparaison et logiques :
- Arithmétique :
+,-,*,/,%,** - Comparaison :
==,!=,<,<=,>,>= - Logique :
&(AND),|(OR),~(NOT)
Exemples
Pour d'autres exemples simples qui illustrent l'utilisation des colonnes, consultez Opérations sur les colonnes.
Créer des instances de colonne
Sélectionnez une colonne d'un DataFrame :
df = spark.createDataFrame(
[(2, "Alice"), (5, "Bob")], ["age", "name"])
# Access by attribute
df.name
# Column<'name'>
# Access by bracket notation
df["name"]
# Column<'name'>
Créer une colonne à partir d'une expression :
df.age + 1
# Column<...>
1 / df.age
# Column<...>
Opérations de colonne de base
# Arithmetic operations
df.select(df.age + 10).show()
# Comparison operations
df.filter(df.age > 3).show()
# String operations
df.filter(df.name.startswith("A")).show()
# Null checking
df.filter(df.name.isNotNull()).show()
Logique conditionnelle
from pyspark.sql import functions as F
df.select(
F.when(df.age < 3, "child")
.when(df.age < 13, "kid")
.otherwise("adult")
.alias("age_group")
).show()
Tri
df.orderBy(df.age.desc()).show()
df.orderBy(df.age.asc_nulls_last()).show()