df = df.withColumnRenamed("colName", "newColName")
       .withColumnRenamed("colName2", "newColName2")

Преимущество использования этого способа: с длинным списком столбцов вы хотели бы изменить только несколько имен столбцов. Это может быть очень удобно в этих сценариях. Очень полезно при объединении таблиц с повторяющимися именами столбцов.

Если вы хотите изменить имена всех столбцов, попробуйте df.toDF(*cols)

В случае, если вы хотите применить простое преобразование ко всем именам столбцов, этот код делает свое дело: (я заменяю все пробелы подчеркиванием)

new_column_name_list= list(map(lambda x: x.replace(" ", "_"), df.columns))

df = df.toDF(*new_column_name_list)

Спасибо @ user8117731 за toDfтрюк.

Если вы хотите переименовать один столбец и оставить все как есть:

from pyspark.sql.functions import col
new_df = old_df.select(*[col(s).alias(new_name) if s == column_to_change else s for s in old_df.columns])

df.withColumnRenamed('age', 'age2')

это подход, который я использовал:

создать сеанс pyspark:

import pyspark
from pyspark.sql import SparkSession
spark = SparkSession.builder.appName('changeColNames').getOrCreate()

создать фрейм данных:

df = spark.createDataFrame(data = [('Bob', 5.62,'juice'),  ('Sue',0.85,'milk')], schema = ["Name", "Amount","Item"])

просмотреть df с именами столбцов:

df.show()
+----+------+-----+
|Name|Amount| Item|
+----+------+-----+
| Bob|  5.62|juice|
| Sue|  0.85| milk|
+----+------+-----+

создать список с новыми именами столбцов:

newcolnames = ['NameNew','AmountNew','ItemNew']

измените имена столбцов df:

for c,n in zip(df.columns,newcolnames):
    df=df.withColumnRenamed(c,n)

просмотреть df с новыми именами столбцов:

df.show()
+-------+---------+-------+
|NameNew|AmountNew|ItemNew|
+-------+---------+-------+
|    Bob|     5.62|  juice|
|    Sue|     0.85|   milk|
+-------+---------+-------+

Я сделал простую в использовании функцию для переименования нескольких столбцов для фрейма данных pyspark, на случай, если кто-то захочет использовать его:

def renameCols(df, old_columns, new_columns):
    for old_col,new_col in zip(old_columns,new_columns):
        df = df.withColumnRenamed(old_col,new_col)
    return df

old_columns = ['old_name1','old_name2']
new_columns = ['new_name1', 'new_name2']
df_renamed = renameCols(df, old_columns, new_columns)

Будьте осторожны, оба списка должны быть одинаковой длины.

Другой способ переименовать только один столбец (используя import pyspark.sql.functions as F):

df = df.select( '*', F.col('count').alias('new_count') ).drop('count')

Я использую это:

from pyspark.sql.functions import col
df.select(['vin',col('timeStamp').alias('Date')]).show()

Для переименования одного столбца вы все равно можете использовать toDF (). Например,

df1.selectExpr("SALARY*2").toDF("REVISED_SALARY").show()

Вы можете использовать следующую функцию, чтобы переименовать все столбцы вашего фрейма данных.

def df_col_rename(X, to_rename, replace_with):
    """
    :param X: spark dataframe
    :param to_rename: list of original names
    :param replace_with: list of new names
    :return: dataframe with updated names
    """
    import pyspark.sql.functions as F
    mapping = dict(zip(to_rename, replace_with))
    X = X.select([F.col(c).alias(mapping.get(c, c)) for c in to_rename])
    return X

Если вам нужно обновить только имена нескольких столбцов, вы можете использовать то же имя столбца в списке replace_with

Переименовать все столбцы

df_col_rename(X,['a', 'b', 'c'], ['x', 'y', 'z'])

Переименовать несколько столбцов

df_col_rename(X,['a', 'b', 'c'], ['a', 'y', 'z'])